Независимый гид по железу для локального ИИЗнакомимся с проектом
ЖЕЛЕЗО И МОДЕЛИ — НАГЛЯДНО

Сколько памяти нужно на самом деле?

Интерактивная таблица моделей и графики характеристик видеокарт. Все расчёты используют ту же формулу, что и калькулятор.

Одна текстовая последовательность, все языковые веса на GPU, резерв 1,5 ГиБ. В гибридных моделях отдельно учтены состояния DeltaNet; в MoE — все эксперты. Для gpt-oss используется исходное упакованное хранение и кэш локальных слоёв в пределах окна. У Clef добавлены исходные веса joint schema head, но её рабочие буферы исключены. Vision, MTP и пик prefill не рассчитаны. Допущения и формулы →
Есть запас≥ 1,5 ГиБ сверх расчётаВпритык0–1,5 ГиБ сверх расчётаНе хватаетрасчёт больше VRAM

28 моделей · расчётные данные

Только текст · 8 192 токенов · веса: 4.9 бит/параметр (gpt-oss: фиксированный исходный MXFP4) · KV FP16 · резерв 1,5 ГиБ
Модель / архитектураВеса, ГиБKV, ГиБСостояния, ГиБДоп. веса, ГиБВсего, ГиБ8 ГБ16 ГБ24 ГБ32 ГБНастроить
Qwen3.8 27B ↗Dense · гибрид DeltaNet · без vision15,40,50,14—17,55Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen3.6 27B ↗Dense · гибрид DeltaNet · без vision15,40,50,14—17,55Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen3.6 35B-A3B ↗MoE · гибрид DeltaNet · без vision19,970,160,06—21,68Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen3.5 0.8B ↗Dense · гибрид DeltaNet · без vision0,460,090,02—2,07Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3.5 2B ↗Dense · гибрид DeltaNet · без vision1,140,090,02—2,75Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3.5 4B ↗Dense · гибрид DeltaNet · без vision2,280,250,05—4,08Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3.5 9B ↗Dense · гибрид DeltaNet · без vision5,130,250,05—6,93ВпритыкЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3.5 27B ↗Dense · гибрид DeltaNet · без vision15,40,50,14—17,55Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen3.5 35B-A3B ↗MoE · гибрид DeltaNet · без vision19,970,160,06—21,68Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen3 30B-A3B ↗MoE · full attention17,40,75——19,65Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
gpt-oss-20b ↗MoE · full + sliding · исходный MXFP412,820,190,0—14,51Не хватаетВпритыкЕсть запасЕсть запасРасчёт ↗
gpt-oss-120b ↗MoE · full + sliding · исходный MXFP460,770,290,0—62,55Не хватаетНе хватаетНе хватаетНе хватаетРасчёт ↗
Gemma 4 31B IT ↗Dense · full + sliding · без vision17,511,410,0—20,42Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Clef 27B ↗Dense · гибрид DeltaNet · без vision · исходная joint schema head; без её буферов15,40,50,140,2417,78Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Clef-Flash 9B ↗Dense · гибрид DeltaNet · без vision · исходная joint schema head; без её буферов5,130,250,050,237,16ВпритыкЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 0.6B ↗Dense · full attention0,340,88——2,72Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 1.7B ↗Dense · full attention0,970,88——3,34Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 4B ↗Dense · full attention2,281,13——4,91Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 8B ↗Dense · full attention4,681,13——7,3ВпритыкЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 14B ↗Dense · full attention8,441,25——11,19Не хватаетЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen3 32B ↗Dense · full attention18,712,0——22,21Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Llama 3.1 8B Instruct ↗Dense · full attention4,581,0——7,08ВпритыкЕсть запасЕсть запасЕсть запасРасчёт ↗
Llama 3.1 70B Instruct ↗Dense · full attention40,272,5——44,27Не хватаетНе хватаетНе хватаетНе хватаетРасчёт ↗
Qwen2.5 14B Instruct ↗Dense · full attention8,431,5——11,43Не хватаетЕсть запасЕсть запасЕсть запасРасчёт ↗
Qwen2.5 32B Instruct ↗Dense · full attention18,542,0——22,04Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗
Qwen2.5-Coder 7B Instruct ↗Dense · full attention4,340,44——6,28Есть запасЕсть запасЕсть запасЕсть запасРасчёт ↗
DeepSeek-R1 Distill Qwen 14B ↗Dense · full attention8,431,5——11,43Не хватаетЕсть запасЕсть запасЕсть запасРасчёт ↗
DeepSeek-R1 Distill Qwen 32B ↗Dense · full attention18,542,0——22,04Не хватаетНе хватаетЕсть запасЕсть запасРасчёт ↗

ГиБ = 2³⁰ байт. Для сопоставления используем номинальную физическую ёмкость VRAM (обычно обозначаемую как ГБ); доступный объём проверьте в приложении. Формат GGUF, занятость памяти и буферы могут изменить результат. Поддержка квантованного KV-кэша проверяется отдельно.

СПЕЦИФИКАЦИИ КОНКРЕТНЫХ КОНФИГУРАЦИЙ

Две разные характеристики GPU

Вместимость видеопамяти

Определяет, сколько данных можно разместить на карте.

Шкала: 0–96 ГБ

Пропускная способность

Для dense decode одной последовательности верхняя граница ≈ пропускная способность / размер весов; это не прогноз скорости. Prefill сильнее использует вычисления. Пример расчёта.

Шкала: 0–1792 ГБ/с

Шкалы начинаются с нуля и учитывают весь каталог. Для каждой строки указаны тип GPU и дата проверки характеристик; ссылки ведут к обзорам с первоисточниками. Ноутбучные, настольные и профессиональные карты имеют разные ограничения питания и охлаждения. Это сравнение спецификаций, не рейтинг скорости.

ОБЛАСТЬ ПОКРЫТИЯ

Какие модели пока без расчёта?

Подборка не охватывает все современные модели. Наличие пресета означает поддержку указанной схемы памяти, а не подтверждённый запуск во всех приложениях. Вот проверенные примеры, которым требуется отдельная реализация:

DeepSeek-V4.1-Flash ↗

Техотчёт §2.3–2.4 даёт CSA2 и 890 байт глобального KV на токен, но это не весь бюджет: отдельно нужны SWA, индексатор, FP4-шкалы и размещение Engram. config.json задаёт compress_ratios и общие источники KV. Полный профиль этих компонентов и исходных FP8/FP4-весов в калькуляторе не реализован; число 890 нельзя подставлять вместо всего KV.

Проверено 25.10.2026

Qwen3.8-Flash-Next ↗

Техотчёт §2.1.2 описывает сжатие ключей индексатора QSA по блокам, а не сжатие всего основного KV. Нужны отдельные бюджеты основного KV, индекса и незавершённого блока, DeltaNet и n-gram/PLE с выбранным размещением. Полный профиль хранения этих компонентов в движке не подтверждён для численного пресета.

Проверено 25.10.2026

Qwen3.8-2.4T-A95B ↗

Крупная MoE-модель для отдельного анализа размещения. 95B активных параметров не означают 95B хранимых весов. Расчёт многокарточной конфигурации пока не реализован.

Проверено 17.10.2026
Как архитектура меняет расчёт →

Что будем искать?

Например: RTX 5090, память, Ollama