Независимый гид по железу для локального ИИЗнакомимся с проектом
СНАЧАЛА ПОСЧИТАТЬ. ПОТОМ КУПИТЬ.

Поместится ли ваша модель?

28 пресетов: Qwen3.5 / 3.6 / 3.8, Qwen3, Llama, DeepSeek Distill, gpt-oss, Gemma 4 и Clef. Отдельные расчёты full attention, гибридных состояний и выбранных MoE.

Режим: только текст. Одна последовательность, все языковые веса на GPU. Для моделей с vision расчёт предполагает незагруженный визуальный модуль; если приложение загружает его даже без картинок, понадобится дополнительная память. Изображения, видео, MTP и обучение не включены.
ПАРАМЕТРЫ ЗАПУСКА

Квантование KV не меняет FP32-состояния DeltaNet. Поддержку выбранного формата весов и KV нужно проверить в конкретном движке. Длинный prefill может потребовать большего резерва.

ИЗМЕНИТЕ КОНТЕКСТ — УВИДИТЕ РАЗНИЦУ

Как растёт расход памяти

Веса, состояние DeltaNet и резерв фиксированы. Меняется KV-кэш. Числа — в ГиБ; длины ограничены лимитом пресета, шкала начинается с нуля.

ВесаKV-кэшСостоянияДоп. весаРезерв

Что входит в оценку

01

Все веса

Число параметров × эффективная битность / 8. В MoE считаются все эксперты. Для gpt-oss-20b/120b — объём тензоров исходного MXFP4 из официального индекса, а не универсальная «4-битная» оценка. У Clef исходные тензоры joint schema head добавляются отдельно и не меняются от квантования backbone; рабочие буферы головки исключены.

02

Кэш и состояния

Full attention: 2 × слои × KV-головы × размер головы × контекст × байты. Gemma 4: глобальные и локальные головы считаются раздельно, K и V хранятся двумя тензорами. Sliding: только окно или весь контекст по выбранному режиму. DeltaNet: отдельная рекуррентная матрица и буфер свёртки.

03

Рабочий резерв

По умолчанию 1,5 ГиБ. Пиковые активации prefill, дополнительное кэширование состояний, выравнивание и перекладка весов зависят от реализации. Резерв подбирается по фактическому запуску.

ГиБ = 2³⁰ байт; используем номинальную физическую ёмкость видеопамяти, доступный объём проверьте в драйвере. Числа округлены, статусы определены до округления. Это бюджет хранения и заданный резерв, а не измеренный пик VRAM, прогноз скорости или гарантия запуска. Размер контекста — общий бюджет входа и выхода.

Для состояний DeltaNet: одна копия, рекуррентная матрица FP32, свёрточный буфер шириной 4 элемента в FP16/BF16 по референсной реализации Transformers и реализации кэша. Движок может хранить дополнительные копии. Формулы и ограничения →

ОБЛАСТЬ ПОКРЫТИЯ

Какие модели пока без расчёта?

Подборка не охватывает все современные модели. Наличие пресета означает поддержку указанной схемы памяти, а не подтверждённый запуск во всех приложениях. Вот проверенные примеры, которым требуется отдельная реализация:

DeepSeek-V4.1-Flash ↗

Техотчёт §2.3–2.4 даёт CSA2 и 890 байт глобального KV на токен, но это не весь бюджет: отдельно нужны SWA, индексатор, FP4-шкалы и размещение Engram. config.json задаёт compress_ratios и общие источники KV. Полный профиль этих компонентов и исходных FP8/FP4-весов в калькуляторе не реализован; число 890 нельзя подставлять вместо всего KV.

Проверено 25.10.2026

Qwen3.8-Flash-Next ↗

Техотчёт §2.1.2 описывает сжатие ключей индексатора QSA по блокам, а не сжатие всего основного KV. Нужны отдельные бюджеты основного KV, индекса и незавершённого блока, DeltaNet и n-gram/PLE с выбранным размещением. Полный профиль хранения этих компонентов в движке не подтверждён для численного пресета.

Проверено 25.10.2026

Qwen3.8-2.4T-A95B ↗

Крупная MoE-модель для отдельного анализа размещения. 95B активных параметров не означают 95B хранимых весов. Расчёт многокарточной конфигурации пока не реализован.

Проверено 17.10.2026
Как архитектура меняет расчёт →

Что будем искать?

Например: RTX 5090, память, Ollama