Практика4 мин чтения
Clef в Ollama: локальная классификация вместо длинного ответа
Три вопроса к обращению через /v1/systemone: отдел, возврат и срочность. Запуск Clef и Clef-Flash, память и вероятности для workflow.
ЖЕЛЕЗО ДЛЯ ВАШЕГО ИИ
Большие модели.
Правильные видеокарты.
Разбираем GPU, считаем память и запускаем нейросети на своём компьютере.
Гид по GPU / 2026
В ФОКУСЕBLACKWELL · 32 ГБ VRAM
RTX 5090.
32 ГБ для LLM.
Контекст до 128K.
Qwen3.8 27B Q4_K_M, 128K, KV FP16: 25,05 ГиБ с резервом. Текстовый расчёт; таблица моделей — в обзоре.
Аналитический обзор · 3 мин чтения
ПАМЯТЬ32 ГБ GDDR7
QWEN3.8
27B · Q4 ↗
Концептуальная иллюстрация GPU27B · Q4 ↗
ИНТЕРАКТИВНАЯ СХЕМА
Посмотрите, как работает ИИ-агент
Три задачи по шагам: модель, MCP-инструменты, данные и видеопамять.
Модель и контекст по объёму VRAM
- 16 ГБ — Qwen3 14B, Q4_K_M, 8K: 11,19 ГиБ.
- 24 ГБ — Qwen3.8 27B, Q4_K_M, 32K: 19,05 ГиБ.
- 32 ГБ — Qwen3.8 27B, Q4_K_M, 128K: 25,05 ГиБ.
Одна текстовая последовательность, KV FP16, резерв 1,5 ГиБ; оценка хранения без vision и пика prefill. Настроить расчёт
Найти свою видеокартуХарактеристики и сценарии
Хватит ли видеопамяти?Посчитайте до покупки
Первый шаг в локальный ИИМаршрут для новичка
Локальный ИИ?
Давайте по порядку.
Маршрут новичка, словарь и чек-лист ↗ПРИНЦИПЫ РАБОТЫМодель, агент,
харнесс. Кто есть кто?
Схемы и один запрос по шагам ↗КАЛЬКУЛЯТОР VRAM28 пресетов.
Ваш объём VRAM.
Qwen3.5 / 3.6 / 3.8, MoE, gpt-oss, Gemma 4 и Clef ↗ЧИТАТЬ. ВЫБИРАТЬ. ЗАПУСКАТЬ.
Всё, что важно для локального ИИ
Практика5 мин чтения
Splash 1.4 на Mac: Flash-Next и выгрузка памяти на SSD
Что изменил релиз 20 октября: поддержка Qwen3.8-Flash-Next, потоковая загрузка экспертов и кэш на SSD. Команды запуска и границы расчёта памяти.
Руководство4 мин чтения
ROCm 10.1: исправление OOM на Strix Halo и проверка стека
Какие изменения октябрьского SDK полезны владельцу Radeon и Ryzen AI. Проверяем ОС, фактический HIP в приложении и доступную память.
Принципы работы2 мин чтения
Модель, агент и харнесс: кто за что отвечает
Разбираем запрос инструмента, журнал цикла и память параллельного агента на локальном сервере.
Принципы работы2 мин чтения
Как языковая модель превращает вопрос в ответ
Токенизация, prefill, decode и KV-кэш на примере Qwen3 8B. Где GPU ускоряет вычисления и где заканчивается расчётный потолок.
Принципы работы2 мин чтения
Контекст, память, RAG и навыки: откуда модель берёт сведения
Почему агент теряет детали, сколько кэша добавляют найденные фрагменты и как вынести embeddings на CPU.
Обзор3 мин чтения
RTX 5090 для локального ИИ: что дают 32 ГБ памяти
32 ГБ: Qwen3.8 27B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор3 мин чтения
RTX 5070 Ti: разумные 16 ГБ для повседневного ИИ
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon RX 9070 XT: локальные модели за пределами CUDA
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор3 мин чтения
RTX 5080: быстрая память, прежний предел в 16 ГБ
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 5060 Ti 16 ГБ: начать с памяти, а не с флагмана
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 4090: насколько актуальны 24 ГБ для локального ИИ
24 ГБ: Qwen3.8 27B Q4_K_M до 64K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 3090 с пробегом: много памяти, больше проверок
24 ГБ: Qwen3.8 27B Q4_K_M до 64K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RX 7900 XTX: 24 ГБ для LLM на Radeon
24 ГБ: Qwen3.8 27B Q4_K_M до 64K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 5060 Ti 8 ГБ: те же имя и архитектура, вдвое меньше места для LLM
8 ГБ: Qwen3.5 9B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon RX 9060 XT 16 ГБ: память есть, программный стек нужно проверить
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon RX 9060 XT 8 ГБ: где проходит граница младшей версии
8 ГБ: Qwen3.5 9B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор3 мин чтения
RTX 5090 Laptop 24 ГБ: почему её нельзя приравнивать к настольной RTX 5090
24 ГБ: Qwen3.8 27B Q4_K_M до 64K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX PRO 6000 Blackwell 96 ГБ: когда важнее вместимость одной карты
96 ГБ: Llama 3.1 70B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор3 мин чтения
RTX 5070 12 ГБ: быстрая память и предел вместимости
12 ГБ: Qwen3.5 9B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 5060 8 ГБ: первый локальный чат на Blackwell
8 ГБ: Qwen3.5 9B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 4060 Ti 16 ГБ: вместимость важнее поколения
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 4060 Ti 8 ГБ: как не перепутать с версией 16 ГБ
8 ГБ: Qwen3.5 9B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
RTX 3060 12 ГБ: локальные модели и проверка б/у карты
12 ГБ: Qwen3.5 9B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon RX 9070 16 ГБ: вместимость XT при другой мощности
16 ГБ: Qwen3 14B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon RX 7900 XT 20 ГБ: между 16 и 24 ГБ
20 ГБ: Qwen3.8 27B Q4_K_M до 32K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор4 мин чтения
Radeon AI PRO R9700 32 ГБ: большая память без CUDA
32 ГБ: Qwen3.8 27B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор5 мин чтения
Intel Arc B580 12 ГБ: GGUF через Vulkan и SYCL
12 ГБ: Qwen3.5 9B Q4_K_M до 128K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Обзор5 мин чтения
Intel Arc Pro B60 24 ГБ: вместимость и выбор движка
24 ГБ: Qwen3.8 27B Q4_K_M до 64K по калькулятору. Таблица вместимости, программный стек и питание этой конфигурации.
Руководство3 мин чтения
Одна видеокарта — разная память? Как читать название GPU перед покупкой
RTX 5060 Ti 8/16 ГБ, настольная RTX 5090 и Laptop GPU, профессиональные карты и исполнения партнёров: что именно сравнивать для локального ИИ.
Разбор7 мин чтения
Видеокарта или общая память: Mac, Strix Halo, DGX Spark
Mac, Strix Halo и DGX Spark: варианты памяти, бюджет GPU и расчёт 64–128 ГиБ. Когда большая MoE полезнее dense 70B и как проверить лимит Metal.
Разбор3 мин чтения
Qwen3.8-27B для локального ИИ: память, контекст и гибридная архитектура
Какое окно помещается на 16, 24, 32 и 96 ГБ; почему короткий контекст ограничивает thinking и как считать гибридный кэш.
Практика2 мин чтения
Dense, MoE и гибридные модели: почему размер в B не определяет VRAM
MoE 35B-A3B занимает больше памяти весов, чем dense 27B. Сравниваем конкретные бюджеты и offload экспертов.
Руководство2 мин чтения
Локальный чат без терминала: первый запуск в LM Studio
Где выбрать runtime и GPU Offload, как скачать Qwen3.5 4B и проверить загрузку. Команды lms для повторяемого запуска.
Руководство3 мин чтения
Не хватает VRAM или всё ушло на CPU: план диагностики
Проверяем окно контекста, размещение слоёв, fallback драйвера и журналы. Конкретные настройки Ollama и llama.cpp.
Разбор2 мин чтения
Контекст 4K, 16K, 32K: куда исчезает видеопамять
Сколько кэша стоит один токен у обычной и гибридной Qwen. Настройки окна и цена параллельных слотов.
Разбор2 мин чтения
Сколько VRAM нужно локальной модели?
Конкретные сценарии для 8, 16, 24 и 32 ГБ: веса, KV-кэш и резерв считаем отдельно.
Руководство3 мин чтения
Первая локальная модель с Ollama: от установки до диалога
Установка, первая Qwen3.5, настройка окна и проверка GPU. Команды для повседневной работы.
База знаний2 мин чтения
Q4, Q5, Q8: как выбрать конкретный файл модели
K-кванты, IQ, imatrix, QAT и аппаратные FP8/FP4: что означает название и сколько занимает файл.
Разбор3 мин чтения
CUDA, ROCm и Vulkan: какой стек выбрать для локального ИИ
Матрица для Radeon в Windows и Linux, runtime LM Studio и текущие требования ComfyUI.
Практика2 мин чтения
Как измерить скорость LLM: команды и протокол
Разделяем обработку промпта, генерацию и загрузку модели. Готовые команды llama-bench и Ollama.
Руководство3 мин чтения
Видеокарта для ComfyUI: модели, память и настройки
SDXL, FLUX и Wan: размеры компонентов, режимы VRAM и команды для диагностики.