ROCm 10.1: исправление OOM на Strix Halo и проверка стека

Кому полезен этот выпуск

В примечаниях ROCm Core SDK 10.1.0 от 5 октября ↗ AMD описывает исправление Windows OOM на некоторых APU, включая Strix Halo: ошибка возникала при загрузке LLM, выходящей за dedicated graphics memory в общий пул. Исправление касается HIP runtime. Для владельца Ryzen AI Max это повод перепроверить прежний отказ загрузки на совместимой сборке приложения.

Не начинайте с увеличения размера модели. Сохраните запрос и конфигурацию, на которых возникал OOM, и повторите их после обновления поддержанного стека. Изменение runtime не добавляет физическую RAM; итоговый бюджет по-прежнему делят ОС, веса и рабочие данные.

Сопоставьте аппаратную платформу и ОС

Матрица 10.1.0 ↗ отдельно перечисляет APU и Radeon. Для Ryzen AI Max 300 указана RDNA 3.5 / gfx1151. В строках ОС Ryzen указаны Windows 11 25H2, Ubuntu 26.04.1 с GA-ядром 7.0 и Ubuntu 24.04.5 с HWE-ядром 7.0; под Linux — драйвер из поддержанного ядра. Выберите конкретный APU в селекторе перед установкой.

ROCm требует согласованных firmware, драйвера и пользовательских библиотек. Пользуйтесь инструкцией AMD для 10.1.0 ↗ и требованиями именно вашего приложения. Номер SDK не является номером установленного PyTorch или бэкенда Ollama. Не заменяйте набор библиотек внутри рабочего приложения только ради совпадения названий.

Какое приложение получит исправление 10.1

Ryzen AI Max+ 395 / Radeon 8060S (gfx1151) присутствует в матрице ROCm 10.1.0; для Windows указана Windows 11 25H2. В Windows-списке ROCm Ollama Max+ 395 отсутствует: практический первый путь — Vulkan с установленным бэкендом и драйвером. Проверьте журнал выбора устройства и ollama ps. Такой запуск не проверяет исправление HIP.

Проверьте, какой HIP использует PyTorch

Следующая команда выполняется в Python-окружении приложения с уже установленным PyTorch, например в активированном окружении ComfyUI. Никакие пакеты она не устанавливает:

python -c "import torch; print('PyTorch:', torch.__version__); print('HIP:', torch.version.hip); print('CUDA build:', torch.version.cuda); print('GPU available:', torch.cuda.is_available())"

По документации PyTorch ↗, HIP использует интерфейс torch.cuda. Поэтому одно имя cuda в коде не доказывает, что выполняется NVIDIA CUDA. Смотрите torch.version.hip вместе с torch.cuda.is_available(). Если HIP отсутствует, проверьте выбранную сборку; если GPU недоступен — совместимость устройства, драйвер и окружение.

После появления GPU повторите полный workflow. Для памяти различайте memory_allocated() — занятые тензорами байты — и memory_reserved() — пул кэширующего аллокатора. Освобождение неиспользуемого кэша не освобождает живые тензоры модели. Именно поэтому одного снижения показаний утилиты недостаточно для подтверждения исправленного запуска.

Диагностика Linux и границы WSL2

После установки соответствующих инструментов на Linux:

rocminfo
amd-smi version
amd-smi list
amd-smi metric

rocminfo перечисляет доступные агенты HSA; сопоставьте GPU с LLVM target из матрицы. AMD SMI показывает версию, устройства и доступные метрики. Сохраните этот вывод вместе с журналом приложения, длиной входа и именем модели.

В 10.1.0 добавлена телеметрия AMD SMI под WSL2 в статусе Technical preview: доступность зависит от сборки с WSL-бэкендом. Управление устройством и данные по отдельным процессам там недоступны. Команду amd-smi event AMD относит к неподдержанным в WSL и предупреждает о зависании. Не считайте отсутствие отдельной метрики доказательством отсутствия GPU.

Почему Ollama нужно проверять отдельно

В актуальной документации Ollama ↗ Ryzen AI Max+ 395 есть в Linux-списке ROCm, а в отдельном Windows-списке его нет. Там же Ollama указывает стек ROCm v7 / HIP7 для Windows. Исправление HIP в SDK 10.1.0 само по себе не подтверждает, что конкретный установщик Ollama уже использует этот runtime или поддерживает данный APU через него.

Запишите ollama --version, выполните короткий запрос и посмотрите ollama ps и журнал обнаружения GPU. Vulkan и HIP — разные пути: успешный Vulkan-запуск не проверяет исправление HIP. Для основ и выбора бэкенда есть отдельная инструкция, для бюджета общего пула — разбор общей памяти.

Проверяемое завершение обновления — прежний проблемный workflow выполняется с ожидаемым размещением и без OOM. Собственных замеров ROCm 10.1 на этих устройствах здесь нет; совместимость определяется сочетанием устройства, ОС, драйвера, сборки приложения и его библиотек.