NVIDIA: Blackwell требует новой сборки

Поддержка GeForce Blackwell появилась в CUDA 12.8; PyTorch 2.7 поставлял сборки cu128. Это нижняя историческая граница, а не рекомендация ставить старый PyTorch. Текущая документация ComfyUI рекомендует CUDA 13.0 и поставку PyTorch cu130, в portable — Python 3.13. Установленный системный CUDA Toolkit и CUDA в готовом пакете PyTorch — разные компоненты.

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130

Команда — из инструкции ComfyUI для NVIDIA; выполняйте её внутри Python-окружения ComfyUI. Для GGUF выбирайте CUDA-runtime в LM Studio либо готовую CUDA-сборку llama.cpp.

Radeon: Windows тоже поддерживает PyTorch

Radeon: приложение и операционная система
ПриложениеWindowsLinux
OllamaVulkan; RX 9000 отсутствуют именно в Windows-списке ROCm OllamaROCm 7: карта в списке; также Vulkan
LM StudioGGUF через Vulkan runtimeGGUF через Vulkan runtime
llama.cppGGUF через Vulkan; HIP — отдельная сборкаGGUF через Vulkan или HIP/ROCm
PyTorch / ComfyUIPyTorch/ROCm; инструкция ComfyUI — пакеты ROCm 10.0 для WindowsPyTorch/ROCm; инструкция ComfyUI — ROCm 7.2 stable/nightly

Выберите свою карту и ОС в матрице ROCm 10.1.0. Vulkan в Ollama включён при установленном бэкенде и драйвере. Версию HIP внутри приложения проверяйте отдельно от SDK: таблица приложений и диагностика.

AMD выпустила PyTorch on Windows 7.2 21 января 2026 года с RX 9070/9070 XT. В просмотренной матрице 7.2.1 присутствуют также RX 9060 XT и RX 7900 XTX. Это историческая матрица: Windows 11, PyTorch 2.9, Python 3.12; Linux — PyTorch 2.9.1. Для новой установки выбирайте версии из инструкции приложения и текущей матрицы SDK 10.1.0, а не этот старый набор.

Как выбрать нужное устройство

Ollama: CUDA_VISIBLE_DEVICES выбирает CUDA-GPU, ROCR_VISIBLE_DEVICES — ROCm, GGML_VK_VISIBLE_DEVICES — Vulkan. Номер берите из журнала обнаружения: встроенный GPU может оказаться первым. OLLAMA_VULKAN=0 отключает Vulkan. После изменения переменных перезапустите сервер.

В LM Studio откройте управление runtime сочетанием Ctrl+Shift+R (на Mac Cmd+Shift+R). Доступны варианты llama.cpp CPU/CUDA/Vulkan/ROCm/Metal; конкретный набор соответствует ОС и оборудованию. Само наличие runtime в списке не заменяет успешную загрузку модели.

Intel Arc

Для GGUF у llama.cpp есть Vulkan и SYCL-бэкенды. Документация ComfyUI отдельно указывает Intel Arc с нативным torch.xpu. Это разные пути: Vulkan в LLM-приложении не является Vulkan-бэкендом PyTorch.

Перед покупкой запустите сохранённый рабочий процесс со всеми нужными узлами; один успешный текстовый запрос проверяет только его собственный стек.

ПРОВЕРИТЬ ПЕРВОИСТОЧНИК

Источники и документация

Сведения и документация проверены 25.10.2026.