AMD vs NVIDIA vs Intel для локальной LLM: какую видеокарту выбрать в 2026 году

Главное правило: для LLM сначала смотрят на VRAM

Локальная модель должна где-то хранить веса и KV-cache. Если всё помещается в видеопамять, inference может идти полностью на GPU. Если нет — часть данных уходит в системную RAM, и PCIe становится узким местом.

Поэтому 16-ГБ видеокарта среднего класса иногда полезнее для LLM, чем более быстрая игровая карта с 8–12 ГБ.

Подробно по памяти: сколько RAM и VRAM нужно локальной LLM.

Сначала решите: только inference или ещё обучение

Это принципиально меняет выбор.

CUDA, ROCm, Vulkan и SYCL — что это значит

NVIDIA: самый предсказуемый вариант

В Ollama NVIDIA официально поддерживается через CUDA. Текущая документация перечисляет RTX 50xx, 40xx, 30xx и значительно более старые поколения при достаточной compute capability и подходящем драйвере.

Плюсы NVIDIA

• CUDA — основной backend большинства AI-проектов;
• простая установка Ollama;
• широкая поддержка llama.cpp;
• PyTorch, Unsloth, bitsandbytes и fine-tuning обычно проще;
• много готовых Docker images;
• лучше документированы нестандартные workflows;
• multi-GPU обычно проще.

Минусы

• VRAM часто стоит дорого;
• многие новые массовые карты ограничены 8–16 ГБ;
• для большой local LLM приходится смотреть на 24/32 ГБ или несколько GPU.

AMD Radeon: уже не «экзотика», но backend нужно проверить заранее

Ollama официально поддерживает Radeon через ROCm, а дополнительный охват даёт Vulkan.

В актуальном списке Ollama для Linux ROCm есть RX 9000 и RX 7000 серии, включая RX 9070 XT и RX 9060 XT. Windows ROCm-список уже, поэтому часть карт на Windows практичнее использовать через Vulkan.

Плюсы AMD

• часто больше VRAM за те же деньги;
• ROCm на поддерживаемом Linux-железе уже вполне рабочий;
• Ollama имеет официальный AMD backend;
• llama.cpp поддерживает ROCm и Vulkan;
• RX 7900 XTX даёт 24 ГБ VRAM;
• новые 16-ГБ Radeon интересны для среднего класса.

Минусы AMD

• матрица ROCm поддержки зависит от OS и конкретного поколения GPU;
• некоторые Python/CUDA-first проекты требуют обходных путей;
• Windows support обычно менее универсален, чем NVIDIA CUDA;
• инструкции в интернете быстро устаревают из-за изменений ROCm/Vulkan.

Intel Arc: интересная цена за VRAM, но software stack другой

Intel Arc имеет два практических пути для local LLM:

1. Vulkan — в Ollama;
2. SYCL / oneAPI — напрямую в llama.cpp.

В llama.cpp SYCL backend специально ориентирован на Intel GPU и сейчас поддерживает:

• Arc A-Series;
• Arc B-Series;
• встроенную Arc graphics;
• Intel iGPU начиная с поддерживаемых поколений Core;
• Flex и Data Center Max.

В документации llama.cpp среди проверенных устройств есть Arc B580.

Arc B580 как пример

Intel Arc B580 имеет официально 12 ГБ GDDR6 и пропускную способность 456 ГБ/с. Для local LLM это делает карту интереснее, чем обычная игровая классификация «средний класс» может подсказать.

Windows: что проще всего

Ollama для Windows сейчас прямо заявляет native NVIDIA и AMD Radeon support. Для AMD нужен HIP7-capable ROCm stack либо Vulkan-capable Radeon driver.

Linux: где AMD и Intel раскрываются лучше

Linux остаётся самой гибкой платформой, если пользователь готов работать с драйверами.

• NVIDIA — CUDA;
• AMD — ROCm v7 и Vulkan;
• Intel — Vulkan в Ollama, SYCL/Level Zero в llama.cpp;
• Docker проще интегрировать в headless AI-server.

Для AMD Ollama на Linux сейчас официально требует ROCm v7 для native ROCm acceleration; при этом Vulkan расширяет список поддерживаемого железа.

Примеры актуальных GPU-классов

Это не рейтинг производительности, а ориентиры по VRAM и backend.

Почему не стоит сравнивать только MSRP

На local AI рынке особенно важен вторичный рынок. Старая 24-ГБ карта может быть полезнее новой 16-ГБ, если ваша модель физически не помещается в 16 ГБ.

8, 12, 16 или 24 ГБ VRAM

Детально по моделям: какие LLM выбирать для 8, 12, 16 и 24 ГБ VRAM.

Почему кроме VRAM важна пропускная способность памяти

При autoregressive generation веса модели постоянно читаются из памяти. Поэтому memory bandwidth сильно влияет на generation throughput.

Но превращать bandwidth в прямую формулу «эта карта в 1,5 раза быстрее» нельзя: backend, quantization, architecture, batch, prompt processing и kernels тоже влияют на результат.

Vulkan — компромисс или нормальный backend?

В 2026 году Vulkan уже нельзя считать только аварийным fallback.

Feature matrix llama.cpp показывает поддержку через Vulkan:

• K-quants;
• I-quants;
• KV-cache quantization;
• MoE;
• Flash Attention;
• нескольких GPU в sequential mode.

При этом документация llama.cpp отмечает, что CUDA/ROCm в общем случае быстрее Vulkan, хотя есть workloads, где Vulkan text generation может выглядеть конкурентоспособно.

Multi-GPU: где начинается сложность

llama.cpp умеет использовать несколько GPU. Но «2 × 16 ГБ = одна идеальная 32-ГБ карта» — слишком упрощённо.

Нужно учитывать:

• PCIe bandwidth;
• split mode;
• backend;
• одинаковые или разные GPU;
• размещение KV-cache;
• потребление и охлаждение.

В feature matrix llama.cpp parallel multi-GPU отдельно заявлен для CUDA и ROCm. SYCL и Vulkan используют sequential multi-device path.

Что реально поддерживает Ollama сейчас

Проверить, что модель реально сидит на GPU

ollama ps

Смотрите PROCESSOR. Если видите CPU/GPU split, значит weights/KV-cache не поместились либо backend не смог полностью разместить модель.

Выбрать конкретную NVIDIA GPU

CUDA_VISIBLE_DEVICES=0

Выбрать Vulkan GPU

GGML_VK_VISIBLE_DEVICES=1

llama.cpp: самая гибкая матрица GPU

llama.cpp — лучший инструмент, если вы хотите напрямую управлять backend и проверить необычное железо.

Конкретные flags меняются, поэтому перед сборкой проверяйте текущий docs/build.md и backend-specific documentation.

Почему RTX 3090 всё ещё постоянно всплывает в local AI

Причина не ностальгия, а 24 ГБ GDDR6X. Для многих 20–32B quantized моделей это принципиально другой класс вместимости, чем 12–16 ГБ.

Но у б/у карты есть риски:

• состояние GDDR6X;
• высокие температуры;
• изношенные вентиляторы;
• майнинг в прошлом;
• высокое энергопотребление;
• требования к PSU и airflow.

Поэтому 3090 — не «лучший выбор для всех», а понятный путь получить 24 ГБ CUDA VRAM на вторичном рынке.

Как выбрать GPU за пять минут

Если вы новичок на Windows

Если нужен максимум VRAM за бюджет и только local inference

Если Intel Arc уже есть или стоит заметно дешевле

Главные ошибки при покупке GPU для LLM

1. Смотреть только игровой FPS

Для LLM более медленная карта с 24 ГБ может решать задачи, которые быстрая 12-ГБ карта физически не помещает.

2. Считать все AMD одинаково поддерживаемыми

ROCm support list отличается между Windows и Linux и меняется со временем.

3. Покупать Intel, рассчитывая на CUDA-инструкции

Arc требует Vulkan/SYCL/OpenVINO-ориентированного workflow.

4. Оценивать только размер weights

Нужны ещё KV-cache, buffers и context.

5. Не проверять конкретный runtime

«GPU поддерживает AI» ничего не говорит о нужном вам приложении.

6. Собирать multi-GPU первым проектом

Одна большая GPU проще драйверами, охлаждением и scheduling.

7. Покупать дорогую карту до теста задачи

Сначала запустите меньшую модель на имеющемся железе и поймите, действительно ли нужен следующий VRAM-класс.

Частые вопросы