gpt-oss-20b локально: запуск через Ollama, требования и возможности

Что такое gpt-oss-20b

gpt-oss-20b — open-weight модель OpenAI для локальных, low-latency и специализированных сценариев. В отличие от закрытых моделей ChatGPT, её веса доступны для скачивания и запуска на собственной инфраструктуре.

OpenAI выпускает две основные версии:

Обе модели распространяются под Apache 2.0 и предназначены в том числе для reasoning, tool calling, structured output и fine-tuning.

gpt-oss — это не «ChatGPT без интернета»

Название OpenAI часто создаёт неправильное ожидание: будто gpt-oss — это загружаемая версия текущего ChatGPT. Это не так.

• gpt-oss — отдельное семейство open-weight моделей;
• оно не является тем же модельным стеком, который сейчас обслуживает ChatGPT;
• gpt-oss не вызывается через стандартный OpenAI API как облачная модель;
• интерфейс, память диалогов, web search и tools зависят от вашего runtime;
• качество на конкретной задаче может быть выше или ниже других локальных моделей.

Почему 20B не означает 20 миллиардов активных параметров на каждом токене

gpt-oss-20b использует архитектуру Mixture-of-Experts (MoE). В модели есть набор experts, но для конкретного токена активируется только часть из них.

Именно поэтому нельзя сравнивать gpt-oss-20b с dense 20B только по числу в названии. MoE влияет на вычислительную нагрузку, но веса всех experts всё равно нужно хранить в памяти.

Что такое MXFP4 и почему модель помещается примерно в 16 ГБ

gpt-oss поставляется с нативной квантизацией MoE-весов в формате MXFP4. Ollama указывает примерно 4,25 bits per parameter для этих весов.

Более 90% общего числа параметров приходится на MoE weights, поэтому их MXFP4-представление резко уменьшает memory footprint.

В актуальном Ollama registry локальный gpt-oss:20b занимает около 14 ГБ.

Сверх весов нужны:

• KV-cache;
• runtime buffers;
• CUDA/ROCm/Metal overhead;
• контекст;
• память ОС и других GPU-приложений.

Поэтому 16 ГБ — минимально интересный уровень, а не обещание, что при любой настройке модель займёт ровно 16 ГБ.

Какое железо нужно для gpt-oss-20b

Если у вас 8–12 ГБ VRAM, gpt-oss-20b всё ещё можно экспериментально запускать с системной RAM, но как полностью GPU-resident модель он уже не помещается.

Подробнее о расчётах: сколько RAM и VRAM нужно локальной LLM.

Как запустить gpt-oss-20b через Ollama

Это самый простой официальный способ для домашнего ПК.

Шаг 1. Установите Ollama

Для Windows есть отдельный пошаговый материал: Ollama на Windows.

Шаг 2. Скачайте и запустите модель

ollama run gpt-oss:20b

На первом запуске будет скачан пакет около 14 ГБ.

Только скачать

ollama pull gpt-oss:20b

Как проверить, где реально работает модель

После запуска в другом терминале:

ollama ps

Если модель полностью помещается на GPU, Ollama покажет GPU-resident размещение. Если часть ушла в CPU/RAM, это отразится в PROCESSOR.

128K context: почему это не означает «128K на любой 16-ГБ GPU»

В текущем Ollama metadata у gpt-oss-20b указан context length 131072 токена.

Это архитектурный максимум модели, а не бесплатный ресурс. Чем больше активный контекст, тем больше KV-cache.

Поэтому практичный старт на 16 ГБ:

• 8K–16K для обычного чата;
• 16K–32K для документов и coding, если память позволяет;
• 64K–128K — только после проверки реального расхода и offload.

Reasoning effort: low, medium и high

gpt-oss поддерживает настраиваемый reasoning effort. Идея проста: пользователь может выбирать компромисс между задержкой и глубиной рассуждения.

Конкретный способ управления reasoning зависит от runtime и клиента. Не все GUI показывают этот параметр одинаково.

Tools, function calling и structured output

Одна из сильных сторон gpt-oss — ориентация на agentic use cases. Модель рассчитана на:

• function/tool calling;
• structured outputs;
• Python tools;
• web tools при наличии внешнего инструмента;
• многошаговые agent workflows.

Важно: сама модель не получает интернет, shell или Python автоматически. Runtime/agent должен предоставить соответствующие tools.

Как обращаться к gpt-oss через локальный API Ollama

После загрузки Ollama предоставляет API по адресу:

$body = @{
  model = "gpt-oss:20b"
  messages = @(
    @{
      role = "user"
      content = "Объясни разницу между RAM и VRAM кратко."
    }
  )
  stream = $false
} | ConvertTo-Json -Depth 5

Invoke-RestMethod `
  -Method Post `
  -Uri "http://localhost:11434/api/chat" `
  -ContentType "application/json" `
  -Body $body

Это позволяет использовать gpt-oss как backend для Open WebUI, IDE, собственных программ и automation.

gpt-oss-20b как модель для Codex и coding-agent

gpt-oss-20b используется в официальных локальных сценариях Codex CLI через Ollama и LM Studio.

codex --oss

Для coding-agent особенно важен большой context, потому что туда попадают файлы, tool schemas, diff, вывод тестов и история действий.

Полный материал: локальный ИИ для программирования: Codex, Ollama и LM Studio.

Можно ли использовать gpt-oss-20b полностью без интернета

Да — после того как модель и runtime уже скачаны. Для базового inference интернет не нужен.

Но проверяйте дополнительные компоненты:

• cloud fallback;
• web search;
• MCP servers;
• remote tools;
• облачные embeddings;
• telemetry конкретного интерфейса.

Самый простой тест — отключить сеть после скачивания модели и начать новый чат.

gpt-oss-20b или gpt-oss-120b

Для обычной потребительской GPU версия 20b намного практичнее. 120b стоит рассматривать только при действительно большом объёме памяти.

Стоит ли выбирать gpt-oss-20b в 2026 году

Модель уже не новая, и local AI развивается очень быстро. Свежие модели Qwen и Gemma могут оказаться лучше на отдельных задачах или эффективнее по качеству на гигабайт.

Но gpt-oss-20b всё ещё интересна благодаря:

• официальной поддержке OpenAI;
• Apache 2.0;
• native MXFP4;
• reasoning effort;
• tool calling;
• Codex/agentic use cases;
• хорошо документированному локальному запуску.

Когда я бы начал именно с gpt-oss-20b

• есть 16–24 ГБ памяти под модель;
• нужны tools и structured output;
• интересен локальный Codex;
• нужна permissive Apache 2.0 license;
• важна официальная документация локального запуска.

Когда сначала сравнил бы с другой моделью

• только 8–12 ГБ VRAM;
• нужен vision;
• главная задача — русский язык;
• нужен максимальный coding quality на 24 ГБ;
• важна максимальная скорость tokens/s.

Типичные проблемы

Модель занимает больше ожидаемого

14 ГБ — размер package, а не весь runtime footprint. Уменьшите context и закройте другие GPU-приложения.

На 16 ГБ часть модели уходит в RAM

Проверьте ollama ps. Причиной может быть KV-cache, desktop VRAM usage или другой процесс.

128K работает очень медленно

Большой context резко увеличивает память и prompt processing. Начните с меньшего окна.

Tool calling не выполняется

Проверьте не только модель, но и клиент. Обычный чат не исполняет tools сам по себе.

Ответы хуже, чем ожидалось

Сравните reasoning effort и другую локальную модель на одинаковом наборе ваших запросов.

Частые вопросы