Ollama на Windows: установка и первый запуск локальной LLM

Что такое Ollama и зачем она нужна

Ollama — это runtime и менеджер моделей. Она скачивает совместимые модели, хранит их локально, запускает inference на CPU или GPU и предоставляет CLI и HTTP API.

Важно не путать три разных уровня:

Само наличие Ollama не означает, что на компьютере уже есть языковая модель. Её нужно скачать отдельно командой ollama pull или сразу запустить через ollama run.

Если вы только выбираете между Ollama, LM Studio и llama.cpp, сначала полезно прочитать базовый материал «Локальная нейросеть на ПК: как выбрать и запустить LLM без интернета».

Системные требования Ollama для Windows

Согласно актуальной документации Ollama, Windows-версия работает как нативное приложение. Поддерживается Windows 10 версии 22H2 или новее, включая Windows 11.

Отдельный подробный разбор памяти: сколько RAM и VRAM нужно для локальной LLM.

Как установить Ollama на Windows

Шаг 1. Скачайте официальный установщик

Используйте официальный Windows installer. Ollama устанавливается в профиль текущего пользователя и в стандартном сценарии не требует запуска от имени администратора.

По умолчанию бинарные файлы располагаются в пользовательском каталоге, а путь к Ollama добавляется в PATH.

Шаг 2. Запустите Ollama

После установки Ollama запускается в фоне. В области уведомлений появляется приложение, а команда ollama становится доступна в Command Prompt, PowerShell и Windows Terminal.

Шаг 3. Откройте новый PowerShell

Если терминал был открыт до установки, закройте его и запустите снова, чтобы он получил обновлённый PATH.

ollama

Если команда распознаётся, можно переходить к модели.

Как скачать и запустить первую модель

В актуальном официальном Quickstart Ollama для локального запуска используется Gemma 4 E2B. На момент подготовки материала загрузка этой модели составляет примерно 7,2 ГБ; Ollama рекомендует около 8 ГБ доступной VRAM или unified memory, а при меньшем объёме может задействовать системную RAM с потерей скорости.

ollama pull gemma4:e2b

ollama run gemma4:e2b

После загрузки появится интерактивный чат в терминале. Для выхода используется:

/bye

Основные команды Ollama

Команда ollama launch в актуальной версии умеет помогать с интеграциями, включая Claude Code, Codex, OpenCode и VS Code.

Как проверить, работает ли модель на GPU

Самый простой способ — во время запущенной модели открыть второй PowerShell и выполнить:

ollama ps

В колонке PROCESSOR Ollama показывает, где находится модель:

• 100% GPU — модель полностью размещена на GPU;
• 100% CPU — модель работает из системной памяти;
• 48%/52% CPU/GPU или похожее значение — используется частичный offload.

Как перенести модели Ollama на другой диск

На Windows стандартный каталог моделей:

C:\Users\%username%\.ollama\models

Если системный SSD небольшой, место хранения лучше изменить до загрузки большой библиотеки моделей.

Через переменную OLLAMA_MODELS

1. Полностью закройте Ollama через значок в панели задач.
2. Откройте «Изменение переменных среды для учётной записи».
3. Создайте пользовательскую переменную OLLAMA_MODELS.
4. Укажите новый путь, например D:\AI\Ollama\Models.
5. Сохраните изменения.
6. Снова запустите Ollama из меню «Пуск».

Можно ли перенести уже скачанные модели?

Да. Сначала завершите Ollama, скопируйте содержимое старого каталога моделей в новый, задайте OLLAMA_MODELS и только затем снова запустите приложение. Старую копию безопаснее удалять после проверки ollama ls и тестового запуска модели.

Как изменить размер контекста

По актуальному FAQ Ollama базовый context window по умолчанию составляет 4096 токенов. Его можно изменить несколькими способами.

В текущем интерактивном запуске

/set parameter num_ctx 8192

Через переменную среды сервера

OLLAMA_CONTEXT_LENGTH=8192

На Windows пользовательские переменные среды задаются через системный интерфейс, после чего Ollama нужно полностью перезапустить.

Как проверить локальный Ollama API

После запуска Windows-приложения Ollama поднимает HTTP API по адресу:

Для локальной модели API-key не требуется. Это удобно для собственных программ, Open WebUI, Home Assistant, IDE и автоматизации.

Запрос из PowerShell

$body = @{
    model = "gemma4:e2b"
    messages = @(
        @{
            role = "user"
            content = "Ответь одной фразой: Ollama работает?"
        }
    )
    stream = $false
} | ConvertTo-Json -Depth 5

Invoke-RestMethod `
    -Method Post `
    -Uri "http://localhost:11434/api/chat" `
    -ContentType "application/json" `
    -Body $body

Если сервер и модель работают, PowerShell вернёт JSON-объект с ответом модели.

OpenAI-compatible API

Кроме собственного Ollama API, локальный сервер предоставляет OpenAI-compatible base URL:

Это позволяет подключать приложения, которые ожидают OpenAI Chat Completions или другие поддерживаемые совместимые endpoints.

Как сделать Ollama строго локальной и отключить cloud-функции

Современная Ollama поддерживает не только локальные, но и cloud-модели и web search. Поэтому «я установил Ollama» уже не тождественно «все функции гарантированно локальные».

Ollama прямо указывает, что при локальном inference она не видит ваши prompts и данные. Но если используются cloud-hosted models, запрос обрабатывается облачной инфраструктурой.

Отключить Ollama Cloud через переменную среды

OLLAMA_NO_CLOUD=1

После изменения переменной полностью закройте приложение Ollama и снова запустите его.

Альтернатива через server.json

{
  "disable_ollama_cloud": true
}

После включения local-only режима отключаются cloud-модели и web search Ollama. В логах сервера должна появиться отметка о том, что cloud отключён.

Как открыть Ollama для других устройств в домашней сети

По умолчанию Ollama слушает только 127.0.0.1:11434. Это правильно для одиночного ПК: API недоступен другим устройствам сети.

Для работы с другого компьютера можно изменить переменную:

OLLAMA_HOST=0.0.0.0:11434

Затем Ollama нужно перезапустить и при необходимости разрешить входящее соединение в Windows Firewall только из доверенной сети.

Если задача — подключить Ollama к Home Assistant, отдельный разбор есть в материале «Локальный ИИ в Home Assistant».

Как Ollama держит модели в памяти

По умолчанию Ollama сохраняет загруженную модель в памяти примерно пять минут после последнего использования. Это ускоряет следующий запрос.

Чтобы выгрузить модель сразу:

ollama stop gemma4:e2b

В API для этого используется параметр keep_alive. Значение 0 выгружает модель сразу после ответа, отрицательное значение может оставить её загруженной постоянно.

Несколько моделей и параллельные запросы

Ollama умеет держать несколько моделей и обрабатывать параллельные запросы, если памяти достаточно. Однако параллелизм увеличивает расход памяти: документация отдельно предупреждает, что необходимая RAM масштабируется вместе с OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH.

Поэтому домашний сервер, который отлично работает с одним пользователем, может неожиданно уйти в дефицит VRAM после подключения нескольких клиентов.

Типичные проблемы Ollama на Windows

Команда ollama не найдена

Закройте терминал и откройте новый. Стандартная установка добавляет Ollama в пользовательский PATH. Бинарные файлы обычно находятся в:

%LOCALAPPDATA%\Programs\Ollama

Модель работает только на CPU

Выполните ollama ps. Если указано 100% CPU, проверьте драйвер GPU, поддержку конкретной видеокарты и объём доступной VRAM.

Закончился диск C:

Каталог моделей по умолчанию находится в профиле пользователя. Настройте OLLAMA_MODELS на другой SSD и перезапустите приложение.

После изменения переменной ничего не изменилось

Windows-приложение наследует переменные среды при запуске. Ollama нужно полностью завершить через tray и запустить снова.

Модель неожиданно медленная

Посмотрите ollama ps. Если модель разделена между CPU и GPU, причина может быть в недостатке VRAM. Также проверьте размер контекста.

Где смотреть логи

На Windows основные логи находятся в:

explorer %LOCALAPPDATA%\Ollama

Основные файлы — app.log, server.log и upgrade.log.

Частые вопросы