Полноценный ИИ-репетитор для школьника: железо и модели

Локальный ИИ · школьник · полный стек

Как собрать полноценного локального ИИ-репетитора для школьника: железо, модели, проверка ДЗ и учебные квесты

Полноценный домашний ИИ-репетитор — это не один чат и не одна большая модель. Это система, которая объясняет темы по разным предметам, слушает голос, видит страницу тетради, проверяет вычисления и правописание, работает по загруженным учебникам, придумывает новые упражнения и квесты, помнит реальные пробелы ученика и отдельно проверяет, что он умеет без подсказок.

Актуально: сентябрь 20261–11 классLocal-first
Qwen3.5 / Qwen3.816 / 24 / 32 ГБ VRAMOpen WebUIWhisperRAGVision/OCRSymPyLanguageTool

Что уже есть по теме — и чего не хватало

В рубрике уже собран образовательный кластер. Это правильно: отдельные страницы отвечают на конкретные запросы и не превращают один материал в энциклопедию без фокуса.

ОсноваЛокальный ИИ-репетитор для ребёнка

Педагогический цикл и общая архитектура.

 ЧтениеПроверка чтения вслух

Скорость, ошибки, alignment и понимание.

 ГолосГолосовой ИИ-репетитор

STT → LLM → TTS.

 VisionПроверка тетради по фото

Почерк, OCR и предметная проверка.

 ЗнанияУчебники и RAG

PDF, embeddings, reranking и citations.

 ПредметыНесколько ИИ-учителей

Разные роли, базы знаний и голоса.

 КонтрольРодительская панель

Mastery, подсказки, assessment и приватность.
Отдельная незакрытая тема — железо и сборка всей системы. Эта статья отвечает не «что умеет ИИ-репетитор», а «какой компьютер нужен и как объединить LLM, Vision, голос, RAG, проверку ДЗ, русский язык и игровые задания в один рабочий продукт».

Что значит «полноценный ИИ-репетитор»

ОбъясняетМеняет сложность и способ объяснения по уровню ученика.
Проверяет ДЗТекст, фото, вычисления, правописание и ход решения.
Работает голосомСлушает устный ответ и отвечает вслух.
Работает по учебникуRAG и citations вместо ответов только «из памяти».
Создаёт практикуНовые задания именно на слабый навык.
Делает квестыСюжет + проверяемые предметные задачи + состояние игры.
Помнит навыкиНе просто историю чата, а mastery по темам.
Не решает всё за ребёнкаПодсказки идут уровнями, есть контрольный режим.
Работает локальноДетские данные не обязаны уходить во внешний AI API.

Полная архитектура

Учениктекст · голос · фото · файл · ответ
↓
STTголос → текст
Vision/OCRфото → данные
RAGнайти источник
Routerпредмет/режим
↓
Основная мультимодальная LLMпонимание · объяснение · диалог · tool calls · генерация заданий
↕
Python/SymPyматематика
LanguageToolязык
Quest Engineсостояние игры
Student DBнавыки/mastery
↓
TTSтекст → голос
Open WebUIинтерфейс
Parent Dashboardконтроль
LLM не должна быть единственным судьёй. Она объясняет и управляет процессом, а формализуемые вещи — вычисления, rule-based орфография, retrieval и состояние квеста — проверяются отдельными компонентами.

Как подбирать железо: правильный порядок приоритетов

  1. VRAM.Определяет, какой класс модели помещается на GPU и сколько остаётся под KV cache/context.
  2. Системная RAM.Нужна ОС, Docker, RAG, OCR, браузеру, CPU-offload и фоновой индексации.
  3. SSD.Модели, кванты, embeddings, учебники и snapshots быстро занимают сотни гигабайт.
  4. Скорость GPU.После того как модель помещается, throughput определяет отзывчивость.
  5. CPU.Обслуживает preprocessing, Python tools, часть STT/TTS и инфраструктуру.
Не выбирайте AI-PC как игровой. Быстрая 12-гигабайтная карта может быть хуже для локальных моделей, чем более медленная карта с 16–24 ГБ VRAM.

Сколько VRAM нужно

Нижнюю оценку веса квантованной модели можно представить как параметры × биты / 8. Для 27–28B при 4 битах это около 13,5–14 ГБ только весов. В реальности сверху добавляются quant metadata, vision-часть, runtime buffers и KV cache — поэтому 16 ГБ не означает комфортный запуск любой 27B Q4.

8–12 ГБТестовый класс

4–9B модели. Для новой полноценной системы мало запаса под Vision и контекст.

16 ГБРабочий минимум

Сильная мультимодальная 9B-модель + RAG + голос + tools при грамотном scheduler.

24 ГБРациональный комфорт

Переход к 20–30B quantized классу и меньше компромиссов с KV cache.

32 ГБКомфортная цель

27B-класс с заметным запасом на context и pipeline.

Контекст тоже занимает VRAM. Для школьного тьютора обычно выгоднее RAG и разумное окно в несколько/десятки тысяч токенов, чем попытка постоянно держать 256K–1M контекста.

Какие GPU интересны в 2026 году

GPUVRAMЧто это означает
RTX 5060 Ti16 / 8 ГБ16-гигабайтная версия — разумная новая нижняя точка NVIDIA.
RTX 507012 ГБИгровая скорость выше, но для capacity-bound LLM памяти меньше.
RTX 5070 Ti16 ГББыстрее, но класс помещающихся моделей близок к другим 16 ГБ картам.
RTX 508016 ГБОчень быстрая, но не открывает новый VRAM-класс.
RTX 509032 ГБГлавный новый GeForce-скачок именно по ёмкости памяти.
RTX 409024 ГБСтаршее поколение, но 24 ГБ по-прежнему очень ценны для LLM.
RTX 309024 ГБИнтересна на вторичном рынке; учитывать возраст, охлаждение и энергопотребление.
RX 7900 XTX24 ГБМного VRAM; ROCm поддерживает карту, но runtime надо проверять заранее.
RX 9070 XT16 ГБСовременный AMD-класс с официальной ROCm-поддержкой.

У RTX 5060 Ti есть 16-гигабайтная версия, RTX 5070 имеет 12 ГБ, RTX 5070 Ti и RTX 5080 — по 16 ГБ, RTX 5090 — 32 ГБ. Поэтому для локального ИИ привычная игровая лестница «5070 → 5080» не совпадает с лестницей максимального размера модели.

NVIDIA RTX 50 Series → AMD ROCm Windows compatibility →

Три класса сборок

Уровень A

16 ГБ VRAM + 64 ГБ RAM + 2 ТБ NVMe

  • современный 8-ядерный CPU;
  • основная VLM: 9B-класс в Q4/Q5;
  • STT/TTS/embeddings — отдельные лёгкие сервисы;
  • один ребёнок, без постоянного одновременного запуска всех тяжёлых моделей.

Результат: настоящий локальный репетитор с голосом, фото тетради, RAG, проверкой заданий и квестами — просто с более компактной основной моделью.

Уровень B · рекомендованный

24 ГБ VRAM + 96–128 ГБ RAM + 2–4 ТБ NVMe

  • GPU класса RTX 4090/3090 или RX 7900 XTX;
  • современный 8–12-ядерный CPU;
  • основная модель: 20–30B в подходящем кванте;
  • больше context, меньше выгрузок и комфортнее Vision.

Результат: наиболее рациональная архитектура для сильного домашнего тьютора без перехода в серверное железо.

Уровень C

32 ГБ VRAM + 128 ГБ RAM + 4 ТБ NVMe

  • RTX 5090 32 ГБ;
  • современный 12–16-ядерный CPU;
  • Qwen3.8-27B-class quantized main VLM;
  • хороший запас под контекст и параллельные сервисы.

Результат: максимально цельная одно-GPU домашняя система.

CPU, RAM и SSD

CPU: 8 ядерНормальная база, если inference в основном на GPU.
CPU: 12–16 ядерПолезно для нескольких сервисов, индексации и CPU-offload.
64 ГБ RAMМинимум, который разумно закладывать в новую полноценную сборку.
96–128 ГБ RAMЗапас под большие GGUF, Docker, RAG и hybrid CPU/GPU inference.
2 ТБ NVMeПрактический минимум для моделей, индексов и учебных материалов.
4 ТБ NVMeКомфорт, если храните несколько моделей/квантов и snapshots.

Если бюджет фиксирован, для этой задачи обычно лучше 8-ядерный CPU + 24 ГБ VRAM, чем топовый CPU + 12 ГБ VRAM.

NVIDIA, AMD или Apple Silicon

Самый простой путьNVIDIA

CUDA остаётся наиболее предсказуемой экосистемой для локального AI-PC: много готовых runtimes, quantized models, инструкций и GPU-ускоренных библиотек.

Нюанс: среди новых GeForce после 16 ГБ следующий большой шаг по VRAM — уже RTX 5090 32 ГБ.
Много VRAM за деньгиAMD

RX 7900 XTX даёт 24 ГБ. ROCm официально перечисляет 7900 XTX и современные RDNA4 среди поддерживаемых Radeon.

Нюанс: на Windows AMD отдельно предупреждает, что полный ROCm stack поддержан не весь, поэтому совместимость конкретного inference runtime проверяется до покупки.
Unified memoryApple Silicon

Большая unified memory интересна для крупных quantized models через MLX/llama.cpp, а система тихая и энергоэффективная.

Нюанс: память и GPU не апгрейдятся после покупки, а часть экосистемы ориентирована прежде всего на CUDA.

Основная модель: лучше одна сильная мультимодальная

Для школьного репетитора выгодно, когда основная модель одновременно понимает текст и изображения. Тогда фото учебника, график, схема и обычный диалог идут через один «мозг», а специализированный OCR подключается только при необходимости.

16 ГБ VRAMQwen3.5-9B

Нативная image-text-to-text модель. Хороший класс для 16 ГБ после quantization: русский, текст, изображения, reasoning и tool calls.

Model card →
24–32 ГБ VRAMQwen3.8-27B

Актуальная open 27B dense multimodal модель Qwen. При подходящем quantization — кандидат на основной «мозг» более мощной системы.

Model card →
АльтернативаQwen3.5-35B-A3B

MoE: около 35B total и около 3B active. Active parameters ускоряют вычисления, но память всё равно должна хранить model state, поэтому «A3B» не означает 3B по VRAM.

Model card →

Qwen3.8-27B официально опубликована 14 августа 2026 года; репозиторий Qwen описывает Qwen3.5 как unified vision-language foundation, а Qwen3.8-27B распространяется как image-text-to-text модель.

Qwen3.8 GitHub →
Не выбирайте модель по одному benchmark. Нужен собственный regression-набор из реальных школьных кейсов: математика, русский, фото тетради, объяснение по возрасту, вопрос по учебнику, генерация задания и попытка выпросить готовый ответ.

Проверка тетради по фото

Даже сильная VLM может принять 7 за 1 или плюс за крестик. Поэтому «картинка → сразу оценка» — плохая архитектура.

1Распознать

Текст, числа, знаки, формулы, порядок строк.

2Подтвердить

Показать спорные символы и низкую уверенность.

3Проверить

Передать подтверждённое содержание предметному checker.

4Объяснить

LLM даёт подсказку и новую попытку.

Для сложных документов можно добавить PaddleOCR-VL как второй слой. Основная VLM понимает смысл страницы, а OCR/document parser помогает получить более структурированный результат.

Подробно: проверка тетради по фотоПочерк, OCR, подтверждение и предметная проверка →

Голосовой урок: STT и TTS лучше держать отдельными

Основной pipeline: микрофон → VAD/STT → текст → LLM → короткая реплика → TTS. Это проще контролировать, чем искать одну гигантскую end-to-end voice model.

Микрофонответ
→
whisper.cppSTT + VAD
→
Main LLMпедагогический ход
→
Silero TTSголос

whisper.cpp поддерживает CPU и разные GPU-backends, а Silero содержит актуальную русскую TTS-модель. Голосовой prompt должен быть короче текстового: одна мысль и один вопрос за ход.

whisper.cpp →Silero →
Подробно: голосовой локальный ИИ-репетиторVAD, STT, latency и TTS →

Учебники: RAG обязателен для «учителя по вашей программе»

Модель знает много общего, но школьнику часто нужен ответ именно по конкретному учебнику. Для каждого предмета и класса лучше создать отдельную Knowledge Base.

УчебникPDF/Markdown
→
Chunkingсмысловые фрагменты
→
Embeddingssemantic index
→
Rerankerлучшие chunks
→
LLMответ + citation

Для embeddings разумно начать с компактной multilingual-модели, например Qwen3-Embedding-0.6B, и переходить к более тяжёлой только если собственные retrieval-тесты показывают недостаток качества.

Qwen3-Embedding →Open WebUI Knowledge →
Подробно: школьные учебники и RAGPDF, chunking, hybrid search, reranking и citations →

Математика: LLM объясняет, код проверяет

Там, где ответ формализуем, нельзя полагаться только на генеративную модель. Арифметика, уравнения и часть алгебры должны иметь детерминированный эталон.

LLMпонимает условие
Parserструктура
Python/SymPyэталон
LLMподсказка
Student DBтип ошибки

SymPy подходит как локальный symbolic checker. Для простейшей арифметики хватит Python, а для выражений и уравнений SymPy значительно удобнее.

Ученик

У меня получилось x = 7.

Checker

Формальная проверка: неверно.

ИИ-учитель

Посмотри на шаг, где переносил 3 вправо. Как должен измениться знак?

Русский язык: правописание лучше проверять в два слоя

1LanguageTool

Rule-based орфография, грамматика и пунктуация.

2pymorphy3

Морфология и формы слов при необходимости.

3RAG учебника

Какое школьное правило сейчас изучается.

4LLM

Не исправить всё сразу, а подвести к правилу.

LanguageTool можно запускать локально. Важно учитывать: self-hosted open-source server не равен облачному продукту со всеми AI-based правилами. Для домашнего тьютора это даже плюс: rule-based слой становится проверяемым, а объяснение остаётся за LLM.

LanguageTool →pymorphy3 →

Пример цикла по русскому

  1. Ребёнок пишет предложение или фотографирует тетрадь.
  2. OCR подтверждает, что текст распознан правильно.
  3. LanguageTool отмечает потенциальную ошибку.
  4. Система сопоставляет её с текущим skill: например, безударная гласная.
  5. ИИ спрашивает правило или просит подобрать проверочное слово.
  6. Только после попытки показывает правильный вариант и добавляет похожее упражнение.

Английский: один из лучших мультимодальных сценариев

VocabularyСлова по уровню и интервальное повторение.
Role playМагазин, аэропорт, школа, путешествие, детектив.
GrammarRule checker + объяснение LLM.
ListeningTTS читает фразу, ребёнок отвечает.
SpeakingSTT получает речь, ошибки обсуждаются выборочно.
WritingПисьмо/эссе проверяется по rubric, а не только орфографии.
STT не является полноценной оценкой произношения. Если Whisper понял слово, это не означает идеальное произношение. Для фонемной оценки нужен отдельный pronunciation/forced-alignment слой.

Как покрыть остальные школьные предметы

ИсторияRAG + citations + хронология. Факты брать из источника, интерпретации маркировать отдельно.
ГеографияRAG + Vision для карт, климатограмм и изображений.
БиологияVision для схем + учебник + терминологический checker.
ФизикаRAG + формулы + Python/SymPy + проверка единиц.
ХимияRAG + специализированные calculators/validators; не доверять LLM как единственному checker.
ИнформатикаИзолированный sandbox и автоматические тесты кода.
ЛитератураТекст произведения/RAG, вопросы на понимание, аргументацию и цитирование.
ОбществознаниеУчебник + дата актуальности; отделять нормативные факты от дискуссионных трактовок.

Учебные квесты: не просто сказка из prompt

Квест может связать несколько предметов одним сюжетом и сделать повторение менее однообразным. Но состояние игры нельзя оставлять только в контексте LLM: модель способна забыть предмет, изменить правило или «подарить» ребёнку правильный ответ.

Quest Generatorсюжет и задания
→
Quest Stateэтап, инвентарь, очки
→
Subject Checkerпроверка ответа
→
LLM Narratorследующий эпизод
Пример · 5 класс · 35 минут«Экспедиция на Марс: починить базу до песчаной бури»
  1. Математика: рассчитать запас кислорода на экипаж.
  2. Русский: исправить ошибки в аварийном сообщении.
  3. Физика: выбрать формулу для мощности генератора.
  4. География/астрономия: найти факт в загруженном учебнике.
  5. English: понять короткую радиограмму и ответить.

Каждый этап привязан к skill_id. Правильность решает checker, а LLM только связывает задачи сюжетом и адаптирует реплики.

Пример Quest State
{
  "quest_id": "mars-base-01",
  "stage": 3,
  "inventory": ["access_card", "oxygen_map"],
  "skills_targeted": ["math.proportions", "ru.spelling.vowels", "physics.power"],
  "attempts": {"task_1": 2, "task_2": 1},
  "hint_budget": 3,
  "score": 180
}

Как генерировать новые задания, чтобы ответы были проверяемыми

Команда «придумай задачу второго класса» слишком расплывчата. Сначала система должна сформировать Task Spec: какой навык тренируется, сложность, диапазон чисел, допустимые шаги и тема оформления.

Student DBвыбрать слабый skill
→
Task Specжёсткие ограничения
→
LLMинтересная формулировка
→
Validatorпроверить эталон
→
Ученикполучить задачу
Task Spec вместо свободного prompt
{
  "skill": "math.subtract.borrowing",
  "grade": 2,
  "difficulty": 2,
  "numbers": {"min": 20, "max": 99},
  "steps": 1,
  "theme": "space_quest",
  "avoid_previous_numbers": true,
  "answer_must_be_verified_by": "python"
}

После генерации validator самостоятельно вычисляет эталон и проверяет ограничения. Некорректная или неоднозначная задача не показывается ребёнку, а отправляется на перегенерацию.

Профиль ученика: память о навыках, а не бесконечный transcript

Полный чат плохо подходит для принятия учебных решений. Нужна структурированная Student DB, где каждая запись привязана к конкретному навыку.

Профиль ученика · пример2 класс
Вычитание с переходом71%последняя помощь: 1/4
Безударные гласные64%повторить через 2 дня
Чтение94%точность, отдельно — понимание
English A182%animals / family

В записи полезно хранить: skill_id, дату, правильность, тип ошибки, hint_level, результат независимой контрольной попытки и next_review. Это позволяет строить интервальное повторение и не путать «решил с подсказкой» с «умеет».

Подробно: несколько предметных ИИ-учителейОдна base model, разные профили и общий прогресс →

Родительский контроль: главное — самостоятельность

Учебный режимРазрешены наводящие вопросы, правило, первый шаг и разбор ошибки.
Контрольный режимНикаких подсказок до завершения задания.
Отложенная проверкаПохожая задача через 2–7 дней показывает, сохранился ли навык.
Weekly reportОсвоено, слабые темы, уровень помощи и следующий шаг.

Для младшего школьника особенно важно ограничить доступ к unrestricted-модели и системным настройкам. Open WebUI можно использовать как слой users/groups/permissions, а педагогический прогресс хранить отдельно.

Подробно: родительская панельMastery, лимиты подсказок, RBAC и приватность →

Рекомендуемый программный стек

UIOpen WebUI

Аккаунты, model presets, Knowledge, файлы, voice UI.

RuntimeOllama / llama.cpp

Ollama проще; llama.cpp гибче по quantization и hardware.

Main VLMQwen3.5-9B / Qwen3.8-27B

Основной мультимодальный «мозг».

STTwhisper.cpp

Речь в текст и VAD.

TTSSilero TTS

Русский локальный голос.

RAGKnowledge + Qwen3-Embedding

Учебники, retrieval, citations.

MathPython + SymPy

Проверяемые вычисления.

RussianLanguageTool + pymorphy3

Rule-based проверка + морфология.

OCRMain VLM + PaddleOCR-VL optional

Сложные страницы и почерк.

DataPostgreSQL / SQLite

Student DB, Quest State, отчёты.

Windows или Linux?

Для отдельного постоянно работающего AI-сервера Linux удобнее Docker и server runtimes. Но семейный Windows 11 PC с Ollama/Open WebUI тоже реалистичен. Не имеет смысла ломать привычный домашний workflow только ради «идеальной» серверной ОС.

Как не упереться в VRAM: не держать всё тяжёлое одновременно

«Полноценная система» не означает, что STT, VLM, OCR и несколько LLM обязаны постоянно находиться в GPU-памяти.

Обычный диалогMain LLM/VLM загружена; OCR не нужен.
Фото тетрадиVision получает GPU; голосовые сервисы в этот момент простаивают.
STTWhisper обрабатывает короткие фрагменты; при необходимости можно держать его на CPU.
TTSНебольшой синтезатор можно оставить на CPU.
EmbeddingsКомпактная embedding-модель может работать на CPU или отдельно.
Большой contextНе увеличивать без причины: KV cache конкурирует с весами за VRAM.
Scheduler часто выгоднее ещё одной видеокарты. Для одного школьника тяжёлые стадии почти всегда идут последовательно, поэтому 16–24 ГБ можно использовать значительно эффективнее.

Приватность и безопасность

API только LAN/VPNНе выставлять Ollama, llama.cpp или Open WebUI напрямую в Интернет.
Отдельный аккаунт ребёнкаНе заниматься под admin.
Минимальные праваТолько нужные Models, Knowledge и Tools.
Удаление raw dataФото/аудио после обработки, если хранение не нужно.
Tools по allow-listРебёнку не нужен произвольный shell или системные команды.
Backup конфигурацииStudent DB, prompts, quest definitions и Knowledge metadata важнее копий скачиваемых моделей.

Local-first уменьшает объём данных, уходящих внешним провайдерам, но не отменяет защиту локального сервера, резервное копирование и понятные правила хранения детских данных.

В каком порядке собирать систему

  1. Текстовый тьютор.Main LLM + Open WebUI + педагогический system prompt.
  2. Один предмет.Например, математика: curriculum + Student DB + deterministic checker.
  3. RAG учебника.Ответы начинают опираться на конкретный материал.
  4. Генерация заданий.Task Spec → LLM → validator.
  5. Контрольный режим.Независимая проверка без подсказок.
  6. Русский язык.LanguageTool + правила + LLM explanation.
  7. Фото тетради.Vision/OCR → подтверждение → checker.
  8. Голос.STT + короткий voice prompt + TTS.
  9. Несколько предметных профилей.Отдельные Knowledge Bases и tools.
  10. Квесты.Только после того, как предметные checkers уже надёжны.
  11. Родительская панель.Строить на реальных накопленных данных.
Не начинайте с красивого интерфейса и десяти «учителей». Сначала один надёжный цикл: задание → попытка → проверка → подсказка → повтор → независимая проверка позже.

Как тестировать качество после каждой смены модели

Математика50 задач с эталоном и типовыми детскими ошибками.
Русский50 предложений: реальные ошибки + корректные tricky examples.
Vision30–50 реальных фото тетрадей разного качества.
RAG30 вопросов, для каждого известен правильный параграф.
VoiceФразы ребёнка, числа, имена и школьные термины.
Pedagogy«Скажи ответ», повторная ошибка, «я не знаю», ложная уверенность.
QuestНельзя пропустить этап или получить награду без правильного ответа.
SecurityПопытки изменить prompt, открыть запрещённый tool или чужие данные.

После обновления main model, prompt, embeddings или checker прогоняется тот же regression-набор. Без этого невозможно понять, улучшилась система или просто стала отвечать иначе.

Типичные ошибки при проектировании

GPU выбирают по FPSПолучают быструю карту, куда не помещается желаемая модель.
Всё поручают LLMОна и считает, и проверяет язык, и хранит state — ошибки трудно локализовать.
Огромный context «на всякий случай»Съедается KV cache, растёт latency.
Нет RAGОтвет расходится с конкретным школьным учебником.
Нет validator для генерацииИИ может придумать некорректное условие или неверный эталон.
OCR сразу ставит оценкуОшибка распознавания превращается в ошибку ребёнка.
Правильный ответ = masteryНе учитываются подсказки и отложенная проверка.
Квест хранится только в promptLLM забывает этапы, инвентарь и правила.
Все модели постоянно в VRAMТребования к железу искусственно завышаются.
Все фото и аудио хранятся навсегдаРастёт объём чувствительных данных без учебной пользы.

Какую конфигурацию я бы закладывал для реального домашнего проекта

Баланс качества, ресурса и дальнейшего развития24 ГБ VRAM + 96–128 ГБ RAM + 2–4 ТБ NVMe
GPU24 ГБ NVIDIA-класс

4090 или исправная 3090, если цена и состояние разумны. 5090 32 ГБ — при существенно большем бюджете.

CPUСовременный 8–12 ядер

Самый дорогой CPU не обязателен.

RAM96–128 ГБ

Docker, RAG, CPU-offload и запас на новые модели.

SSD4 ТБ предпочтительно

2 ТБ допустимо как старт.

Main VLMQwen3.8-27B quantized

Если выбранный quant/runtime укладывается с нужным контекстом.

Fast profileQwen3.5-9B

Быстрый вариант для простых вопросов или 16 ГБ сборки.

Если покупать только новое и бюджет ограничен: RTX 5060 Ti 16 ГБ + 64 ГБ RAM + 2 ТБ NVMe уже позволяет сделать полноценную функциональную систему. Главное — использовать 9B-класс основной модели и специализированные tools вместо попытки решить всё огромной LLM.

RTX 5080 16 ГБ не является автоматическим выбором именно для LLM. Она намного быстрее 5060 Ti, но имеет тот же VRAM ceiling. Если задача — перейти к более крупной модели, ёмкость 24–32 ГБ важнее.

Частые вопросы

Обязательно ли 24–32 ГБ VRAM?

Нет. 16 ГБ достаточно для полноценной функциональной системы с мультимодальной моделью примерно 9B-класса. 24–32 ГБ нужны прежде всего для более сильной основной модели и большего запаса по context/KV cache.

Почему 5080 16 ГБ не всегда лучше для этой задачи, чем старая карта 24 ГБ?

5080 существенно быстрее, но размер полностью помещающейся модели ограничивает VRAM. Для interactive 9B она даст скорость; для перехода к более крупной модели 24 ГБ могут оказаться полезнее.

Можно ли использовать RX 7900 XTX 24 ГБ?

Да. Карта официально есть в ROCm support matrix. Но проверяйте выбранный runtime и ОС заранее: AMD отдельно указывает, что полный ROCm stack на Windows поддержан не целиком.

Можно ли сделать систему на Mac Studio?

Да. Большая unified memory удобна для крупных quantized models через MLX/llama.cpp. Минусы — отсутствие апгрейда памяти/GPU после покупки и меньшая универсальность CUDA-ориентированных проектов.

Нужна ли отдельная vision-модель?

Не обязательно: современные Qwen3.5/Qwen3.8 мультимодальны. Отдельный OCR/document parser имеет смысл как специализированный второй слой для сложных страниц.

Нужна ли отдельная LLM на каждый предмет?

Нет. Один сильный base model можно оборачивать в разные предметные profiles с собственными prompts, Knowledge Bases и tools.

Как проверять правописание?

Комбинировать локальный rule-based LanguageTool, при необходимости морфологию и LLM, которая объясняет школьное правило и просит ребёнка исправить ошибку самостоятельно.

Можно ли генерировать новые задания бесконечно?

Да, но не свободным prompt. Сначала Task Spec, потом генерация, затем deterministic validator и только после этого показ ребёнку.

Можно ли смешивать предметы в одном квесте?

Да. LLM ведёт сюжет, а Quest State и предметные checkers хранят правила и проверяют реальные ответы.

Нужен ли Интернет?

После скачивания моделей и обновлений основной local-first сценарий может работать без него. Внешний web search лучше делать отдельной разрешаемой функцией, а не постоянным обязательным компонентом.

Основные источники и проекты

Главный принцип

Сначала VRAM и проверяемая архитектура — потом красивый интерфейс

Полноценный ИИ-репетитор получается из сильной основной модели, RAG и набора специализированных checkers, а не из одной «магической» LLM.
Общий гайдВсе материалы
  • Интересное по теме