Практические гайды Electrikman.ru
Практические материалы о локальных LLM: как запускать модели на ПК и домашнем сервере, выбирать Ollama и LM Studio, считать RAM и VRAM, разбираться с GGUF, квантизацией, RAG, Open WebUI и безопасным доступом по сети.
База знаний
Локальный ИИ · обучение · RAG Как загрузить школьные учебники в локального ИИ-репетитора: RAG, PDF и цитаты Локальный ИИ-репетитор становится намного полезнее, если отвечает не только из памяти модели, а
DSPy · prompt optimization · GEPA · MIPROv2 · Ollama DSPy: как автоматически оптимизировать промпты и LLM-программы вместо ручного prompt engineering Большинство LLM-проектов долго живёт в режиме «поменяем ещё пару
Pydantic AI · Python · MCP · Ollama · Evals · Durable Agents Pydantic AI: как собрать типобезопасного AI-агента на Python с MCP и Ollama Большинство AI-примеров начинается с пары
Локальный ИИ · обучение · Vision/OCR Локальный ИИ проверяет тетрадь по фото: почерк, домашнее задание и ошибки Сфотографировать страницу тетради и попросить локальный ИИ «проверить домашнее задание» уже реально. Но
Локальный ИИ · Apple Silicon · MLX Локальная LLM на Mac: Apple Silicon, MLX, Ollama и unified memory Mac с Apple Silicon устроен иначе, чем обычный ПК с отдельной видеокартой:
EXO · distributed LLM · Mac Studio · Thunderbolt · локальный ИИ EXO: как объединить несколько Mac в кластер для больших локальных LLM Если модель не помещается в память одного
Локальный ИИ · обучение · Vision/OCR Локальный ИИ проверяет тетрадь по фото: почерк, домашнее задание и ошибки Сфотографировать страницу тетради и попросить локальный ИИ «проверить домашнее задание» уже реально. Но
Локальный ИИ · GPU · CUDA / ROCm / SYCL AMD vs NVIDIA vs Intel для локальной LLM: какую видеокарту выбрать в 2026 году Для локальной LLM важны не игровые
KTransformers · CPU-GPU hybrid · MoE · SGLang · локальный ИИ KTransformers: как запускать огромные LLM через RAM + GPU, когда не хватает VRAM Большие MoE-модели могут весить сотни гигабайт
Локальный ИИ · обучение · голос Голосовой локальный ИИ-репетитор без Интернета: Whisper, LLM и TTS Ребёнок говорит в микрофон, локальная система распознаёт речь, ИИ понимает контекст урока, задаёт следующий вопрос
Нужна помощь с локальным ИИ
Необходимые cookie помогают работе сайта. Яндекс Метрика с Вебвизором включается только с согласия. РСЯ может использовать cookie отдельно. Подробнее.
Эти настройки управляют Яндекс Метрикой. Рекламные блоки Яндекса могут загружаться на информационных страницах отдельно от аналитики. Выбор аналитики можно изменить через «Настройки cookie» внизу страницы.
