Практические гайды Electrikman.ru

Локальный ИИ и нейросети

Практические материалы о локальных LLM: как запускать модели на ПК и домашнем сервере, выбирать Ollama и LM Studio, считать RAM и VRAM, разбираться с GGUF, квантизацией, RAG, Open WebUI и безопасным доступом по сети.

Локальные LLM Ollama LM Studio GGUF RAG AI-сервер

База знаний

Материалы о локальном ИИ

От первого запуска модели на обычном компьютере до собственного LLM-сервера, локального API и работы со своими документами. Новые материалы добавляются по мере тестирования инструментов и моделей.

Нужна помощь с локальным ИИ

Можно удалённо разобрать ваш ПК, подобрать модель и настроить локальный запуск

Проверим RAM, VRAM и совместимость, выберем подходящий runtime, установим программную часть и проверим работу модели. Для домашнего сервера отдельно разберём Open WebUI, локальный API, сеть и безопасный удалённый доступ.
Написать в MAX Telegram Удалённая помощь