Нейросеть работающая без интернета?

1. Ставь Ollama, она бесплатная.
2. Тяни модель на 3-4B в квантованном виде, не жадничай.
3. Отключай вайфай и проверяй.

На 8 гигах больше не влезет, а если влезет, будет ползать.

• Ollama плюс любая небольшая модель: ставится в пару команд, дальше работает офлайн
• LM Studio, если удобнее окно с кнопками, а не терминал
• GPT4All как самый нетребовательный вариант для слабого железа
• модель качается один раз, после этого интернет ей не нужен вообще
• на 8 ГБ памяти берите версии на 3-4 миллиарда параметров, старшие не запустятся
• локальная модель не знает ничего свежего и в фактах ошибается заметно чаще облачной

Локально запускаются те же открытые модели, что и в облаке, только урезанные по размеру. На восьми гигабайтах оперативной памяти и встроенной графике реально работают модели на три-четыре миллиарда параметров в сжатом виде, это примерно два-три гигабайта на диске. Скорость будет порядка нескольких слов в секунду, то есть ответ на абзац придётся подождать. Ставится всё обычно через Ollama или LM Studio, обе программы сами качают модель и дают окно чата, ручной сборки не требуется. Ограничение тут существенное: такая модель не ходит в интернет, свежих новостей и курсов она не знает, а факты путает заметно чаще больших облачных. Зато переписать текст, набросать письмо или разобрать кусок кода она вполне способна, и после первой загрузки сеть ей больше не нужна.