Как установить локальную нейросеть?

1. Забудь про гит и питон, это инструкции для тех, кто любит страдать. Тебе нужен обычный установщик.
2. Качай LM Studio с официального сайта. Ставится как любая программа, консоль открывать не придётся.
3. Внутри открой каталог моделей и возьми что нибудь на 7 или 8 миллиардов параметров с пометкой Q4.
4. Запусти чат. Всё, у тебя локальная нейросеть.
5. Насчёт видеокарты враньё: запустится и на процессоре, твой i5 справится. Просто ответы будут ползти, а не выстреливать.
6. Проверь оперативку. Вот тут реальное ограничение: меньше 16 гигабайт и начнётся возня с диском, вот тогда действительно станет больно.

Установка сводится к одному установщику: LM Studio или Jan скачиваются с сайта и ставятся как обычная программа, без питона и без гита.

Почему инструкции пугают. Большинство руководств написаны для запуска исходников с GitHub, это путь разработчика. Для пользователя давно существуют готовые сборки с окном и встроенным каталогом моделей.

Почему видеокарта не обязательна. Модель считается и на процессоре. Двенадцатое поколение i5 справится с моделью на 7 миллиардов параметров, вопрос только в скорости ответа, она будет в несколько раз ниже, чем на дискретной карте.

Почему память важнее видеокарты. Веса грузятся в оперативную память, и при восьми гигабайтах система уйдёт в файл подкачки, а это уже неработоспособно медленно. От 16 гигабайт всё в порядке.

Почему начинать стоит с маленькой модели. Она скачается быстрее и сразу покажет реальную скорость именно на вашем железе.