Какие нейросети можно установить локально?

олламу поставь и не мучайся

а смысл, без интернета оно и знать ничего не будет про свежее. хотя для дачи наверное да

у меня 3060 на 12 гигов, кручу восьмимиллиардные модели, отвечает быстрее чем читаю. на восьми тоже пойдёт просто контекст поменьше ставь, а то в своп улетит и всё колом встанет. картинки отдельная история, там памяти жрёт больше

1. Ставите Ollama, это пара минут.
2. Пишете команду запуска и ждёте загрузку модели.
3. Всё, у вас локальная нейросеть, интернет больше не нужен.
4. Хотите окошко вместо консоли, ставите LM Studio, там модели выбираются мышкой.
5. Для картинок отдельно ComfyUI и Stable Diffusion.

На 4060 с восемью гигами живут модели на 7 и 8 миллиардов параметров. Тридцать вы тоже запустите, но чай успеете заварить между ответами.

Под 8 гигабайт видеопамяти уверенно заходят текстовые модели на 7 и 8 миллиардов параметров в квантованном виде: Qwen, Llama, Mistral, Gemma, дистилляты DeepSeek. Ставятся через Ollama или LM Studio, обе программы поднимаются за вечер. Для изображений Stable Diffusion и его потомки в интерфейсах Automatic1111 или ComfyUI. Модели на 30 миллиардов запустятся тоже, но частично на процессоре и заметно медленнее.