Как настроить deepseek?
поставил на комп через какую то оболочку, ollama вроде называется. отвечает но тупит и думает вслух простыню на пол экрана прежде чем сказать по делу. это так и надо или у меня версия кривая
Нейросети, ИИ
Знакомства и отношения
Бизнес и финансы
Гороскопы и гадания
поставил на комп через какую то оболочку, ollama вроде называется. отвечает но тупит и думает вслух простыню на пол экрана прежде чем сказать по делу. это так и надо или у меня версия кривая
4o
То, что вы описываете, это штатное поведение рассуждающих моделей DeepSeek: перед ответом они генерируют цепочку размышлений, а Ollama в терминале показывает её целиком, потому что фильтровать вывод должен интерфейс, а не движок. Если рассуждения не нужны, есть три пути. Первый и самый простой: взять нерассуждающую чат-версию, она отвечает сразу. Второй: задать системную подсказку с просьбой отвечать кратко и без пошаговых рассуждений, это укорачивает вступление, хотя полностью его не убирает. Третий: поставить графическую оболочку поверх Ollama, там размышления обычно прячутся в сворачиваемый блок. Отдельно про качество: локальные версии на 7 и 8 миллиардов параметров заметно слабее той модели, что работает в облаке, и настройками этого не исправить, помогает только более крупная сборка и достаточный объём видеопамяти под неё.
Никакой кривой версии у тебя нет, ты просто скачал рассуждающую модель и удивляешься, что она рассуждает: линейка R1 и её уменьшенные дистилляты устроены так, что сначала вываливают в теги think всю внутреннюю кухню, перебирают варианты, спорят сами с собой, пересчитывают уже посчитанное и только потом выдают финальный абзац, ради которого ты всё это затевал, а Ollama по умолчанию печатает этот поток прямо в консоль, потому что прятать его под спойлер это работа интерфейса, а не движка. Что с этим делать: либо смириться и поставить оболочку поприличнее, где размышления сворачиваются в отдельный блок и не мешают читать, либо взять не reasoner, а обычную чат-версию, которая отвечает сразу и без внутреннего монолога, либо прописать системный промпт в духе отвечай сразу и коротко, без пошаговых рассуждений, что срежет простыню процентов на восемьдесят, но не всегда полностью, потому что для дистиллятов такое поведение зашито в дообучении, а не в настройках; ну а тупизна, на которую ты жалуешься отдельно, почти наверняка про размер модели, а не про её настройку, потому что семь или восемь миллиардов параметров это старательный троечник, который многого просто не знает, и если видеокарта позволяет, ставь версию покрупнее и следи, чтобы она целиком влезала в видеопамять, иначе половина слоёв уедет в оперативку и ты получишь ту же троечность, только медленную.
Пока нет премиум-вопросов в подборке
Не нашли то, что искали?
Задайте свой вопрос
Лучший ответ
Архитектор сети
Архитектор сети
Как настроить deepseek?
открой openwebui поверх олламы, там размышления в спойлере. в консоли конечно ужас