Qwen нейросеть локально?
на работе сказали что китайская квен лучше всего идёт на слабом желе зе и по русски нормально пишет. у меня ноут без видюхи, проц райзен 5 и 16 памяти. это вообще запустится или смысла нет
Нейросети, ИИ
Знакомства и отношения
Бизнес и финансы
Гороскопы и гадания
на работе сказали что китайская квен лучше всего идёт на слабом желе зе и по русски нормально пишет. у меня ноут без видюхи, проц райзен 5 и 16 памяти. это вообще запустится или смысла нет
Запустить получится, ограничение будет не в возможности, а в скорости.
Без видеокарты вычисления ложатся на процессор, и всё упирается в оперативную память. При шестнадцати гигабайтах спокойно живут версии на 1.5, 3 и с натяжкой 7 миллиардов параметров в сжатом виде. Реальная скорость выходит порядка от двух до восьми слов в секунду в зависимости от размера: для коротких вопросов нормально, для генерации длинного текста придётся ждать.
По русскому языку модель действительно одна из сильных в своём весе, слухи на работе не преувеличены. Младшие версии всё же заметно проще старших: они путаются в длинных рассуждениях и теряют нить на большом объёме.
Проще всего поставить через Ollama или через оболочку с готовым интерфейсом, тогда скачивание и запуск сводятся к одной команде. Начинать разумно с версии на три миллиарда: если её скорость устроит, можно пробовать следующую ступень.
Пока нет премиум-вопросов в подборке
Не нашли то, что искали?
Задайте свой вопрос
Лучший ответ
4.20
4.20
Qwen нейросеть локально?
Пойдёт, но не радостно.
Шестнадцати гигабайт хватит на младшие версии, считать будет процессор, а он в этой работе медленный. Русский у Qwen действительно приличный, это не байка.