Как настроить qwen?

в системный промпт напиши отвечай на русском, все

Что настраивают в первую очередь:

• системный промпт, там же задается язык ответа, одной фразы про русский хватает
• размер модели под вашу видеокарту, для шести гигабайт памяти ориентируйтесь на модели до 8 миллиардов параметров в квантованном виде
• длину контекста, по умолчанию она часто выкручена в максимум и съедает память впустую, для обычных задач хватает нескольких тысяч токенов
• число слоев, выгружаемых на видеокарту, если запускатор это позволяет, именно этот параметр отвечает за разницу между сорока секундами и тремя
• температуру, для фактических вопросов ниже, для текстов выше

Про железо: 16 гигабайт оперативной памяти при переполненной видеопамяти дадут ровно ту картину, что вы наблюдаете. Сначала подберите модель по размеру, а языком и стилем занимайтесь потом.

1. Языком управляет не галочка, а системный промпт: пропишите там требование отвечать по-русски.
2. Тормоза лечатся моделью поменьше, в шесть гигабайт видеопамяти влезает квантованная версия, а не полная.