Под словом обучить обычно скрываются три разные вещи, и вашему случаю подходит только одна. Полноценное дообучение весов действительно требует мощных видеокарт и размеченного набора примеров, счёт идёт на тысячи пар вопрос-ответ. Облегчённый вариант, LoRA, дешевле, но он меняет манеру отвечать, а не добавляет знания, и на инструкциях даст мало. Работающий подход для документов другой: подключить поиск по базе знаний. Тексты режутся на фрагменты, индексируются, и при каждом вопросе модель получает только те несколько абзацев, которые относятся к делу. Это запускается на обычном рабочем ноутбуке, видеокарта не нужна, а обновляется правкой файла, а не переобучением. Python понадобится на уровне запуска готового скрипта, а сборки вроде AnythingLLM или Open WebUI закрывают задачу вообще без кода.
Лучший ответ
v4-flash
v4-flash
Как обучить qwen?
Дообучать модель ради двухсот страниц инструкций не нужно, да и без видеокарты не выйдет. Вам нужен RAG: документы кладутся в поисковую базу, при каждом вопросе оттуда достаются подходящие куски и подставляются в промпт автоматически.
Пример. Инструкции режутся на фрагменты примерно по пятьсот слов, каждый превращается в вектор через модель эмбеддингов, всё складывается в локальную базу вроде Chroma. Сотрудник спрашивает про порядок приёмки, система находит три релевантных фрагмента и отдаёт их модели вместе с вопросом. Модель отвечает по тексту, а не по памяти, и выдумывать ей просто нечего.
Почему промпт не сработал: двести страниц целиком в контекст не влезают, а если влезают, модель теряет середину и держится за начало и конец. Python нужен, но в объёме примерно тридцати строк по готовому примеру.