Как нейросети обучаются на данных?

да они просто ответы из интернета копируют и перемешивают немного, какое там обучение. потому и врут когда в интернете этого не написано

3blue1brown на ютубе посмотри, там с картинками и на пальцах. субтитры русские есть

Путь от кучи текстов до работающего чата выглядит так:

1. Сбор корпуса. Веб-страницы, книги, код, форумы, лицензированные базы. Объём измеряют не в гигабайтах, а в триллионах слов.
2. Чистка. Выбрасывают мусор, дубли, спам, часть токсичного контента. От качества этого шага результат зависит сильнее, чем от размера модели.
3. Разбивка на токены. Текст режется на кусочки примерно в половину слова, каждому кусочку присваивается номер, дальше модель работает только с числами.
4. Предобучение. Модели показывают начало фрагмента и просят предсказать следующий токен. Она выдаёт вероятности, сравнивает с настоящим продолжением, получает число ошибки.
5. Обратное распространение. Алгоритм считает, какой коэффициент и в какую сторону подвинуть, чтобы ошибка стала чуть меньше, и двигает все веса на крошечный шаг. Повторяется миллиарды раз.
6. Дообучение на инструкциях. Берут пары «запрос — хороший ответ», написанные людьми, и на них модель учат отвечать, а не просто продолжать текст.
7. Настройка по человеческим оценкам. Люди сравнивают варианты ответов, из их предпочтений строится оценивающая модель, и по ней основную подкручивают ещё раз. Отсюда берётся вежливость и отказы.
8. Проверка на отложенных данных, которых модель не видела, и только потом выкладка в продукт.

В работе, когда вы уже пишете в чат, обучение не идёт: веса заморожены, модель просто считает предсказание.