Чем нейросеть отличается от программы?

Формально нейросеть работает внутри программы, поэтому спор идёт не о файле, а о том, откуда берётся поведение.

• Происхождение логики. В обычной программе алгоритм придумал и записал человек: если пришло это, делай то. В нейросети алгоритма в таком виде нет, есть набор весов, подобранных автоматически на большом количестве примеров.

• Детерминированность. Калькулятор на один и тот же ввод всегда даёт один ответ. Языковая модель выбирает следующее слово по вероятностям, поэтому дважды заданный вопрос может получить разные формулировки, и это не сбой, а устройство.

• Прозрачность. Код можно открыть и прочитать построчно. Веса читать бессмысленно: это гигабайты чисел, и по ним нельзя показать пальцем, где именно сеть решила ответить так.

• Способ исправления. Ошибку в программе чинят правкой строки и пересборкой. Ошибку модели чинят иначе: меняют запрос, добавляют данные, дообучают. Гарантии, что в соседнем случае не сломается, при этом нет.

• Требования к запуску. Обычная программа считается процессором. Крупная модель просит видеокарту и много памяти, потому что перемножает огромные матрицы на каждое слово.

• Отношение к ошибкам. Программа падает и сообщает об этом. Модель не падает, она уверенно выдаёт правдоподобный неверный ответ, и внешне он не отличается от верного.

Важно: на диске у вас действительно лежит исполняемый файл, но это оболочка, которая загружает файл весов и гоняет через него вычисления. Именно веса и есть та часть, которую никто не писал руками.