Чем опасны джейлбрейки нейросети?

забанят, у знакомого улетел аккаунт с оплаченной подпиской

Аккаунту Ограничение или бан, без разбирательств.

Голове Модель в роли играет, а не знает. Врёт красиво.

Ребёнку Снятые фильтры это не свобода, а помойка без разбора.

в 14 лет я радиодетали жёг, а тут промпты. пусть лучше промпты честно говоря. главное объясните что оно там врёт как дышит, а то будет по нему рефераты писать

Для разговора с ребёнком важнее всего вторая строка: интерес к тому, как ломается система, нормален, а вот доверять ответам из такого режима нельзя даже в мелочах, потому что модель там занята правдоподобием, а не правдой.

• Блокировка аккаунта. Систематические попытки обойти ограничения ловятся автоматикой: сначала прилетает предупреждение, потом ограничение, потом бан. Восстановить аккаунт с историей и покупками сложно.
• Качество ответов падает. В режиме ролевой игры модель перестаёт отделять факты от выдумки: она играет роль, и правдоподобность для неё важнее правды. Совет, полученный от вымышленной бабушки, опасен именно тем, что звучит уверенно.
• Контент, который увидит подросток. Снятые ограничения это в том числе описания насилия, обращение с опасными веществами и материалы, для четырнадцатилетнего явно лишние.
• Логи никуда не деваются. Запрос сохраняется на стороне сервиса вместе с аккаунтом и почтой, и то, что фраза была шуточной, из логов не следует.
• Утечка своих данных. Многие такие промпты приходят с форумов вместе с советом поставить сторонний клиент или прокси, куда уходит вся переписка.

Важно: технический интерес тут нормален, и разговор полезнее вести не про запрет, а про то, что модель в таком режиме врёт увереннее обычного.