Можно ли доверять нейросети?

Проверять, а не верить. Порядок такой.

1. Спросите одно и то же дважды, разными словами. Если ответы разошлись, значит модель не знает и импровизирует.
2. Требуйте источник. Не абстрактное согласно исследованиям, а название и год. Дальше вбивайте это название в поиск: часть ссылок окажется несуществующей.
3. Смотрите на тип вопроса. Пересказать, переписать, структурировать она умеет. Назвать точную цифру, дату, статью закона или дозировку не умеет вообще.
4. Всё, что касается здоровья, отправляйте врачу. Модель не видела вашу маму, не знает её анализов и не отвечает за совет пропустить приём.
5. Объясните пожилому родственнику простое правило: экран не авторитет. То, что текст написан складно и уверенно, к правде отношения не имеет.

Отдельно про совет не ходить на приём: это ровно тот случай, когда чат должен был отказаться отвечать, а человек должен был пойти к врачу.