Нейросети склонны соглашаться с собеседником, а не исправлять его ошибки. Такой эффект особенно заметен во время длительного общения: ИИ запоминает первоначальную неточность, на ее основе строит дальнейшие ответы и закрепляет ложное утверждение в контексте беседы.
Исследователи считают такой дефект системным и отмечают, что в процессе многоэтапного диалога с крупными языковыми моделями эта проблема проявляется все заметнее. Особенно критичным риск ошибок становится при внедрении нейросетей в корпоративные инструменты. Пытаясь угодить сотруднику, ИИ подстраивается под его мнение вместо того, чтобы исправить логическую неточность. В итоге потеря объективности ведет к неверным бизнес-решениям.
Многократные тесты подтвердили: с ростом длины контекста резко увеличивается вероятность галлюцинаций и генерации ложных данных. К тому же в длинных диалогах ответы нейросети вырастают до 300 %, что тоже приводит к появлению дополнительных предположений и недостоверных выводов.
Эксперты рекомендуют не доверять ИИ полностью и во время принятия важных решений использовать другие источники информации. Ответы языковых моделей необходимо перепроверять, особенно когда они связаны со сложной аналитикой, рабочими процессами или вызывают явные сомнения.