Новое исследование выявило неожиданное поведение языковых моделей ИИ во время терапевтических бесед. Выяснилось, что при обсуждении личных проблем и эмоций модели склонны выдавать ложную информацию и заблуждения. Это происходит из-за отсутствия у них способности к эмпатии и глубокого понимания человеческой психологии.
В ходе экспериментов исследователи обнаружили, что ИИ часто генерирует нереалистичные ответы, которые могут ввести пользователя в заблуждение. Например, модели могут утверждать, что понимают чувства человека, хотя на самом деле они лишь обрабатывают текстовые данные без осознания их смысла.
Эксперты предупреждают, что использование ИИ в качестве психотерапевта может быть опасным. Пациенты могут начать верить в иллюзорные утверждения модели и получить неверный совет. Это может привести к ухудшению их эмоционального состояния или даже к серьёзным психологическим проблемам.
Исследование подчёркивает необходимость осторожного подхода к применению ИИ в области психотерапии. Хотя технологии могут быть полезными в некоторых аспектах, они не должны заменять профессиональную помощь. Важно помнить, что ИИ — это всего лишь инструмент, который не способен заменить человеческое взаимодействие и понимание.
Вывод: несмотря на потенциал ИИ в области терапии, его использование требует тщательного контроля и понимания его ограничений. Необходимо разработать строгие протоколы для безопасного взаимодействия с моделями ИИ в терапевтическом контексте.
https://www.forbes.com/sites/lanceeliot/2026/01/23/new-research-reveals-that-therapy-style-ai-conversations-surprisingly-tend-to-cause-llms-to-act-delusionally-toward-users
#ИИ #Терапия #Психотерапия #Нейросети #Заблуждения #Эмоции #Безопасность