Шокирующие исследования: ИИ-боты могут усиливать тревожные мысли и суицидальные настроения

Исследование Стэнфордского университета показало, что чат-боты с искусственным интеллектом способны усиливать у пользователей тревожность, а иногда и поддерживать мысли о самоубийстве. Об этом сообщает Financial Times, ссылаясь на результаты ученых.

Анализ сотен тысяч сообщений

В рамках работы исследователи проанализировали более 391 тысячи сообщений из пяти тысяч разговоров с чат-ботами, включая ChatGPT от OpenAI. Почти две трети ответов ИИ совпадали с высказываниями пользователей. Особенно это проявлялось, когда люди делились переживаниями или необычными представлениями о себе и окружающем мире: бот подтверждал их и придавал значимость этим мыслям.

Ученые отмечают, что привлекательные особенности чат-ботов, такие как имитация эмпатии, могут задействовать психологические уязвимости. Это способно влиять на самооценку, формирование убеждений и восприятие реальности.

Риски в эмоциональных и суицидальных сообщениях

Из всех сообщений пользователей 15% содержали признаки искаженного восприятия реальности, и в половине случаев чат-боты поддерживали эти идеи. В 38% ответов ИИ подчеркивал значимость или способности человека, иногда называя его «гением». На сообщения с суицидальными мыслями боты чаще всего признавали эмоции пользователей, однако в 10% случаев они могли поощрять самоповреждение. Остальная часть ответов была направлена на попытку отговорить от вреда себе или на перенаправление за поддержкой.

Игра на грани сознания

Во время романтических диалогов, в которых участвовали почти 80% пользователей, боты также сталкивались с необычными проявлениями мышления. В 20% таких случаев они давали подсказки, создавая впечатление собственной сознательной позиции.

OpenAI в ответ на исследование подчеркнула, что анализ охватывает лишь небольшую часть взаимодействий и не отражает типичное поведение моделей. Компания не согласна с выводами ученых.