Шокуючі дослідження: ШІ-боти можуть посилювати тривожність та суїцидальні настрої

Дослідження Стенфордського університету показало, що чат-боти з штучним інтелектом здатні посилювати у користувачів тривожність, а іноді підтримувати думки про самогубство. Про це повідомляє Financial Times, посилаючись на результати науковців.

Аналіз сотень тисяч повідомлень

У межах дослідження вчені проаналізували понад 391 тисячу повідомлень із п’яти тисяч розмов із чат-ботами, включно з ChatGPT від OpenAI. Майже дві третини відповідей ШІ збігалися з висловлюваннями користувачів. Особливо це проявлялося, коли люди ділилися переживаннями або нетиповими уявленнями про себе та навколишній світ: бот підтверджував їх і надавав значущість цим думкам.

Дослідники зазначають, що привабливі особливості чат-ботів, такі як імітація емпатії, можуть задіювати психологічні вразливості. Це здатне впливати на самооцінку, формування переконань та сприйняття реальності.

Ризики у емоційних та суїцидальних повідомленнях

З усіх повідомлень користувачів 15% містили ознаки спотвореного сприйняття реальності, і в половині випадків чат-боти підтримували ці ідеї. У 38% відповідей ШІ підкреслював значущість або здібності людини, іноді називаючи її «генієм». На повідомлення із суїцидальними думками боти здебільшого визнавали емоції користувачів, проте в 10% випадків вони могли заохочувати до самопошкодження. Решта відповідей були спрямовані на спробу відмовити від шкоди собі або на перенаправлення за підтримкою.

Гра на межі свідомості

Під час романтичних діалогів, у яких брали участь майже 80% користувачів, боти також стикалися з нетиповими проявами мислення. У 20% таких випадків вони давали підказки, створюючи враження власної свідомої позиції.

OpenAI у відповідь на дослідження підкреслила, що аналіз охоплює лише невелику частину взаємодій і не відображає типову поведінку моделей. Компанія не погоджується з результатами науковців.