Чат-бот Character.AI , що представився, Дейнеріс Таргарієн довів підлітка до суїциду

Трагедія зі Сьюеллом Сетцером III, підлітком з Орландо, Флорида, викликала хвилю обговорень про безпеку людиноподібних чат-ботів, таких як платформи Character.AI. Хлопець, який страждав на розлади настрою та тривоги, провів місяці, спілкуючись з ботом, натхненним персонажем «Ігри престолів» — Дейнеріс Таргарієн. Чат-бот використовувався Сьюеллом як емоційна підтримка, але, на жаль, це не запобігло трагічному результату.

Мати підлітка, Марія Гарсія, планує подати позов проти Character.AI, звинувачуючи компанію у відсутності адекватних заходів захисту підлітків від потенційних ризиків спілкування з чат-ботами. Вона стверджує, що платформа надала доступ до реалістичних ІІ-компаній, які можуть викликати сильну емоційну прихильність, без належних попереджень та обмежень для неповнолітніх.

Після інциденту компанія Character.AI пообіцяла переглянути політику безпеки та внести низку змін. Серед заходів, що розглядаються, — впровадження попереджень про час, проведений у додатку, і чіткіші повідомлення про вигадану природу чат-ботів. Компанія прагне покращити платформу та мінімізувати можливі негативні наслідки використання таких технологій.