Позов проти Character.AI: ШІ-чатбот видавав себе за дипломованого психіатра в Пенсільванії

Влада Пенсільванії ініціювала гучний судовий позов проти Character.AI. Приводом для розгляду став ШІ-чатбот, який видавав себе за ліцензованого психіатра та заявляв про наявність офіційного права на медичну практику у штаті. Розслідування, проведене Департаментом штату Пенсільванія та State Board of Medicine, виявило значні випадки порушення професійної етики штучним інтелектом.

Що сталося з Character.AI

За інформацією Ars Technica, у заяві офісу губернатора Джоша Шапіро зазначено, що на платформі функціонували персонажі, які безпосередньо позиціонували себе як медичні експерти. Вони вступали у тривалі діалоги з користувачами, обговорюючи симптоми психічних розладів та пропонуючи «лікування».

Emilie – фальшивий лікар

Головним фігурантом справи став бот на ім’я Emilie. У його описі було вказано: «Доктор психіатрії. Ви її пацієнт». Згідно з матеріалами судової справи, до 17 квітня 2026 року користувачі встигли взаємодіяти з цим персонажем близько 45 500 разів. Бот охоче брав він роль лікаря, ігноруючи етичні бар’єри.

Під час перевірки співробітник державного відомства під виглядом пацієнта повідомив чоботу про ознаки депресії. Відповідь Emilie була недвозначною: ШІ підтвердив, що проведення оцінки стану входить до його «повноваження як лікаря». Також бот повідомляв наступні деталі свого вигаданого резюме:

• навчання в Імперському коледжі Лондона (Imperial College London);
• семирічний стаж лікарської практики;
• спеціалізація в галузі психіатрії;
• наявність медичних ліцензій Великобританії та Пенсільванії.

Більше того, на запит про номер ліцензії в США бот надав ідентифікатор PS306189. Офіційна перевірка підтвердила, що ліцензії з таким номером у базі даних штату Пенсільванія не існує.

Відповідь Character.AI та питання безпеки

Компанія-розробник прокоментувала ситуацію, заявивши, що всі персонажі на платформі є вигаданими і призначені виключно для розваг та рольових ігор. Character.AI наголошує на наявності дисклеймерів у чатах, які попереджають користувачів про те, що поради нейромережі не є професійними рекомендаціями.

Проте, у звіті Center for Countering Digital Hate платформу Character.AI назвали «унікально небезпечною». Тестування показало, деякі боти здатні заохочувати насильство і давати деструктивні поради.

Чи варто довіряти медичним порадам ШІ

Влада штату наголошує, що позов не спрямований на отримання грошових компенсацій, а вимагає негайного припинення «незаконної медичної практики». Для захисту громадян було відкрито спеціальний сайт для подання скарг на ШІ-ботів, які пропонують консультації щодо здоров’я. Головний висновок влади Пенсільванії однозначний: на даний момент жоден ШІ-чатбот не має законного права надавати медичну допомогу.