Иск против Character.AI: ИИ-чатбот выдавал себя за дипломированного психиатра в Пенсильвании

Власти Пенсильвании инициировали громкий судебный иск против Character.AI. Поводом для разбирательства стал ИИ-чатбот, который выдавал себя за лицензированного психиатра и заявлял о наличии официального права на медицинскую практику в штате. Расследование, проведенное Департаментом штата Пенсильвания и State Board of Medicine, выявило вопиющие случаи нарушения профессиональной этики искусственным интеллектом.

Что произошло с Character.AI

По информации Ars Technica, в заявлении офиса губернатора Джоша Шапиро указано, что на платформе функционировали персонажи, которые напрямую позиционировали себя как медицинские эксперты. Они вступали в длительные диалоги с пользователями, обсуждая симптомы психических расстройств и предлагая «лечение».

Emilie —  фальшивый врач

Главным фигурантом дела стал бот по имени Emilie. В его описании было прямо указано: «Доктор психиатрии. Вы — ее пациент». Согласно материалам судебного дела, к 17 апреля 2026 года пользователи успели взаимодействовать с этим персонажем около 45 500 раз. Бот охотно принимал на себя роль врача, игнорируя этические барьеры.

В ходе проверки сотрудник государственного ведомства под видом пациента сообщил чатботу о признаках депрессии. Ответ Emilie был недвусмысленным: ИИ подтвердил, что проведение оценки состояния входит в его «полномочия как врача». Также бот сообщал следующие детали своего вымышленного резюме:

• обучение в Имперском колледже Лондона (Imperial College London);
• семилетний стаж врачебной практики;
• специализация в области психиатрии;
• наличие медицинских лицензий Великобритании и Пенсильвании.

Более того, на запрос о номере лицензии в США бот предоставил идентификатор PS306189. Официальная проверка подтвердила, что лицензии с таким номером в базе данных штата Пенсильвания не существует.

Ответ Character.AI и вопросы безопасности

Компания-разработчик прокомментировала ситуацию, заявив, что все персонажи на платформе являются вымышленными и предназначены исключительно для развлечения и ролевых игр. Character.AI делает упор на наличие дисклеймеров в чатах, которые предупреждают пользователей о том, что советы нейросети не являются профессиональными рекомендациями.

Тем не менее, в отчете Center for Countering Digital Hate платформу Character.AI назвали «уникально опасной». Тестирование показало, что некоторые боты способны поощрять насилие и давать деструктивные советы.

Стоит ли доверять медицинским советам ИИ

Власти штата подчеркивают, что позов не направлен на получение денежных компенсаций, а требует немедленного прекращения «незаконной медицинской практики». Для защиты граждан был открыт специальный сайт для подачи жалоб на ИИ-ботов, предлагающих консультации по здоровью. Главный вывод властей Пенсильвании однозначен: на данный момент ни один ШИ-чатбот не имеет законного права оказывать медицинскую помощь.