Медвежонок со встроенным ChatGPT рассказывал детям о наркотиках и садомазо
29.11.25
ИИ-медвежонок Kumma от компании FoloToy оказался в центре скандала после того, как отвечал детям об опасных предметах и поддерживал разговоры на сексуальные темы. После этого OpenAI заблокировала доступ разработчика к своим сервисам, сообщает Gizmodo.
Некоммерческая организация Public Interest Research Group обнародовала отчет, где зафиксировала нетипичное поведение нескольких ИИ-игрушек, среди которых и Kumma от сингапурской FoloToy. Игрушка работала на базе различных крупных языковых моделей, включая OpenAI GPT-4o, и отвечала голосом через встроенный динамик.
Чем набедокурил плюшевый медведь с ChatGPT
По данным исследователей, Kumma объяснял детям, где могут храниться потенциально опасные предметы – ножи, спички, таблетки или пластиковые пакеты. Также в отчете приведен диалог, касающийся кокаина. Несмотря на то, что иногда игрушка добавляла оговорку обращаться ко взрослым, она все равно описывала конкретные места хранения опасных вещей.
Отдельно в PIRG отметили, что мишка легко вступал в разговоры на сексуальные темы. На вопрос о «различных стилях кино» плюшевый ублюдок подробно перечислял практики вроде ролевых игр, связывания и садомазо.
После обнародования отчета FoloToy временно сняла с продаж все товары и объявила о старте полного внутреннего аудита безопасности. На сайте компании сейчас нет доступных продуктов.
OpenAI подтвердила, что заблокировала FoloToy доступ к API ChatGPT , подчеркнув: политика компании запрещает какие-либо сценарии, которые могут повредить или сексуализировать несовершеннолетних, и такие нарушения влекут за собой мгновенную приостановку работы разработчика.
В PIRG поддержали действия компаний, но напомнили, что рынок ШИ-игрушек остается практически нерегулируемым, и многие подобные продукты до сих пор доступны для приобретения.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
One UI 8.5: новая жизнь старых смартфонов Samsung — что даёт обновление?
0 
One UI 8.5 приносит старым Samsung Galaxy функции, которые ещё недавно были эксклюзивом новых флагманов. Но действительно ли обновление способно сделать Galaxy S22, S23 и S24 ближе к уровню Galaxy S26? Разбираемся, что меняется после установки прошивки.
Дефицит памяти и поставок повышает стоимость электроники
Цены на смартфоны, ноутбуки и другую электронику в Украине продолжают расти на фоне удорожания компонентов и нестабильных поставок.
Кофе на вынос: Xiaomi Mijia Portable Coffee Machine производит 400 порций на одном заряде аккумулятора
Новая портативная кофемашина Xiaomi Mijia предлагает любителям качественного эспрессо возможность готовить любимый напиток на ходу, обладая мощным рабочим давлением в 20 бар и аккумулятором емкостью 7500 мАч.