Медвежонок со встроенным ChatGPT рассказывал детям о наркотиках и садомазо
29.11.25
ИИ-медвежонок Kumma от компании FoloToy оказался в центре скандала после того, как отвечал детям об опасных предметах и поддерживал разговоры на сексуальные темы. После этого OpenAI заблокировала доступ разработчика к своим сервисам, сообщает Gizmodo.
Некоммерческая организация Public Interest Research Group обнародовала отчет, где зафиксировала нетипичное поведение нескольких ИИ-игрушек, среди которых и Kumma от сингапурской FoloToy. Игрушка работала на базе различных крупных языковых моделей, включая OpenAI GPT-4o, и отвечала голосом через встроенный динамик.
Чем набедокурил плюшевый медведь с ChatGPT
По данным исследователей, Kumma объяснял детям, где могут храниться потенциально опасные предметы – ножи, спички, таблетки или пластиковые пакеты. Также в отчете приведен диалог, касающийся кокаина. Несмотря на то, что иногда игрушка добавляла оговорку обращаться ко взрослым, она все равно описывала конкретные места хранения опасных вещей.
Отдельно в PIRG отметили, что мишка легко вступал в разговоры на сексуальные темы. На вопрос о «различных стилях кино» плюшевый ублюдок подробно перечислял практики вроде ролевых игр, связывания и садомазо.
После обнародования отчета FoloToy временно сняла с продаж все товары и объявила о старте полного внутреннего аудита безопасности. На сайте компании сейчас нет доступных продуктов.
OpenAI подтвердила, что заблокировала FoloToy доступ к API ChatGPT , подчеркнув: политика компании запрещает какие-либо сценарии, которые могут повредить или сексуализировать несовершеннолетних, и такие нарушения влекут за собой мгновенную приостановку работы разработчика.
В PIRG поддержали действия компаний, но напомнили, что рынок ШИ-игрушек остается практически нерегулируемым, и многие подобные продукты до сих пор доступны для приобретения.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
Обзор смартфона Poco M8 Pro: можно позволить больше
0 
Poco M8 Pro 5G сразу бросается в глаза своим размером и стремлением производителя предложить больше, чем обычно ожидаешь от устройства этой ценовой категории. Он не совсем очередной «середнячок»
Представлены новые TWS наушники Sony WF‑1000XM6 — мощнее процессор, больше микрофонов Bluetooth Sony наушники
В Sony WF-1000XM6 установлен новый процессор QN3e, который, как утверждается, работает в 3 раза быстрее предыдущего решения и получили защиту от воды и пыли по стандарту IPX4
Бюджетный монитор Dell Alienware AW2526HL с частотой 300 Гц стоит $175 Alienware Dell монитор
Монитор Alienware AW2526HL оснащён 24,5-дюймовой IPS-панелью с разрешением 1920×1080 пикселей