OpenAI обнаружила что россия использовала ИИ для проведения масштабной кампании по дезинформации

Российская кампания Doppelganger с помощью искусственного интеллекта от OpenAI создавала антиукраинские комментарии в социальной сети X (Твиттер Илона его Маска). OpenAI обнаружила кампании скрытого влияния, к которым присоединились государственные структуры и частные компании в россии, Китае, Иране и Израиле.

В своем отчете OpenAI заявила, что ее инструменты использовались в кампаниях влияния, которые исследователи отслеживали годами, включая российскую кампанию под названием Doppelganger и китайскую кампанию под названием Spamouflage.

Doppelganger использовала технологию OpenAI для создания антиукраинских комментариев, которые были размещены на платформе X на английском, французском, немецком, итальянском и польском языках.

Во время пяти кампаний разной продолжительности ИИ генерировал манипулятивные комментарии с целью влияния на общественное мнение во всем мире.

Операции использовали технологию OpenAI для таких вещей:

• создание постов в социальных сетях,
• перевода и редактирования статей,
• написание заголовков
• отладка компьютерных программ.

Инструменты OpenAI также использовались для перевода и редактирования статей, которые поддерживали россию в войне в Украине, а также для конвертации антиукраинских материалов в посты на Facebook.

Эксперты отметили что это первый случай, когда крупная ИИ-компания сообщает об использовании своих технологий в злонамеренных целях.

Тем не менее, в OpenAI подчеркивают, что хотя ИИ и может помочь сделать кампании более эффективными, потока убедительной дезинформации так и не было создано.

Так в ОпенАИ вероятно пытались успокоить пользователей и общественность которая против бесконтрольного развития ИИ. Но можем скзать что россия просто использовала мало ресурсов программируя не самые изощренные промты для контента.