OpenAI раскрыла тайную схему: ChatGPT превратили в инструмент дезинформации

Компания OpenAI пресекла деятельность группы аккаунтов в ChatGPT, которые были задействованы в масштабной операции по распространению дезинформации. Злоумышленники использовали сервисы компании для продвижения «Международного института Берка» (IBI) — псевдоэкспертного сообщества, которое якобы базируется в Израиле.

Суть дезинформационной операции

Согласно результатам внутреннего расследования OpenAI, злоумышленники пытались придать деятельности вымышленного «института» легитимность. Для этого использовался сайт, на котором публиковались академические работы, касающиеся темы «суверенитета» в выгодном для России ключе. Примечательно, что материалы зачастую просто копировались из реальных научных работ, иногда с добавлением поддельных ссылок.

Механизмы использования ChatGPT

Поскольку официальный доступ к нейросетям OpenAI из России закрыт, операторы использовали VPN для обхода ограничений. В ходе работы они заставляли нейросеть создавать комментарии для социальных сетей, таких как Telegram, X (бывший Twitter), Facebook, LinkedIn и площадки Substack. Одной из ключевых задач для ChatGPT было сокрытие лингвистических особенностей, указывающих на российское происхождение авторов.

Детали расследования

По данным разработчика ИИ, кампания отличалась высокой степенью подготовки, что выделяет её на фоне предыдущих атак. Основные инструменты манипуляции включали:

• Создание тематических публикаций в соцсетях от лица «института» IBI.
• Ответы на комментарии реальных пользователей Substack с призывами подписаться на канал IBI.
• Маскировку под обычных пользователей для легитимизации продвигаемого контента.

Несмотря на сложную структуру, OpenAI оценила охват аудитории как относительно небольшой. Стоит отметить, что сам сайт IBI был зарегистрирован в феврале 2025 года. После анализа всей цепочки действий группа связанных с Россией учетных записей была оперативно заблокирована, чтобы предотвратить дальнейшее манипулирование общественным мнением с помощью ИИ-инструментов.

История с IBI показывает, насколько тонкой становится грань между реальным общественным диалогом и его искусственной имитацией. С помощью ИИ можно не только быстро создавать тексты, но и выстраивать вокруг них видимость экспертности, подлинности и массовой поддержки. Хотя в данном случае кампания не получила широкого охвата, сам подход демонстрирует новую реальность информационной войны, в которой алгоритмы становятся не просто инструментом создания контента, а полноценным участником его распространения и маскировки.