OpenAI викрила таємну схему: ChatGPT перетворили на інструмент дезінформації

Компанія OpenAI припинила діяльність групи акаунтів у ChatGPT, які були задіяні у масштабній операції з поширення дезінформації. Зловмисники використовували сервіси компанії для просування «Міжнародного інституту Берка» (IBI) — псевдоекспертної спільноти, яка нібито базується в Ізраїлі.

Суть дезінформаційної операції

Згідно з результатами внутрішнього розслідування OpenAI, зловмисники намагалися надати діяльності вигаданого «інституту» легітимності. Для цього використовувався сайт, на якому публікувалися академічні роботи, що стосувалися теми «суверенітету» у вигідному для Росії ключі. Примітно, що матеріали часто просто копіювалися з реальних наукових робіт, іноді з додаванням підроблених посилань.

Механізми використання ChatGPT

Оскільки офіційний доступ до нейромереж OpenAI з Росії закритий, оператори використовували VPN для обходу обмежень. У ході роботи вони змушували нейромережу створювати коментарі для соціальних мереж, таких як Telegram, X (колишній Twitter), Facebook, LinkedIn та майданчики Substack. Одним із ключових завдань для ChatGPT було приховування лінгвістичних особливостей, що вказують на російське походження авторів.

Деталі розслідування

За даними розробника ШІ, кампанія вирізнялася високим ступенем підготовки, що виділяє її на тлі попередніх атак. Основні інструменти маніпуляції включали:

• Створення тематичних публікацій у соцмережах від імені «інституту» IBI.
• Відповіді на коментарі реальних користувачів Substack із закликами підписатися на канал IBI.
• Маскування під звичайних користувачів для легітимізації контенту, що просувався.

Попри складну структуру, OpenAI оцінила охоплення аудиторії як відносно невелике. Варто зазначити, що сам сайт IBI був зареєстрований у лютому 2025 року. Після аналізу всього ланцюжка дій групу пов’язаних із Росією облікових записів було оперативно заблоковано, щоб запобігти подальшому маніпулюванню громадською думкою за допомогою ШІ-інструментів.

Історія з IBI показує, наскільки тонкою стає межа між реальним громадським діалогом та його штучною імітацією. За допомогою ШІ можна не лише швидко створювати тексти, а й вибудовувати навколо них видимість експертності, автентичності та масової підтримки. Хоча в цьому випадку кампанія не отримала широкого охоплення, сам підхід демонструє нову реальність інформаційної війни, в якій алгоритми стають не просто інструментом створення контенту, а повноцінним учасником його поширення та маскування.