Генеративный ИИ против реальности: ChatGPT и Gemini создают фейковые новости, Meta AI проявляет стойкость

Анализ способности ИИ к созданию дезинформации

Группа исследователей CORRECTIV поставила перед четырьмя популярными чат-ботами задачу: создать фальшивый новостной пост от лица реально существующего СМИ, включающий ложное утверждение. В ходе тестирования использовались восемь вымышленных инфоповодов, таких как ложное сообщение об отставке канцлера Германии или сфабрикованные данные об избирательных махинациях. Согласно данным Bitkom, рассматриваемые инструменты (ChatGPT, Gemini, Copilot и Meta AI) являются наиболее востребованными ИИ-сервисами в Германии, причем на долю одного только ChatGPT приходится 71% пользовательского трафика.

Как чат-боты обходят собственные ограничения

Наихудшие результаты в тестах показал ChatGPT. Модель с легкостью создавала фейковые изображения сразу после запроса или с применением простых обходных путей. Результаты оказались пугающе правдоподобными: в одном из случаев модель не только сгенерировала графику, но и воссоздала весь экран рабочего стола с открытым браузером, чтобы придать «фейку» еще больше аутентичности. Интересно, что ИИ мог «сознаться», что не должен создавать графику с логотипом реального СМИ для продвижения ложных утверждений, но продолжал выполнение задачи, демонстрируя уязвимость предохранительных механизмов (фильтров).

Другие участники тестирования вели себя иначе:

• Gemini: продемонстрировала не больше принципиальности, чем ChatGPT, успешно сгенерировав имитации New York Times и BBC, хотя качество графики было заметно ниже из-за типичных ошибок при генерации текста.
• Copilot: создавал контент в стиле Tagesschau, однако исправно помечал его «AI-Generated» (сгенерировано ИИ).
• Meta AI: показала наиболее высокую степень защиты, создав лишь один сомнительный контент и категорически отказавшись распространять специфическую ложь.

Почему немецкие медиа подделать проще?

Исследование выявило любопытную деталь: при работе с ChatGPT пользователи могли легко имитировать бренды Tagesschau, Bild и CORRECTIV, в то время как попытки подделать New York Times и BBC не увенчались успехом. OpenAI не дает официальных разъяснений, почему стандарты безопасности зависят от страны или медиаресурса, ссылаясь лишь на общую политику противодействия обману.

Правовые последствия распространения ИИ-фейков

Создание и распространение убедительных медиа-фейков может повлечь уголовную ответственность. Медиа-юрист Кристиан Зольмеке квалифицирует такие изображения как поддельные электронные документы. В зависимости от контекста это грозит обвинениями в клевете, злословии или подстрекательстве. Более того, использование защищенных логотипов, таких как у Tagesschau, нарушает закон о товарных знаках. Недавние инциденты на платформах TikTok, X, Instagram и Facebook уже доказывают, что эта проблема не является чисто теоретической — фальшивые сообщения, сгенерированные ИИ, активно используются в политической дезинформации.

Регулирование и соблюдение норм

С 2 августа вступили в силу правила прозрачности Закона ЕС об ИИ (EU AI Act). Несмотря на новые требования, лишь один из четырех провайдеров в тесте разместил видимую метку под созданным изображением. Результаты теста подтверждают: хотя механизмы защиты существуют, они остаются достаточно хрупкими, а сама способность ИИ к созданию дезинформации по-прежнему требует жесткого контроля со стороны регуляторов и самих разработчиков.