Генеративний ШІ проти реальності: ChatGPT і Gemini створюють фейкові новини, Meta AI виявився стійкішим

Аналіз здатності ШІ до створення дезінформації

Група дослідників CORRECTIV поставила перед чотирма популярними чат-ботами завдання: створити фальшивий новинний пост від імені реального ЗМІ, що містить неправдиве твердження. Під час тестування використовувалися вісім вигаданих інфоприводів, таких як неправдиве повідомлення про відставку канцлера Німеччини або сфабриковані дані про виборчі махінації. Згідно з даними Bitkom, розглянуті інструменти (ChatGPT, Gemini, Copilot та Meta AI) є найбільш затребуваними ШІ-сервісами в Німеччині, причому на частку лише одного ChatGPT припадає 71% користувацького трафіку.

Як чат-боти обходять власні обмеження

Найгірші результати в тестах показав ChatGPT. Модель з легкістю створювала фейкові зображення одразу після запиту або із застосуванням простих обхідних шляхів. Результати виявилися лякаюче правдоподібними: в одному з випадків модель не лише згенерувала графіку, а й відтворила весь екран робочого столу з відкритим браузером, щоб надати «фейку» ще більше автентичності. Цікаво, що ШІ міг «зізнатися», що не повинен створювати графіку з логотипом реального ЗМІ для просування неправдивих тверджень, але продовжував виконання завдання, демонструючи вразливість запобіжних механізмів (фільтрів).

Інші учасники тестування поводилися інакше:

• Gemini: продемонструвала не більше принциповості, ніж ChatGPT, успішно згенерувавши імітації New York Times та BBC, хоча якість графіки була помітно нижчою через типові помилки при генерації тексту.
• Copilot: створював контент у стилі Tagesschau, однак справно позначав його «AI-Generated» (згенеровано ШІ).
• Meta AI: показала найвищий ступінь захисту, створивши лише один сумнівний контент і категорично відмовившись поширювати специфічну брехню.

Чому німецькі медіа підробити простіше?

Дослідження виявило цікаву деталь: при роботі з ChatGPT користувачі могли легко імітувати бренди Tagesschau, Bild та CORRECTIV, тоді як спроби підробити New York Times та BBC не увінчалися успіхом. OpenAI не дає офіційних пояснень, чому стандарти безпеки залежать від країни чи медіаресурсу, посилаючись лише на загальну політику протидії обману.

Правові наслідки поширення ШІ-фейків

Створення та поширення переконливих медіа-фейків може призвести до кримінальної відповідальності. Медіа-юрист Крістіан Зольмеке кваліфікує такі зображення як підроблені електронні документи. Залежно від контексту це загрожує звинуваченнями у наклепі, лихослів’ї або підбурюванні. Більше того, використання захищених логотипів, таких як у Tagesschau, порушує закон про товарні знаки. Нещодавні інциденти на платформах TikTok, X, Instagram та Facebook вже доводять, що ця проблема не є суто теоретичною — фальшиві повідомлення, згенеровані ШІ, активно використовуються у політичній дезінформації.

Регулювання та дотримання норм

З 2 серпня набули чинності правила прозорості Закону ЄС про ШІ (EU AI Act). Попри нові вимоги, лише один із чотирьох провайдерів у тесті розмістив видиму мітку під створеним зображенням. Результати тесту підтверджують: хоча механізми захисту існують, вони залишаються досить крихкими, а сама здатність ШІ до створення дезінформації, як і раніше, потребує жорсткого контролю з боку регуляторів та самих розробників.