Компанія Google призупинила розгортання нової функції генерації зображень у сервісі Google Earth лише через кілька десятків годин після її запуску. Причиною стали численні випадки створення фальшивих супутникових знімків, які візуально майже неможливо відрізнити від справжніх матеріалів дистанційного зондування Землі. Після перших повідомлень про проблему компанія заявила, що поверне інструмент лише після суттєвого посилення механізмів безпеки. Про це повідомляє BBC.

Історія викликала широкий резонанс серед фахівців із цифрової безпеки, адже вперше генеративний штучний інтелект настільки тісно інтегрували в картографічну платформу, якою користуються журналісти, дослідники та аналітики по всьому світу.

Хвиля фейкових супутникових знімків

Функція Nano Banana 2 дозволяла користувачам генерувати зображення безпосередньо в Google Earth. Попри вбудовані обмеження, майже одразу після запуску стало зрозуміло, що сервіс здатний відтворювати вигадані події так, ніби це справжні супутникові знімки.

Журналісти BBC Verify вирішили самостійно перевірити можливості системи. Під час тестування їм вдалося створити зображення російської бронетехніки, яка нібито перебуває в Києві, зруйнованої Ейфелевої вежі, а також величезного провалля поблизу комплексу пірамід у Гізі.

Згенеровані зображення відображалися у звичному інтерфейсі Google Earth, що значно посилювало враження їхньої достовірності. Для непідготовленого користувача такі матеріали практично не відрізнялися від реальних супутникових фотографій.

Захисні механізми виявилися недостатньо ефективними

Google впровадила систему фільтрів, покликану блокувати створення зображень, пов’язаних із бойовими діями, катастрофами та іншими потенційно небезпечними темами. Проте перевірка показала, що ці обмеження спрацьовують переважно лише за використання очевидних формулювань.

Якщо користувач змінював запит і уникав прямих згадок про заборонені об’єкти чи події, алгоритм продовжував генерувати зображення без додаткових перевірок.

Саме ця особливість дала змогу користувачам швидко налагодити масове створення підроблених супутникових знімків і поширювати їх в інтернеті.

Інструмент для масштабної дезінформації

До дослідження долучився експерт зі штучного інтелекту та цифрової дезінформації Хенк ван Есс, який провів власну серію експериментів.

Використовуючи той самий інструмент, він створив зображення неіснуючої атомної електростанції на території Ірану, табору біженців на кордоні США та Мексики, а також лікарні в секторі Гази, біля якої нібито утворилася свіжа вирва після удару.

За словами дослідника, небезпека таких матеріалів полягає не лише у високій якості генерації. Значно серйознішою проблемою є те, що вони автоматично прив’язуються до реальних географічних координат. У результаті користувач отримує не просто згенеровану картинку, а її інтеграцію в реальне картографічне середовище.

На думку експертів, такий підхід суттєво підвищує ризик використання технології для інформаційних маніпуляцій, особливо під час збройних конфліктів, надзвичайних ситуацій або політичних криз.

Свій серед чужих

Google заявляє, що кожне зображення, створене за допомогою штучного інтелекту, отримує цифрову позначку SynthID. Цей водяний знак непомітний для користувачів, однак має допомагати визначати походження файлу під час перевірки.

Крім того, компанія рекомендує використовувати Gemini та Google Lens для перевірки підозрілих зображень.

Втім, незалежне тестування поставило ефективність цих механізмів під сумнів.

За даними BBC Verify, сторонні сервіси для виявлення ШІ-контенту в багатьох випадках взагалі не визначали походження зображень, створених Nano Banana 2.

Ще показовішим виявився експеримент із Gemini. Журналістам вдалося досягти ситуації, коли власний чат-бот Google визнав кілька згенерованих супутникових знімків справжніми, не виявивши ознак їхнього штучного походження.

Це свідчить про те, що нинішні методи ідентифікації поки не забезпечують надійного захисту навіть усередині екосистеми Google.

Google призупинила роботу функції

Після появи перших публікацій компанія оперативно обмежила доступ до Nano Banana 2.

У Google повідомили, що розробники вже працюють над додатковими механізмами захисту, які мають унеможливити створення зображень, придатних для поширення дезінформації. До завершення цієї роботи генератор залишатиметься недоступним.

Терміни повторного запуску сервісу компанія поки не називає.

Експерти попереджають про нову загрозу

До появи подібних інструментів супутникові знімки вважалися одним із найнадійніших видів візуальних доказів. Їх регулярно використовують журналісти, дослідницькі центри, правозахисні організації, аналітики та фахівці з розслідування воєнних злочинів.

Поява генеративних моделей, здатних створювати супутникові зображення, які майже неможливо відрізнити від реальних, може суттєво ускладнити процес перевірки інформації. Якщо раніше головною проблемою були відредаговані фотографії, то тепер об’єктом фальсифікації стають цілі картографічні сервіси.

Експерти вважають, що подальший розвиток таких технологій вимагатиме появи нових методів верифікації цифрових матеріалів. Інакше довіра до супутникових знімків як одного з ключових інструментів документування подій поступово знижуватиметься.

Історія з Nano Banana 2 продемонструвала, що сучасний генеративний штучний інтелект уже здатний створювати зображення, які можуть підірвати довіру навіть до супутникових карт — джерела, яке тривалий час вважалося одним із найнадійніших для візуального підтвердження подій. У найближчі роки розробникам подібних сервісів, імовірно, доведеться приділяти не менше уваги системам перевірки та захисту, ніж розвитку самих генеративних моделей.