Nano Banana 2 в Google Earth не прошел проверку: волна реалистичных фейков

Компания Google приостановила распространение новой функции генерации изображений в сервисе Google Earth всего через несколько десятков часов после ее запуска. Поводом стали многочисленные примеры создания фальшивых спутниковых снимков, которые внешне практически не отличались от реальных материалов дистанционного зондирования Земли. После первых сообщений о проблеме компания заявила, что вернет инструмент только после существенной переработки системы безопасности. Об этом сообщает BBC.

История вызвала широкий резонанс среди специалистов по цифровой безопасности, поскольку впервые генеративный искусственный интеллект оказался настолько тесно интегрирован в картографическую платформу, используемую журналистами, исследователями и аналитиками по всему миру.

Атака фейков

Функция Nano Banana 2 позволяла пользователям генерировать изображения непосредственно внутри Google Earth. Несмотря на встроенные ограничения, практически сразу после запуска выяснилось, что сервис способен визуализировать несуществующие события таким образом, что они выглядят как настоящие спутниковые снимки.

Журналисты BBC Verify решили проверить возможности системы самостоятельно. В ходе экспериментов им удалось получить изображения российской бронетехники, якобы находящейся в Киеве, разрушенной Эйфелевой башни, а также гигантского провала возле комплекса пирамид в Гизе.

Полученные изображения были встроены в привычный интерфейс Google Earth, что значительно усиливало эффект достоверности. Для неподготовленного пользователя такие материалы практически не отличались от настоящих спутниковых фотографий.

Недостаточно устойчивая система ограничений

Google предусмотрела фильтры, которые должны были блокировать генерацию изображений, связанных с военными действиями, катастрофами и другими потенциально опасными темами. Однако проверка показала, что эти ограничения работают лишь при использовании очевидных формулировок.

Если пользователь менял запрос, избегая прямых упоминаний запрещенных объектов или событий, алгоритм продолжал создавать изображения без каких-либо дополнительных проверок.

Именно эта особенность позволила пользователям быстро начать массовое создание поддельных спутниковых снимков и распространять их в интернете.

Создание масштабной дезинформации

К исследованию присоединился эксперт по искусственному интеллекту и цифровой дезинформации Хенк ван Эсс, который провел собственную серию экспериментов.

Используя тот же инструмент, он создал изображения несуществующей атомной электростанции на территории Ирана, лагеря беженцев на границе США и Мексики, а также больницы в секторе Газа, возле которой якобы образовалась свежая воронка после удара.

По словам исследователя, опасность подобных изображений заключается не только в высоком качестве генерации. Намного серьезнее тот факт, что они автоматически связываются с существующими географическими координатами. Благодаря этому пользователь получает не просто сгенерированную картинку, а визуализацию, встроенную в реальную картографическую среду.

По мнению специалистов, подобный подход значительно повышает вероятность использования технологии для информационных манипуляций, особенно во время вооруженных конфликтов, чрезвычайных ситуаций или политических кризисов.

Свой среди чужих

Google заявляет, что каждое изображение, созданное при помощи искусственного интеллекта, получает цифровую метку SynthID. Этот водяной знак не виден пользователю, однако должен позволять определить происхождение файла при последующей проверке.

Кроме того, компания рекомендовала использовать Gemini и Google Lens для проверки подозрительных изображений.

Однако независимое тестирование поставило под сомнение эффективность этих механизмов.

По данным BBC Verify, сторонние сервисы обнаружения ИИ-контента во многих случаях вообще не определяли происхождение изображений, созданных Nano Banana 2.

Еще более показательным оказался эксперимент с Gemini. Журналистам удалось добиться ситуации, при которой собственный чат-бот Google признал несколько сгенерированных спутниковых снимков подлинными, не обнаружив признаков их искусственного происхождения.

Это означает, что существующие методы идентификации пока не гарантируют надежную защиту даже внутри экосистемы самой Google.

Отказ от поспешного запуска функции

После появления первых публикаций компания оперативно ограничила доступ к Nano Banana 2.

В Google сообщили, что разработчики уже работают над дополнительными механизмами защиты, которые должны предотвратить создание изображений, способных использоваться для распространения ложной информации. До завершения этой работы генератор останется недоступным.

При этом сроки повторного запуска сервиса компания пока не раскрывает.

Беспокойство специалистов

До появления подобных инструментов спутниковые снимки считались одним из наиболее надежных видов визуальных доказательств. Их регулярно используют журналисты, исследовательские центры, правозащитные организации, аналитики и специалисты по расследованию военных преступлений.

Появление генеративных моделей, способных создавать практически неотличимые от реальности спутниковые изображения, может существенно осложнить процесс проверки информации. Если раньше основным источником фальсификаций были отредактированные фотографии, то теперь объектом подделки становятся целые картографические сервисы.

Эксперты считают, что дальнейшее развитие подобных технологий потребует появления новых методов верификации цифровых материалов. В противном случае доверие к спутниковым снимкам как к одному из ключевых инструментов документирования событий может постепенно снижаться

История с Nano Banana 2 показала, что генеративный искусственный интеллект уже способен создавать изображения, способные подорвать доверие даже к спутниковым картам, которые долгое время считались одним из наиболее надежных источников визуальной информации. В ближайшие годы разработчикам подобных сервисов, вероятно, придется уделять не меньше внимания системам проверки и защиты, чем развитию самих генеративных моделей.