Google SynthID генерирует водяной знак для ИИ сгенерированных изображений, невидимый для человеческого глаза

Команда Google DeepMind створила інструмент SynthID, який може позначати зображення згенеровані штучним інтелектом водяним знаком.

По словам экспертов, это может помочь в борьбе с дипфейками, которые получили особое распространение в прошлом году, вместе с ростом популярности генеративного искусственного интеллекта.

Водяной знак – это техника, с помощью которой можно вшить определенный сигнал во фрагмент текста или изображения, который будет идентифицировать его как сгенерированное ИИ. SynthID создается с помощью двух нейронных сетей. Одна из них берет оригинальное изображение и создает другое, почти идентичное ему, но с измененными пикселями. Это создает встроенный узор, невидимый для человеческого глаза.

Вторая нейронная сеть может обнаружить этот шаблон и сообщит пользователям, обнаруживает ли она водяной знак или «подозревает» ли это. Согласно Коли, SynthID разработан таким образом, что водяной знак можно обнаружить, даже если изображение сделано из скриншота или отредактировано.

Сначала SynthID будет доступен только пользователям генератора изображений с искусственным интеллектом Imagen от Google, который работает на платформе машинного обучения Google Cloud Vertex. Пользователям при создании изображения будет предоставлена возможность выбрать, добавлять водяной знак или отказаться от него.