Google SynthID генерує водяний знак для ШІ-згенерованих зображень, невидимий для людського ока

Команда Google DeepMind створила інструмент SynthID, який може позначати зображення згенеровані штучним інтелектом водяним знаком.

За словами експертів, це може допомогти у боротьбі з діпфейками, які набули особливого розповсюдження минулого року, разом із ростом популярності генеративного штучного інтелекту.

Водяний знак — це техніка, за допомогою якої можна вшити певний сигнал у фрагмент тексту чи зображення, який ідентифікуватиме його як згенероване ШІ. SynthID створюється за допомогою двох нейронних мереж. Одна з них бере оригінальне зображення і створює інше, майже ідентичне йому, але з дещо зміненими пікселями. Це створює вбудований візерунок, невидимий для людського ока.

Друга нейронна мережа може виявити цей шаблон і повідомить користувачам, чи виявляє вона водяний знак або “підозрює” це. Згідно зі словами Колі, SynthID розроблений таким чином, що водяний знак можна виявити, навіть якщо зображення зроблено зі скріншоту або відредаговано.

Спочатку SynthID буде доступний лише для користувачів генератора зображень зі штучним інтелектом Imagen від Google, який працює на платформі машинного навчання Google Cloud Vertex. Користувачам під час створення зображення буде надана можливість обрати, додавати водяний знак чи відмовитися від нього.