Тик Ток работает над внедрением цифрового “водяного знака” для контента сгенерированного AI

TikTok (популярная платформа для создания коротких роликов) сообщила о намерении маркировать контент, сформированный искусственным интеллектом и загруженный на сервис. Запуск новой опции позволит явно указывать на видео и изображения от AI. Планируется, что это нововведение повысит уровень честности и прозрачности при создании контента.

Политика ТикТок в отношении ИИ

Сервис ТикТок входит в список двадцати технологичных организаций, подписавших в начале этого года соглашение, обязывающее их противостоять манипуляциям в сети интернет с применением сгенерированного контента.

TikTok уже маркирует материалы, которые были созданы с помощью ИИ внутри приложения. Теперь планируется, что маркировка будет использоваться и для тех видео, изображений, которые сгенерированы с помощью ИИ за пределами площадки. Теперь перед тем, как скачать видео с Тик Ток, пользователь сможет проверить его на достоверность происхождения. Для этого надо убедиться в отсутствии водяного знака.

Адам Прессер в разговоре с журналистами указал на то, что в компании проводится политика, запрещающая публиковать реалистичные видеоролики и изображения, созданные ИИ. В связи с этим, если такие материалы будут размещены на сервисе, они будут удалены, так как противоречат требованиям сообщества.

Особенности маркировки контента от ИИ

Content Credentials — эффективная технология, которая была разработана группой компаний во главе с Microsoft и Adobe. Она доступна для использования и другими организациями.

• Технологию активно применяют такие гиганты отрасли, как ChatGPT, OpenAI. Кроме того, Meta Platforms, а также Google и YouTube тоже сообщили, что будут использовать Content Credentials.
• Когда пользователь выбирает ИИ инструмент для формирования контента, то к нему автоматически прикрепляется водяной знак. А к файлу добавляются данные, указывающие на его происхождение.

Если такой контент будет загружаться на сервис ТикТок, то он автоматически будет помечен, как созданный ИИ. В соответствии с новыми требованиями, создатели материалов должны раскрывать информацию о том, использовали ли они возможности ИИ. При создании фото или видео файлов на экране возникнет напоминание о необходимости активировать опцию маркировки. В результате в левом нижнем углу фото или ролика будет отображаться метка «AI». Если сотрудники компании обнаружат на площадке ИИ-контент без соответствующей метки, то они удалят файлы.

Приступить к тестированию функции автоматической маркировки специалисты TikTok планируют в ближайшем будущем. Это будет частью желания компании предотвратить распространение поддельных материалов. Стоит отметить, что функционал для клонирования голоса позволяет авторам генерировать видео и песни с участием поддельных исполнителей. Причем, такие ролики набирают миллионы просмотров.

TikTok рассчитывает сформировать среду, где у пользователей будет возможность отличить ИИ-контент от подлинных видео роликов. Это повысит доверие к платформе со стороны аудитории.