Невидимі водяні знаки для текстів ШІ Claude

Розробники штучного інтелекту прагнуть підвищити прозорість інтернет-контенту. Слідом за зображеннями, що отримують спеціальні маркери, компанія Anthropic почала позначати текст, створений нейромережею Claude, за допомогою невидимих водяних знаків.

Що таке водяні знаки в тексті Claude?

Технологія передбачає впровадження машинозчитуваних, але непомітних для людини сигнатур безпосередньо в згенерований текст. Anthropic заявляє, що цей процес жодним чином не впливає на якість, зміст або зручність читання відповідей моделі. Водяний знак зберігається при копіюванні та вставці, а також витримує легке редагування контенту.

Як працює нова система ідентифікації AI-контенту

Система функціонує на всіх моделях Claude, запущених у Євросоюзі, починаючи з 2 серпня. Ця вимога закріплена в Кодексі практик ЄС щодо прозорості контенту, який генерується ШІ. Механізм спрацьовує автоматично незалежно від того, який спосіб доступу використовується: через Claude API, Claude Code, Cowork, Tag або платформи AWS, Google Cloud та Microsoft Foundry.

Обмеження та нюанси маркування

Існують ситуації, коли маркування може не спрацювати: наприклад, якщо текст занадто короткий або був підданий істотному ручному редагуванню. Варто зазначити, що водяні знаки додаються навіть тоді, коли ШІ виступає в ролі допоміжного інструменту: наприклад, під час перекладу, форматування, сумаризації або коректури чужого тексту.

Плани щодо впровадження та майбутні інструменти детекції

Хоча поточна обов’язкова реалізація стосується лише моделей у ЄС, Anthropic планує поширити цю практику на старі версії Claude і зробити її доступною в глобальному масштабі. Також у розробці перебувають спеціальні інструменти, які допоможуть користувачам розпізнавати такі водяні знаки в мережі.