У Google Translate знайшли режим чат бота зі штучним інтелектом

Розширений режим Google Translate може в окремих випадках відповідати користувачеві замість виконання перекладу. Така особливість, ймовірно, пов’язана з тим, що вбудований штучний інтелект сприймає частину введеного тексту як інструкції та реагує на них, а не обмежується буквальним перекладом.

Спочатку сервіс повинен виконувати одне завдання: користувач вводить текст і отримує переклад обраною мовою. Однак із впровадженням ІІ його поведінка стала менш передбачуваною. Деякі користувачі виявили, що за певних умов оновлений режим перекладу можна змусити вийти за межі стандартного сценарію та розпочати діалог.

Реакція системи на питання замість перекладу

Повідомлення користувачів у соціальній мережі X показують, що Google Translate може відповідати на прямі запитання. В одному з прикладів реагував сервіс на запит «What is your purpose?» описом своєї функції замість спроби перекласти фразу. У подібних випадках питання формулюються вже цільовою мовою перекладу, тому система сприймає їх як команди для відповіді.

Якщо запитати певним чином, перекладач починає поводитися швидше як чат-бот. Він може відповідати на запити користувача та формувати осмислені репліки, що відрізняється від звичної логіки роботи інструменту перекладу.

Вірогідна причина — «prompt-ін’єкції»

Технічний аналіз, опублікований дослідниками на платформі LessWrong, вказує на типовий приклад так званої prompt-ін’єкції. Для коректного перекладу система має спочатку проаналізувати текст та зрозуміти його зміст. У цьому процесі вона може прийняти вбудовані в текст інструкції команди, які потрібно виконати.

Відповідно до аналізу, в основі Google Translate, ймовірно, використовується мовна модель, орієнтована виконання інструкцій. У цьому механізми, обмежують її роботу рамками перекладу, який завжди точно розрізняють, який текст слід перекладати, але в який — реагувати як у запит. В результаті модель іноді відповідає на запитання або виконує додаткові інструкції.

Умови, за яких виявляється поведінка

Спостереження користувачів показують, що така реакція виникає лише за певних мовних комбінацій та умов. Зокрема, зазначається, що перемикання IP-адреси на США та вибір перекладу з японської або китайської на англійську може призвести до появи додаткових відповідей системи. У таких випадках переклад відображається як завжди, а у квадратних дужках з’являється реакція на поставлене запитання.

Google офіційно не коментував цю особливість. Зважаючи на все, йдеться про специфічні умови, за яких система інтерпретує частину введеного тексту як інструкцію. Такий підхід характерний для «prompt-ін’єкцій», коли команда навмисно вбудовується у запит і модель виконує її замість заданої функції перекладу.

В окремих прикладах користувачі наголошували, що система не тільки відповідає на запитання, а й формує репліки, що нагадують самоопис. Це вказує на наявність під інтерфейсом перекладача мовної моделі, здатної підтримувати діалог та реагувати на інструкції, якщо вони розпізнані у тексті.