В Google Translate нашли режим чат бота с искусственным интеллектом

Расширенный режим Google Translate в отдельных случаях может отвечать пользователю вместо выполнения перевода. Такая особенность, вероятно, связана с тем, что встроенный искусственный интеллект воспринимает часть введённого текста как инструкции и реагирует на них, а не ограничивается буквальным переводом.

Изначально сервис должен выполнять одну задачу: пользователь вводит текст и получает перевод на выбранный язык. Однако с внедрением ИИ его поведение стало менее предсказуемым. Некоторые пользователи обнаружили, что при определённых условиях обновлённый режим перевода можно заставить выйти за рамки стандартного сценария и начать диалог.

Реакция системы на вопросы вместо перевода

Сообщения пользователей в социальной сети X демонстрируют, что Google Translate может отвечать на прямые вопросы. В одном из примеров сервис реагировал на запрос «What is your purpose?» описанием собственной функции вместо попытки перевести фразу. В подобных случаях вопросы формулируются уже на целевом языке перевода, поэтому система воспринимает их как команды для ответа.

Если задать вопрос определённым образом, переводчик начинает вести себя скорее как чат-бот. Он может отвечать на запросы пользователя и формировать осмысленные реплики, что отличается от привычной логики работы инструмента перевода.

Вероятная причина — «prompt-инъекции»

Технический анализ, опубликованный исследователями на платформе LessWrong, указывает на типичный пример так называемой «prompt-инъекции». Для корректного перевода система должна сначала проанализировать текст и понять его содержание. В этом процессе она может принять встроенные в текст инструкции за команды, которые нужно выполнить.

Согласно анализу, в основе Google Translate, вероятно, используется языковая модель, ориентированная на выполнение инструкций. При этом механизмы, ограничивающие её работу рамками перевода, не всегда точно различают, какой текст следует переводить, а на какой — реагировать как на запрос. В результате модель иногда отвечает на вопросы или выполняет дополнительные инструкции.

Условия, при которых проявляется поведение

Наблюдения пользователей показывают, что такая реакция возникает лишь при определённых языковых комбинациях и условиях. В частности, отмечается, что переключение IP-адреса на США и выбор перевода с японского или китайского на английский может привести к появлению дополнительных ответов системы. В подобных случаях перевод отображается как обычно, а в квадратных скобках появляется реакция на заданный вопрос.

Google официально не комментировал данную особенность. Судя по всему, речь идёт о специфических условиях, при которых система интерпретирует часть введённого текста как инструкцию. Такой подход характерен для «prompt-инъекций», когда команда намеренно встраивается в запрос и модель выполняет её вместо строго заданной функции перевода.

В отдельных примерах пользователи отмечали, что система не только отвечает на вопросы, но и формирует реплики, напоминающие самоописание. Это указывает на наличие под интерфейсом переводчика языковой модели, способной поддерживать диалог и реагировать на инструкции, если они распознаны в тексте.