Чатботу ChatGPT позволили посещать сторонние сайты и взаимодействовать с ними от имени пользователя

Все время разработки инструментов на базе искусственного интеллекта мы ожидали, что кто-то позволит ИИ действовать от имени пользователей или получит доступ к их данным для работы в различных сервисах. Похоже, никакие предупреждения об угрозе от такой свободы искусственного интеллекта не действуют.

Новые плагины от OpenAI позволят чату посещать сторонние веб-страницы и взаимодействовать с ними. В демонстрации ChatGPT попросили найти рецепт и заказать необходимые ингредиенты через сервис доставки Instacart. Чатбот автоматически загрузил список продуктов и перенаправил пользователя на сайт для завершения заказа.

ChatGPT уже использует 11 плагинов для внешних сайтов, включая сервисы для бронирования билетов Expedia и бронирование ресторанов OpenTable, а также сервис по поиску авиабилетов, гостиниц, аренды автомобилей, поиску турпакетов и круизов Kayak (полный перечень сайтов здесь).

OpenAI также предоставляет некоторые собственные плагины — один для интерпретации кода и один под названием Browsing, который позволяет ChatGPT получать информацию из интернета.

Плагин OpenAI не просто получает информацию в реальном времени — он может подключаться к API и позволять ему выполнять действия от имени пользователя, согласно документации компании.

Интересно, что теперь пользователь может видеть список источников, использованных для ответа.

Очевидно, что проблем с безопасностью увеличится, когда ChatGPT будет выполнять действия от имени пользователя, а не просто будет предоставлять информацию. Экспертов по кибербезопасности также встревожил эксперимент OpenAI с GPT-4 — когда по указанию тестировщика чатбот создал инструкции, чтобы нанять работника из TaskRabbit для завершения теста CAPTCHA, который он не мог пройти.

OpenAI говорит, что приняла во внимание угрозы, созданные этими плагинами, и «внедрила несколько мер безопасности», включая ограничение доступности плагинов для очень небольшого количества разработчиков и пользователей ChatGPT Plus.

Наши размышления относительно того, когда и как новые чаты с искусственным интеллектом захватят контроль над человечеством — читайте в статье.