Чатботу ChatGPT дозволили відвідувати сторонні сайти та взаємодіяти з ними від імені користувача

Весь час розробки інструментів на базі штучного інтелекту ми чекали, що хтось от-от дозволить ШІ діяти від імені користувачів чи отримає доступ до їх даних для роботи в різних сервісах. Схоже ніякі попередження про загрозу від такої свободи штучного інтелекту не діють.

Нові плагіни від OpenAI дозволять чатботу відвідувати сторонні вебсторінки та взаємодіяти з ними. У демонстрації ChatGPT попросили знайти рецепт та замовити необхідні інгредієнти через сервіс доставки Instacart. Чатбот автоматично завантажив перелік продуктів та переспрямував користувача на сайт для завершення замовлення.

ChatGPT вже використовує 11 плагінів для зовнішніх сайтів, включно з сервісами для бронювання квитків Expedia та бронювання ресторанів OpenTable, а також сервісом з пошуку авіаквитків, готелів, оренди автомобілів, пошуку турпакетів і круїзів Kayak (повний перелік сайтів є тут).

OpenAI також надає деякі власні плагіни — один для інтерпретації коду та один під назвою «Browsing», який дозволяє ChatGPT отримувати інформацію з інтернету.

Плагін OpenAI не просто отримує інформацію в реальному часі — він може підключатися до API та дозволяти йому «виконувати дії від імені користувача», згідно з документацією компанії. 

Цікаво, що тепер користувач може бачити список джерел, використаних для надання відповіді.

Очевидно, що проблем з безпекою побільшає, коли ChatGPT виконуватиме дії від імені користувача, а не просто надаватиме інформацію. Експертів з кібербезпеки також стривожив експеримент OpenAI з GPT-4 — коли за вказівкою тестувальника чатбот створив інструкції, щоб найняти працівника з TaskRabbit для завершення тесту CAPTCHA, який він не міг пройти.

OpenAI каже, що взяла до уваги загрози, створені цими плагінами, і «впровадила кілька заходів безпеки», включаючи обмеження доступності плагінів для дуже невеликої кількості розробників і користувачів ChatGPT Plus.

Наші роздуми щодо того, коли і як нові чатботи зі штучним інтелектом захоплять контроль над людством – читайте в статті.