JadePuffer: перший випадок повноцінної автономної кібератаки з використанням агентного ШІ

Дослідники компанії Sysdig офіційно підтвердили перший відомий випадок, коли агент на основі великої мовної моделі (LLM) зміг самостійно виконати повний цикл кібератаки. Шкідлива програма-вимагач, названа JadePuffer, працювала автономно, виключивши необхідність участі людини у процесі управління.

В ході атаки ШІ-агент провів розвідку системи, успішно викрав облікові дані, забезпечив закріплення у скомпрометованому середовищі, підвищив свої привілеї та зрештою виконав шифрування файлів жертви.

Вектор атаки та технічні деталі

Проникнення JadePuffer почалося з експлуатації критичної вразливості CVE-2025-3248 у платформі Langflow, яка широко використовується розробниками для створення програм на основі ШІ.

Результати автоматизованого злому

• Автоматизовано збір системної інформації та пошук облікових даних.
• Отримано несанкціонований доступ до зв’язаних серверів.
• Успішна атака на сервер Alibaba Nacos.
• Шифрування 1342 конфігураційних записів.

Особливості роботи агентного ШІ

Головною відмінністю JadePuffer від традиційних зловредів є високий рівень автономності та адаптивності. Якщо виконання певної команди призводило до помилки, агент не припиняв роботу, а самостійно аналізував ситуацію, коригував свої дії та продовжував атаку. Один із яскравих прикладів — обхід системи автентифікації лише за 31 секунду.

Експерти Sysdig також звернули увагу на унікальні артефакти у згенерованому коді. Агент залишав коментарі природною мовою, які детально пояснювали логіку вчинених дій.

Помилки коду як наслідок застосування LLM

Незважаючи на технічну складність атаки, дослідники наголосили на помилках, властивих роботі нинішніх моделей. Наприклад, зловмисник використовував тестовий гаманець, який часто зустрічається в навчальній документації, а замість заявленого AES-256 фактично був застосований більш слабкий алгоритм шифрування AES-128-ECB.

Майбутнє кібербезпеки

Фахівці попереджають, що використання таких агентів може значно знизити поріг входу для кіберзлочинців, що дозволяє автоматизувати складні ланцюжки атак. Однак у роботі поточних LLM все ще залишаються передбачувані сліди (патерни), які дозволяють сучасним системам моніторингу виявляти подібні загрози. Експертне співтовариство закликає уважніше ставитись до захисту середовищ, що використовують інструменти LLM-розробки.