JadePuffer: первый случай полноценной автономной кибератаки с использованием агентного ИИ

Исследователи из компании Sysdig официально подтвердили первый известный случай, когда агент на основе большой языковой модели (LLM) смог самостоятельно выполнить полный цикл кибератаки. Вредоносная программа-вымагатель, получившая название JadePuffer, работала автономно, исключив необходимость участия человека в процессе управления.

В ходе атаки ИИ-агент провел разведку системы, успешно похитил учетные данные, обеспечил закрепление в скомпрометированной среде, повысил свои привилегии и в конечном итоге выполнил шифрование файлов жертвы.

Вектор атаки и технические детали

Проникновение JadePuffer началось с эксплуатации критической уязвимости CVE-2025-3248 в платформе Langflow, которая широко используется разработчиками для создания приложений на основе ИИ.

Результаты автоматизированного взлома

• Автоматизирован сбор системной информации и поиск учетных данных.
• Получен несанкционированный доступ к связанным серверам.
• Успешная атака на сервер Alibaba Nacos.
• Шифрование 1342 конфігурационных записей.

Особенности работы агентного ИИ

Главным отличием JadePuffer от традиционных зловредов является высокая степень автономности и адаптивности. Если выполнение определенной команды приводило к ошибке, агент не прекращал работу, а самостоятельно анализировал ситуацию, корректировал свои действия и продолжал атаку. Один из ярких примеров — обход системы аутентификации всего за 31 секунду.

Эксперты Sysdig также обратили внимание на уникальные артефакты в сгенерированном коде. Агент оставлял комментарии на естественном языке, которые детально поясняли логику совершаемых действий.

Ошибки в коде как следствие применения LLM

Несмотря на техническую сложность атаки, исследователи отметили ошибки, свойственные работе нынешних моделей. К примеру, злоумышленник использовал тестовый биткоин-кошелек, который часто встречается в обучающей документации, а вместо заявленного AES-256 фактически был применен более слабый алгоритм шифрования AES-128-ECB.

Будущее кибербезопасности

Специалисты предупреждают, что использование таких агентов может значительно снизить порог входа для киберпреступников, позволяя автоматизировать сложные цепочки атак. Однако, в работе текущих LLM все еще остаются предсказуемые следы (паттерны), которые позволяют современным системам мониторинга выявлять подобные угрозы. Экспертное сообщество призывает внимательнее относиться к защите сред, использующих инструменты LLM-разработки.