Інфраструктура Hugging Face була атакована автономною системою ШІ-агентів

Система автономних ШІ-агентів змогла поринути у виробничу інфраструктуру Hugging Face. Під час інциденту зловмисники отримали доступ до обмеженого обсягу внутрішніх даних та низки службових облікових даних. На даний момент компанія проводить детальну перевірку, щоб з’ясувати, чи торкнулися конфіденційної інформації клієнтів або партнерів платформи.

Механізм атаки та експлуатація вразливостей

Атака почалася з впровадження шкідливого набору даних, який використовував дві специфічні вразливості системи обробки даних. Після успішного виконання коду на робочому сервері зловмисник підвищив свої привілеї, що дозволило йому вкрасти облікові дані для хмарних та кластерних сервісів. Протягом вихідних днів програма-агент переміщалася між внутрішніми кластерами.

Особливості використання агентів

Згідно зі звітом Hugging Face, агентна система в автономному режимі виконала тисячі дій у короткоживучих ізольованих середовищах, постійно переносячи власну інфраструктуру управління між загальнодоступними сервісами. На даний момент конкретна мовна модель, що стояла за цією атакою, залишається невідомою.

Розслідування інциденту та роль китайської ШІ-моделі

Для проведення внутрішнього аудиту Hugging Face задіяла власні системи ШІ-агентів, проаналізувавши понад 17 000 підозрілих дій. Цікаво, що комерційні моделі, до яких зверталися спочатку через API, заблокували запити, оскільки вони містили реальні команди атак, експлойти та елементи шкідливої ​​інфраструктури. У результаті фахівці використали модель GLM-5.2 від китайської компанії Z.ai, розгорнувши її локально. Це дозволило вивчити матеріали атаки, не ризикуючи безпекою даних сторонніх сервісах.

Наслідки та рекомендації користувачам

Hugging Face повідомила, що не зафіксувала втручання у публічні набори даних, простору (Spaces) чи передбачені моделі. Проте компанія вже закрила виявлені вразливості, перебудувала скомпрометовані вузли та примусово оновила облікові дані. Користувачам платформи настійно рекомендується оновити свої токени доступу та провести перевірку історії активності своїх облікових записів на предмет аномалій.