ШІ Meta дозволяв красти акаунти користувачів використовуючи лише ім’я

Вразливість у штучному інтелекті Meta AI дозволяла зловмисникам отримувати повний контроль над чужими акаунтами в Instagram без авторизації, навіть якщо на них було попередньо активовано двофакторну аутентифікацію. За даними профільних видань, серед підтверджених жертв виявився офіційний архівний акаунт Білого дому періоду президентства Барака Обами.

Виявлена ​​пролом безпеки в Meta AI дозволяла стороннім особам перехоплювати управління чужими сторінками. Помилка була всередині функціоналу інтелектуального чат-бота, який призначений для автоматизованого адміністрування. Як заявляють дослідники безпеки та профільне видання Neowin, баг активно використовувався протягом кількох місяців.

Схема обходу безпеки

Реалізація атаки не вимагала складного інструментарію чи технічних знань. Процес злому через ШІ будувався так:

• Зловмисник запускав VPN з геолокацією в тій же країні або регіоні, де фізично знаходиться власник цільового профілю Instagram.
• Далі хакер відправляв чат-боту Meta AI повідомлення з вимогою прив’язати нову адресу електронної пошти до потрібного облікового запису, просто надавши дійсне ім’я користувача (юзернейм).
• Після отримання цієї команди ШІ-помічник Meta AI автоматично генерував і відправляв пряме посилання на скидання пароля на електронну скриньку атакуючої особи, повністю обходячи крок додаткової верифікації власника.

Зламування Білого дому та профілів експертів

Використовуючи цей критичний баг, невідомим зловмисникам удалося захопити контроль над офіційним акаунтом Білого дому часів президентства Барака Обами. Нові пости на цій сторінці не з’являлися з дня першої інавгурації Дональда Трампа (20 січня 2017). Однак після несанкціонованого входу зломщики розмістили на ньому картинку з написом: “The White House is under Shiites’ control” (Білий дім знаходиться під контролем шиїтів). Серед інших відомих постраждалих згадується спеціаліст у сфері реверс-інжинірингу та дослідниця популярних мобільних сервісів Джейн Манчун Вонг (@wongmjane).

Особливості системи Meta AI та причини вразливості

Розробники з Meta спочатку позиціонують ШІ-помічник як централізований інструмент, який працює цілодобово в додатках Facebook і Instagram. Інструмент може самостійно здійснювати різноманітні адміністративні дії безпосередньо всередині екосистеми соцмереж за бажанням користувачів. На території США та Канади компанія відкрила аналогічні опції техпідтримки навіть для неавторизованих облікових записів. Додатковою проблемою стало те, що функція тестувалася в обмеженому режимі (A/B тестування), тому користувачі, що перебувають у тестовій групі, не мали інструментів для самостійного її відключення.

В даний час фахівці Meta усунули небезпечний недолік, не роблячи гучних публічних заяв. Повідомляється, що експлойтом успішно користувалися тривалий час. Кількість профілів, що потенційно постраждали, може обчислюватися тисячами. Свідченням масштабу проблеми стали численні скарги пересічних користувачів, які регулярно отримували непередбачені системні запити для примусової зміни встановленого пароля, яких вони не запитували.