Новая защита от мошенников в WhatsApp: как работает Scam Alert

Meta представила новую функцию безопасности для WhatsApp под названием Scam Alert, призванную предотвращать случаи мошенничества. Технический обзор инструмента был опубликован 12 августа. Основная задача системы — предупреждать пользователей о сомнительных сообщениях еще до того, как они станут жертвами злоумышленников.

Как работает система обнаружения Scam Alert

Весь процесс верификации происходит непосредственно на устройстве пользователя. При активации функции WhatsApp загружает небольшую ИИ-модель, которая анализирует входящие сообщения, сравнивая их с паттернами известных мошеннических схем. Это касается фраз и структуры общения, характерных для киберпреступников. Принципиально важно, что содержимое чатов не передается на сервера Meta — сквозное шифрование сохраняется полностью.

Уведомления и контроль

Если алгоритм выявляет подозрительную активность, в чате появляется соответствующее предупреждение. Примечательно, что отправитель сообщения не получает никаких уведомлений о том, что его действия были проанализированы. Пользователь самостоятельно решает, как поступить: заблокировать контакт, пожаловаться на него или просто продолжить общение. Meta получает уведомление только в том случае, если пользователь сам нажмет кнопку «Пожаловаться».

Ограничения функции: контакты в безопасности?

Система имеет существенное ограничение: модель анализирует только сообщения от пользователей, которые не внесены в адресную книгу владельца устройства. Это оставляет «лазейку» для мошенников, использующих взломанные аккаунты ваших друзей или близких. В таких случаях Scam Alert остается бездействовать, так как отправитель считается доверенным лицом.

Доверие и прозрачность ИИ

Если система пометила сообщение как спам по ошибке, пользователь может отметить чат как «достоверный», после чего предупреждения перестанут появляться. Meta также сделала ставку на прозрачность: версия каждой модели записывается в публичный реестр с указанием контрольной суммы. Веса модели доступны исследователям для проверки того, что она анализирует исключительно признаки мошенничества, а данные об активности системы обрабатываются только в анонимизированном и агрегированном виде.

Когда ждать внедрения

На текущий момент Scam Alert находится на стадии ограниченного бета-тестирования в рамках программы bug bounty. Meta пока не объявляла дату официального глобального релиза или список стран, где функция будет доступна. Пользователям рекомендуется следовать стандартным мерам безопасности: при запросах о деньгах или просьбе сменить номер телефона связываться с человеком через второй независимый канал коммуникации.