Gmail получил спам-фильтр на основе искусственного интеллекта. Эффективность обнаружения повысили на 38%

Появилась информация об обновлении спам-фильтров почтового сервиса Gmail, признанного компанией одним из ключевых обновлений системы защиты в последние годы.

Главным аспектом обновления является интеграция новой системы классификации текстов под названием Resilient & Efficient Text Vectorizer (RETVec) в почтовом сервисе.

Разработчики утверждают, что эта система эффективно обнаруживает спам-сообщения, включая содержащие много специальных символов, смайлов, опечаток и других элементов, которые ранее были заметны для людей, но стали вызовом для спам-фильтров. RETVec может эффективно распознавать сообщения с гомоглифами, графически похожими символами, отличными по значению.

По данным Google, алгоритм RETVec научен эффективно обнаруживать сообщения, прошедшие различные манипуляции, такие как вставка или удаление символов, опечатки и гомоглифы. Алгоритм использует кодер для эффективной кодировки любых символов и слов в формате UTF-8. Это позволило ему работать с более чем 100 языками мира «из коробки».

RETVec во многих отношениях работает аналогично тому, как читают люди, основываясь на визуальном «схожести» для определения значения слов, а не символов, из которых они состоят.

Использование RETVec позволило повысить уровень обнаружения спама по сравнению с базовым на 38% и снизить количество ошибочных срабатываний на 19,4%. При этом количество используемых моделью тензорных вычислительных процессоров (TPU) снизилось на 83%, что делает это обновление одним из самых больших для системы защиты Gmail за последние годы.