Искусственный интеллект Facebook справляется всё лучше и в этом году заблокировал 96,8% запрещенного контента

Facebook опубликовала свежий отчёт  с января по март об обеспечении соблюдения стандартов сообщества социальной сети. В компании отдельно отмечают особую роль искусственного интеллекта (ИИ) который фильтрует запрещённый контент.

Искусственный интеллект и машинное обучение помогли значительно сократить количество запрещённого контента в социальной сети. В шести из девяти категорий, отслеживаемых в отчёте, компания сообщает, что при помощи ИИ она смогла предварительно обнаружить 96,8 % недопустимых публикаций и удалить их до того, как какой-либо человек успел их заметить (по сравнению с 96,2 % в 4 квартале 2018 года).

Что касается агрессивных высказываний, то в отчёте говорится, что ИИ помог идентифицировать 65 % из более 4 миллионов подобных сообщений, удаляемых из Facebook каждый квартал, по сравнению с 24 % чуть более года назад и 59 % в 4 квартале 2018 года.

Facebook также использует ИИ для выявления сообщений, личных объявлений, фотографий и видео, которые нарушают правила по рекламе и продаже запрещённых товаров, таких как наркотики и огнестрельное оружие. В первом квартале 2019 года компания заявила, что приняла меры в отношении около 900 000 публикаций, связанных с продажами наркотиков, из которых 83,3 % были обнаружены при помощи искусственного интеллекта. За этот же период Facebook также обнаружила и удалила около 670 000 публикаций о продаже огнестрельного оружия, из которых 69,9 % были обработаны до того, как модераторы или пользователи могли бы столкнуться с ними.

Ещё одно направление, в котором Facebook использует искусственный интеллект — это спам-аккаунты. В течение одного квартала Facebook блокирует более миллиарда спам-аккаунтов, более 700 миллионов фальшивых аккаунтов и десятки миллионов фрагментов контента, содержащих обнажённые тела и насилие.