ИИ помогает Facebook обнаруживать и удалять до 96,8% запрещенного контента

Вчера Facebook опубликовала очередной отчёт об обеспечении соблюдения стандартов сообщества социальной сети. Компания приводит данные и показатели за временной промежуток с января по март и уделяет особое внимание общему объёму запрещённого контента, попадающего на Facebook, а также проценту от него, который социальная сеть успешно удалила ещё на этапе публикации или хотя бы до того, как его успел увидеть случайный пользователь социальной сети. Facebook отмечает особую роль искусственного интеллекта (ИИ), без которого компания просто не справилась бы с фильтрацией такого безумного количества контента.

Проявления ненависти, насилие, торговля наркотиками и оружием, сексуальная эксплуатация и многое другое, что ИИ помогает Facebook блокировать до того, как кто-либо успеет столкнуться с подобным недопустимом контентом

Как утверждает Facebook, искусственный интеллект и машинное обучение помогли значительно сократить количество запрещённого контента в социальной сети. В шести из девяти категорий, отслеживаемых в отчёте, компания сообщает, что при помощи ИИ она смогла предварительно обнаружить 96,8 % недопустимых публикаций и удалить их до того, как какой-либо человек успел их заметить (по сравнению с 96,2 % в 4 квартале 2018 года). Что касается агрессивных высказываний, то в отчёте говорится, что искусственный интеллект помог идентифицировать 65 % из более четырех миллионов подобных сообщений, удаляемых из Facebook каждый квартал, по сравнению с 24 % чуть более года назад и 59 % в 4 квартале 2018 года.

Facebook также использует ИИ для выявления сообщений, личных объявлений, фотографий и видео, которые нарушают правила по рекламе и продаже запрещённых товаров, таких как наркотики и огнестрельное оружие. В первом квартале 2019 года компания заявила, что приняла меры в отношении около 900 000 публикаций, связанных с продажами наркотиков, из которых 83,3 % были обнаружены при помощи искусственного интеллекта. За этот же период Facebook также обнаружила и удалила около 670 000 публикаций о продаже огнестрельного оружия, из которых 69,9 % были обработаны до того, как модераторы или пользователи могли бы столкнуться с ними.

Различные улучшения в алгоритмах искусственного интеллекта привели к снижению общего объёма запрещённого контента, просматриваемого в Facebook. По оценкам компании, на каждые 10 000 посещений социальной сети только от 11 до 14 пользователей столкнулись с контентом, имеющим порнографический характер, и только 25 могли заметить публикации содержащие жестокость и насилие. Что касается терроризма, наготы детей и сексуальной эксплуатации, то эти цифры ещё ниже. Facebook сообщает, что в 1 квартале 2019 года на каждые 10 000 просмотров социальной сети менее трёх приходились на подобный контент.

«Благодаря упреждающему отслеживанию постов с нарушениями, эта технология позволяет нашей команде сфокусироваться на выявлении тенденций того, как нарушители пытаются обойти наши ограничения», — написал в своем блоге вице-президент Facebook в области безопасности контента Гай Розен (Guy Rosen). «Мы продолжаем инвестировать в технологии, чтобы расширить наши возможности по обнаружению недопустимого контента на разных языках и в разных регионах».

Ещё одно направление, в котором Facebook использует искусственный интеллект — это спам-аккаунты. На ежегодной конференции разработчиков F8 в Сан-Франциско технический директор компании Майк Шропфер (Mike Schroepfe) сообщил, что в течение одного квартала Facebook блокирует более миллиарда спам-аккаунтов, более 700 миллионов фальшивых аккаунтов и десятки миллионов фрагментов контента, содержащих обнажённые тела и насилие. По его словам, ИИ является главным источником обнаружения и противодействия в данных категориях. Если говорить о точных цифрах, то Facebook заблокировала 1,2 миллиарда учетных записей в 4 квартале 2018 года и 2,19 миллиарда в 1 квартале 2019 года.

Источник: