TikTok улучшил механизм обнаружения потенциально вредного контента

TikTok последние месяцы работал над интеграцией механизмов, препятствующих просмотру подростками определённых типов контента. Эти действия являются частью масштабной работы, направленной на обеспечение безопасности молодых пользователей платформы. Ранее разработчики представили рейтинговую систему «Уровни содержания» для фильтрации контента, не подходящего для молодой аудитории, а под конец года объявили об интеграции новых механизмов фильтрации.

Источник изображения: NurPhoto / Getty Images

Речь идёт о новой версии технологии, используемой для автоматического определения «материалов откровенно сексуального характера, непристойного или потенциально вредного» контента. По словам разработчиков, новая технология значительно лучше выявляет так называемый «потенциально опасный контент» — ролики, которые не нарушают правил платформы, но по каким-либо причинам могут не подходить для просмотра подростковой аудиторией.

Отметим, что не только TikTok пытается отфильтровывать определённые типы контента из рекомендаций. Instagram* уже давно использует подобную систему для отсеивания потенциально опасного контента. Разработчики TikTok не уточнили, насколько точна новая система, но отметили, что за последние 30 дней был «предотвращён просмотр с аккаунтов подростков более 1 млн роликов откровенно сексуального характера». В дополнение к этому платформа даёт возможность авторам контента ограничивать просмотр своих видео, если они ориентированы на взрослую аудиторию. Ранее такая возможность была доступна только во время прямых трансляций, но теперь эту функцию смогут использовать и для коротких видео.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник: