Новые правила ЕС потребуют от мессенджеров сканировать сообщения для выявления правонарушений

Еврокомиссия готова предложить новые правила, согласно которым приложения мессенджеров вроде WhatsApp или Facebook* Messenger будут выборочно сканировать сообщения пользователей в поисках материалов, связанных с сексуальным насилием над детьми (т.н. CSAM) и попытками домогательств до несовершеннолетних со стороны взрослых. Проект раскритиковали эксперты по информационной безопасности и правозащитники.

Источник изображения: alberthbq/pixabay.com

После того, как данные о законопроекте появились ранее на этой неделе, он немедленно подвергся критике ряда групп и экспертов. По словам одного из них, «документ представляет самую страшную вещь из тех, что он когда-либо видел». Некоторые специалисты заявляют, что это один из самых «постыдных» законов, полностью несовместимый с любой свободной демократией. В частности, закон предусматривает ряд новых обязательств для «онлайн-провайдеров сервисов», включая магазины приложений, хостинг-сервисы и любых провайдеров «сервисов межличностного общения».

Наиболее суровые нормы будут применяться к популярным мессенджерам. Так, после получения запроса от властей администрация мессенджера обязана будет сканировать сообщения указанных властями пользователей в поисках материалов, связанных с сексуальным насилием в отношении детей, а также фактов домогательств — это потребует использования инструментов машинного зрения и систем ИИ для анализа контекста фото и текстов. Запросы будут делаться правоохранительными органами отдельных государств. Тем не менее, в документе отсутствует определение того, как именно будут «таргетироваться» запросы — на отдельных личностей, сообщества или более широкие категории пользователей.

Источник изображения: iAmMrRob/pixabay.com

Критики утверждают, что подобные запросы могут быть использованы для слежки за большими группами. По мнению некоторых экспертов, законопроект «оставляет дверь открытой для намного более обобщённой слежки». Кроме того, в случае принятия закон сможет полностью свести на нет систему сквозного шифрования. Хотя оно не запрещается в документе, компании будут обязаны использовать в своих системах программное обеспечение, способное идентифицировать CSAM-контент, что сделает сквозное шифрование практически невозможным. Поскольку правила ЕС оказывают влияние на цифровую политику во всех частях света, аналогичные нормы могут распространиться и на всю планету.

По словам представителя правозащитной организации Electronic Frontier Foundation, отсутствует способ сделать то, что намерен сделать ЕС, без массового сканирования сообщений. Если проект станет законом, это приведёт к нарушению конфиденциальности пользователей не только в ЕС, но и по всему миру.

Кроме того, в случае «домогательств» обнаружение контента потребует использования специальных инновационных алгоритмов, в результате чего неизбежны ошибки и попадание в поле зрения правоохранительных органов невиновных пользователей мессенджеров. В качестве примера неэффективности подобных инструментов правозащитники приводят спам-фильтры, постоянно ошибающиеся в оценке контента.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник: