Meta затягнула з видаленням реклами, що створювала “оголені” зображення дівчат в Instagram.
Meta затягнула з видаленням реклами, що містила матеріали, створені штучним інтелектом, із зображенням сексуального насильства над дітьми (CSAM) на Facebook та Instagram. Деякі оголошення містили фотографії реальних дітей, зокрема прес-фото молодшої представниці європейської королівської родини та зображення, вкрадені з популярного Instagram-профілю дівчинки-підлітка, яка вважається інфлюенсером.
У розслідуванні, опублікованому у вівторок, Tech Transparency Project (TTP) повідомив, що Meta цього року не виявила 332 рекламних оголошення, що містили CSAM. “Переважна більшість” оголошень рекламувала AI-додатки, вироблені в Китаї, тоді як багато оголошень просували так звані “nudify” додатки, які полегшують зловмисникам використання ШІ для цифрової зміни зображень дітей.
TTP зіставив “кілька CSAM-оголошень із фотографіями реальних дітей, які з’явилися в мережі”. Ці оголошення, схоже, порушують федеральні закони про дитячу порнографію, оскільки Міністерство юстиції роз’яснило, що CSAM, створений ШІ, є таким самим шкідливим, як і реальний CSAM. Зображення молодої представниці королівської родини було “анімоване у відео, де вона виконує графічний сексуальний акт”, встановив TTP. Інші оголошення анімували фотографію 14-річної інфлюенсерки Instagram, “яка демонструвала свою нову спортивну форму”, у “відео, де вона виконує оральний секс”. Третя жертва, “дівчинка-підліток, яка позувала в рожевому спортивному вбранні з хвостиками” на серії стокових фотографій, була перетворена на відео, де вона виглядає наляканою, коли її домагається дорослий чоловік, повідомив TTP.
Деяких дітей, зображених у CSAM-оголошеннях, не вдалося ідентифікувати, але оголошення переважно зображували дівчаток-підлітків, повідомив TTP. У підписах до оголошень користувачів Meta заохочували клікнути обіцянками на кшталт “Я можу показати тобі більше” або “наш ШІ перетворює твої приховані бажання на гіпнотичні відео. Темні, спокусливі, незабутні”. Інше рекламувало: “обмежень немає. Усі персонажі — реальні люди, і є багато варіантів. Це ШІ, який використовують чоловіки”.
Ще більш тривожно, TTP наголосив у прес-релізі, що ці висновки були зроблені після того, як група об’єдналася з Wired і позначила попередню партію з 53 оголошень у серпні. Тоді Meta стверджувала, що “нещодавно впровадила нові системи для кращого виявлення експлуатації дітей”. Але TTP “виявив сотні нових CSAM-оголошень, які з’явилися після того, як Meta похвалилася своєю новою технологією”. Аналіз Wired, опублікований у вівторок, “виявив сотні оголошень, що містять відвертий контент, схожий за мовою на ті оголошення, які знайшли дослідники TTP”.
Проблема виходить за межі CSAM. Wired також самостійно виявила “сотні інших пов’язаних оголошень “nudification”, що містять відвертий контент із зображенням дорослих на платформах Meta”, ймовірно, без їхньої згоди. Мішель Купперсміт, виконавчий директор Campaign for Accountability, яка керує TTP, зазначила, що звіт з’явився після історичної угоди на 18 мільярдів доларів, яка змусила Meta погодитися на зміни на платформах для підвищення безпеки дітей. За її словами, процес схвалення реклами також потребує втручання.
“Якщо процес схвалення реклами Meta не може виявити та відхилити настільки очевидно жахливий контент, перш ніж він буде показаний користувачам Facebook та Instagram, тоді всю систему перевірки реклами Meta слід поставити під сумнів”, — сказала Купперсміт.
Meta затримувала видалення
Meta видалила оголошення, позначені TTP та Wired. Але TTP розкритикував Meta за те, що компанія іноді затягувала з видаленням оголошень та непослідовно застосовувала свої правила, що призводило до поширення шкоди.
Через кілька годин після того, як TTP позначив понад 300 оголошень, Meta швидко видалила близько половини оголошень зі своєї архівної бібліотеки. Але багато оголошень були дивним чином не позначені як такі, що порушують політику Meta щодо експлуатації дітей, доки TTP не вказав на розбіжність, а Meta не оновила свої записи.
Це неосвітлене упущення, попередив TTP, “припускає, що Meta може недооцінювати випадки сексуального насильства над дітьми”. Це особливо тривожно, оскільки Meta продовжувала показувати десятки CSAM-оголошень у дні після повідомлення про першу партію, заявив TTP. Молода представниця європейської королівської родини була серед реальних дітей, чиї зображення продовжували показувати, зазначив TTP.
Також викликає занепокоєння той факт, що оголошення з молодою дівчиною, зображеною на стоковій фотографії, могло бути видалено до того, як його побачив майже хтось. TTP повідомив про оголошення в день його запуску. Але Meta затягнула з видаленням на кілька днів, поки оголошення пройшло від чотирьох показів до 330.
Meta також “непослідовна” у рішеннях щодо видалення оголошень, незважаючи на заяви про перевірку всіх оголошень на відповідність стандартам реклами. Meta видалила одне “оголошення, що показує дівчину, яка бере участь у графічному сексуальному акті”, але відмовилася видалити “ідентичне” оголошення з тим самим зображенням і текстом. На диво, Meta стверджувала, що копіювальне оголошення не порушувало її рекламні стандарти.
В інших випадках, коли TTP повідомляв про оголошення як про “проблему, що стосується особи молодше 18 років” та/або “схоже на сексуальне насильство”, Meta “брала щонайменше тиждень для розгляду звітів і часто не вживала жодних заходів”.
Meta отримує прибуток від CSAM-оголошень
TTP послався на звіт Reuters, який виявив, що Meta не завжди діє негайно, коли китайські реселери розміщують оголошення, що порушують правила. Нібито Meta надає перевагу китайським реселерам, оскільки без них Meta була б позбавлена мільярдів прибутків від прибуткового китайського рекламного ринку, адже її платформи там заборонені. Нібито у відповідності до цих даних, TTP виявив, що “три з партнерів Meta з перепродажу реклами в Китаї — GIMC, Meetsocial та BlueFocus — розміщували на Facebook та Instagram рекламу, що містила той самий CSAM-контент” без виявлення.
Інші оголошення були пов’язані з бізнес-сторінками, які були явно шахрайськими та порушували політику Meta щодо “неавтентичної поведінки”. Оголошення про жертву зі стокової фотографії було пов’язане зі сторінкою Facebook “Kenny Maddie Regan”, яка “називає себе місцевим бізнесом, але не має контенту чи підписників, окрім фотографії профілю трьох жінок-покупців”. Клон цієї сторінки для “Lynn Nicole Brooks” розмістив “ідентичне оголошення”. А третя сторінка для “Briflabremgles Nihendrimes” використовувала те саме фото профілю.
Мабуть, найкричущішим є те, що сторінка Facebook під назвою “Divine Productions”, яка стверджувала, що представляє Церкву Ісуса Христа Святих Останніх Днів, розмістила CSAM-оголошення, яке уникло уваги Meta. Meta вимкнула цю сторінку лише після того, як TTP її позначив.
Кеті Пол, директор TTP, заявила Wired, що затримка відповіді Meta є проблемою, оскільки “багато шкоди може статися, поки Meta заробляє гроші”. Meta не розкриває охоплення реклами за кожним регіоном, але TTP повідомив, що оголошення “сукупно охопили понад 29 000 осіб у [країнах] ЄС та 6 800 осіб у [країнах] Великої Британії”. Близько 80 відсотків оголошень показувалися в США, а менша частка — в Австралії, повідомив TTP.
Meta не відповіла на запит Ars про коментар. Представник сказав Wired: “Ми не терпимо “nudify” додатків або будь-якого виду експлуатації дітей, чи то реальної, чи створеної ШІ”. Однак деякі оголошення уникнули виявлення, тому що “кадри з неповнолітніми були короткими або розмитими”. Meta, здавалося, применшила той факт, що вона отримувала прибуток від оголошень, зазначивши, що позначені оголошення в середньому мали менше 200 показів, а загальні витрати на рекламу становили менше 5 000 доларів.
Але TTP припустив, що потенційна недооцінка Meta кількості CSAM-оголошень може означати, що вона отримує більший прибуток, ніж зізнається. Зараз законодавці та регуляторні органи стурбовані, повідомив Wired. Генеральні прокурори штатів Мічиган і Флорида заявили, що розслідують CSAM-оголошення. Минулого місяця сенатор Марк Ворнер (демократ від Вірджинії) надіслав листа з вимогою до Meta “покласти край цим незаконним і недоречним оголошенням” після серпневого звіту Wired.
Meta має намір відповісти на цей лист, повідомив представник Wired. Після цього Meta, ймовірно, доведеться відповідати перед австралійським регулятором eSafety Internet, який нещодавно заборонив особам до 16 років користуватися соціальними мережами. Представник сказав Wired, що австралійський регулятор стурбований і запитував “інформацію з цього питання від компанії на вищому рівні”.
Емма Харді, директорка з комунікацій Internet Watch Foundation, розповіла Wired, що “AI-додатки надто легко створюють реалістичні кримінальні образи сексуального насильства над дітьми, створюючи новий ризик того, що повсякденні фотографії дітей будуть перетворені на сексуальний контент”.
“Платформи та компанії повинні забезпечити, щоб не було місця для реклами та поширення цих додатків”, — сказала Харді.
Інформація підготовлена на основі матеріалів: arstechnica.com