Meta днями видаляла рекламу, яка містила матеріали, створені штучним інтелектом, із зображеннями сексуального насильства над дітьми (CSAM) на Facebook та Instagram. Деякі оголошення містили фото реальних дітей, зокрема прес-фото молодої представниці європейської королівської родини та зображення, викрадені з популярного профілю підліткової дівчини-інфлюенсерки в Instagram.
У розслідуванні, опублікованому у вівторок, Tech Transparency Project (TTP) повідомив, що Meta цього року не виявила 332 рекламних оголошень, що містили CSAM. “Переважна більшість” оголошень рекламувала AI-додатки, вироблені в Китаї, тоді як багато оголошень просували так звані “nudify”-додатки, які полегшують зловмисникам використання ШІ для цифрової зміни зображень дітей.
TTP зіставив “численні оголошення CSAM із фотографіями реальних дітей, які з’являлися в Інтернеті”. Ці оголошення, здається, порушують федеральні закони про дитячу порнографію, оскільки Міністерство юстиції роз’яснило, що CSAM, створений ШІ, є таким само шкідливим, як і CSAM. Зображення молодої члена королівської родини було “анімоване у відео, де вона виконує графічний сексуальний акт”, — виявив TTP. Інші оголошення анімували фото 14-річної інфлюенсерки з Instagram, “яка демонструвала свою нову спортивну форму”, у “відео, де вона виконує оральний секс”. Третя жертва, “підліток”, “яка позувала у рожевому спортивному вбранні з хвостиками” на серії стокових фотографій, була перетворена на відео, де вона виглядає наляканою, коли її домагається дорослий чоловік, — повідомив TTP.
Деяких дітей, зображених у рекламі CSAM, не вдалося ідентифікувати, але оголошення переважно зображували дівчат-підлітків, — повідомив TTP. У підписах до оголошень користувачів Meta заманювали кліками обіцянками на кшталт “Я можу показати тобі більше” або “наш ШІ перетворює твої приховані бажання на гіпнотичні відео. Темні, спокусливі, незабутні”. Інше рекламувало: “обмежень немає. Усі персонажі — реальні люди, і є багато варіантів. Це ШІ, яким користуються чоловіки”.
Ще більш тривожно, TTP наголосив у прес-релізі, що ці висновки були зроблені після того, як група співпрацювала з Wired та повідомила про попередню партію з 53 оголошень у серпні. Тоді Meta стверджувала, що “нещодавно розгорнула нові системи для кращого виявлення експлуатації дітей”. Але TTP “виявив сотні нових оголошень CSAM, які з’являлися після того, як Meta хвалилася своєю новою технологією”. А аналіз Wired, опублікований у вівторок, “виявив сотні оголошень, що містять відвертий контент і схожі за формулюванням на ті, що були знайдені дослідниками TTP”.
Проблема виходить за межі CSAM. Wired також самостійно виявив “сотні інших подібних оголошень «nudification» з відвертим контентом дорослих на платформах Meta”, ймовірно, без їхньої згоди. Мішель Купперсміт, виконавчий директор Campaign for Accountability, яка керує TTP, зазначила, що звіт з’явився після історичної угоди на 18 мільярдів доларів, яка змусила Meta погодитися на зміни на платформах для підвищення безпеки дітей. Процес схвалення реклами також вимагає втручань, — запропонувала Купперсміт.
«Якщо процес схвалення реклами Meta не може виявити та відхилити такий очевидно жахливий контент до того, як він буде показаний користувачам Facebook та Instagram, тоді вся система перегляду реклами Meta має бути поставлена під сумнів», — сказала Купперсміт.
Meta затягувала з видаленням
Meta видалила оголошення, на які вказали TTP та Wired. Але TTP розкритикував Meta за те, що компанія іноді затягує з видаленням оголошень та непослідовно застосовує свої правила, що призводить до подальшої шкоди.
Через кілька годин після того, як TTP повідомив про понад 300 оголошень, Meta швидко видалила приблизно половину оголошень зі своєї архівної бібліотеки реклами. Але багато оголошень чомусь не були позначені як такі, що порушують політику Meta щодо експлуатації дітей, доки TTP не вказав на розбіжність, і Meta не оновила свої записи.
Це незрозуміле упущення, — попередив TTP, — “свідчить про те, що Meta може занижувати кількість випадків сексуального насильства над дітьми”. Це особливо тривожно, оскільки Meta продовжувала показувати десятки оголошень CSAM у дні після повідомлення про першу партію, — сказав TTP. Молода представниця європейської королівської родини була серед реальних дітей, чиї зображення продовжували показувати, — зазначив TTP.
Також викликає занепокоєння те, що оголошення з зображенням маленької дівчинки зі стокового фото могло бути видалено до того, як його побачив хтось. TTP повідомив про оголошення в день його запуску. Але Meta затягнула з видаленням на кілька днів, тоді як оголошення зросло з чотирьох показів до 330.
Meta також “непослідовна” у рішеннях про видалення оголошень, незважаючи на заяви про перевірку всіх оголошень для забезпечення дотримання рекламних стандартів. Meta видалила одне “оголошення, що показує дівчину, яка бере участь у графічному сексуальному акті”, але відмовилася видалити “ідентичне” оголошення з тим самим зображенням і текстом. Незрозуміло, Meta стверджувала, що копійоване оголошення не порушує її рекламні стандарти.
В інших випадках, коли TTP повідомляв про оголошення як про “проблему, пов’язану з особою молодше 18 років” та/або “схоже на сексуальну експлуатацію”, Meta “принаймні тиждень переглядала звіти і часто не вживала жодних заходів”.
Meta отримує прибуток від реклами CSAM
TTP посилається на звіт Reuters, який виявив, що Meta не завжди діє негайно, коли китайські реселери розміщують оголошення, що порушують правила. Нібито Meta надає перевагу китайським реселерам, оскільки без них Meta була б позбавлена мільярдів прибутків від прибуткового китайського рекламного ринку, оскільки її платформи там заборонені. Нібито відповідно до цього звіту, TTP виявив, що “три партнерські рекламні реселери Meta в Китаї — GIMC, Meetsocial та BlueFocus — розміщували на Facebook та Instagram рекламу, що містила той самий контент CSAM”, без виявлення.
Інші оголошення були пов’язані з бізнес-сторінками, які були очевидно шахрайськими та порушували політику Meta щодо “неавтентичної поведінки”. Оголошення жертви зі стокового фото було пов’язане зі сторінкою Facebook “Kenny Maddie Regan”, яка “називає себе місцевим бізнесом, але не має жодного контенту чи підписників, крім фотографії трьох жінок-покупців”. Клон цієї сторінки для “Lynn Nicole Brooks” розмістив “ідентичне оголошення”. А третя сторінка для “Briflabremgles Nihendrimes” використала ту саму фотографію профілю.
Можливо, найкричущішим є те, що сторінка Facebook під назвою “Divine Productions”, яка стверджувала, що представляє Церкву Ісуса Христа Святих Останніх Днів, розмістила рекламу CSAM, яка уникла уваги Meta. Meta відключила цю сторінку лише після того, як TTP повідомив про неї.
Кеті Пол, директор TTP, сказала Wired, що затримка з відповіддю Meta є проблемою, тому що “це може завдати багато шкоди, поки Meta заробляє гроші”. Meta не розкриває охоплення реклами для кожного регіону, але TTP повідомив, що ЄС] та 6 800 людей у [Великобританії]”. Близько 80 відсотків оголошень були показані в США, а менша частина — в Австралії, — повідомив TTP.
Meta не відповіла на запит Ars щодо коментаря. Речник сказав Wired: “Ми не терпимо nudify-додатків або будь-якого виду експлуатації дітей, будь то реальної чи створеної ШІ”. Однак деякі оголошення уникли виявлення, тому що “кадри неповнолітніх були короткими або розмитими”. І Meta, здавалося, применшувала той факт, що вона отримувала прибуток від реклами, зазначаючи, що позначені оголошення в середньому мали менше 200 показів, а загальні витрати на рекламу склали менше 5 000 доларів.
Але TTP припустив, що можливе заниження кількості оголошень CSAM з боку Meta може означати, що компанія отримує більше прибутку, ніж зізнається. Зараз юристи та регулятори висловлюють занепокоєння, — повідомив Wired. Генеральні прокурори штатів Мічиган і Флорида заявили, що розглядають оголошення CSAM. Минулого місяця сенатор Марк Ворнер (Демократ від Вірджинії) надіслав листа з вимогою до Meta “покласти край цій незаконній та неприйнятній рекламі” після звіту Wired за серпень.
Meta має намір відповісти на цей лист, — сказав речник Wired. Після цього Meta, ймовірно, доведеться відповісти австралійському регулятору eSafety Internet, який нещодавно заборонив особам до 16 років користуватися соціальними мережами. Речник сказав Wired, що австралійський регулятор стурбований і запросив “інформацію з цього питання від компанії на високому рівні”.
Емма Харді, директорка з комунікацій Internet Watch Foundation, сказала Wired, що “AI-додатки надто полегшують створення реалістичних злочинних зображень сексуального насильства над дітьми, створюючи новий ризик того, що повсякденні фотографії дітей будуть перетворені на сексуальний контент”.
“Платформи та компанії повинні гарантувати, що ці додатки не матимуть можливості для реклами та розповсюдження”, — сказала Харді.
Інформація підготовлена на основі матеріалів: arstechnica.com