Одна з реклам містила порнографічне відео з діпфейком, що був надзвичайно схожий на американського політика.
Платформи Meta нещодавно розміщували рекламу інструменту для створення порнографічного контенту за допомогою ШІ, який, схоже, заохочував користувачів створювати відео з діпфейками, що нагадують американських політикинь, попри політику компанії щодо заборони реклами, що містить сексуальний контент. Це чергова невдача Meta у боротьбі з рекламою інструментів, що створюють інтимні зображення без згоди користувачів, на своїх платформах.
Інструмент під назвою Kromix позиціонується як “стиліст зображень за допомогою ШІ”. Голосовий супровід однієї з відеореклам, яку бачило видання WIRED, рекламує інструмент як такий, що “не має обмежень”, стверджуючи, що “всі персонажі – реальні люди” і описуючи його як “ШІ, яким чоловіки дійсно користуються”. В одній із реклам жінка, дуже схожа на відому американську політичну діячку, стоїть перед прапором США та прапором президента США під написом “А що, якби вона рухалася?”. Потім вона підморгує, після чого амим обличчям знімається в порнографічному відео.
Додаток Kromix, який був доступний в Apple App Store до запиту WIRED щодо коментарів, пропонує платним користувачам завантажувати фотографії для використання в сценаріях, зокрема “зґвалтування в спальні” та “любов Disney”. Відео в додатку також містять порнографічні відео, згенеровані ШІ, із зображеннями жінок у костюмах Людини-павука. Запити на коментарі, надіслані на контакт, вказаний у додатку, залишилися без відповіді.
Apple також має труднощі з видаленням подібних інструментів, які порушують її політику щодо заборони інтимних зображень без згоди, матеріалів для “нудифікації” (nudify) та відверто сексуального контенту, з App Store. Раніше цього літа прокурор Сан-Франциско надіслав компанії листа з вимогою припинити діяльність, вимагаючи видалити 13 конкретних додатків та припинити “сприяння та пособництво” продажу відвертих зображень, створених за допомогою діпфейків.
Згідно з бібліотекою реклами Meta, ці оголошення були націлені виключно на чоловічу аудиторію з гаслом “Розкрийте магію ШІ нового покоління” та були видалені після запиту WIRED щодо них. Загалом, акаунт, пов’язаний із цією кампанією, запустив 32 рекламні оголошення, які демонструвалися від п’яти до 46 годин. Більшість з них мали 10 або менше показів.
Кеті Пол, директорка Tech Transparency Project, яка виявила ці оголошення, зазначає: “Усі оголошення, які ми бачили дотепер, що стосуються проблеми ‘нудифікації’, виключно сексуалізують і ‘нудифікують’ жінок, перетворюючи їх на порнографію, створену ШІ. Це викликає багато запитань щодо того, як Meta збирається боротися з таким контентом, особливо коли йдеться про жінок-політиків, і коли компанія активно розміщує рекламу з таким контентом на своїй платформі”.
Політикині та обрані посадовиці, переважно жінки, вже багато років стають мішенню для створення інтимних зображень та відео з діпфейками без їхньої згоди. У січні, коли Grok використовувався для створення приблизно 3 мільйонів сексуалізованих зображень жінок і дівчат, посадовці у Швеції, Англії та Північній Ірландії зазнавали нападів з боку людей, які використовували цю технологію, часто використовуючи офіційні зображення як відправну точку.
“Оскільки виробництво та розповсюдження контенту, згенерованого ШІ, стало доступнішим, колись невинні медіа — офіційні портрети, відео з прес-конференцій — стали сировиною для простих інструментів, якими може користуватися будь-хто з доступом до Інтернету”, — каже Бенджамін Шульц, провідний дослідник American Sunlight Project, який досліджує, як екосистема шкідливих технологій діпфейків використовується для націлювання на політиків.
Згідно з загальнодоступною документацією компанії, перед публікацією реклами на платформах Meta, включно з Instagram та Facebook, кожне оголошення “перевіряється” на відповідність її політиці, яка детально описує, що рекламодавці можуть і не можуть розміщувати. “Наша система перевірки реклами покладається переважно на автоматизовані інструменти для перевірки реклами та бізнес-активів на відповідність нашим політикам”, — йдеться у стандартах реклами компанії, з зауваженням, що перевірка починається ще до запуску реклами. Сторінка, яка розміщувала рекламу, була створена 3 серпня, незадовго до початку показу реклами, і не мала підписників — два фактори, які могли б вказати Meta на підозрілість акаунту.
Компанія має конкретну політику, яка забороняє рекламі містити сексуальні зображення, включно з оголеністю, сексуальними діями або контентом із сексуальним підтекстом. Ширші політики Meta щодо дорослої сексуальної експлуатації зазначають, що інтимні зображення без згоди не дозволені, а також забороняється просування додатків для “нудифікації” або “поцілунків за допомогою ШІ”.
Однак, ня з’являється на платформах Meta досить часто протягом останніх кількох років. Дослідники виявили тисячі таких випадків, які компанія не змогла виявити. За власними даними компанії, вона також видалила 344 000 рекламних оголошень на Facebook та Instagram, що рекламували подібні послуги, з листопада минулого року по січень, і подала позов щонайменше проти однієї компанії, що рекламує послуги “нудифікації”.
“Сексуальна експлуатація, включно з просуванням додатків для ‘нудифікації’, жахлива, і ми агресивно боремося з цим”, — заявила Синтія Саутворт, керівниця відділу безпеки жінок у Meta. “Це надзвичайно вороже середовище, де зловмисники постійно вдосконалюють свої тактики, тому ми безперервно зміцнюємо наш захист: минулого року ми видалили понад 340 000 порушницьких оголошень для додатків ‘нудифікації’, запровадили нові технології ШІ для кращого виявлення та блокування нових порушницьких оголошень, а також вживаємо юридичних заходів проти розробників додатків ‘нудифікації'”. Саутворт зазначила, що Meta також ділиться інформацією про додатки та розробників, яких вона видаляє зі своєї платформи, з іншими технологічними компаніями.
Більшість відеореклам мали обкладинки із зображенням пляжу, гір або водоспаду, що приховувало той факт, що решта контенту була порнографічною. “Це приклад тактики зловмисників, яку використовують ці рекламодавці, намагаючись уникнути виявлення. Ми знаємо про цю тактику і блокуємо та видаляємо багато порушницьких оголошень, незважаючи на їхні спроби приховати заборонений контент за невинним зображенням”, — каже Саутворт. “Проте жодна система не є досконалою, і ми продовжуємо досліджувати, чому ці оголошення змогли обійти наші системи, і як ми можемо покращити їх”.
Представник Apple повідомив WIRED, що компанія видалила Kromix з App Store, оскільки, за їхніми словами, додаток, схоже, додав заборонений контент та функції після початкової перевірки. “Ми завжди суворо забороняли додатки, призначені для створення, розповсюдження або споживання порнографії”, — зазначив він. “Додатки для ‘нудифікації’ суперечать нашим Порядку перегляду додатків, і ми агресивно працюємо над виявленням та видаленням додатків, а також облікових записів розробників, які намагаються обійти наші процеси та політику”.
Нещодавно WIRED повідомляло, як дослідники Tech Transparency Project натрапили на понад 50 рекламних оголошень на платформах Meta, що містили дитячий сексуальний насильницький матеріал, створений за допомогою ШІ, та зображення неповнолітніх із сексуальними коментарями. Деякі з них включали “заміну обличчя” дитини у відео, де вона виконувала сексуальні дії. Ці оголошення, які демонструвалися з листопада 2025 року по серпень, іноді досягали тисяч людей, зокрема в США, Великій Британії та щонайменше в дюжині європейських країн.
Після того, як минулого тижня WIRED зв’язалося з Meta щодо цих оголошень, компанія видалила їх зі своєї бібліотеки реклами та замінила повідомленнями про те, що вони були видалені за порушення політики компанії щодо дитячого сексуального насильства та експлуатації, а також дорослого сексуального розбещення та оголеності. Деякі з оголошень були опубліковані після того, як Meta повідомила WIRED про впровадження нової технології ШІ для “кращого виявлення та блокування порушницьких оголошень під час завантаження”.
Кілька оголошень посилалися на додаток під назвою MaskAI, який був доступний в App Store; як і Kromix, він містив інструменти, що дозволяли користувачам завантажувати зображення та змінювати обличчя людей у сексуальних ситуаціях. Додаток був видалений з App Store після того, як WIRED зв’язалося з Apple для отримання коментарів; електронна адреса, пов’язана з додатком, не відповіла на запит про коментар.
Пол стверджує, що Meta все більше покладається на ШІ для позначення та перевірки рекламних оголошень, одночасно звільняючи штатних модераторів. “онтроль якості відсутній”, — каже вона. “Meta також робить багато публічних заяв, спираючись на свій ШІ та його складність, і водночас стверджує, що використовує ШІ для перевірки своєї бібліотеки реклами, але нічого не є досконалим”.
Додатковий репортаж Тіма Марчмана.
Оригінал статті: arstechnica.com