Міський прокурор Сан-Франциско, Девід Чіу, звернувся до Apple та Google з офіційними вимогами щодо видалення 13 додатків з App Store та Google Play. Ці програми, призначені для заміни облич, дозволяють створювати сексуалізовані зображення людей без їхньої згоди. ## Вимога видалити додатки для створення сексуалізованих зображень Девід Чіу наголосив, що створення інтимних зображень без згоди є незаконним, шкідливим та абсолютно неприйнятним. Він також зазначив, що Apple та Google отримали значні прибутки від комісій за ці додатки, і закликав компанії посилити процеси модерації контенту. Відповідно до законодавства Каліфорнії, підтримка сервісів, що створюють дипфейк-порнографію, заборонена. ## Реакція компаній та масштаби проблеми Представник Google, Ден Джексон, повідомив, що компанія вже видалила “сотні” додатків з оголеним контентом через порушення політики, включно з п’ятьма додатками для Android, зазначеними у листі Чіу. Він підкреслив, що Google Play не допускає додатки з сексуальним контентом і компанія постійно вживає проактивних заходів для виявлення та видалення шкідливого контенту. На момент публікації, Apple не надала коментарів. Загалом, 13 додатків, згаданих прокурором, включають вісім в App Store та п’ять у Google Play. Розробники рекламували їх як інструменти для “заміни обличчя”, а можливість генерувати сексуалізовані зображення ставала доступною лише після встановлення програми. Проблема доступності додатків для створення інтимних діпфейків без згоди користувачів не є новою. На початку 2026 року дослідження виявили десятки подібних сервісів в магазинах обох компаній. Тоді в App Store було знайдено 47 таких додатків, а в Google Play – 55. Загальна кількість їх завантажень перевищила 705 мільйонів, а доходи сягнули 117 мільйонів доларів. Посилена увага до таких сервісів з’явилася після скандалу з чатботом Grok від компанії Ілона Маска, який генерував сексуалізовані зображення жінок у коментарях соціальної мережі X. За дев’ять днів роботи цей ШІ створив 1,8 мільйона подібних зображень, що призвело до розслідувань з боку Європейського Союзу, кримінальної справи у Франції та судового позову проти компанії.
Вердикт ІТ-Блогу: Оновлення політик та посилення модерації з боку Apple та Google є критично важливими для захисту користувачів від створення та розповсюдження незаконного контенту.
Оригінал статті: mezha.ua