xAI звинувачують у тренуванні Grok на дитячій порнографії, створеній як реально, так і за допомогою ШІ.
width=”640″ height=”427″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-640×427.jpg” alt=”” /> 
width=”1024″ height=”648″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-1024×648.jpg” alt=”” />
Компанія xAI звинувачується у тренуванні своєї моделі Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Цей скандал розгортається на тлі триваючих розслідувань регуляторів та судових процесів щодо масштабу цієї проблеми, а також арештів деяких користувачів Grok.
У позовній заяві, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, коли вона була дошкільного віку, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам в Інтернеті. З того часу зображення Доу були хешовані такими організаціями, як Національний центр з питань зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Задля власної безпеки Доу обрала отримувати сповіщення від Системи оповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала численні сповіщення, її шокувало, коли CCCP повідомив їй, що виявив згенеровані ШІ CSAM на платформі xAI, які зображували її. Це знову травмувало Доу, у скарзі якої стверджується, що в онлайн-форумах були знайдені повідомлення “між злочинцями, які обговорювали створення ШІ-згенерованих CSAM позивачки та інших подібних відомих, раніше виявлених жертв CSAM”.
Тепер Доу побоюється, що xAI не тільки полегшила створення більш порушуючих зображень найтяжчого періоду її життя, але й, як стверджується, зберігає зображення, які генерує Grok, і використовує ці вихідні дані для подальшого тренування Grok. З цієї причини вона вважає, що Grok тренувався як на початковому наборі зображень, які переслідували її понад 20 років, так і на більш пізніх, згенерованих ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і скарга не містить детальної інформації щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який пізніше було видалено після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувався на цих даних. У прес-релізі адвокатів, що представляють Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який веде NCMEC, і “ті самі матеріали”, як стверджується, “були частиною набору даних, який xAI використовувала для створення можливостей генерації зображень та відео Grok”. У скарзі також стверджується, що “CSAM, що зображує позивачку з її давніми, добре відомими хеш-значеннями, використовувався як частина набору даних, який xAI використовувала”.
Більше деталей наводиться щодо тверджень про тренування Grok на ШІ CSAM.
“Оскільки умови використання Grok розглядають загальнодоступні пости X та власні результати Grok як тренувальні дані за замовчуванням, публікація зображення не тільки піддає його впливу глядачів, але й безпосередньо надходить до конвеєра, який xAI використовує для тренування та покращення своєї моделі, і таким чином генерує подальші зображення”, — йдеться у скарзі Доу.
У позові також зазначається, що хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, умови xAI, як правило, не уточнюють, чи є CSAM, зображення інтимного характеру без згоди (NCII) або матеріали для дорослих (NSFW) “виключеними категоріями”.
Здається, з цього випливає, що “оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є тим, що xAI публічно стверджувала, що зробила, будь-які CSAM, що потрапили до тренування до видалення, ймовірно, продовжували формувати вихідні дані моделі навіть після того, як оригінальні зображення були видалені з публічного доступу”, — йдеться у скарзі Доу.
Доу вимагає знищити всі CSAM, згенеровані Grok
У своєму запропонованому колективному позові Доу прагне припинити шкідливі результати роботи Grok. Якщо його буде схвалено, клас представлятиме кожного потерпілого, чиї дитячі зображення були використані для створення CSAM Grok.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також Закону Маші, обидва з яких надають постраждалим від CSAM право подавати позови за виробництво, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мебі, припустила у прес-релізі, що всі три є злочинами, і “xAI зробила все три”.
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошові збитки кожному потерпілому, який зможе довести, що Grok згенерував CSAM на основі їхніх реальних фотографій. Доу також попросила суд зобов’язати xAI знищити всі CSAM, згенеровані Grok, які вона може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заборонила Grok генерувати CSAM, що, як випливає з її скарги, потребуватиме заборони Grok на будь-які сексуалізовані результати, включаючи NCII та NSFW “бікіні-фотки”, які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила у прес-релізі, що Доу “майже два десятиліття живе з усвідомленням того, що зображення найгіршого, що з нею коли-небудь траплялося, циркулюють серед хижаків в Інтернеті, і що вони можуть з’явитися будь-якої миті. xAI повинна нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, та на зображеннях насильства всіх інших постраждалих у цьому класі”.
X не відповів на запит Ars щодо коментарів.
Джерело новини: arstechnica.com