Компанію xAI звинувачують у тренуванні Grok на реальній та згенерованій ШІ дитячій порнографії.
width=”640″ height=”427″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-640×427.jpg” alt=”” /> 
width=”1024″ height=”648″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-1024×648.jpg” alt=”” />
Компанію xAI звинувачують у тренуванні Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Регуляторні органи та суди продовжують розслідувати масштаби проблеми, а деяких користувачів Grok вже було заарештовано.
У позовній заяві, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, коли вона була дошкільницею, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам онлайн. З того часу зображення Доу були оброблені групами, такими як Національний центр зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Для своєї безпеки Доу обрала отримувати сповіщення від Системи інформування потерпілих Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала безліч сповіщень, вона була шокована, коли CCCP повідомив її, що виявив згенеровані ШІ CSAM на xAI, які зображували її. Це повторно травмувало Доу, чия скарга стверджувала, що в онлайн-форумах було знайдено повідомлення «між злочинцями, які обговорювали створення ШІ-згенерованих CSAM з позивачки та інших подібних відомих, давніх жертв CSAM».
Тепер Доу побоюється, що xAI не тільки полегшила створення нових порушувальних зображень найважчого періоду її життя, але й, як стверджується, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які переслідували її понад 20 років, так і на новіших, згенерованих ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і позовна заява не містить детальної інформації щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який згодом був видалений після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувалася на цих даних. У прес-релізі адвокатів, які представляють Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який веде NCMEC, і «ті самі матеріали», як стверджується, «були частиною набору даних, який xAI використовував для створення можливостей генерації зображень та відео Grok». У позовній заяві також лише стверджується, що «CSAM, що зображують позивачку з її давно відомими хеш-значеннями, використовувалися як частина набору даних, який використовувала xAI».
Більше деталей наведено щодо тверджень про тренування Grok на ШІ CSAM.
«Оскільки в умовах Grok публічні публікації в X та власні результати Grok за замовчуванням розглядаються як тренувальні дані, публікація зображення не лише виставляє його на огляд глядачам, але й безпосередньо потрапляє до конвеєра, який xAI використовує для тренування та покращення своєї моделі, і таким чином генерує подальші зображення», — йдеться в позовній заяві Доу.
У позові також зазначено, що, хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, умови xAI, як відомо, не уточнюють, чи є «CSAM, неконсенсуальні інтимні зображення (NCII) або NSFW матеріали» «виключеними категоріями».
Отже, «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є тим, що xAI публічно стверджувала, що зробила, будь-які CSAM, що потрапили до тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», — йдеться в позовній заяві Доу.
Знищити всі Grok CSAM, каже Доу
У своїй запропонованій колективній позовній заяві Доу прагне покласти край шкідливим результатам Grok. Якщо буде схвалено, клас представлятиме кожного потерпілого, чиї дитячі зображення використовувалися для створення Grok CSAM.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Маші, обидва з яких надають жертвам CSAM право подавати позови за виробництво, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мебі, припустила в прес-релізі, що всі три є злочинами, і «xAI зробила всі три».
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошову компенсацію кожному потерпілому, який зможе довести, що Grok згенерував CSAM на основі їхніх реальних фотографій. Доу також попросила суд наказати xAI знищити всі CSAM, згенеровані Grok, які вона може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заборонила Grok генерувати CSAM, що, як зазначено в її позовній заяві, потребуватиме заборони Grok на будь-які сексуалізовані результати, включаючи NCII та NSFW «бікіні-фото», які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила в прес-релізі, що Доу «живе майже два десятиліття, знаючи, що зображення найгіршого, що з нею коли-небудь траплялося, поширюються серед хижаків онлайн, і що вони можуть з’явитися будь-якої миті. xAI повинна нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, яке вона пережила, та на зображеннях насильства інших жертв цього класу».
X не відповіла на запит Ars про коментар.
Джерело новини: arstechnica.com