Компанію xAI звинувачують у тренуванні Grok на реальних та згенерованих ШІ дитячих порнографічних матеріалах.
Ashley Belanger – 27 серпня 2026, 15:52
width=”640″ height=”427″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-640×427.jpg” alt=”” /> 
width=”1024″ height=”648″ src=”https://cdn.arstechnica.net/wp-content/uploads/2026/08/GettyImages-2280412936-1024×648.jpg” alt=”” />
Компанію xAI звинуватили у використанні матеріалів сексуального насильства над дітьми (CSAM) для тренування моделі Grok. Регуляторні органи та суди продовжують розслідувати масштаби цієї проблеми, а деякі користувачі Grok уже були заарештовані.
У позовній заяві, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, будучи дошкільницею, вона зазнавала багаторазових зґвалтувань з боку дорослих чоловіків, які створювали CSAM для продажу педофілам в Інтернеті. З того часу зображення Доу були оброблені групами, такими як Національний центр зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Заради власної безпеки Доу обрала отримувати сповіщення від Системи сповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала численні сповіщення, її шокувало, коли CCCP повідомив їй, що виявив згенеровані ШІ CSAM на платформі xAI, які зображували її. Це ретравматизувало Доу, чия позовна заява стверджувала, що в онлайн-форумах було знайдено повідомлення «між злочинцями, які обговорювали створення згенерованих ШІ CSAM з позивачкою та іншими відомими, давніми жертвами CSAM».
Тепер Доу побоюється, що xAI не лише полегшила створення нових порушувальних зображень найтяжчого періоду її життя, але й, як стверджується, зберігає зображення, які генерує Grok, та використовує ці вихідні дані для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, що переслідують її понад 20 років, так і на новіших, згенерованих ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і в позовній заяві цей пункт не розкрито детально. Раніше Ars повідомляла про суперечливий набір даних, який було видалено після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувалася на цих даних. У прес-релізі адвокатів, які представляють Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який підтримує NCMEC, і «ті самі матеріали», як стверджується, «були частиною набору даних, який xAI використовувала для побудови можливостей генерації зображень та відео Grok». Позовна заява так само лише стверджувала, що «CSAM, що зображують позивачку, з її довготривалими, добре відомими хеш-значеннями, були використані як частина набору даних, який використовує xAI».
Однак, більше деталей надається щодо тверджень про те, що Grok тренується на CSAM, згенерованих ШІ.
«Оскільки умови використання Grok за замовчуванням розглядають публічні пости X та власні вихідні дані Grok як тренувальні дані, публікація зображення не лише робить його доступним для перегляду, але й безпосередньо надходить до конвеєра, який xAI використовує для тренування та вдосконалення своєї моделі, і, таким чином, для генерації подальших зображень», — йдеться у позовній заяві Доу.
Судовий позов також зазначає, що, хоча xAI фільтрує насильницький контент у вихідних даних Grok, щоб виключити його з тренувальних даних, умови xAI, як правило, не уточнюють, чи є CSAM, несанкціоновані інтимні зображення (NCII) або NSFW-матеріали «виключеними категоріями».
Звідси випливає, що «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є тим, що xAI публічно стверджувала, що зробила, будь-які CSAM, що надійшли під час тренування до видалення, ймовірно, продовжували формувати вихідні дані моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», — йдеться у позовній заяві Доу.
Доу вимагає знищити всі CSAM, згенеровані Grok
У своєму запропонованому колективному позові Доу прагне покласти край шкідливим вихідним даним Grok. У разі схвалення, клас представлятиме кожного потерпілого, чиї дитячі зображення були використані для генерації CSAM Grok.
Судовий позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Маші, обидва з яких надають постраждалим від CSAM право подавати позови щодо виробництва, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мабі, зазначила у прес-релізі, що всі три є злочинами, і «xAI вчинила всі три».
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошову компенсацію кожному потерпілому, який зможе довести, що Grok згенерував CSAM на основі їхніх реальних фотографій. Доу також попросила суд зобов’язати xAI знищити всі CSAM, згенеровані Grok, які вона може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заблокувала Grok від генерації CSAM, що, як стверджується у її позовній заяві, вимагатиме блокування Grok від будь-яких сексуалізованих вихідних даних, включаючи NCII та «бікіні-пікчі» NSFW, які просував Маск.
Сара Лондон, одна з адвокатів Доу, заявила у прес-релізі, що Доу «майже два десятиліття знала, що зображення найгіршого, що з нею коли-небудь траплялося, циркулюють серед хижаків в Інтернеті, і що вони можуть з’явитися в будь-який момент. xAI повинна нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, та на зображеннях насильства інших постраждалих у цьому класі».
X не відповів на запит Ars щодо коментарів.
За матеріалами: arstechnica.com