xAI звинувачують у тренуванні Grok на реальному та створеному ШІ дитячому порнографічному контенті.
Компанію xAI звинуватили у тренуванні свого генеративного ШІ Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Регулятори та суди продовжують розслідування масштабів проблеми, а деяких користувачів Grok вже було заарештовано.
У скарзі, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, будучи дошкільного віку, вона зазнала багаторазових зґвалтувань з боку дорослих чоловіків, які створювали CSAM для продажу педофілам в інтернеті. З того часу зображення Доу були хешовані такими організаціями, як Національний центр зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Задля власної безпеки Доу обрала отримувати сповіщення від Системи сповіщення жертв Міністерства юстиції США про будь-які нові кримінальні розслідування, в яких вона може бути жертвою. Незважаючи на отримання численних сповіщень, вона була шокована, коли CCCP повідомив її про виявлення на серверах xAI матеріалів, створених ШІ, які зображували її. Це призвело до повторної травматизації Доу, яка стверджувала у своїй скарзі, що на онлайн-форумах були виявлені повідомлення «між злочинцями, які обговорювали створення ШІ-генерованих CSAM позивачки та інших подібних відомих жертв CSAM».
Тепер Доу побоюється, що xAI не тільки полегшила створення нових заборонених зображень найболючішого періоду її життя, але й, як стверджується, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які мучать її понад 20 років, так і на новіших, створених ШІ.
Це перша справа, де xAI звинувачують у тренуванні на CSAM, і скарга не містить детальних роз’яснень щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який було видалено після того, як дослідники виявили в ньому CSAM, але немає жодних доказів того, що xAI тренувався на цих даних. У прес-релізі адвокатів, які представляють інтереси Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовував для побудови можливостей Grok з генерації зображень та відео». У скарзі також стверджується, що «CSAM, що зображує Позивачку, з її давно відомими хешами, було використано як частину набору даних, який використовувала xAI».
Однак більше деталей надається щодо тверджень про те, що Grok тренується на ШІ-згенерованих CSAM.
«Оскільки умови використання Grok за замовчуванням розглядають загальнодоступні публікації у X та власні результати Grok як навчальні дані, публікація зображення не тільки робить його доступним для перегляду, але й спрямовує його безпосередньо в конвеєр, який xAI використовує для тренування та покращення своєї моделі, тим самим генеруючи подальші зображення», – зазначено у скарзі Доу.
Позов також зазначає, що хоча xAI фільтрує насильницький контент у результатах Grok, виключаючи його з навчальних даних, умови xAI не вказують, чи є CSAM, приватні зображення без згоди (NCII) або матеріали для дорослих («NSFW») «виключеними категоріями».
Звідси випливає, що «оскільки повне видалення впливу навчального прикладу з уже навченої моделі технічно складне і не є тим, що xAI публічно стверджувала, що зробила, будь-які CSAM, що потрапили до тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», – йдеться у скарзі Доу.
«Знищити всі Grok CSAM», – вимагає Доу
У своїй запропонованій колективній позовній заяві Доу прагне покласти край шкідливим результатам Grok. Якщо буде затверджено, клас представлятиме кожного постраждалого, чиї дитячі зображення були використані для створення Grok CSAM.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Меші (Masha’s Law), які надають постраждалим від CSAM право подавати позови за виробництво, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мебі, зазначила у прес-релізі, що всі три пункти є злочинами, і «xAI скоїла всі три».
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошову компенсацію кожному постраждалому, хто зможе довести, що Grok створив CSAM на основі їхніх реальних фотографій. Доу також попросила суд зобов’язати xAI знищити всі Grok-згенеровані CSAM, які можуть зберігатися на її серверах і використовуватися для тренування моделей Grok. Крім того, вона хоче, щоб xAI заборонила Grok генерувати CSAM, що, як випливає з її скарги, вимагатиме заборони Grok на будь-які сексуалізовані результати, включаючи NCII та «бікіні-піксі» NSFW, які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила у прес-релізі, що Доу «майже два десятиліття живе зі знанням того, що зображення найжахливішого, що коли-небудь траплялося з нею, поширюються серед хижаків в інтернеті, і що вони можуть з’явитися будь-якої миті. xAI має нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, яке вона пережила, та на зображеннях насильства інших жертв цього класу».
X не відреагувала на запит Ars про коментар.
За матеріалами: arstechnica.com