Компанію xAI звинувачують у тренуванні Grok на реальній та згенерованій ШІ дитячій порнографії.
xAI звинувачують у тренуванні Grok на матеріалах, пов’язаних із сексуальним насильством над дітьми (CSAM). Регулятори та суди продовжують розслідувати масштаби цієї проблеми, а деякі користувачі Grok вже були заарештовані.
У скарзі, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, коли вона була дошкільного віку, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам онлайн. З того часу зображення Доу були оброблені групами, такими як Національний центр зниклих та експлуатованих дітей (NCMEC) і Канадський центр захисту дітей (CCCP).
Для своєї безпеки Доу обрала отримувати сповіщення від Системи сповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала безліч сповіщень, вона була шокована, коли CCCP повідомив їй, що виявив згенеровані ШІ CSAM на xAI, які зображували її. Це знову травмувало Доу, чия скарга стверджувала, що повідомлення були знайдені на онлайн-форумах «між злочинцями, які спілкувалися про створення ШІ-згенерованих CSAM від імені Позивачки та інших подібних відомих, давніх жертв CSAM».
Тепер Доу побоюється, що xAI не тільки полегшила створення нових порушувальних зображень найтрагічнішого періоду її життя, але й, за її словами, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які переслідували її понад 20 років, так і на новіших, згенерованих ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і скарга не містить детальної інформації щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який згодом був видалений після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувався на цих даних. У прес-релізі юристів, які представляють Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовувала для створення можливостей генерації зображень та відео Grok». У скарзі також стверджується, що «CSAM, що зображує Позивачку з її давніми, добре відомими хеш-значеннями, використовувались як частина набору даних, який використовувала xAI».
Однак більше деталей надається щодо тверджень про те, що Grok тренується на ШІ-згенерованих CSAM.
«Оскільки терміни використання Grok за замовчуванням розглядають публічні пости X та власні результати Grok як тренувальні дані, публікація зображення не тільки виставляє його на перегляд, але й безпосередньо надходить у конвеєр, який xAI використовує для тренування та покращення своєї моделі, і таким чином генерує подальші зображення», — йдеться у скарзі Доу.
Позов також зазначає, що хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, терміни використання xAI помітно не уточнюють, чи є CSAM, неконсенсусні інтимні зображення (NCII) або NSFW-матеріали «виключеними категоріями».
Отже, випливає, що «оскільки повне видалення впливу тренувального прикладу з вже навченої моделі технічно складне і xAI публічно не стверджувала, що це зробила, будь-які CSAM, що були завантажені під час тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», — йдеться у скарзі Доу.
Доу вимагає знищити всі CSAM, згенеровані Grok
У своєму запропонованому колективному позові Доу прагне покласти край шкідливим результатам Grok. Якщо буде схвалено, клас представлятиме кожного потерпілого, чиї дитячі зображення були використані для створення CSAM Grok.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Маші, обидва з яких надають постраждалим від CSAM право подавати позови за виробництво, володіння та розповсюдження. Адвокат Доу, Маргарет Е. Мабі, припустила в прес-релізі, що всі три є злочинами, і «xAI зробила всі три».
Якщо Доу виграє, xAI може виплатити грошові збитки кожному потерпілому, який зможе довести, що Grok згенерував CSAM на основі їхніх реальних фотографій. Доу також попросила суд наказати xAI знищити всі CSAM, згенеровані Grok, які вона може зберігати на своїх серверах та використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заблокувала Grok від генерації CSAM, що, як зазначено в її скарзі, вимагатиме блокування Grok від будь-яких сексуалізованих результатів, включаючи NCII та NSFW «бікіні-пікчі», які рекламував Маск.
Сара Лондон, одна з юристів Доу, заявила в прес-релізі, що Доу «майже два десятиліття живе з усвідомленням того, що зображення найгіршого, що з нею сталося, розповсюджуються серед хижаків онлайн, і що вони можуть з’явитися будь-якої миті. xAI має нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, та на зображеннях насильства інших постраждалих у цьому класі».
X не відповіла на запит Ars про коментар.
Джерело новини: arstechnica.com