Компанію xAI звинуватили у тренуванні Grok на дитячій порнографії, створеній як реально, так і за допомогою ШІ.
xAI звинуватили у тренуванні Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Регулятори та суди продовжують розслідувати масштаби проблеми, а деяких користувачів Grok уже заарештовано.
У скарзі, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, коли вона була дошкільного віку, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам в Інтернеті. Відтоді зображення Доу були хешовані такими групами, як Національний центр зниклих та експлуатованих дітей (NCMEC) і Канадський центр захисту дітей (CCCP).
Для власної безпеки Доу обрала отримувати сповіщення від Системи сповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Незважаючи на безліч отриманих сповіщень, вона була шокована, коли CCCP повідомив їй, що ідентифікував створені ШІ CSAM на xAI, які зображали її. Це повторно травмувало Доу, чия скарга стверджувала, що в онлайн-форумах були знайдені повідомлення «між злочинцями, які обговорювали створення ШІ-згенерованих CSAM позивачки та інших подібних відомих жертв CSAM минулого».
Тепер Доу побоюється, що xAI не тільки полегшила створення нових заборонених зображень найважчого періоду її життя, але й, за її словами, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Зважаючи на це, вона вважає, що Grok тренувався як на початковому наборі зображень, які переслідували її понад 20 років, так і на новіших, згенерованих ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і скарга не містить детальної інформації щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який пізніше було видалено після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувалася на цих даних. У прес-релізі адвокатів, які представляють Доу, пояснюється, що зображення Доу були включені до списку хешів CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовувала для створення можливостей генерації зображень та відео Grok». У скарзі так само стверджувалося лише, що «CSAM, що зображує позивачку, з її давно відомими хеш-значеннями, було використано як частину набору даних, який xAI використовувала».
Більше деталей надається щодо заяв про тренування Grok на ШІ-згенерованих CSAM.
«Оскільки в умовах Grok публічні дописи на X та власні результати Grok за замовчуванням розглядаються як тренувальні дані, публікація зображення не тільки надає його для перегляду, але й безпосередньо надходить у конвеєр, який xAI використовує для тренування та вдосконалення своєї моделі, і, відповідно, для генерації подальших зображень», — зазначено у скарзі Доу.
У позові також зазначалося, що, хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, умови xAI, як правило, не вказують, чи є CSAM, матеріали інтимного характеру без згоди (NCII) або матеріали NSFW «виключеними категоріями».
Здається, випливає, що «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є чимось, що xAI публічно стверджувала, що зробила, будь-які CSAM, що потрапили в тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», — зазначено у скарзі Доу.
Доу вимагає знищити всі CSAM Grok
У своєму запропонованому колективному позові Доу прагне покласти край шкідливим результатам Grok. Якщо буде схвалено, клас представлятиме кожного потерпілого, чиї дитячі зображення були використані для генерації CSAM Grok.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Маші, обидва з яких надають потерпілим від CSAM право подавати позови за виробництво, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мейбі, зазначила у прес-релізі, що всі три є злочинами, і «xAI зробила всі три».
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошові збитки кожному потерпілому, який зможе довести, що Grok згенерував CSAM на основі їхніх реальних фотографій. Доу також попросила суд наказати xAI знищити всі CSAM, згенеровані Grok, які компанія може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заблокувала Grok від генерації CSAM, що, як зазначено в її скарзі, потребувало б блокування Grok від будь-яких сексуалізованих результатів, включаючи NCII та NSFW «бікіні-пікчі», які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила у прес-релізі, що Доу «майже два десятиліття жила, знаючи, що зображення найстрашнішої події, яка з нею сталася, поширюються серед хижаків в Інтернеті, і що вони можуть з’явитися будь-якої миті. xAI має нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, яке вона пережила, та на зображеннях насильства кожної іншої жертви у цьому класі».
X не відповів на запит Ars про коментар.
За матеріалами: arstechnica.com