xAI звинувачують у тренуванні Grok на дитячій порнографії, створеній як реальними людьми, так і штучним інтелектом.
xAI тепер звинувачують у тренуванні Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Регуляторні органи та суди продовжують розслідування, а деяких користувачів Grok було заарештовано.
У скарзі, поданій у середу, позивачка на ім’я Джейн Доу пояснила, що на початку 2000-х років, коли вона була дошкільного віку, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам в Інтернеті. Відтоді зображення Доу були внесені до хеш-листів таких груп, як Національний центр з питань зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Задля власної безпеки Доу обрала отримувати сповіщення від Системи сповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала незліченну кількість сповіщень, вона була шокована, коли CCCP повідомив її, що ідентифікував створені ШІ CSAM на xAI, які зображували її. Це знову травмувало Доу, чия скарга стверджувала, що повідомлення були знайдені на онлайн-форумах «між злочинцями, які обговорювали створення ШІ-згенерованих CSAM позивачки та інших подібних відомих жертв CSAM минулого».
Тепер Доу побоюється, що xAI не тільки полегшив створення більш порушувальних зображень найтяжчих моментів її життя, але й що xAI, за її твердженнями, зберігає зображення, які генерує Grok, і використовує ці вихідні дані для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які мучили її понад 20 років, так і на новіших, створених ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і скарга не містить детальної інформації щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який згодом було видалено після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувався на цих даних. У прес-релізі від юристів, які представляють Доу, пояснюється, що зображення Доу були включені до Хеш-списку CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовував для побудови можливостей Grok з генерації зображень та відео». У скарзі також стверджувалося, що «CSAM, що зображує Позивачку, з її давно відомими хеш-значеннями, використовувався як частина набору даних, який xAI використовував».
Однак більше деталей надано щодо тверджень про те, що Grok тренується на ШІ CSAM.
«Оскільки в умовах Grok публічні пости в X і власні результати Grok за замовчуванням розглядаються як тренувальні дані, публікація зображення не тільки робить його доступним для перегляду, але й безпосередньо надходить до конвеєра, який xAI використовує для тренування та покращення своєї моделі, і, відповідно, для генерації подальших зображень», — йдеться у скарзі Доу.
У позові також зазначається, що, хоча xAI фільтрує насильницький контент у вихідних даних Grok, щоб виключити його з тренувальних даних, умови xAI, як правило, не вказують, чи є CSAM, неконсенсусні інтимні зображення (NCII) або NSFW-матеріали «виключеними категоріями».
Звідси випливає, що «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є тим, чим xAI публічно заявив, що робив, будь-які CSAM, що потрапили в тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після того, як оригінальні зображення були видалені з публічного доступу», — йдеться у скарзі Доу.
Знищити всі CSAM Grok, каже Доу
У своєму запропонованому колективному позові Доу прагне покласти край шкідливим результатам Grok. Якщо буде затверджений, клас представлятиме кожного жертву, чиї дитячі зображення були використані для генерації CSAM Grok.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також Закону Маші, обидва з яких надають потерпілим від CSAM право подавати позови щодо виробництва, володіння та розповсюдження. Юрист Доу, Маргарет Е. Мебі, припустила в прес-релізі, що всі три є злочинами, і «xAI зробив усі три».
Якщо Доу виграє, xAI може виплатити грошові збитки кожному жертві, яка зможе довести, що Grok створив CSAM на основі їхніх реальних фотографій. Доу також попросила суд зобов’язати xAI знищити всі CSAM, згенеровані Grok, які він може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заблокував Grok від будь-якої генерації CSAM, що, як припускається в її скарзі, вимагатиме блокування Grok від будь-яких сексуалізованих результатів, включаючи NCII та «бікіні-фотки» NSFW, які рекламував Маск.
Сара Лондон, одна з юристів Доу, заявила в прес-релізі, що Доу «майже два десятиліття живе зі знанням того, що зображення найгіршого, що з нею коли-небудь траплялося, циркулюють серед хижаків в Інтернеті, і що вони можуть з’явитися будь-якої миті. xAI має нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, і на зображеннях насильства всіх інших потерпілих у цьому класі».
X не відповів на запит Ars про коментар.
Інформація підготовлена на основі матеріалів: arstechnica.com