Компанію xAI звинувачують у тренуванні Grok на матеріалах, що зображують дитячу порнографію, створених як реально, так і за допомогою ШІ.
Надувний манекен генерального директора SpaceX Ілона Маска, що протестує проти Grok AI, стоїть на Таймс-Сквер у Нью-Йорку. Фото: CHARLY TRIBALLEAU / Contributor | AFP
Компанію xAI звинуватили у використанні матеріалів сексуального насильства над дітьми (CSAM) для тренування Grok. Водночас регуляторні органи та суди продовжують розслідувати масштаби цієї проблеми, а деяких користувачів Grok вже заарештовано.
У скарзі, поданій у середу, позивачка, відома як Джейн Доу, пояснила, що на початку 2000-х років, коли вона була дошкільного віку, дорослі чоловіки неодноразово ґвалтували її, щоб створити CSAM для продажу педофілам онлайн. Відтоді зображення Доу були хешовані такими групами, як Національний центр зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Задля своєї безпеки Доу обрала отримувати сповіщення від Військової системи сповіщення жертв Міністерства юстиції США щоразу, коли вона може бути жертвою нового кримінального розслідування. Хоча вона отримувала численні сповіщення, вона була шокована, коли CCCP повідомив їй, що ідентифікував створений ШІ CSAM на платформі xAI, який зображав її. Це ретравматизувало Доу, чия скарга стверджувала, що в онлайн-форумах були знайдені повідомлення «між злочинцями, які обговорювали створення ШІ-згенерованого CSAM позивачки та інших подібних відомих, давніх жертв CSAM».
Тепер Доу побоюється, що xAI не лише полегшила створення більш порушуючих зображень найважчого періоду її життя, але й, як стверджується, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які переслідували її понад 20 років, так і на новіших, створених ШІ.
Це перша справа, яка звинувачує xAI у тренуванні на CSAM, і скарга не вдається в деталі щодо цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який пізніше був видалений після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувалася на цих даних. У прес-релізі юристів, які представляють Доу, пояснюється, що зображення Доу були включені до Списку хешів CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовувала для створення можливостей Grok з генерації зображень та відео». У скарзі також стверджується, що «CSAM, що зображує позивачку з її давніми, добре відомими хеш-значеннями, використовувався як частина набору даних, що використовується xAI».
Однак більше деталей надається щодо тверджень про тренування Grok на ШІ CSAM.
«Оскільки в умовах Grok пости з X та власні результати Grok за замовчуванням розглядаються як тренувальні дані, публікація зображення не тільки викриває його для перегляду, але й безпосередньо надходить у конвеєр, який xAI використовує для тренування та вдосконалення своєї моделі, і таким чином генерує подальші зображення», — йдеться у скарзі Доу.
У позові також зазначено, що хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, умови xAI помітно не визначають, чи є CSAM, несанкціоновані інтимні зображення (NCII) або NSFW-матеріали «виключеними категоріями».
Звідси випливає, що «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і не є тим, що xAI публічно стверджувала, що зробила, будь-який CSAM, що потрапив у тренування до видалення, ймовірно, продовжував формувати результати моделі навіть після того, як оригінальні зображення були видалені з загального доступу», — зазначено у скарзі Доу.
Доу вимагає знищити весь Grok CSAM
У своєму запропонованому позові колективної дії Доу прагне покласти край шкідливим результатам Grok. Якщо його буде затверджено, клас представлятиме кожну жертву, чиї дитячі зображення були використані для створення Grok CSAM.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також Закону Маші, обидва з яких надають постраждалим від CSAM право подавати позови за виробництво, зберігання та розповсюдження. Адвокат Доу, Маргарет Е. Мабі, припустила в прес-релізі, що всі три є злочинами, і «xAI зробила все три».
Якщо Доу виграє, xAI може виплатити грошову компенсацію кожній жертві, яка зможе довести, що Grok генерував CSAM на основі їхніх реальних фотографій. Доу також просила суд наказати xAI знищити весь Grok-згенерований CSAM, який може зберігатися на її серверах і використовуватися для тренування моделей Grok. Крім того, вона хоче, щоб xAI заблокувала Grok від генерації CSAM, що, як зазначено в її скарзі, вимагатиме блокування Grok від будь-яких сексуалізованих результатів, включаючи NCII та «бікіні-пікчерс» NSFW, які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила в прес-релізі, що Доу «майже два десятиліття знала, що зображення найгіршого, що з нею коли-небудь траплялося, циркулюють серед хижаків онлайн, і що вони можуть спливти будь-якої миті. xAI повинна нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, та на зображеннях насильства кожної іншої жертви в цьому класі».
X не відповіла на запит Ars про коментар.
Ешлі Беленджер
Старший репортер з питань політики
Ешлі — старший репортер з питань політики для Ars Technica, яка займається відстеженням соціальних наслідків нових політик та технологій. Вона журналіст із Чикаго з 20-річним досвідом роботи.
Оригінал статті: arstechnica.com