xAI звинувачують у тренуванні Grok на дитячій порнографії.
Компанію xAI звинувачують у тренуванні моделі штучного інтелекту Grok на матеріалах, що зображують сексуальне насильство над дітьми (CSAM). Це відбувається на тлі розслідувань щодо масштабів цієї проблеми та арештів користувачів Grok.
У позові, поданому в середу, позивачка, відома як Джейн Доу, пояснила, що в дитинстві, на початку 2000-х років, вона стала жертвою сексуального насильства з боку дорослих чоловіків, які створювали CSAM для продажу педофілам в Інтернеті. Відтоді зображення Доу були оброблені хеш-функціями такими організаціями, як Національний центр зниклих та експлуатованих дітей (NCMEC) та Канадський центр захисту дітей (CCCP).
Заради власної безпеки Доу обрала отримувати сповіщення від Системи повідомлень жертв Міністерства юстиції США щоразу, коли вона може бути жертвою в новому кримінальному розслідуванні. Хоча вона отримала безліч сповіщень, вона була шокована, коли CCCP повідомив її, що ідентифікував AI-згенеровані CSAM на платформі xAI, які зображували її. Це знову травмувало Доу, чий позов стверджує, що в онлайн-форумах були знайдені повідомлення «між злочинцями, які обговорювали створення AI-згенерованих CSAM позивачки та інших подібних відомих жертв CSAM минулого».
Тепер Доу побоюється, що xAI не тільки полегшила створення нових заборонених зображень, пов’язаних із найтрагічнішим періодом її життя, але й, за її словами, зберігає зображення, які генерує Grok, і використовує ці результати для подальшого тренування Grok. Через це вона вважає, що Grok тренувався як на початковому наборі зображень, які мучили її понад 20 років, так і на новіших AI-згенерованих.
Це перша справа, в якій xAI звинувачують у тренуванні на CSAM, і позов не містить детальних пояснень цього твердження. Раніше Ars повідомляв про суперечливий набір даних, який був пізніше видалений після того, як дослідники виявили CSAM у тренувальних даних, але немає жодних ознак того, що xAI тренувалася на цих даних. У пресрелізі юристів, які представляють Доу, пояснюється, що зображення Доу були включені до Списку хешів CSAM, який веде NCMEC, і «ті самі матеріали» нібито «були частиною набору даних, який xAI використовувала для створення можливостей генерації зображень та відео Grok». Позов так само лише стверджував, що «CSAM, що зображують позивачку, з її давніми відомими хеш-значеннями, були використані як частина набору даних, який використовувала xAI».
Більше деталей надається щодо заяв про те, що Grok тренується на AI CSAM.
«Оскільки умови використання Grok розглядають публічні пости в X та власні результати Grok як тренувальні дані за замовчуванням, публікація зображення не тільки виставляє його на перегляд, але й безпосередньо потрапляє до конвеєра, який xAI використовує для тренування та вдосконалення своєї моделі, і таким чином генерує подальші зображення», — йдеться у позові Доу.
У позові також зазначено, що, хоча xAI фільтрує насильницький контент у результатах Grok, щоб виключити його з тренувальних даних, умови xAI не уточнюють, чи є CSAM, неконсенсусні інтимні зображення (NCII) або матеріали для дорослих (NSFW) «виключеними категоріями».
Отже, «оскільки повне видалення впливу тренувального прикладу з уже навченої моделі технічно складне і xAI публічно не заявляла, що робила це, будь-які CSAM, що потрапили до тренування до видалення, ймовірно, продовжували формувати результати моделі навіть після видалення оригінальних зображень з публічного доступу», — йдеться у позові Доу.
Доу вимагає знищити всі CSAM, згенеровані Grok
У своєму запропонованому колективному позові Доу прагне покласти край шкідливим результатам Grok. Якщо він буде затверджений, клас представлятиме кожну жертву, чиї дитячі фотографії були використані для створення CSAM Grok.
Позов звинувачує X у порушенні федеральних законів про дитячу порнографію, а також закону Masha’s Law, обидва з яких надають жертвам CSAM право подавати позови щодо виробництва, володіння та розповсюдження. Адвокат Доу, Маргарет Е. Мебі, припустила в пресрелізі, що всі три є злочинами, і «xAI зробила всі три».
Якщо Доу виграє, xAI може бути зобов’язана виплатити грошову компенсацію кожній жертві, яка зможе довести, що Grok створив CSAM на основі їхніх реальних фотографій. Доу також попросила суд зобов’язати xAI знищити всі CSAM, згенеровані Grok, які вона може зберігати на своїх серверах і використовувати для тренування моделей Grok. Крім того, вона хоче, щоб xAI заборонила Grok генерувати CSAM, що, як випливає з її позову, вимагатиме заборони Grok на будь-які сексуалізовані результати, включаючи NCII та «бікіні-фото» NSFW, які рекламував Маск.
Сара Лондон, одна з адвокатів Доу, заявила в пресрелізі, що Доу «майже два десятиліття живе з усвідомленням того, що зображення найгіршого, що з нею сталося, циркулюють серед хижаків в Інтернеті, і що вони можуть з’явитися будь-якої миті. xAI повинна нести відповідальність за свідоме тренування своїх моделей на зображеннях жахливого насильства, якого вона зазнала, та на зображеннях насильства кожного іншого потерпілого в цьому класі».
X не відповів на запит Ars щодо коментарів.
Джерело новини: arstechnica.com