xAI судиться, щоб уникнути відповідальності за Grok, стверджуючи, що заборона в Міннесоті є неконституційною.
Ілон Маск захищає Grok, стверджуючи, що заборона Міннесоти на програми для “окоління” є неконституційною.
Компанія xAI, заснована Ілоном Маском, намагається уникнути покарання за контент, створений її штучним інтелектом Grok. На тлі арештів користувачів Grok, яких звинувачують у створенні матеріалів із сексуальним насильством над дітьми (CSAM), xAI зіткнулася з позовами від потерпілих, які вимагають внесення змін до інструменту, щоб блокувати шкідливий контент.
На початку цього місяця xAI розпочала судові процеси проти користувачів, які, як стверджується, обходять вбудовані запобіжники для генерації CSAM за допомогою ШІ. Компанія, очевидно, сподівається, що рання перемога в суді звільнить її від відповідальності за контент, створений користувачами.
У своєму наступному кроці розробник Grok у понеділок подав скаргу, звинувативши штат Міннесота у спробі змусити зміни до Grok та Grok Imagine шляхом впровадження заборони на технологію “окоління”. За словами xAI, це призведе до відповідальності компанії за шкідливий контент, а також за контент, який, як стверджується, сексуалізує людей без їхньої згоди. xAI заявляє, що судові процеси проти користувачів Grok є доказом того, що компанія вже робить усе можливе для покарання зловмисників, і тому Grok заслуговує на захист від заборони Міннесоти.
Закон Міннесоти, який набуває чинності 1 серпня, загрожує таким компаніям, як xAI, штрафами до 500 000 доларів за кожен виявлений у штаті шкідливий вихідний матеріал. Як пояснила xAI, це швидко призводить до значних сум, враховуючи, що деяких користувачів Grok звинувачують у створенні тисяч зображень одних і тих самих жертв. Зовсім нещодавно минулого тижня xAI була притягнута до суду після того, як повідомила поліцію про відомого арканзаського дитячого фотографа, який, як стверджується, використовував Grok для сексуалізації знімків сотень своїх клієнтів. У скарзі від 10-річної Джейн Доу стверджується, що фотограф створив сотні зображень Доу та тисячі зображень і відео інших дітей. Адвокат Доу повідомив Ars, що багато з цих дітей готуються подати власні позови, і ці претензії можуть бути додані до потенційного колективного позову, поданого в березні молодими дівчатами з Теннессі.
Розрахунки показують, що xAI, здається, запанікувала, стверджуючи, що штрафування розробників інструментів ШІ за кожен вихідний матеріал є надмірним, особливо з огляду на те, що закон Міннесоти не передбачає вимог щодо розповсюдження і потенційно штрафує xAI за зображення, які бачив лише користувач:
«Компанія, користувачі якої замовлять лише десять зображень на порушення закону, зіткнеться з цивільними штрафами до 5 мільйонів доларів. Компанія з тисячею порушуючих зображень може бути оштрафована на суму до 500 мільйонів доларів. А бізнес, користувачі якого створили сто тисяч зображень, підпадаючих під дію [закону] (що зовсім не є неймовірним для загальнодоступної програми з мільйонами користувачів, які створюють мільярди зображень), може бути зобов’язаний виплатити запаморочливі 50 мільярдів доларів».
Крім того, закон надає жертвам право подавати позови проти xAI щодо будь-якого окремого вихідного матеріалу, що збільшує фінансові ризики для xAI.
Штрафи настільки суворі, що xAI заявила у своєму позові, що нарешті готується оновити Grok, щоб блокувати шкідливий контент, після більш ніж шести місяців негативної реакції та розслідувань, які тиснули на компанію, щоб вона посилила свої запобіжні заходи.
«Зіткнувшись із суворою відповідальністю в розмірі 500 000 доларів за зображення та відсутністю захисту, xAI не має практично жодного вибору, крім як обмежувати функції редагування зображень Grok Imagine різними способами, коли закон набуде чинності 1 серпня 2026 року», — стверджує xAI. «Таким чином, вільне мовлення, яке було доступне до набрання чинності закону, буде придушено».
Однак xAI хотіла б залишити Grok незмінним і продовжувати покладатися на свої умови використання, які передбачають, що користувачі можуть бути забанені за використання Grok для створення CSAM або інших видів неконсенсусних інтимних зображень (NCII), зазначено в її скарзі.
«Якби не [закон] та його штрафи, xAI продовжувала б пропонувати функцію редагування саме так, як вона це робить сьогодні», — заявила xAI.
Закон про “окоління” є неконституційним, стверджує xAI
Щоб захистити Grok, компанія Маска посилається на Першу поправку, стверджуючи, що закон Міннесоти є «незграбною спробою заборонити “окоління”», яка «охоплює широкий спектр повністю захищеного мовлення». Це включає оголені зображення, створені з «художньою, науковою, політичною, сатиричною, освітньою, медичною або релігійною цінністю», стверджує xAI.
«Найбільш обурливим є те, що відповідальність настає навіть тоді, коли зображені особи дали згоду, або самі створили зображення, і навіть якщо зображення ніколи не поширювалося», — наголосила xAI у своїй скарзі.
Міннесота має менш обмежувальні засоби для запобігання шкоді від “окоління”, стверджує xAI, заявляючи, що закон Take It Down Act вже захищає користувачів від шкоди розповсюдження.
Якщо суд погодиться, Міннесота може бути зобов’язана не застосовувати закон до будь-якої програми для “окоління”.
Без такого судової заборони «постачальники, ймовірно, не матимуть іншого вибору, крім як змінювати свої послуги в Міннесоті, а не ризикувати тим, що користувачі уникнуть їхніх засобів контролю», — стверджує xAI. «І це обмежить усі види використання інструментів генерації зображень ШІ, включно з тими, на які [закон] не поширюється».
Однак Міннесота вважає, що має право блокувати зображення біля джерела, перш ніж вони зможуть бути розповсюджені та завдати шкоди дітям протягом усього життя. У відповідь на запит про коментар, офіс генерального прокурора Міннесоти Кіта Еллісона надав заяву Ars, підтвердивши, що Міннесота, ймовірно, захищатиме закон, щоб запобігти жахливим вихідним матеріалам, які, як стверджують судові процеси, викликають травми у жертв та їхніх родин по всій країні.
«Ми чекаємо на вручення документів і розглянемо позов та відповідь у суді», — сказав Еллісон. «Але я знаю, що використання ШІ для створення оголених зображень людей проти їхньої волі є жахливим. Є багато гідних дискусій про політику ШІ. Це не одна з них. “Окоління” за допомогою ШІ позбавляє жертву гідності та може завдати величезної шкоди на емоційному, особистому та професійному рівнях».
xAI не відповіла на запит Ars про коментар.
Стегна, жіночі груди не є “інтимними”, стверджує xAI
Аргументи xAI в основному зосереджені на визначенні Міннесоти “інтимних частин”.
Компанія Маска віддає перевагу визначенням, знайденим у законах проти помстливого порно, таких як Take It Down Act, який, за словами xAI, використовував вужче визначення для криміналізації розповсюдження як реальних, так і згенерованих ШІ «інтимних візуальних зображень». Відповідно до Take It Down Act, шкідливими зображеннями є ті, що оголюють «геніталії, лобкову область, анус або частково або повністю оголені соски особи», і це, як стверджується, гарантує, що закон не застосовується до невинних зображень.
Менш вузько спрямованою, стверджує xAI, є юридичне визначення “інтимних частин” у Міннесоті, яке було взято з кримінального закону, що забороняє “неконсенсуалне доторкання” до “внутрішньої частини стегна, сідниць або грудей чоловіка чи жінки, а також паху та основної ділянки геніталій”.
Закон має сенс для неконсенсуального доторкання, але не для створення зображень без згоди, стверджує xAI. Він «відповідно забороняє звичайні зображення чоловіків без сорочок, людей у шортах або купальниках, а також інших частин тіла, які зазвичай демонструються на публіці — далеко за межі того, що звичайна людина вважала б “околінням”», — стверджує xAI.
У своїй скарзі xAI, здається, обходить згадки про бікіні, після того, як значна частина негативної реакції на Grok послідувала за постом Маска в X, який рекламував здатність Grok одягнути будь-кого в бікіні.
Натомість xAI зосереджується на захисті прав користувачів Grok на створення зображень як форми вираження, наприклад, висміюючи політиків, переосмислюючи їх у плавках або як борців сумо, що передбачало б зображення з відкритими стегнами та чоловічими грудьми. Найближче, на що xAI наблизилася до визнання того, що жінки та дівчата стали жертвами скандалу, це цитування зображення, створеного Дональдом Трампом, яке показувало його з політичними союзниками без сорочок у басейні, з, як припускає xAI, жінкою в бікіні, згенерованою ШІ.
Скарга xAI також, здається, уникає детального обговорення арештів користувачів Grok, які, як припустив адвокат Доу Ars, відбуваються все частіше, оскільки xAI, схоже, тісніше співпрацює з правоохоронними органами в деяких випадках. Хоча xAI критикували за невдачу допомогти поліції ідентифікувати одного користувача Grok, якого зрештою заарештували, xAI заявила у своєму позові, що вона мотивована виявляти зловмисників, і з 70 000 повідомлень про підозрілий CSAM, згенерований Grok, щонайменше 244 справи призвели до арештів.
Крім аргументів про те, що користувачі Grok несуть виключну відповідальність за шкідливий контент, а Grok заслуговує на звільнення від заборон на програми для “окоління” через нібито впровадження передових або “майже досконалих” механізмів виявлення шкідливого контенту, xAI стверджує, що процес створення Grok будь-яких зображень чи відео підпадає під захист Першої поправки. Це перегукується з іншими розробниками чат-ботів, які по суті стверджували, що мовлення чат-ботів заслуговує на ті ж захисти, що й людське мовлення.
Чи будуть аргументи xAI успішними, ймовірно, залежатиме від того, чи погодиться суд, що закон Міннесоти не є достатньо вузько спрямованим, щоб витримати конституційну перевірку. xAI стверджує, що він не може витримати жодного рівня перевірки.
«Хоча Міннесота, ймовірно, має вагомий інтерес у запобіганні створенню оголених зображень інших людей без згоди та розповсюдженню цього контенту, закон штрафує платформи ШІ за допомогу у створенні значного обсягу захищеного мовлення у зв’язку з цією обмеженою метою», — стверджує xAI.
Оригінал статті: arstechnica.com