Секретні перевірки адміністрацією Трампа передових моделей ШІ можуть приховувати корупцію, йдеться у позові.
Чотири федеральні агентства стали відповідачами у позові з вимогою оприлюднити інформацію про таємну структуру, яку використовує адміністрація Трампа для проведення безпекових перевірок передових моделей ШІ перед їх випуском.
У пресрелізі, опублікованому в середу, неупереджена некомерційна організація Protect Democracy заявила, що «майже жодних деталей» не було надано громадськості чи Конгресу. Для всіх, окрім кількох туманних «довірених партнерів», залишається незрозумілим, як виглядає процес урядової перевірки, які компанії залучені до розробки цієї структури, або яку юридичну силу мають посадовці Трампа для проведення таких перевірок.
«Ані ідентичність цих організацій, ані критерії, за якими їх було відібрано, не були оприлюднені», — заявила Protect Democracy.
Це проблема, стверджує Protect Democracy у заяві для Ars, оскільки рішення про «те, які моделі ШІ схвалюються та випускаються, можуть бути найважливішим політичним питанням цієї адміністрації». І, схоже, щонайменше одна компанія, що займається ШІ, OpenAI, «уклала приватну угоду з федеральним урядом щодо обмеження розповсюдження своїх передових моделей ШІ для партнерів, перевірених урядом».
Позов групи вимагає судового наказу, який зобов’яже посадовців надати всю запитувану інформацію до 30 вересня. Це включає «некласифіковану процедурну та договірну архітектуру: текст структури, умови участі, ідентичність учасників, а також процес і критерії надання або відкликання доступу до передових моделей», — зазначено у скарзі. Вони також вимагають судової заборони, яка б обмежувала посадовців від необґрунтованого приховування записів, які не є класифікованими.
«Виконавча гілка влади зараз обирає, які компанії можуть випускати свої продукти, а які клієнти отримують доступ до технології, що може сформувати майбутнє не лише американської промисловості та національної безпеки, а й економік та урядів за кордоном», — йдеться у пресрелізі Protect Democracy. «І все це без нагляду з боку Конгресу, громадськості чи технічних експертів поза межами виконавчої гілки влади».
Секретні правила нібито приховують корупцію
За даними Protect Democracy, ця структура потенційно може бути «корумпованою», а посадовці з Офісу національного директора з кібербезпеки, Офісу науки та технологічної політики, Міністерства фінансів та Міністерства торгівлі можуть віддавати перевагу швидкому розгортанню для компаній ШІ, які подобаються Трампу. І навпаки, громадськість вже бачила, як Трамп мстився компанії ШІ за те, що вона була занадто «woke», зазначила Protect Democracy, посилаючись на нещодавнє рішення судді про незаконність заборони Трампом компанії Anthropic.
Оскільки технології ШІ розвиваються, а ризики кібербезпеки зростають — найочевиднішим недавнім прикладом є зламання Hugging Face моделлю OpenAI — громадськість не може дозволити собі сліпо довіряти Трампу діяти добросовісно, коли він обирає, які передові моделі слід ретельно тестувати, заявила Protect Democracy. І, можливо, ще гірше, громадськість не може знати, чи нові вразливості, виявлені в реальному світі, є результатом того, що агентства не провели належну перевірку, проводили застарілі чи неефективні тести, пропустили важливі перевірки або пропустили кроки, що відповідають останнім стратегіям пом’якшення ризиків, розробленим провідними експертами з безпеки ШІ.
«Ми заслуговуємо знати, що міститься в цій структурі», — заявила група, приєднуючись до інших закликів до агентств бути більш прозорими щодо розгортання моделей ШІ.
У дописі на X минулого місяця член Палати представників США Грег Касар (Демократична партія, Техас) звинуватив Трампа у «повній нездатності захистити нас від небезпек ШІ», одночасно отримуючи «мільйони від мільярдерів ШІ».
«Тепер, після надзвичайно небезпечних проблем кібербезпеки ШІ, він каже, що налаштував «добровільну» перевірку, яку ніхто не бачив», — сказав Касар. «Заснув за кермом. Занадто зайнятий зароблянням грошей, щоб захищати наші робочі місця чи національну безпеку».
Нещодавно інший демократ, сенатор штату Каліфорнія Джош Бекер, закликав суд задовольнити запит Protect Democracy. У заяві на підтримку їхньої скарги Бекер зазначив, що Каліфорнія розглядає законопроект SB 813, який встановить процес, за яким незалежні організації визначатимуть базові стандарти безпеки ШІ. Якщо законопроект буде ухвалено — на відміну від підходу Трампа — план Каліфорнії зробить останні базові показники, стандарти та методології, що використовуються для оцінки ризиків, пов’язаних із системами ШІ, прозорими для громадськості, зазначив Бекер. Він додав, що громадськість вже вплинула на законопроект, коли одне положення було відкликано після негативної реакції громадськості.
«На відміну від підходу Адміністрації, кожен крок розробки SB 813 був публічним», — написав Бекер, наголосивши, що «ми несемо відповідальність за структуру, яку ми створили».
Ніхто не знає «довірених партнерів» Трампа
Адміністрація Трампа поспішала запровадити добровільний процес перевірки безпеки після того, як уряд позначив модель Anthropic Mythos 5 як занадто небезпечну для випуску на початку цього літа. План полягав у тому, щоб швидко розширити співпрацю з галуззю, щоб урядові команди Центру стандартів та інновацій ШІ могли переглядати передрелізні моделі зі зменшеними або знятими запобіжниками, щоб «ретельно оцінити можливості та ризики, пов’язані з національною безпекою». Але Трамп зрозумів, що це буде неможливо без повної прозорості з боку галузевих експертів, які б пояснювали, що саме можуть робити нові моделі.
У липні Білий дім запустив інформаційний центр GOLD EAGLE, який покладається на партнерів з галузі, щоб допомогти агентствам виявляти вразливості кібербезпеки в багатьох секторах та галузях. Знову ж таки, Protect Democracy зазначила, що «Білий дім не визначив жодної компанії, яка бере участь у GOLD EAGLE, умов їхньої участі або будь-якої юридичної сили програми».
Потім, 3 серпня, Білий дім оголосив про завершення добровільної структури для перегляду моделей ШІ перед їх публічним випуском. Як підтвердив Білий дім, як структура, так і GOLD EAGLE активно використовуються для перегляду передових моделей у міру розвитку технологій.
Деякі частини процесу перевірки уряду є секретними. У виконавчому наказі пояснювалося, що Трамп планував розробити «секретний процес бенчмаркінгу», який би оцінював передові можливості моделей ШІ та визначав, коли моделі слід позначати як передові ШІ.
Однак, у скарзі Protect Democracy зазначено, що сама структура не позначена як секретна. Незважаючи на це, Білий дім відмовився ділитися деталями з громадськістю. Натомість речник заявив журналістам, що «те, що щось не є секретним, не означає, що ми будемо транслювати це всім».
Додатково викликає занепокоєння те, що термін «відповідна передова модель» не визначений, зазначила Protect Democracy. Якщо визначення буде занадто вузьким, деякі небезпечні моделі ШІ можуть залишитися непоміченими, а якщо воно буде занадто широким, агентства, нещодавно ослаблені скороченнями DOGE, можуть бути перевантажені спробою оцінити занадто багато моделей одночасно. Без більшої ясності громадськість «може лише сподіватися, що ця потужна технологія керується безпечно та в суспільних інтересах», стверджує Protect Democracy.
Досі структура була надана лише «обмеженій кількості компаній ШІ», що виключає значущих зацікавлених сторін, таких як групи безпеки ШІ, які наразі попереджають про нові суспільні ризики, а також менші або нові компанії ШІ, чий внесок або огляди моделей можуть бути не менш важливими.
Protect Democracy регулярно використовує запити відповідно до Закону про свободу інформації (FOIA) у своїй місії «запобігти занепаду американської демократії до більш авторитарної форми правління», — зазначено у скарзі. Побоюючись, що Трамп надмірно захоплює владу над ШІ, група надіслала ідентичні запити FOIA до чотирьох агентств США, терміново вимагаючи лише несекретної інформації та просячи прискорити розгляд їхнього запиту. Наразі жодне агентство не надало жодних записів, зазначено у скарзі. Лише Офіс національного директора з кібербезпеки відповів, але він відмовив групі у проханні прискорити розгляд, що Protect Democracy зараз оскаржує як неправомірне.
Конгрес також залишається в невіданні
Окрім того, що громадськість, незалежні дослідники, правозахисні групи, інвестори в ШІ та бізнеси в багатьох галузях, зацікавлені в ШІ, залишаються в невіданні, законодавці також були позбавлені можливості оцінити структуру безпеки ШІ виконавчої гілки влади.
Це має значення, стверджує Protect Democracy, оскільки операція Трампа з безпеки ШІ може бути дестабілізована, якщо Конгрес не буде діяти узгоджено. Зараз Конгрес розглядає питання про продовження Закону про обмін інформацією з кібербезпеки (CISA) 2015 року, який, очевидно, є єдиною правовою основою, що дозволяє компаніям ШІ ділитися інформацією з урядом через GOLD EAGLE, зазначено у скарзі.
Ці захисти є частиною положення CISA, яке одного разу втратило чинність, і Конгрес має незабаром вирішити, чи слід подовжувати дію цього положення. Існують розбіжності між Палатою представників та Сенатом щодо терміну голосування за подовження, але найраніше це може статися 30 вересня, а найпізніше — 11 грудня.
«У будь-якому випадку, Конгрес незабаром повинен буде вирішити, чи подовжувати захист від відповідальності CISA, який, за власним визнанням адміністрації, підтримує програму GOLD EAGLE, оголошену адміністрацією, але яку вона ще не пояснила», — йдеться у скарзі Protect Democracy. «Насправді, високопосадовець адміністрації публічно визнав під час запуску GOLD EAGLE, що без цього переуповноваження «ці зусилля фундаментально стикаються з викликами».
Діана Ель-Маллавані, директорка програм впливу та юридичних питань у Protect Democracy, заявила Ars, що «ні Protect Democracy, ні Конгрес не мають достатньо інформації про програму GOLD EAGLE, щоб прийняти обґрунтоване рішення щодо подовження CISA. Нас турбує те, що Білий дім ставить Конгрес у ситуацію, коли йому доведеться голосувати за подовження CISA, не знаючи, як працює програма GOLD EAGLE, хто бере участь або яка законодавча влада використовується. Ось чому ми шукаємо ці записи».
Protect Democracy стверджує, що без цих записів адміністрація Трампа зможе уникнути відповідальності за перевірку безпеки ШІ.
«Конгрес не може ефективно контролювати програми, умови та заявлену владу яких йому не показали», а «суди не можуть переглядати дії, які вони не можуть ідентифікувати», — йдеться у скарзі.
Ель-Маллавані сказала Ars, що якщо Protect Democracy отримає доступ до структури, всі документи будуть опубліковані. Без більшої прозорості список занепокоєнь Protect Democracy щодо потенційної можливості Трампа використовувати добровільну структуру для тиску на індустрію ШІ є довгим, додала Ель-Маллавані:
Ризики численні, включаючи ризик того, що Білий дім може використати таємний процес для примусу компаній ШІ щодо рішень, таких як розгортання ШІ для летальної автономної зброї та масового спостереження (як ми бачили під час конфлікту між Пентагоном та Anthropic), для вимагання політичної та фінансової підтримки від певних інвесторів та співробітників або покарання інших за сприйняту політичну опозицію, або для змушення компаній ШІ включати політизовані погляди до своїх моделей — не кажучи вже про ризик того, що структура перевірки просто неефективна, створюючи хибне відчуття безпеки.
Ешлі Беланжер
Старша репортерка з питань політики
Ешлі — старша репортерка з питань політики в Ars Technica, яка займається відстеженням соціальних наслідків нових політик та технологій. Вона є журналісткою зі штату Чикаго з 20-річним досвідом.
Подробиці можна знайти на сайті: arstechnica.com