Минулої п’ятниці, посилаючись на невідомі побоювання щодо національної безпеки, Білий дім зобов’язав компанію Anthropic обмежити експорт своїх потужних моделей штучного інтелекту Fable та Mythos будь-кому за межами Сполучених Штатів, а також іноземцям, які перебувають у країні. Невдовзі після цього технологічний гігант поспіхом припинив роботу обох моделей, які відтоді недоступні вже тиждень.
Цей випадок є першим реальним випробуванням того, чи зможе уряд США використовувати експортний контроль для стримування передових технологій ШІ, так само, як він намагався, з вельми неоднозначними результатами, контролювати шифрування та шпигунське програмне забезпечення раніше. І хоча це може звучати драматично, те, як буде вирішено це протистояння, може визначити не лише доступ Anthropic до іноземних ринків, але й правила гри, навколо яких будуть змушені будувати інші лабораторії ШІ.
Контекст попередніх обмежень
Почнемо з контексту. Відтоді, як Anthropic у квітні запустила Mythos, компанія позиціонувала її як своєрідну кібермашину кінця світу, яка може завдати хаосу в Інтернеті, якщо вийде занадто далеко – саме тому, до заборони, доступ до неї мали лише близько 150 перевірених компаній та державних організацій. Метою було допомогти захисникам забезпечити безпеку свого програмного забезпечення та послуг, перш ніж зловмисники отримають доступ до можливостей рівня Mythos.
То що ж спричинило заборону? За повідомленнями, два послідовних інциденти. По-перше: Anthropic надала доступ до Mythos південнокорейському телекомунікаційному оператору через свою програму обмеженого партнерства, і офіційні особи США висловили занепокоєння, ідентифікувавши компанію як ту, яку вони підозрювали у зв’язках з Китаєм. (Компанія, яку широко називають SK Telecom, заперечила будь-які зв’язки з Китаєм). Також повідомляється, що генеральний директор Amazon Енді Джессі повідомив адміністрацію після того, як, за його словами, власні дослідники Amazon знайшли спосіб обійти захисні механізми Fable 5. Anthropic заперечує ярлик “джейлбрейк” (обхід обмежень), називаючи це вузькою, вже виправленою проблемою, а не повною поразкою заходів безпеки моделі.
Результат був однаковим: Департамент торгівлі видав директиву про експортний контроль, і Anthropic довелося поспішно обмежити доступ до своїх продуктів – за деякими даними, приблизно за 90 хвилин після отримання повідомлення.
Історичні паралелі: Шифрування та шпигунське ПЗ
Хоча це й не зовсім нова історія. Уряди десятиліками намагалися використовувати експортний контроль для обмеження поширення того, що вони вважають небезпечними кібертехнологіями, але їхні результати були, у кращому разі, посередніми.
Уряд США стояв за, мабуть, найвидовищнішим провалом цього підходу в історії на початку-середині 1990-х років. Тоді комп’ютерні науковці розробляли технології шифрування для захисту даних під час їх передачі через Інтернет. Одним із таких продуктів шифрування був Pretty Good Privacy (PGP), популярне програмне забезпечення, яке могло шифрувати дані і робити їх практично неможливими для розшифровки, навіть якщо їх перехоплювали під час передачі до адресата через Інтернет.
Уряд США спочатку розглядав PGP як небезпечну зброю, побоюючись, що це перешкодить його розвідувальним агентствам шпигувати за електронними листами під час їхньої передачі. Щоб зупинити розповсюдження PGP, Митна служба США розпочала кримінальне розслідування щодо творця PGP Філа Циммерманна за нібито порушення правил експорту озброєнь. Він відповів, опублікувавши вихідний код PGP у вигляді друкованої книги, що розпочало те, що сьогодні відомо як “Крипто-війни”.
Згодом Циммерманн виграв ключову битву, коли розслідування було закрито, що відкрило шлях для важливих наскрізних алгоритмів шифрування, подібних до тих, які використовують мільярди користувачів Signal та WhatsApp.
Пізніше, на початку 2010-х років, дослідники почали виявляти західні шпигунські програми, які використовувалися проти дисидентів на Близькому Сході. У відповідь кілька урядів погодилися розширити Вассенарські домовленості – міжнародний договір, що обмежує експорт програмного забезпечення та технологій подвійного призначення, які використовуються як у цивільних, так і у військових цілях.
Ідея полягала в тому, щоб класифікувати програмне забезпечення для спостереження та злому як подвійного призначення, змушуючи таким чином виробників шпигунського програмного забезпечення отримувати експортні ліцензії для продажу своєї продукції за кордон.
Слабкі сторони міжнародних угод
Але Вассенарські домовленості завжди мали дві слабкі сторони. По-перше, є кілька країн, які не дотримуються угоди, включно з Ізраїлем, де розташовані деякі з найактивніших виробників шпигунського програмного забезпечення у світі.
По-друге, угода залежить від того, як країни на власний розсуд застосовують її до компаній у своїх мерах. Одного разу італійський уряд дозволив одній з тодішніх провідних компаній-виробників шпигунського програмного забезпечення в країні, Hacking Team, отримати ліцензію на експорт своїх інструментів по всьому світу, незважаючи на історію компанії з продажу шпигунського програмного забезпечення авторитарним урядам, які використовували його для злому журналістів та активістів з прав людини.
З того часу інші країни Європи були недбалими щодо виробників шпигунського програмного забезпечення, як-от Італія. Незважаючи на численні скандали, Європа, де розташовано багато виробників шпигунського програмного забезпечення та інструментів для злому, постійно не змогла обмежити експорт шпигунського програмного забезпечення авторитарним режимам. Критики стверджують, що нещодавно відновлені зусилля всього блоку з 27 держав-членів для вирішення зростаючої проблеми експорту шпигунського програмного забезпечення до авторитарних держав “не йдуть достатньо далеко”.
Кілька виробників шпигунського програмного забезпечення, таких як Intellexa, санкціонований консорціум компаній, що займаються шпигунським програмним забезпеченням, просто перенесли свою діяльність до країн з менш суворими експортними контролями. Інші виробники шпигунського програмного забезпечення прагнули перенести свою діяльність до Саудівської Аравії з подібних причин.
Були й певні успіхи. Німецький виробник шпигунського програмного забезпечення FinFisher припинив свою діяльність у 2022 році після багаторічного розслідування німецькими прокурорами щодо продажу компанією шпигунського програмного забезпечення Туреччині без експортної ліцензії. Слідчі раніше виявили, що шпигунське програмне забезпечення FinFisher було розгорнуто на телефонах критиків уряду Туреччини.
Поточна ситуація та прогнози
На момент написання статті протистояння між Anthropic та адміністрацією Трампа залишається невирішеним. Існує цілком реальна ймовірність, що адміністрація поступиться і зніме обмеження, щоб американські компанії, що займаються ШІ, залишалися конкурентоспроможними у всьому світі – крок, який означатиме мовчазне визнання того, що лабораторії ШІ в інших країнах, включно з Китаєм, ймовірно, досягнуть подібних можливостей, незалежно від того, що обмежуватиме США. Або ж американським компаніям, що працюють у сфері ШІ, можливо, доведеться отримувати схвалення уряду, перш ніж обслуговувати іноземних клієнтів взагалі, що створить додатковий тягар з compliance (відповідності вимогам), який неминуче вдарить по їхньому прибутку.
З огляду на минулий досвід урядів усього світу у спробах контролювати розповсюдження програмного забезпечення, урядові експортні контролі навряд чи стануть правильним підходом для запобігання зловживанню потужними кібертехнологіями подвійного призначення з боку зловмисників.
Думка ІТ-Блогу: Інцидент з Anthropic демонструє складність балансування між національною безпекою та глобальною конкурентоспроможністю в галузі ШІ. Це може призвести до посилення державного регулювання, що створить як виклики, так і можливості для розробників та користувачів у всьому світі.
За матеріалами: techcrunch.com