Слухайте наApple PodcastsСлухайте наSpotify
Компанія Anthropic нещодавно вилучила свої дві найновіші моделі ШІ з доступу через наказ про експортний контроль від адміністрації Трампа, що спричинило широкі дебати щодо політики ШІ та цифрового суверенітету.
Аналіз ситуації навколо Anthropic
У найновішому випуску подкасту TechCrunch Equity ми з Шон О’Кейном та Ребеккою Белан обговорили, що саме спонукало адміністрацію до дій проти Anthropic, та які це може мати наслідки для ширшої екосистеми штучного інтелекту.
Як зазначив Шон, «Anthropic не мала найкращих стосунків з адміністрацією Трампа, принаймні, на відміну від інших провідних лабораторій ШІ». Це може означати, що конкурентам Anthropic не варто турбуватися про подібні обмеження.
Однак, Ребекка також звернула увагу на те, що провідні експерти з кібербезпеки «підписали відкритий лист із закликом до Трампа скасувати цей наказ, стверджуючи, що вилучення таких передових можливостей кібербезпеки у захисників мереж у США є насправді небезпечним».
І ми задавалися питанням, чи не може вся ця ситуація виявитися гарним PR-ходом для Anthropic, особливо враховуючи, що, за словами Ребекки, «усі люблять поганих хлопців».
Продовжуйте читати, щоб отримати стислий огляд нашої розмови, відредагованої для довжини та ясності.
Деталі наказу та реакція спільноти
Ребекка: Як, я впевнена, знають багато наших слухачів, уряд США фактично змусив Anthropic вилучити з доступу свої дві найновіші моделі – Fable 5 та Mythos 5. Mythos 5 була доступна поточним користувачам Mythos, тоді як Fable 5 була більш відкритою для громадськості.
У минулу п’ятницю вони надіслали листа, посилаючись на «загрози національній безпеці». Ніхто не знає, що це за загрози. Цей звіт не було оприлюднено, вони не надали жодних деталей і вимагали від Anthropic забезпечити, щоб ці моделі не могли використовуватися будь-якими іноземними громадянами. Anthropic відповіли: «Добре, ми, мабуть, мусимо просто вилучити моделі повністю, оскільки ми не знаємо, коли хтось є іноземним громадянином. Багато наших власних співробітників є іноземцями».
Але насправді, згідно з повідомленнями, Білий дім дізнався про це завдяки деяким дослідникам Amazon, які нібито знайшли спосіб обійти захисні механізми Fable 5. Генеральний директор Amazon Енді Джессі висловив ці занепокоєння Білому дому, і ситуація почала швидко розвиватися.
Шон: Усе відбувалося надзвичайно швидко, особливо для п’ятничного вечора, що переходив у вихідні. І це сталося одночасно з тим, як адміністрація, очевидно, намагалася домовитися про якусь угоду щодо війни, яку вона розпочала в Ірані.
Ребекка: Вечір п’ятниці для нас у Нью-Йорку. Вони люблять відволікати увагу.
Шон: Давайте відійдемо на крок назад. Anthropic не мала найкращих стосунків з адміністрацією Трампа, на відміну від інших провідних лабораторій ШІ – я думаю, це відіграє певну роль.
Тож, чи вважаєте ви, що це матиме наслідки для інших компаній? Чи думаєте ви, що адміністрація Трампа буде менш схильна «перекрити кисень» одному з цих конкурентів?
Економічний та політичний контекст
Ентоні: Частиною контексту є те, що як звіти, так і аналіз від незалежних експертів з безпеки вказують на те, що реальний ризик безпеки від Anthropic не є настільки унікальним. Тому багато з цього, схоже, випливає не стільки з частин адміністрації Трампа, скільки з того, що Anthropic просто «не ладнають» між собою. Які б ризики не існували, вони вибухають непропорційно, просто тому, що здається, ніби вони не можуть нормально спілкуватися один з одним.
Якщо ви інша компанія – з одного боку, це може бути вам вигідно, бо ви можете сказати: «Ну, ми просто не злимо цих хлопців, і можемо робити, що хочемо». Але це також не найкращий регуляторний ландшафт, коли ти просто говориш: «Боже, сподіваюся, вони не злі на нас».
Ребекка: З одного боку, це безумовно виглядає як відплата – після того, як уряд позначив Anthropic як ризик для ланцюга поставок, триває великий судовий процес між ними. Справді виглядає так, ніби Білий дім шукає будь-який привід, щоб «притиснути» Anthropic. І я так думаю не тільки тому, що це була моя перша реакція, а й через те, що сказали багато дослідників кібербезпеки. Вони стверджують, що це ніколи не повинно було призвести до наказу про експортний контроль. Вони всі підписали відкритий лист із закликом до Трампа скасувати цей наказ, і кажуть, що вилучення таких передових можливостей кібербезпеки у захисників мереж у США насправді небезпечне. Сама Anthropic заявила, що деякі з тих самих «зломів» могли бути знайдені й в інших моделях ШІ.
Цинічно кажучи: добре, ви просто робите паузу для Anthropic, щоб інші могли наздогнати те, де була Anthropic?
Але водночас я також бачила реакції, де казали: Anthropic ніби самі це спровокували. Вони кажуть: «Це надто небезпечно для будь-кого, крім нас, ми – хороші хлопці». Вони говорять різне. За тиждень до виходу Fable вони казали: «Гей, нам потрібно сповільнити ШІ, друзі. Це стає надто небезпечно». Але потім – бум, «Ось наша найбожевільніша модель, суперпотужна, користуйтеся».
Ентоні: У деякому сенсі це виглядає як мікрокосм багатьох дискусій навколо ШІ, де люди на кшталт Сема Альтмана та Дженсена Хуанга кажуть: «Гей, давайте спробуємо знизити температуру. Чому всі злі на нас?» Ну, ви останні кілька років фактично говорили, що створили цю «машину богів», яка відбере роботу у всіх. Не дивно, що люди не відчувають себе добре щодо цього.
І є щось у тому, як Anthropic говорить про Mythos зокрема, де вони кажуть: «Це найнеймовірніша потужна модель, вона надто небезпечна для випуску публіці». Тож, на певному рівні, ви кажете: «Добре, припустимо, ми сприймаємо це серйозно. Це означає, що навколо неї буде неймовірний рівень контролю».
І я дивуюся – здається, Anthropic не задоволені цим. Я хочу бути обережним, щоб не перебільшувати, наскільки це може бути їм корисно. Але ми також публікували деякі матеріали про аналіз Ramp, щоб підкреслити той факт, що останній великий конфлікт між Anthropic та адміністрацією Трампа був корисним для компанії, принаймні, в деяких аспектах. Завантаження Claude різко зросли. Я думаю, багато людей, які, можливо, раніше вважали ChatGPT чат-ботом, помічником ШІ, раптом почали розглядати Claude як, можливо, більш відповідального, більш «опозиційного».
І так само, хоча Anthropic дуже стурбовані цим, це може, знову ж таки, зробити їхні моделі ще більш потужними.
Ребекка: Безумовно. «Ми такі небезпечні». Усі люблять поганих хлопців, чи не так? Усі кажуть: «Це найпотужніша модель, навіть Трамп так каже. Звісно, я мушу отримати до неї доступ».
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Думка ІТ-Блогу: Цей інцидент демонструє складний баланс між інноваціями в ШІ та державним регулюванням, а також політичні інтриги, що можуть впливати на технологічний ринок. Користувачі можуть отримати як вигоди від конкуренції, так і ризики від непередбачуваних обмежень доступу до передових технологій.
За матеріалами: techcrunch.com