У своєму розлогому есеї під назвою «Політика експоненціального ШІ» Даріо Амодеї, співзасновник та генеральний директор Anthropic, публічно закликає до нового урядового регулювання потужних моделей штучного інтелекту. Він порівнює галузь ШІ з комерційною авіацією, яка керується правилами Федерального авіаційного управління США (FAA), стверджуючи, що це необхідно для забезпечення громадської безпеки в умовах зростання можливостей та потенційних зловживань ШІ.
Разом із есеєм Anthropic представив два комплексні дорожні плани політики: «Просунута система ШІ» (Advanced AI Framework), що зосереджена на катастрофічних ризиках моделей, та «Економічна політика» (Economic Policy Framework), яка розглядає витіснення робочої сили через ШІ та підкріплена новими інвестиціями у розмірі 350 мільйонів доларів.
Час для цих ініціатив надзвичайно важливий: нещодавно Anthropic випустив свою найпотужнішу загальнодоступну модель Claude Fable 5, а також більш контрольовану оновлену версію базової моделі Claude Mythos, тепер відому як Claude Mythos 5, яка демонструє розширені оборонні та наступальні кіберможливості.
Як зазначив Амодеї у своєму дописі в X після релізу: «Anthropic давно виступав за вимоги прозорості для передових систем ШІ, оскільки ризики ще не були достатньо чіткими для точного регулювання. Цього вже недостатньо».
Для технічних керівників, CIO та архітекторів підприємств це есе є не просто політичною заявою, а попередженням про операційні, регуляторні та кадрово-орієнтовані обмеження, які визначатимуть наступне покоління корпоративних технологій.
Ось три ключові висновки, які керівники підприємств мають засвоїти з останнього оголошення Anthropic щодо політики.
1. Передові моделі можуть зіткнутися з «призупиненням розгортання» у стилі FAA
Протягом останніх трьох років підприємства будували свої продукти на припущенні, що можливості API ШІ будуть лише посилюватися: ставати швидшими та потужнішими. «Просунута система ШІ» від Anthropic вводить новий фактор: регуляторні ембарго.
Амодеї прямо порівнює необхідний режим регулювання ШІ з Федеральним авіаційним управлінням (FAA), заявляючи: «Передові моделі ШІ, як і літаки, мають проходити технічне тестування та аудит, а їх випуск має бути заблокований або відкликаний, якщо вони становлять загрозу громадській безпеці та не відповідають високим стандартам безпеки».
Компанія пропонує, щоб моделі, навчені з використанням понад 10^25 операцій з плаваючою комою (FLOPs), або розроблені компаніями з доходом від ШІ понад 500 мільйонів доларів чи інвестиціями в дослідження та розробки ШІ понад 1 мільярд доларів, проходили обов’язкове незалежне тестування.
Якщо ці моделі становлять серйозні біологічні, кібербезпекові чи автономні ризики, уряд матиме законне право блокувати, відтерміновувати або стримувати їх розгортання.
Наслідки для підприємств: Якщо ваша компанія ліцензує базові моделі для основної інфраструктури, ви повинні враховувати волатильність ланцюга поставок. Довгоочікуване оновлення моделі від постачальника ШІ може бути безстроково відкладене регуляторами, або існуюча модель може бути відкликана, якщо пост-релізне тестування виявить автономні загрози. Технічні керівники повинні проєктувати багатомодельні архітектури, які уникають прив’язки до одного постачальника, забезпечуючи безперервність бізнесу у випадку блокування флагманської моделі постачальника федеральним агентством.
2. Кібербезпека навколо ШІ стає критично важливою інфраструктурою
Тиск Anthropic на регулювання значною мірою мотивований нещодавньою ескалацією кіберзагроз, керованих ШІ. Амодеї прямо згадує власний Claude Mythos Preview від Anthropic, зазначаючи, що його здатність виявляти високопріоритетні вразливості в основних операційних системах «змінила» глобальний ландшафт кібербезпеки.
Згідно з запропонованою Anthropic системою, забезпечення безпеки середовища розробки ШІ є першочерговим завданням. Розробники передових систем будуть зобов’язані захищати ваги своїх моделей як від зовнішніх кібератак, так і від внутрішніх загроз. Крім того, компанії повинні розробити канали для повідомлення про «атаки дистиляції моделей» — коли конкуренти або зловмисники використовують основну модель для навчання дешевшого, невідповідного клона.
Наслідки для підприємств: Ставки для корпоративної безпеки подвійні. По-перше, оборонні можливості ШІ стануть передумовою; як попереджає Амодеї, зловмисники, які використовують передові моделі для пошуку вразливостей, випереджатимуть традиційні, керовані людиною методи захисту. По-друге, підприємства, які доналаштовують моделі з відкритими вагами або розміщують власні екземпляри локально, ймовірно, зіткнуться зі значними новими регуляторними та інформаційно-безпековими тягарями. Ставлення до ваг моделей як до суворо засекречених корпоративних таємниць стане новим галузевим стандартом.
3. Плануйте структурне витіснення робочої сили, а не лише ефективність
Мабуть, найсерйознішим аспектом оголошення є «Економічна політика» від Anthropic. Компанія публічно визнає, що якщо ШІ досягне прогнозованих можливостей, він діятиме як «загальний замінник праці», а не просто інструмент продуктивності.
Амодеї прямо формулює це: «Ключовим викликом у такому світі буде не стимулювання зростання, а пошук шляху для всіх, щоб поділитися перевагами».
Щоб підтвердити це, Anthropic виділяє 350 мільйонів доларів на вирішення економічних проблем: 200 мільйонів доларів для «Фонду майбутніх економічних досліджень» (Economic Futures Research Fund) для пілотування рішень державної політики та 150 мільйонів доларів для національної програми стипендій. Цей документ активно планує сценарії, де ШІ призводить до безробіття на рівні 5%, 10% або навіть безпрецедентних показників, виступаючи за такі політики, як страхування заробітної плати, універсальний базовий дохід та моделі суверенного багатства.
Наслідки для підприємств: Для технічних керівників та відділів кадрів перехід до ШІ перетворюється на складне поле трудових відносин. В економічній політиці зазначається, що компанії «можуть обирати перенавчання та перерозподіл замість скорочення штату», але визнається, що добровільні дії не замінюють державну реакцію. Підприємства, які прагнуть активно інтегрувати ШІ, повинні негайно розпочати впровадження планів переходу робочої сили. Керівники, які розглядають ШІ виключно як механізм швидкого скорочення витрат через звільнення, можуть незабаром опинитися в конфлікті з новими «стимулами для зайнятості» або податковими політиками щодо утримання персоналу, запропонованими для уповільнення витіснення робочих місць.
Що підприємствам слід робити зараз
Оголошення Anthropic знаменує собою поворотний момент у діалозі галузі ШІ з Вашингтоном та світовим ринком. Як зазначив Амодеї: «Багато з цих політичних ідей мають здоровий глузд у всьому політичному спектрі, і чим швидше ми діятимемо, тим швидше всі отримають вигоди від ШІ».
Для підприємств посил чіткий: ера «рухайся швидко і ламай» у генеративному ШІ добігає кінця. Наближається ера суворого дотримання нормативних вимог, системної безпеки та складних кадрових переходів.
Щоб підготуватися до цієї зміни, підприємства повинні спочатку відокремити свої стратегії ШІ від залежності від одного постачальника. Якщо флагманська модель буде раптово заблокована або відкликана відповідно до запропонованих регуляторних повноважень у стилі FAA, організації, які покладаються на цей конкретний API, зіткнуться з негайним операційним паралічем. IT-лідери повинні створювати багатомодельні архітектури, які дозволять їм безперешкодно замінювати базові моделі, забезпечуючи безперервність бізнесу у високорегульованій екосистемі.
По-друге, технічні керівники повинні підняти рівень інфраструктури ШІ до рівня критичної кібербезпеки. Оскільки передові системи ШІ тепер здатні масштабно виявляти високопріоритетні програмні вразливості, поверхня атаки стрімко розширюється. Компанії, які доналаштовують моделі або розміщують їх внутрішньо, повинні надійно захищати свої середовища розробки від зовнішніх та внутрішніх загроз, відповідаючи суворим стандартам безпеки, які Anthropic вимагає від ширшої галузі.
Нарешті, керівні команди потребують проактивної, а не реактивної, стратегії щодо робочої сили. Anthropic чітко попереджає проти використання ШІ виключно для економії коштів шляхом звільнень, заохочуючи підприємства активно шукати нові варіанти використання, які дозволять їм зберігати та перенавчати свій існуючий персонал. Оскільки уряди потенційно впроваджують податкові стимули для зайнятості та політики страхування заробітної плати для уповільнення витіснення робочих місць, компанії, які агресивно скорочують штат для фінансування впровадження ШІ, можуть опинитися по інший бік громадської думки та майбутніх економічних регуляцій.
Прогноз ІТ-Блогу: Очікується, що найближчими роками ми побачимо значне зростання регуляторних ініціатив, які безпосередньо впливатимуть на розробку та розгортання потужних мовних моделей. Це, ймовірно, призведе до появи нових стандартів безпеки та етичних норм ШІ, що змусить компанії переглянути свої стратегії щодо впровадження ШІ та управління ризиками.
За матеріалами: venturebeat.com