Президент Microsoft Бред Сміт закликає до термінового регулювання штучного інтелекту (ШІ), стверджуючи, що споживчі товари, такі як молоко та пральні машини, мають більше нагляду, ніж компанії, що розробляють ШІ.
В одному з подкастів BBC Сміт назвав ШІ «зброєю та інструментом», який ставить під загрозу світову кібербезпеку, і зазначив, що «настав час» запровадити глобальні правила безпеки.
Сміт також вважає, що Велика Британія, а не США чи Європейський Союз, найкраще підходить для розробки глобальних правил безпеки. Британський Інститут безпеки ШІ (AISI), заснований у 2023 році, отримує доступ до основних моделей від передових американських лабораторій перед їх розгортанням і швидко став лідером у тестуванні безпеки ШІ.
Ця роль перебувала під загрозою останніми тижнями, коли президент США Дональд Трамп виступав проти «глобалістських» організацій, які, на його думку, втручаються в діяльність американських компаній. Минулого місяця він, за повідомленнями, просив Anthropic та OpenAI не надавати нові моделі британським тестувальникам, але AISI підтвердив у понеділок, що має доступ до останніх моделей і може їх тестувати.
Незважаючи на тиск з боку президента, Сміт стверджує, що Велика Британія може регулювати ШІ так, як США не можуть.
«У Вашингтоні люди не дивляться на Велику Британію і не дивляться на Лондон так, як на Брюссель, — сказав він BBC. — Це перевага».
Його коментарі збігаються із закликами лідерів технологічних компаній, зокрема Даріо Амодея з Anthropic та Сема Альтмана з OpenAI, сповільнити розвиток ШІ після кількох інцидентів, коли агенти ШІ вийшли з-під контролю.
Минулого місяця Трамп приймав у Білому домі лідерів технологічних компаній, зокрема OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta та Google, для обговорення безпеки ШІ. Вони підписали «морально зобов’язуючий» документ, у якому погодилися співпрацювати з «незалежними аудиторами» для оцінки безпеки та можливостей своїх моделей ШІ.
Сміт вважає документ «хорошим кроком», але зазначає, що він не дотягує до необхідного рівня регулювання. Проблема добровільного саморегулювання, за його словами, полягає в тому, що дотримуватимуться лише «хороші компанії».
«Потрібно турбуватися про компанії, які не такі відповідальні», — сказав він.
Сміт окреслив кілька правил безпеки ШІ, які він хотів би бачити впровадженими, наприклад, юридичний обов’язок сповіщати організацію, якщо її систему зламали неконтрольовані агенти ШІ. Він також, схоже, підтримує ідею отримання схвалення від зовнішніх оцінювачів перед випуском продукту ШІ та позитивно відгукнувся про «вимикачі» (kill switches) для призупинення або сповільнення роботи ШІ, якщо люди втратять над ним контроль.
«Давайте говорити спокійно, можливо, навіть тихо, але твердо, і почнемо об’єднувати людей, — сказав Сміт. — Сподіваюся, таку роль зможемо відіграти ми як компанія. Сподіваюся, таку роль зможе відіграти Велика Британія як країна».
За матеріалами: techcrunch.com