Генеральний директор Anthropic Даріо Амодей нещодавно відкинув ідею про те, що він малює надмірно песимістичну картину штучного інтелекту та його можливого майбутнього.
Коментарі Амодея пролунали у відповідь на інвестора Ґевіна Бейкера, який стверджував (як у подкасті All-In, так і в X), що попередження Амодея щодо небезпек ШІ сприяли реакції у Сполучених Штатах, особливо проти дата-центрів.
Заявивши, що Амодей «програв аргумент» щодо регулювання ШІ (Anthropic виступала за певні регуляторні заходи, зокрема за каліфорнійський законопроєкт, який встановлює вимоги прозорості для великих ШІ-компаній), і враховуючи, що «він ось-ось стане керівником однієї з найважливіших компаній у світі», Бейкер написав: «Я з повагою вважаю, що він повинен докласти зусиль, аби бути більш позитивним адвокатом власної індустрії».
Бейкер далеко не єдиний, хто стверджує, що скептицизм щодо ШІ та навіть жорсткі заходи з боку держави є природною реакцією на похмурі попередження деяких керівників ШІ. Але в серії дописів Амодей не погодився з ідеєю, що його «повідомлення було непропорційно негативним». Натомість він заявив, що його письмові роботи «були приблизно однаково збалансовані між ризиками та перевагами», і що він написав есе «Machines of Loving Grace», бо «не відчував, що ШІ-індустрія малює достатньо надихаючу картину того, як ця технологія може радикально змінити світ на краще».
Тим не менш, Амодей визнав, що «громадськість має негативне уявлення про ШІ», і погодився, що «це велика проблема». Де він не погодився, так це з ідеєю, що ця негативність «переважно спричинена» Амодеєм «або будь-яким іншим лідером ШІ, який попереджає про ризики ШІ».
«Я вважаю, що це фундаментально криза довіри», — сказав Амодей. «Я думаю, що звичайні люди не довіряють компаніям, урядам чи тех-індустрії і завжди підозрюють, що ми вигадуємо новий спосіб їх обдурити».
Дійсно, «довіра» — це слово, яке часто з’являється в заголовках щодо генерального директора OpenAI Сема Альтмана, і, очевидно, є проблемою і для інших керівників ШІ, таких як Амодей. Однак, за словами Амодея, це криза, що формувалася десятиліттями, і «відторгнення ШІ є лише її останньою ітерацією».
«Я вважаю, що найточнішою критикою на адресу ШІ-компаній, включно з Anthropic, є те, що ми ще не виконали своїх гучних обіцянок принести користь світу», — сказав Амодей. «Це повністю наша вина, і я вважаю, що саме цю критику слід висувати, а не всю цю нісенітницю про повідомлення та маркетинг».
Іншими словами, він зазначив, що обіцянка, ніби ШІ вилікує рак, є «більше кліше, ніж натхненням»; те, що насправді змінило б думку людей про ШІ, — це «реальне лікування раку».
Щодо регулювання, Амодей стверджував, що Бейкер малює «хибний вибір» між широким розповсюдженням ШІ без регулювання або концентрацією технології в руках кількох компаній через регулювання.
«Я знаю, що в Кремнієвій долині існує своєрідний скорочений вислів, де регулювання = регуляторне захоплення = концентрація влади, але я завжди вважав це надто спрощеною картиною світу», — сказав Амодей. «Багато людей поза цим колом вважають регулювання чимось, що обмежує корпоративну владу та приносить користь звичайним людям».
Амодей додав, що він «не обов’язково погоджується й з цією точкою зору», але зазначив, що саме тому «Anthropic завжди дуже ретельно формулювала свої пропозиції щодо політики».
«Ми докладаємо багато зусиль, аби формулювати пропозиції, які шкодять (уповільнюють) передові ШІ-компанії, одночасно *допомагаючи* меншим конкурентам», — сказав він.
Навіщо взагалі робити такі пропозиції? Амодей зазначив, що, на його думку, «ШІ є *структурно* технологією, яка має тенденцію до концентрації влади», і що «відкриті моделі (open-weights) дещо допомагають у цьому, але аж ніяк не є достатнім рішенням, оскільки вони просто зміщують концентрацію дещо до тих, хто має найбільші обчислювальні потужності та чіпи».
«Навпаки, я вважаю, що правильні «правила дорожнього руху» можуть одночасно (а) вирішувати кібер-, біо- та ризики узгодженості ШІ, (б) інституційно обмежувати владу передових ШІ-компаній та (в) залишати місце для моделей з відкритими вагами, водночас вирішуючи конкретні ризики, які вони несуть», — сказав він.
Цей допис було оновлено, щоб включити більше цитат із дописів Амодея, зокрема щодо моделей з відкритими вагами.
2/2 Second, on the messaging around AI. I do not agree that my messaging has been disproportionately negative. In fact it has been about equally balanced between risks and benefits: I’ve written one major essay about each, and even in interviews where I discuss the risks, I…
— Dario Amodei (@DarioAmodei) August 15, 2026
Подробиці можна знайти на сайті: techcrunch.com