Засновник та CEO Anthropic Даріо Амодеї у відповідь на чутки в індустрії, ніби його компанія підтримує зусилля уряду США щодо заборони китайських моделей з відкритими вагами (open-weight models) або таких моделей загалом, заявив: “Кожен, хто читав мої попередні публікації, має знати, що я не вважаю такі заборони корисним заходом, але дозвольте мені чітко заявити, щоб не було жодних сумнівів: **Anthropic ніколи не виступав за заборону моделей з відкритими вагами**”, – написав він, наголосивши власне.
Його відповідь пролунала після того, як засновник і CEO Nvidia Дженсен Хуанг опублікував на платформі X (його перший допис там) відкритого листа, в якому Nvidia та низка інших компаній зі сфери ШІ, включаючи Hugging Face, Meta, Microsoft, Mistral та Nvidia, закликали політиків не вводити “передчасні обмеження” на моделі ШІ з відкритими вагами.
Хоча в листі не згадувався Китай конкретно, дебати в індустрії зосередилися на звинуваченнях у тому, що китайські лабораторії ШІ нарощують свої можливості, часто шляхом викрадення інтелектуальної власності у своїх американських колег. Одним із методів є дистиляція, коли ШІ бомбардує іншу модель запитами, щоб вивчити її роботу.
Амодеї у своєму блозі, опублікованому в понеділок, зазначив, що вважає моделі з відкритими вагами чимось відмінним від загрози, яку становить Китай. “Моделі з відкритими вагами, які не мають небезпечних можливостей, є суспільним благом: вони нічого не коштують, окрім обчислювальної потужності, необхідної для їх запуску, і приносять користь бізнесу, розробникам та дослідникам”.
Амодеї також повідомив, що давно побоюється ШІ, але бізнеси, які використовують моделі з відкритими вагами, навіть китайські, не входять до числа цих побоювань.
Його занепокоєння полягає в тому, що “авторитарні уряди” створять моделі, потужніші за ті, що існують у США, для досягнення “вічної військової переваги”, та/або використовуватимуть ШІ для придушення власного населення. Він зазначив, що Комуністична партія Китаю (КПК) – не єдиний авторитарний уряд, щодо якого він висловлює занепокоєння, але він є “найбільш спроможним”.
Амодеї також висловив побоювання, що ШІ може сприяти “біологічним атакам”, а не лише кібербезпековим. На його думку, моделі з відкритими вагами є небезпечнішими в таких сценаріях, оскільки їх важко контролювати або моніторити їх використання. Він також зазначив, посилаючись на звіт Британського інституту безпеки ШІ, що випущені моделі з відкритими вагами неможливо відкликати.
Це суперечить аргументам прихильників відкритого коду: доступ до потужних відкритих моделей, які не контролюються однією організацією, допомагає захисникам самостійно забезпечувати свою безпеку.
Амодеї перерахував дії, які, на його думку, могли б протидіяти Китаю, зокрема обмеження доступу країни до потужних чіпів (що є давньою політикою США) та заклик до офіційного припинення дистиляції. США погрожували санкціями проти Китаю, якщо буде встановлено факт крадіжки інтелектуальної власності за допомогою американських моделей.
Цікаво, що Амодеї також підтримав зростаючі зусилля, зокрема ті, що здійснюються США, щодо створення організації для тестування безпеки моделей, особливо якщо весь світ, включно з Китаєм, погодиться підкоритися їй.
“Я вважаю, що ця ідея насправді близька до консенсусу: мене надзвичайно потішило те, що адміністрація Трампа рухалася в цьому напрямку протягом останніх місяців, а також нещодавні пропозиції галузі, які б застосовували таке тестування до найбільш потужних моделей незалежно від їх країни походження чи відкритості (повністю звільняючи менш потужні моделі, наприклад, від стартапів та академічних установ)”, – написав Амодеї.
“Зауважте, що для ефективності”, – додав він, – “тестування має бути глобальним, що означає, що навіть КПК має бути залучена. Я вважаю, що це може бути цілком можливо… обмежена співпраця щодо запобігання біологічній зброї на основі ШІ може бути можливою, оскільки це також відповідає інтересам Китаю”.
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Дізнатися більше на: techcrunch.com