Альянс Open Secure AI Alliance (OSAA), створений лише тиждень тому за ініціативи Nvidia, який вже об’єднує понад 120 компаній, сформував робочу групу під миловидною назвою Shared AI Findings Exchange, або скорочено SAFE. Група вже представляє пропозиції для відкритого обговорення, а Linux Foundation, один із членів альянсу, відповідає за їх управління.
Розробка пропозицій відбувалася під час зустрічі членів альянсу на конференції Black Hat у Лас-Вегасі, що є ключовою подією у світі кібербезпеки.
Нинішні настанови не є чимось революційним. Пропозиції охоплюють такі сфери, як конфіденційне повідомлення про інциденти з кібербезпеки ШІ, сповіщення постраждалих та проведення аналізу без звинувачень, щоб усі могли зробити висновки.
Водночас члени OSAA також роблять внесок та каталогізують елементи своїх відкритих технологій, які можуть бути корисними. Це може, як це часто буває з такими галузевими організаціями, зрештою призвести до створення відкритого рішення для компаній, яке допоможе захистити їхніх ШІ-агентів або протистояти зловмисним ШІ-атакам, подібним до тих, що здійснила модель OpenAI, яка проникла до Hugging Face (Hugging Face також є членом цієї групи).
Наприклад, Nvidia зазначила, що пропонує цілий сімейство відкритих моделей, а також сканер вразливостей LLM з відкритим кодом під назвою Garak; Okta працює над технологіями ідентифікації агентів; Red Hat займається питаннями управління агентами; а Amazon надала як інструмент для створення агентів з відкритим кодом Strands Agents, так і мову авторизації Cedar. І це лише деякі приклади.
Нині до групи входять багато відомих компаній, зокрема Adobe, BlackRock, Cisco, Intel, Microsoft та Visa, але є й деякі помітні відсутні, як-от Anthropic, OpenAI та Google.
Цікаво, що і OpenAI, і Google підписали початковий відкритий лист, який спричинив створення цієї групи. Лист, опублікований минулого тижня, закликав Білий дім підтримати розробки у сфері відкритого ШІ, а не придушувати їх. Його ініціювала Nvidia, і він був підписаний понад 200 технологічними компаніями.
Хоча байдужість Anthropic до листа та галузевої групи наразі не є несподіванкою, як OpenAI, так і Google випустили власні моделі з відкритими вагами. Google загалом також відомий як великий прихильник відкритого програмного забезпечення. Подивимося, чи приєднаються вони, коли ця група набере обертів.
Тим часом група працює у темпі розвитку ШІ. Минуло лише кілька тижнів з моменту появи новин про те, що адміністрація Трампа розглядає можливість заборони китайських моделей з відкритими вагами, що спричинило занепокоєння в галузі та призвело до появи відкритого листа.
Незалежно від того, що врешті-решт станеться з китайськими моделями з відкритими вагами в США, швидкі дії цієї впливової групи виглядають як позитивний крок для екосистеми відкритого ШІ в США. Деякі представники екосистеми, як-от співзасновник і технічний директор американської лабораторії відкритого ШІ Arcee, стверджують, що це зрештою найкращий спосіб подолати будь-яку загрозу — реальну чи уявну — яку китайські ШІ-лабораторії становлять для Сполучених Штатів.
«Відкритість може стати одним із найважливіших шляхів до безпеки та захищеності ШІ», — написала ця галузева група у своєму листі. Схоже, вони готові негайно підкріпити свої слова діями та своїми технологіями.
Купуючи за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Джерело новини: techcrunch.com