Microsoft стверджує, що її нові інструменти коштують дешевше та працюють краще за конкурентів.
Microsoft представляє нові інструменти на основі штучного інтелекту, розроблені для того, щоб допомогти клієнтам безперервно оптимізувати та автоматизувати процес виявлення та зменшення їхньої вразливості до ризиків безпеки.
Нові інструменти з’явилися менш ніж за тиждень після того, як OpenAI втратила контроль над двома своїми моделями безпеки, які проникли на сервери стартапу Hugging Face. Згідно з повідомленням Hugging Face, цей злам включав “рої з десятків тисяч автоматизованих дій”, які вкрали внутрішні облікові дані Hugging Face. Моделі OpenAI досягли цього, експлуатуючи вразливість нульового дня в конвеєрі обробки даних Hugging Face, щоб виконати шкідливий код, який розширив доступ моделей до цінних хмарних і серверних кластерів компанії.
Анонси Microsoft у понеділок не згадували цей інцидент, який OpenAI назвала “безпрецедентним”. Компанія також не повідомила, що запобігатиме подібному зловживанню новими інструментами.
Використовувати чи ні?
Microsoft AI-Cyber-1-Flash — це перша модель штучного інтелекту компанії, спеціально навчена для виявлення та виправлення недоліків безпеки. Наразі вона призначена для аналізу вразливостей програмного забезпечення. Нова модель побудована на платформі MAI-Thinking-1 від Microsoft. Компанія описує MAI-Cyber-1 Flash як “компактну, насичену кодом модель безпеки”, яка “створена з нуля, власними силами, на даних найвищої якості”.
Вона навчена на унікальному досвіді Microsoft, набутому протягом десятиліть виправлення вразливостей та реагування на інциденти безпеки, що стосуються широкого спектра її продуктів. Компанія стверджує, що щодня обробляє понад 1 трильйон сигналів безпеки та отримує інформацію від 1,6 мільйона клієнтів.
“Оскільки ми можемо пов’язувати дії з результатами; що було можливим для експлуатації, що було локалізовано, що було заблоковано, і що реально спрацювало; ми маємо більше, ніж просто дані”, — заявила Microsoft.
MAI-Cyber-1-Flash інтегровано в MDASH, “багатомодельний агентський скануючий каркас”, представлений у травні. Цей каркас поєднує 100 навчених безпеці агентів штучного інтелекту для виявлення експлуатованих помилок у додатках.
Microsoft повідомила, що MDASH з MAI-Cyber-1-Flash отримав 96-відсотковий бал на CyberGYM, стандартному тестовому наборі. Цей показник на 12 пунктів вищий, ніж у Mythos від Anthropic, а також випереджає Google Gemini та OpenAI GPT. Новий MDASH коштує вдвічі дешевше за попередню версію.
Другий інструмент, анонсований Microsoft у понеділок, називається Project Perception. Це також набір спеціалізованих агентів штучного інтелекту, які виконують функції червоної, синьої та зеленої команд для пошуку вразливостей, їхнього дослідження для визначення рівня ризику та вжиття коригувальних дій відповідно. Microsoft повідомила, що платформа обирає моделі для використання залежно від призначеного завдання. Розгляди, що враховуються при прийнятті рішення, включають ефективність моделі та кінцеву вартість для клієнта. Microsoft зазначила, що рішення формуються на основі “постійних досліджень, тестування та оцінки передових і спеціалізованих моделей”.
Microsoft заявила, що Project Perception призначений для виконання 90% завдань з меншими витратами, ніж аналогічні платформи від конкурентів. Це означає, що клієнти можуть звертатися до дорожчих альтернатив лише для решти 10% завдань.
Microsoft зазначила, що нові інструменти є відповіддю на значні зміни в підходах організацій до захисту своїх мереж від катастрофічних зламів.
“Оскільки штучний інтелект прискорює швидкість і масштаб кібератак, захисники змушені забезпечувати безпеку все складніших цифрових середовищ за допомогою підходів, розроблених для іншої епохи”, — заявила компанія. “Команди безпеки часто змушені поєднувати сигнали, контекст та аналіз ризиків з величезних обсягів даних, що ускладнює відстеження нових загроз”.
З огляду на інцидент OpenAI минулого тижня, що нагадує найпохмуріші науково-фантастичні романи, до цих інструментів, які зараз перебувають у режимі попереднього перегляду, слід ставитися з обережністю, про яку Microsoft не згадала. Їх слід ретельно перевірити та оцінити перед використанням у виробничому середовищі. З іншого боку, існують явні ризики від невикористання таких інструментів. Балансування ризиків використання агентів штучного інтелекту проти загрози їх уникнення — це процес, який триває і наразі не має чітких відповідей.
Оригінал статті: arstechnica.com