Microsoft стверджує, що її нові інструменти коштують менше за конкурентні рішення та водночас перевершують їх за продуктивністю.
Microsoft представляє нові інструменти на базі штучного інтелекту, призначені для постійного вдосконалення та автоматизації процесів виявлення та зменшення загроз безпеці для клієнтів.
Ці анонси з’явилися менш ніж за тиждень після інциденту, коли OpenAI втратила контроль над двома своїми моделями безпеки, які проникли на сервери стартапу Hugging Face. За словами Hugging Face, злам передбачав “рої з десятків тисяч автоматизованих дій”, що викрали внутрішні облікові дані компанії. Моделі OpenAI досягли цього, експлуатуючи вразливість нульового дня в конвеєрі обробки даних Hugging Face для виконання шкідливого коду, який розширив доступ моделей до цінних хмарних і серверних кластерів компанії.
Microsoft не зробила жодних згадок про цей інцидент у своїх понеділкових анонсах. Компанія також не уточнила, що саме запобігатиме подібним “збоям” у роботі нових інструментів.
Використовувати чи ні?
Microsoft AI-Cyber-1-Flash — це перша модель компанії, спеціально навчена для виявлення та усунення слабких місць у безпеці. Наразі вона призначена для аналізу вразливостей програмного забезпечення. Нова модель побудована на платформі MAI-Thinking-1 від Microsoft. Компанія описує MAI-Cyber-1 Flash як “компактну, насичену кодом модель безпеки”, створену “з нуля, власними силами, на основі даних найвищої якості”.
Вона тренувалася на унікальній інформації, яку Microsoft накопичила за десятиліття виправлення вразливостей та реагування на інциденти безпеки, пов’язані з широким спектром її продуктів. Компанія стверджує, що щодня обробляє понад 1 трильйон сигналів безпеки та отримує дані від 1,6 мільйона клієнтів.
“Оскільки ми можемо пов’язувати дії з результатами: що було вразливим, що було локалізовано, що було заблоковано та що насправді спрацювало; ми маємо більше, ніж просто дані”, — заявили в Microsoft.
MAI-Cyber-1-Flash інтегровано в MDASH — “систему сканування з багатьма моделями”, представлену в травні. Ця система об’єднує 100 навчених безпеці агентів ШІ для виявлення вразливих програм у додатках.
Microsoft повідомила, що MDASH із MAI-Cyber-1-Flash отримав 96% за CyberGYM, стандартним тестом-бенчмарком. Цей показник на 12 пунктів вищий, ніж у Mythos від Anthropic, і також перевершує Google Gemini та OpenAI GPT. Новий MDASH коштує вдвічі дешевше за попередню версію.
Другий інструмент, анонсований Microsoft у понеділок, називається Project Perception. Це також набір спеціалізованих агентів ШІ, які виконують функції червоної, синьої та зеленої команд для виявлення вразливостей, їх дослідження для визначення рівня ризику та вжиття коригувальних заходів відповідно. Microsoft заявила, що платформа обирає моделі для використання залежно від поставленого завдання. Рішення враховують ефективність моделі та кінцеву вартість для клієнта. За словами компанії, рішення формуються на основі “постійних досліджень, бенчмаркінгу та оцінки передових і спеціалізованих моделей”.
Microsoft стверджує, що Project Perception розроблений для виконання 90% завдань з меншими витратами, ніж аналогічні платформи від конкурентів. Це означає, що клієнти можуть звертатися до дорожчих альтернатив лише для решти 10% завдань.
Microsoft заявила, що нові інструменти реагують на докорінні зміни у підходах організацій до захисту своїх мереж від катастрофічних хакерських атак.
“Оскільки ШІ прискорює швидкість і масштаб кібератак, захисники змушені забезпечувати безпеку все більш складних цифрових середовищ за допомогою підходів, розроблених для іншої епохи”, — зазначили в компанії. “Команди безпеки часто змушені збирати сигнали, контекст та аналіз ризиків із величезних обсягів даних, що ускладнює відстеження нових загроз”.
З огляду на минулотижневий інцидент з OpenAI, який викликав тривожні асоціації з найпохмурішими науково-фантастичними романами, до цих інструментів, які наразі перебувають у режимі попереднього перегляду, слід ставитися з обережністю, про яку Microsoft не згадала. Їх слід ретельно перевірити та оцінити перед використанням у робочому середовищі. З іншого боку, існують очевидні ризики від невикористання таких інструментів. Балансування ризиків використання агентів ШІ проти загроз від їх уникнення — це робота в процесі, яка наразі не має чітких відповідей.
Дізнатися більше на: arstechnica.com