Автономні системи, здатні міркувати, ухвалювати власні рішення та виконувати дії в певному середовищі, створюють новий вид ризику, який неможливо контролювати за допомогою інструментів прикладного рівня. Розгляд цього ризику як єдиної проблеми призводить до створення неповних архітектур, зазначає Оскар Вальберг, старший директор з управління продуктами в Nutanix.
«Обмеження, що мають уловлювати шкідливі запити, не зупинять агент, якщо він почне «галюцинувати» і робитиме щось небачене, наприклад, випадково видалить бази даних або виточе конфіденційні дані, використовуючи облікові дані, які йому надали, але він використав не за призначенням», — каже Вальберг. «Це є центральною проблемою, оскільки підприємства переходять від експериментів до промислового впровадження автономних агентів».
Щойно агентна система отримує права на виконання операцій у центрі обробки даних, положення безпеки має масштабуватися до архітектури з багаторівневим захистом, що охоплює інфраструктуру, сховище, обчислення, мережу та керуючу площину. Кожен рівень усуває окрему категорію ризику, а не дублює ті самі засоби контролю по всьому стеку. Жоден окремий засіб контролю безпеки чи постачальник не може забезпечити такий захист самостійно. Багаторівневий захист залежить від злагодженої роботи цих рівнів.
Розділивши відповідальність між рівнями стеку та дотримуючись сегментації за принципом нульової довіри, організації можуть створити безпечну структуру, яка покращує загальний стан безпеки. Розуміння того, які ризики належать до кожного рівня, перетворює принцип багаторівневого захисту на практичну систему безпеки з трьома рівнями, кожен з яких має чітку відповідальність.
Рівень інфраструктури: встановлення довіри до середовища роботи ШІ-агентів
Фундаментальна відповідальність рівня інфраструктури полягає у створенні кореня довіри, який відповідає на просте запитання: хто працює в середовищі? Ця довірена ідентичність стає передумовою для кожного засобу контролю безпеки вище. Перш ніж організація зможе довіряти діям агента, вона повинна переконатися в цілісності середовища, де працює агент. Коли агент запитує дозвіл на виконання операції, система повинна мати змогу перевірити, що запит надійшов від легітимного агента, а не від того, хто видає себе за нього.
Забезпечення такого рівня гарантій залежить від технологій, що покладаються на обладнання, включно з атестацією платформи, конфіденційними обчисленнями та безпечним завантаженням, а також від засобів контролю, що запобігають несанкціонованому доступу як всередині сервера, так і за його межами. Для регульованих галузей, таких як фінансові послуги, цей рівень забезпечує можливість ізолювати виробничі робочі навантаження ШІ, щоб ані агент, ані середовище не могли діяти поза межами призначеної їм сфери. Це знижує ризики, зокрема підробки моделі та середовища виконання, компрометації ланцюга постачання та несанкціонованого доступу до конфіденційних ШІ-навантажень.
Мережевий рівень: керування комунікацією ШІ-агентів
Коли агенти починають взаємодіяти з іншими агентами, API, додатками та корпоративними системами, вони створюють рівень одночасності та динамічної комунікації, до якого традиційні статичні мережеві конфігурації ніколи не були призначені. Агент, налаштований на виклик API, запити до джерел даних та запуск додаткових агентів без обмежень, створює розгалужену мережу трафіку типу «з заходу на схід» (east-west traffic), яку дуже важко контролювати. Ця складність може легко приховати бічний рух або витік даних, якщо відсутні відповідні рівні мережевої безпеки.
«Ми повинні розглядати ШІ-агентів як новий клас мережевих ідентифікаторів і переконатися, що агент може спілкуватися тільки з іншими агентами або джерелами даних, яким це явно дозволено», — говорить Вальберг. «Це означає відхід від жорстких статичних правил до динамічного застосування політик».
Рішення Nutanix — Agent Gateway, частина рішення Nutanix Agentic AI. Це уніфікований, керований рівень, розроблений для забезпечення контролю витрат та можливостей керування, що допомагають управляти автономними користувачами-агентами. У поєднанні з агентами, що базуються на сегментації нульової довіри та використовують такі можливості, як Nutanix Flow для мікросегментації та інтеграції з мережевими постачальниками, включно з інтеграцією в Cisco Secure AI Factory, Agent Gateway допомагає підприємствам керувати взаємодіями між агентами, моделями, джерелами даних та корпоративними додатками.
Мережевий рівень керує бічним рухом, витоком даних та контролює мережеву взаємодію агента. Фреймворк нульової довіри з доступом, заблокованим за замовчуванням, та масштабованим моніторингом взаємодій є важливим для агентів, оскільки вони можуть демонструвати ненадійну поведінку. Інтеграція програмного забезпечення Nutanix з серверами Cisco UCS та POD-ами Cisco AI забезпечує фізичну інфраструктуру «під ключ» (обчислення, зберігання та мережа), на якій працює фабрика ШІ.
Рівень керуючої площини: визначення дозволених дій для ШІ-агентів
Керуюча площина є «мозком» системи, забезпечуючи централізовану точку для управління дозволами агентів, доступом до інструментів, споживанням ресурсів та видимості в реальному часі. Найважливіше — мати єдине місце, де політики можуть застосовуватися послідовно, а не вигадуватися для кожного агента, каже Вальберг.
«Agent Gateway діє як універсальний кінцевий пункт для різних моделей і інструментів, тому ІТ-відділ може налаштувати своїх агентів на взаємодію з цією єдиною керуючою точкою», — пояснює він.
Централізований ШІ-шлюз дозволяє адміністратору спостерігати, аудитувати та контролювати доступ до моделей, а також інструменти MCP, що захищають дані та контролюють доступ привілейованих користувачів. Цей рівень розроблений для допомоги у зниженні ризиків, таких як зловживання привілеями, неконтрольовані агенти, несанкціоноване використання інструментів, витік даних та надмірне споживання ресурсів моделі, що може призвести до збільшення споживання токенів, коли агенти застрягають у циклі виконання. І це залежить від розгляду керування як контрольної системи в реальному часі, а не як другорядного питання відповідності.
Чому універсальні рішення для безпеки не підходять для агентних ШІ-середовищ
Найбільша архітектурна помилка, яку роблять підприємства, — це припущення, що одна модель безпеки може бути застосована до всіх рівнів ШІ-стеку. Коли організація намагається вирішити проблему апаратного рівня довіри за допомогою програмного забезпечення прикладного рівня або покладається на статичні застарілі мережеві правила для управління динамічними агентами, вона створює архітектуру, яка або блокує агентну систему від виконання її завдань, або залишає критичні двері відчиненими. Універсальний підхід зазвичай призводить до значних втрат продуктивності та операційних труднощів.
«Не призначаючи конкретних відповідальностей відповідним рівням, підприємства отримують сліпі плями в управлінні», — каже Вальберг. «Вони можуть забезпечити безпеку виведення моделі, але пропустити витік даних між агентами, або вони можуть захистити мережу, але не мати видимості керуючої площини, щоб зрозуміти, що вони шалено витрачають токени, тому що агенти застрягли в якомусь циклі виконання».
Зосередження виключно на моделі залишає найбільші прогалини, тому що захист, який ловить шкідливий запит, нічого не робить, щоб зупинити «галюцинуючий» агент від неправильного використання законних облікових даних. Вбудовування безпеки по всьому стеку допомагає гарантувати, що навіть коли загроза рівня моделі прослизає повз початкові фільтри, агент залишається обмеженим апаратною довірою, мережевою ізоляцією та контролем доступу на рівні агента.
Як Intel, Cisco і Nutanix спільно будують багаторівневий захист
Тристороння співпраця між цими компаніями демонструє, як багаторівнева архітектура реалізується на практиці як добре керований, масштабований ШІ-хмарний сервіс корпоративного класу. Intel надає обчислювальні потужності для роботи агентних навантажень і забезпечує безпеку середовища виконання через апаратну довіру та конфіденційні обчислення, а також знижує витрати завдяки своїм прискорювачам. Процесори Intel Xeon 6 із вбудованими AMX ефективно прискорюють ШІ-інференс, не покладаючись виключно на дорогі GPU.
Cisco забезпечує безпечне середовище, яке керує комунікацією між агентами та корпоративними інструментами, тоді як Nutanix надає програмну платформу, мінімізуючи архітектурні розбіжності, та центральну керуючу площину, яка забезпечує виконання дозволів, видимість та контроль витрат, а також об’єднує архітектуру в рішення з багаторівневим захистом, що дозволяє підприємствам масштабувати агентний ШІ.
З усіх трьох рівнів підприємства наразі найбільше недооцінюють керуючу площину, каже Вальберг. Справжня керуюча площина виходить далеко за межі початкового розгортання, спрощуючи операції другого дня (Day 2 operations), надаючи ІТ-відділам безперервну видимість та суворий контроль токенів, необхідний для забезпечення безпеки та економічної ефективності автономних агентів у виробництві, пояснює він.
«Крім вибору моделі та інструментів, керування розгортанням агентів та їхнім доступом до моделей і бізнес-інструментів у тісно інтегрованій повностековій платформі буде важливим для успіху ШІ-проєктів», — каже він, вказуючи на найближче майбутнє, коли організації перейдуть від кількох сценаріїв використання ШІ до тисяч агентів, що працюють автономно для розвитку бізнесу.
Технологічні лідери повинні надавати пріоритет створенню централізованого рівня управління вже сьогодні, який зможе в реальному часі керувати ідентичностями агентів, дозволами на використання інструментів та бюджетами токенів, тому що саме ця контрольна точка створює операційну міць для безпечного масштабування.
«Ви не можете створити ШІ-систему, не вдаючись до багатьох складних рішень», — пояснює він. «І вам потрібна керуюча площина, яка взаємодіє з різними постачальниками та інфраструктурами, щоб допомогти вам реалізувати ці стратегії багаторівневого захисту».
Дізнайтеся більше про рішення Nutanix Agentic AI тут.
Інформація підготовлена на основі матеріалів: venturebeat.com