Менш ніж за рік після виходу з “тіні” для вирішення проблем безпеки нелюдських ідентичностей, ізраїльський стартап у сфері кібербезпеки Hush Security вважає, що розмова про безпеку корпоративного ШІ кардинально змінилася.
Компанія, яка цього тижня оголосила про залучення 30 мільйонів доларів Серії А від інвесторів Battery Ventures та YL Ventures, до яких приєдналася Akamai Technologies як стратегічний інвестор, стверджує, що організації стрімко переходять від експериментів з генеративними ШІ-помічниками до розгортання автономних програмних агентів, які вимагають зовсім іншої моделі безпеки.
Хоча фінансування допоможе розширити відділ розробки, продажів у США та інтеграцій для підприємств, Hush представляє це оголошення переважно як доказ того, що ідентичність, а не моделі, стає критично важливим елементом управління для корпоративного ШІ.
«Обговорення надзвичайно прискорилося», — сказав генеральний директор та співзасновник Міха Рейв в інтерв’ю VentureBeat по відеозв’язку після новин про фінансування.
Коли Hush запустився минулого року, компанія зосередилася на забезпеченні безпеки нелюдських ідентичностей — API-ключів, облікових записів служб, облікових даних машин та інших ідентичностей, які використовуються програмним забезпеченням, а не людьми.
З того часу, за словами Рева, клієнти все частіше ставлять інше запитання: як безпечно дозволити ШІ-агентам працювати всередині виробничих систем? Це актуальне та нагальне питання, особливо після того, як у середині липня Hugging Face повідомив про злам, здійснений автономним ШІ-агентом, пізніше ідентифікованим як тестовий агент OpenAI, що працював усередині компанії та вирвався зі свого захищеного середовища, частково завдяки невідомій моделі.
За даними Gartner, які наводить компанія, середня організація зі списку Fortune 500 може використовувати понад 150 000 ШІ-агентів до 2028 року, порівняно з менш ніж 15 роком раніше. Hush також посилається на дослідження Omdia, яке свідчить, що 96% організацій покладаються на моделі управління, які ніколи не були розроблені для автономних ШІ-агентів.
Від машинніх ідентичностей до автономного програмного забезпечення
Початкова теза компанії полягала в тому, що підприємства накопичили тисячі довготривалих машинних облікових даних, які було важко обертати, аудитувати та захищати. Замість статичних секретів Hush розробила систему на основі ідентифікації, яка забезпечує короткостроковий доступ для машин, керований політиками.
Рейв каже, що ШІ-агенти посилюють ту саму проблему.
«Програмне забезпечення тепер діє автономно, за власною ініціативою, у ваших найчутливіших системах», — сказав він. «ШІ-агентам потрібна сувора ідентифікація, а не просто API-ключі».
На відміну від традиційної автоматизації, ШІ-агенти часто діють у кількох корпоративних системах, викликають зовнішні служби, самостійно приймають рішення та часто виконують дії, використовуючи дозволи людини, яка їх запустила. На практиці організації часто надають агенту широкі дозволи OAuth або адміністративні облікові дані, просто щоб він міг виконувати завдання.
Це створює те, що Hush описує як проблему ідентифікації, а не просто проблему ШІ.
Під час інтерв’ю Рейв зазначив, що практично кожен лідер з безпеки, з яким він спілкується, стикається з однаковою дилемою: або уповільнити впровадження ШІ до наявності відповідних контролів, або дозволити співробітникам підключати нових агентів безпосередньо до корпоративних систем, незважаючи на обмежене управління.
«Відповідь», — сказав він, — «це те, що вони дозволяють усе. Ви не можете зупиняти інновації в ім’я безпеки».
Ідентичність стає точкою контролю
Замість того, щоб розглядати ШІ-агентів як ще одну програму, що потребує облікових даних, Hush розширює свою існуючу платформу нелюдських ідентичностей, перетворюючи її на так званий «Брама ідентифікації» для ШІ-агентів.
Платформа розташовується між агентами та корпоративними ресурсами, дозволяючи організаціям виявляти агентів, призначати кожному власну ідентичність, пов’язувати її з відповідальним власником-людиною, забезпечувати доступ для конкретних завдань у режимі реального часу та вести централізовані журнали аудиту.
Замість того, щоб дозволяти агенту успадковувати всі привілеї користувача безстроково, Hush намагається забезпечити так звану «мінімальну можливість дії» — надаючи лише дозволи, необхідні для виконання конкретного завдання.
Компанія стверджує, що кожну дію можна реєструвати, пов’язувати з виконавцем та відкликати з єдиної точки контролю, тоді як адміністратори зберігають можливість негайно припинити доступ агента, якщо це необхідно.
Це відображає ширший зсув у управлінні корпоративними ідентифікаціями. Ідентичності людей давно регулюються за допомогою постачальників ідентифікації, систем єдиного входу та систем управління привілейованим доступом. Ідентичності машин все більше отримували подібну увагу, оскільки організації модернізували хмарну інфраструктуру. Hush стверджує, що автономні ШІ-агенти тепер представляють третю категорію ідентифікацій, яка вимагає спеціального управління.
Hush не публікує ціни на своє рішення «Брама ідентифікації», як і на свої пропозиції загалом. Однак компанія випустила безкоштовний план, який надає організаціям доступ до видимості ШІ-агентів та нелюдських ідентичностей у режимі реального часу, аналізу ризиків та контролю доступу на основі ідентифікації, призначеного для заміни довготривалих облікових даних, без необхідності кредитної картки чи часових обмежень.
Управління кожним типом корпоративного агента
Hush стверджує, що підприємства більше не мають справу з однією категорією програмного забезпечення ШІ.
Під час інтерв’ю Рейв описав три широкі класи, що з’являються всередині організацій:
-
Настільні кодувальні помічники та агенти продуктивності, такі як Claude, Cursor та інтеграції VS Code.
-
Корпоративні ШІ-платформенні агенти, що працюють на таких сервісах, як Microsoft Foundry, Salesforce Agentforce або AWS AgentCore.
-
Власні агенти, які організації створюють внутрішньо для бізнес-процесів або додатків, орієнтованих на клієнтів.
Кожен з них створює різні проблеми управління, але всі вони зрештою вимагають контрольованого доступу до корпоративних систем.
Проблема, за словами Hush, полягає в тому, що багато агентів наразі автентифікуються за допомогою успадкованих облікових даних людини або довготривалих API-ключів, що ускладнює визначення того, чи дія походить від людини, чи від автономної системи, що діє від імені цієї людини.
«Якщо я бачу щось у логах Salesforce», — сказав Рейв під час інтерв’ю, — «чи це зробив користувач, чи це агент, яким користувався користувач?»
Ця проблема прив’язки стає все більш значущою, оскільки організації починають розгортати кілька автономних систем, здатних ініціювати дії без прямого дозволу людини.
Існуючі інструменти ідентифікації не були розроблені для ШІ-агентів
Замість того, щоб замінювати постачальників ідентифікації або менеджери секретів, Hush позиціонує себе як заповнювач прогалини між ними.
Традиційні платформи IAM автентифікують співробітників. Менеджери секретів зберігають облікові дані. Жодна з них, стверджує компанія, не управляє поведінкою автономного програмного забезпечення в режимі реального часу, що діє від імені людей у кількох системах.
Hush стверджує, що її платформа постійно виявляє відомих та прихованих агентів у корпоративних середовищах, призначає власників, забезпечує облікові дані «в потрібний час» та записує кожну взаємодію в централізований журнал аудиту. Згідно з документацією продукту, організаціям не потрібно змінювати свої існуючі агенти, оскільки платформа працює, керуючи запитами на доступ, а не змінюючи логіку програми.
Такий підхід, орієнтований на ідентифікацію, приваблює клієнтів, які вже впроваджують корпоративні ШІ-ініціативи.
Постачальник послуг IT-інфраструктури Kyndryl заявляє, що внутрішньо використовує Hush і почав пропонувати платформу корпоративним клієнтам.
«Наша співпраця з Hush ґрунтується на спільному філософському підході до безпеки: ідентичність є остаточним елементом контролю для сучасної робочої сили, що діє на основі агентів», — заявив Аділ Саїд, старший віце-президент та технічний директор з глобальної кіберстійкості в Kyndryl, у підготовленій заяві.
Участь Akamai у раунді фінансування так само відображає те, що компанія вважає архітектурним, а не інкрементним зсувом.
«ШІ-агенти керують наступною трансформацією, і ідентичність — це та частина, яку більшість компаній ще не вирішили», — сказав Раманат Айер, головний стратег Akamai.
Пріоритети безпеки зміщуються за межі самої моделі
За останні два роки ширший ринок безпеки ШІ значною мірою зосереджувався на таких питаннях, як впровадження підказок, вразливості моделей, прориви та безпека LLM. Це залишаються активні напрямки досліджень, але корпоративні розгортання все частіше стикаються з операційними питаннями щодо того, до чого автономним системам дозволено отримувати доступ і як ці дії можна контролювати.
Hush стверджує, що ідентичність стає шаром примусового виконання для відповідей на ці питання.
Замість того, щоб запитувати, чи може ШІ-модель безпечно генерувати код або підсумовувати документи, підприємства все частіше повинні визначати, до яких систем може отримати доступ агент, чию владу він здійснює, як делегуються дозволи та як кожну дію можна відстежити до відповідального власника.
Чи стане підхід Hush, орієнтований на ідентифікацію, домінуючою моделлю, ще належить побачити. Але оскільки підприємства переходять від експериментів з ШІ-помічниками до розгортання тисяч автономних програмних агентів, компанія робить ставку на те, що наступний великий виклик безпеки буде не в захисті самих моделей, а в безпечному управлінні ідентичностями програмного забезпечення, що діє від їхнього імені.
За матеріалами: venturebeat.com