Компанії інтегрують ШІ-агентів у системи, що забезпечують їхню діяльність, однак роблять це швидше, ніж встигають ними керувати. Існує значний розрив між можливостями агента та тим, що будь-хто в організації може бачити, схвалювати чи відкликати. Саме тут криється проблема безпеки ідентифікаційних даних, а надмірно наділені правами агенти вже демонструють, наскільки мало контролю мають організації над їхнім доступом.
Ця невідповідність чітко простежується в новому дослідженні 1Password, згідно з яким 65% розробників очікують або заохочуються використовувати ШІ-агентів, тоді як лише 33% стверджують, що мають високонадійний спосіб для цього. Такий розрив відображає ширшу прогалину в управлінні, з якою стикаються організації, оскільки вони розгортають ШІ-агентів до встановлення контролю над ними, зазначає Джейсон Меллер, віцепрезидент із продуктів 1Password.
«Проблема в тому, що ми майже наблизилися до фіналу в операціоналізації агентного ШІ, але все ще перебуваємо на початкових стадіях обговорення рішення для прогалини в управлінні», — говорить Меллер. «Це поставило організації в повну оборону. Темпи змін настільки екстремальні, що якщо організації не навчаються та не адаптуються майже щодня, вони не зможуть випередити агентів або нових зловмисників, керованих ШІ».
ШІ-агенти успадковують зламану модель доступу
Звички безпеки, які успадковують агенти, вже були хиткі. 1Password виявив, що 71% респондентів використовували щонайменше один небезпечний метод для обробки секретів. Серед розробників це включало 24%, які жорстко кодували облікові дані, 20%, які передавали їх через Slack або електронну пошту, і 43%, які працювали без спеціального сховища.
Ці практики існували задовго до появи агентів, і організації мирилися з ними, оскільки спосіб використання облікових даних програмним забезпеченням був передбачуваним. ШІ-агенти змінюють це припущення. Вони використовуватимуть наданий їм доступ для виконання завдання, що ускладнює командам безпеки контроль над тим, до чого вони отримують доступ у реальному часі.
«Ми звикли до того, що комп’ютерні програми працюють детерміновано, але ми все ще не можемо повністю передбачити агентів», — каже Меллер. «Тому нам потрібно створити цілий новий набір систем та розуміння, щоб безпечно їх використовувати».
Закодовані облікові дані в скрипті раніше становили прихований ризик, який хтось мав виявити. На машині, що працює з агентом, ті самі облікові дані тепер доступні будь-чому, що агент вирішить, що йому потрібно. Агенти можуть завдати шкоди без зловмисного наміру, використовуючи наданий їм доступ у спосіб, якого команди безпеки не передбачають.
«Якщо ШІ-агент на вашому комп’ютері бачить облікові дані, які можуть бути корисними для виконання чогось, про що ви його попросили, він їх використає, незалежно від того, чи сказали ви йому про це», — говорить Меллер. «Перший крок — це забрати постійний, жорстко закодований доступ з машини та перенести його до сховища, щоб ви могли бачити, що насправді виконує роботу».
Оскільки 40% розробників надають постійний доступ до систем або облікових даних, багато агентів сьогодні мають доступ до чутливих систем і облікових даних, що перевищує необхідне для завдання. Це підвищує ставки кожної дії агента, оскільки вона може розкрити або зловживати конфіденційною інформацією до того, як хтось дізнається. Надмірно наділені правами нелюдські ідентичності вже завдають шкоди: 27% повідомляють, що зазнали інциденту безпеки або витоку даних через надмірно наділену правами нелюдську ідентичність.
ШІ-агенти отримують доступ до більшої кількості даних, ніж їм дозволено
Доступ — це точка, де сходяться цінність та ризик агента. У 41% організацій агенти торкаються даних, які їм ніколи не було дозволено використовувати. Ця модель поширюється на кожну виміряну категорію, причому фактичний доступ приблизно вдвічі перевищує дозволений рівень.
Частково це пояснюється тим, що агенти керуються інструментами, розробленими для людей. Тридцять п’ять відсотків організацій керують ШІ-агентами в рамках своїх існуючих процесів управління ідентифікацією та доступом, а 21% взагалі не формалізували підхід. Оскільки агент займає простір між користувачем і обліковим записом служби, він може входити в одну систему через потік людського входу та досягати наступної через бекенд-інтеграцію. Це означає, що одне завдання може використовувати два різні типи облікових даних.
Сімдесят один відсоток респондентів повідомляють про прогалини в видимості того, які агенти використовують які облікові дані. Навіть серед організацій, які описують свій підхід як високонадійний, половина все ще повідомляє про прогалини в видимості використання облікових даних. В основі всього лежить проста проблема ідентифікації: багато організацій не можуть відокремити діяльність агента від діяльності людини.
Це залишає команди безпеки нездатними визначити, коли агент перетнув межу доступу, або відтворити, що сталося потім. Коли його діяльність привертає увагу, організація може намагатися з’ясувати, що зробив агент, які облікові дані він використовував і хто за це має відповідати.
Проблема атрибуції, яку ніхто не вирішив
Коли щось йде не так, ніхто не погоджується, хто має за це відповідати. На запитання, хто фактично несе відповідальність, відповіді були розкидані між керівниками груп, окремими користувачами та керівниками, причому 65% стверджували, що відповідальність має нести хтось інший, окрім поточного власника.
Самі агенти не можуть нести відповідальність. «Агенти — це не люди. Вони не мають юридичної суб’єктності, тому відповідальність має бути спільною для користувача та команди безпеки, яка встановлює правила», — говорить Меллер.
Спільна відповідальність — це правильна відповідь, але її найважче реалізувати, оскільки її розподіл означає відтворення того, що насправді сталося. Агент часто автентифікується за допомогою облікових даних особи, що означає, що журнал аудиту записує ім’я особи, яка, можливо, не мала жодного уявлення про те, що робив агент.
Атрибуція залежить від аудиторського сліду, який відрізняє агента від людини та пов’язує кожну дію з її автором. Без цих доказів організації змушені призначати відповідальність без надійного звіту про те, що сталося.
Що лідери мають робити зараз
На запитання, що зробило б організації достатньо впевненими для ширшого розгортання агентів, лише 5% відповіли, що їм нічого не потрібно. Решта вказали на конкретні засоби контролю, зокрема централізований перегляд доступу для людей та агентів (52%), облікові дані, які видаються лише за потреби та закінчуються після кожного завдання (47%), повні аудиторські звіти (51%) та чітку відповідальність за дії кожного агента (53%). Є кілька способів досягти цього:
1. Виявити кожну ідентичність, яка вже торкається ваших систем
Ви не можете керувати інвентаризацією, якої у вас немає, і жодна політика сама по собі не закриє цю прогалину. Це означає дивитися далі санкціонованих ІТ-додатків на облікові записи служб, ключі API та агентів, що працюють поза межами традиційних систем ідентифікації, зокрема в браузерах і на локальних пристроях.
2. Поширити управління на машини розробників та кінцеві точки
Значна частина ризику починається локально: облікові дані жорстко закодовані в скриптах, зберігаються у файлах відкритого тексту або залишаються в репозиторії на тій самій машині, де працює агент. Управління, що зупиняється на периферії, пропустить місце, де розробники та агенти фактично виконують свою роботу.
3. Замінити постійний доступ на тимчасовий, обмежений дозвіл
Надання доступу лише після схвалення запиту, а потім його відкликання після завершення роботи запобігає тривалому перебуванню дозволів.
4. Працювати над вилученням облікових даних із контексту агента повністю
Сильніший підхід посередницької автентифікації поза моделлю, щоб довірений орган зберігав секрет і видавав короткочасний доступ під час запиту. Облікові дані, які ніколи не потрапляють у вікно контексту агента, означають, що агент не може розкрити те, що він ніколи не бачив, або залишити доступ позаду.
5. Створити аудиторський слід, який фіксує, хто або що авторизувало кожного агента
Кожна дія повинна бути відстежуваною до людини або системи, відповідальної за неї. Атрибуція є основою для вищезгаданих засобів контролю, оскільки організації не можуть надійно застосовувати політику або розслідувати діяльність, не знаючи, що авторизувало дію.
«Трансформація ШІ тепер вирішується співробітниками першої лінії на індивідуальній основі, що є нежиттєздатним і призведе до низки дуже поганих наслідків», — говорить Меллер. «Компанії, які досягнуть успіху, будуть тими, хто надасть цим співробітникам безпечний спосіб робити те, що вони вже роблять».
Дізнайтеся більше про 1Password Unified Access — платформу безпеки ідентифікації для управління доступом для людей, ШІ-агентів та машинного робочого навантаження. Для організацій, які прагнуть забезпечити безпеку доступу ШІ-агентів, Unified Access пропонує 1Password Privileged Access для надання агентам доступу лише за потреби без постійних привілеїв, а 1Password Credential Broker (зараз у публічному попередньому перегляді) надає машинним та агентним обмеженим обліковим даним під час виконання.
Методологія: 1Password провів це дослідження за допомогою онлайн-опитування 1000 штатних співробітників у Сполучених Штатах у компаніях з щонайменше 250 співробітниками. Вибірка була рівномірно розділена між ІТ/безпекою та ролями розробників/інженерів і представляла різні розміри компаній, рівні старшинства та галузі. Дані були зібрані з 26 травня по 3 червня 2026 року.
Оригінал статті: venturebeat.com