Згідно з новим дослідженням Ivanti, яке охопило 3900 співробітників у шести країнах, керівники організацій майже вдвічі частіше приховують своє використання ШІ порівняно з усіма іншими працівниками (42% проти 23%). Серед керівників, які приховують таке використання, 52% стверджують, що роблять це для “секретної переваги”. Те саме дослідження виявило, що 85% ІТ-фахівців стверджують, що для кожного агента ШІ існує призначений власник. Лише 42% кажуть, що власність є чітко визначеною — розрив у 43 пункти, для подолання якого жодна система управління не була розроблена.
Сем Еванс, головний директор з інформаційної безпеки (CISO) Clearwater Analytics, виступив перед своєю радою директорів і окреслив ризики для активів на суму 8,8 трильйона доларів, які підтримує платформа його компанії. “Найгірше, що може статися, — це якщо один із наших співробітників візьме клієнтські дані та помістить їх в інструмент ШІ, яким ми не керуємо”, — сказав Еванс виданню VentureBeat. Він приніс рішення, а не лише проблему. Багато CISO, опитаних VentureBeat, цього не зробили.
Генеральний директор Menlo Security Білл Роббінс розповів про розмову з CISO одного з топ-3 банків США, який назвав виявлення “тіньового” ШІ “марною тратою часу”: ШІ вбудований у кожну програму та браузер, якими користуються співробітники. Банк керує через ізоляцію, а не через виявлення.
Масштаби виправдовують таку позицію. “Ми бачимо 50 нових додатків ШІ щодня, і вже каталогізували понад 12 000”, — розповів Itamar Golan, CEO Prompt Security, виданню VentureBeat. “Близько 40% з них за замовчуванням навчаються на будь-яких даних, які ви їм надаєте, а це означає, що ваша інтелектуальна власність може стати частиною їхніх моделей”. CrowdStrike виявив 1800 додатків ШІ, що працюють на 160 мільйонах кінцевих точок. Це дані постачальників, отримані з пропрієтарної телеметрії. Жодна незалежна сторона не може їх перевірити. Напрямок сигналу важливіший за точну кількість.
Елія Зайцев, CTO CrowdStrike, описав, що ускладнює управління цим середовищем. “Неможливо відрізнити, чи агент запускає ваш веб-браузер, чи ви самі запускаєте свій браузер”, — сказав Зайцев виданню VentureBeat на RSAC 2026. “Спостереження за фактичними діями є структурованою, вирішуваною проблемою. Намір — ні”. “Тіньовий” ШІ — це вже не список, який команди безпеки можуть вести. Це середовище, яке вони повинні приймати як належне.
Опитування Ivanti було незалежно проведено Ravn Research та MSI Advanced Customer Insights серед 1500 ІТ-фахівців. Серед компаній, які мають політики щодо ШІ, лише 24% співробітників стверджують, що ці політики “дуже послідовно” дотримуються у повсякденній роботі.
Кейн МакГладрі, старший член IEEE, пояснив виданню VentureBeat, чому цей розрив у управлінні зберігається. “Все, що здається пов’язаним з кібербезпекою, зазвичай відносять до категорії ризиків кібербезпеки, що є повною фікцією. Вони повинні зосереджуватися на бізнес-ризиках, тому що якщо це не впливає на бізнес, як, наприклад, фінансові втрати, тоді ніхто не звертатиме на це уваги, не виділятиме належного бюджету, і не запроваджуватиме адекватних заходів контролю для запобігання цьому”, — раніше сказав МакГладрі виданню VentureBeat.
Партнери-брокери з великих консалтингових фірм повідомили через Signal, що вони створюють “тіньові” програми ШІ в Google Colab і зберігають їх у S3-відрах, щоб стиснути тиждень фінансового аналізу в годину. Процес затвердження займає занадто багато часу, тому вони його оминають.
VB Transform · 14-15 липня · Менло-Парк · Агентна безпека та ідентифікація
Ваші агенти мають доступ до електронної пошти, кредитних карток та терміналів. Що станеться, коли вони будуть скомпрометовані?
Сесії з агентної безпеки охоплюють ін’єкції промптів, пісочниці в регульованих середовищах та протоколи довірених агентів, які Visa тестує на своїй критично важливій інфраструктурі.
Дивіться повний порядок денний →
Управління під час розгортання, збій під час виконання
Перевірки розглядають функціональні вимоги під час випуску моделі, але ніколи не перевіряють походження моделі, поведінковий дрейф або чи розширив агент власні дозволи після запуску.
Генеральний директор CrowdStrike Джордж Куртц повідомив на RSA Conference 2026, що агент ШІ одного з топ-100 CEO компаній переписав політику безпеки компанії, щоб розширити свою автономію. Компанія виявила це випадково. Усі перевірки облікових даних були успішними. “В епоху агентів захист від противників, прискорених ШІ, та забезпечення безпеки самих систем ШІ вимагають роботи зі швидкістю машини”, — сказав Куртц. Щоквартальні перевірки управління не працюють зі швидкістю машини.
Майк Рімер, Field CISO в Ivanti, заклав цей урок у розробку ШІ-агентів власної команди. “Він чудово виконує те, для чого я його призначив, але він також чудово виконує те, для чого я його не призначав, а це небезпечно”, — сказав Рімер виданню VentureBeat.
Дані про “галюцинації” ШІ посилюють проблему. Згідно з даними Ivanti, 68% ІТ-фахівців особисто спостерігали, як ШІ генерує “галюцинації” з потенційним операційним впливом. Понад половина виявили помилки до того, як було завдано шкоди, але 16% — ні. Однак серед найдосвідченіших користувачів ШІ 49% повністю довіряють вихідним даним, згенерованим ШІ, які впливають на ІТ-рішення.
Рімер описав цю тенденцію в ексклюзивному інтерв’ю виданню VentureBeat. “Є люди, які просто приймають те, що їм надано, не повністю розуміючи, що воно робить, що ми спостерігаємо в індустрії технологій десятиліками”, — сказав Рімер. “Вони не ставлять під сумнів, як це робиться. Вони просто починають оцінювати це за результатом”.
Ассаф Керен, CSO Qualtrics, визначив ключове протиріччя в ексклюзивному інтерв’ю виданню VentureBeat. Організації вводять “недетерміноване прийняття рішень у середовища, побудовані для детермінізму”. Керен посилався на внутрішні дані Qualtrics, які показують, що 22% сортувань у SOC-центрах вже здійснюються за допомогою ШІ. Немає кодифікованого порогу, який би відділяв те, що агент може виконати автоматично, від того, що вимагає втручання людини.
18-місячне вікно
Час для виправлення цієї ситуації закінчується. За даними Ivanti, ІТ-організації очікують, що ШІ автоматизує 46% своїх операцій протягом 18 місяців. Американські компанії прогнозують 52%. Управління вже є найчастіше згадуваним бар’єром для швидшого впровадження, випереджаючи проблеми з навичками, технологіями та даними.
Розрив у рівні зрілості робить розрив в управлінні ще небезпечнішим. ІТ-фахівці в організаціях зі зрілим підходом до ШІ заощаджують шість годин на тиждень, що вдвічі більше, ніж три години, зекономлені в найменш зрілих. Майже 9 з 10 ІТ-фахівців у масштабованих організаціях стверджують, що ШІ часто допомагає виявити або вирішити проблеми до того, як вони торкнуться співробітників. У організаціях, які перебувають на ранніх стадіях експериментування, цей показник знижується до чотирьох з десяти. 69% масштабованих організацій звітують про повністю вбудоване управління, порівняно з 15% на ранніх стадіях експериментування.
Президент Cisco Кіту Пател під час інтерв’ю на RSAC 2026 описав гіпотетичний сценарій: агент, який коштує 40 000 доларів, запрошує конкурентів до каналу Slack і публікує домашні адреси. “Вибачення не є запобіжником”, — сказав Пател виданню VentureBeat.
Віце-президент з розвідки загроз Cato Networks Етай Маор в окремому інтерв’ю на RSAC сформулював проблему підзвітності. “Вони ближчі до людей. Чому ми не проводимо перевірку минулого агентів?”
“ШІ скорочує час між наміром і виконанням, одночасно перетворюючи корпоративні системи ШІ на цілі”, — сказав виданню VentureBeat віце-президент CrowdStrike з операцій розвідки Адам Майєрс.
“Погодження однієї дії не означає погодження наступної”, — сказав у окремому інтерв’ю старший віце-президент Cisco з програмного забезпечення та платформ ШІ Ді Джей Сампат.
МакГладрі описав першопричину. Організації за замовчуванням клонують профілі користувачів для агентів, і розширення дозволів починається з першого дня. “Він використовує набагато більше дозволів, ніж повинен, більше, ніж людина, через швидкість масштабу та намір”, — сказав він.
Команда Рімера вбудувала управління в процес розробки Ivanti. “У нас є ШІ, який перевіряє роботу іншого ШІ, щоб переконатися, що він виправлений. Дві різні моделі, два різні виробники”, — сказав Рімер. “Якщо один ШІ вважає, що інший ШІ виправив це належним чином, тоді він передає це людині”.
Рімер поставив запитання постачальникам у форматі, який може використовувати кожен CISO під час переговорів. “Якщо постачальник не має можливості показати вам, що він зробив з точки зору розробки для покращення своїх процесів розробки, вам дійсно потрібно поставити під сумнів, чому ви працюєте з цим постачальником”, — сказав він.
Шесть запитань нижче стосуються аспектів управління, де виконання зазнає краху під час роботи. CISO можуть використовувати їх під час поновлення договорів у третьому кварталі, щоб відокремити постачальників, які забезпечують виконання в реальному часі, від тих, хто надає лише документацію.
Шесть питань щодо управління для поновлення в Q3
|
Вимір управління |
Що довели дані |
Чому управління це пропускає |
Питання для поновлення в Q3 |
Артефакт доказу, який потрібно вимагати |
|
Тіньовий ШІ керівництва |
Керівники приховують ШІ у 42% випадків порівняно з 23% усіх співробітників. 52% приховують для “секретної переваги”. Регульовані галузі мають найвищі показники несанкціонованого використання. |
Управління передбачає, що розробники політик дотримуються політик. Керівники знаходяться вище контролю, який вони написали. |
Чи може ваша телеметрія DLP, браузера, SSE та кінцевих точок виявляти рух даних ШІ на рівні керівництва з таким же охопленням, як і у всіх інших користувачів? |
Журнали телеметрії DLP, браузера, SSE та кінцевих точок на рівні керівництва, що показують однакове охоплення, як і у всіх інших користувачів. |
|
Призначене володіння агентом |
85% стверджують, що мають призначеного власника. Лише 42% кажуть, що володіння є чітким. Розрив у 43 пункти. |
Власник у таблиці. Агент під час виконання. Ніхто не перевіряв, чи може власник зупинити агента під навантаженням. |
Чи можете ви назвати власника кожного агента ШІ? Чи може цей власник відкликати доступ за 60 секунд? |
Демонстрація в реальному часі відкликання доступу агента за 60 секунд під робочим навантаженням. |
|
Перевірка перед розгортанням |
65% мають перевірку ризиків перед розгортанням. Окремо лише 24% кажуть, що будь-яка політика ШІ дотримується “дуже послідовно”. Перевірка існує. Виконання — ні. |
Перевірка розглядає функціональні вимоги під час розгортання. Ніколи не перевіряє походження моделі або поведінковий дрейф під час виконання. |
Чи охоплює ваша перевірка походження моделі? Вона примусова чи дорадча? |
Сертифікат походження моделі з журналом виконання, що показує заблоковані розгортання. |
|
Виконання політики |
58% мають політики прийнятного використання. 24% дотримуються “дуже послідовно”. Документовано. Не практикується. |
Агент переслідував свою мету, долаючи всі межі. Прагнення до мети не зупиняється на документі, який модель ніколи не читає. |
Чи забезпечуються політики за допомогою серверних шлюзів чи відповідності агента? Який відсоток дій контролюється? |
Журнал серверних шлюзів із зазначенням відсотка дій агента, що контролюються, проти тих, що не контролюються. |
|
Пороги довіри |
68% бачили “галюцинації” з операційним впливом. 49% просунутих користувачів повністю довіряють результатам. |
Немає кодифікованого порогу, який би відділяв автоматичне виконання від необхідності перегляду людиною. |
Які дії агентів виконуються автоматично, а які потребують перегляду людиною? Чи забезпечується це в політиці чи на платформі? |
Документована матриця порогів, що класифікує кожну дію агента як автоматичне виконання або перегляд людиною. |
|
Авторизація на дію |
Управління є №1 бар’єром (27%). Навички 20%. Технології 17%. Дані 14%. |
Нагляд перевіряє щокварталу. Агенти діють щосекунди. |
Чи забезпечується авторизація на дію під час виконання, чи лише під час перевірки при розгортанні? Чи можуть агенти накопичувати дозволи без повторної авторизації? |
Журнал авторизації під час виконання, що показує події шлюзу на дію та часові мітки повторної авторизації дозволів. |
Вихідні дані з Ivanti, Scaling AI in IT Operations: The Path to Maturity in 2026 (n=1500 ІТ-фахівців, 3900 загалом співробітників, шість країн, лютий-березень 2026). Ексклюзивні джерела CISO від VentureBeat.
Еванс структурував розмову з радою директорів Clearwater. CISO банку, описаний Роббінсом, припустив, що ШІ присутній скрізь, і керувався через ізоляцію, а не через виявлення. Управління, яке намагається каталогізувати всі “тіньові” інструменти ШІ, зазнає невдачі, тому що поверхня зростає швидше, ніж будь-який інвентар.
У масштабованих, критично важливих для бізнесу організаціях 54% ІТ-фахівців стверджують, що ШІ робить їхню роботу швидшою та кращою, згідно з Ivanti. У організаціях, які перебувають на ранніх стадіях експериментування, цей показник становить 24%. У масштабованих організаціях підзвітність перебуває на платформі. У ранніх — у документі, який агент ніколи не читає.
Шесть запитань вище надають кожному CISO спосіб перевірити, чи дійсно їхнє управління працює там, де це важливо. Під час виконання, під навантаженням і до наступної перевірки поновлення.
Як захиститися (Порада ІТ-Блогу): Завжди застосовуйте принцип найменших привілеїв до будь-яких облікових записів або агентів, яким надається доступ до систем. Регулярно перевіряйте та переглядайте ці дозволи, особливо для систем ШІ, які можуть автономно змінювати свої права доступу.
За матеріалами: venturebeat.com