Представлено Splunk
Агентний штучний інтелект (AI) значно підвищує ефективність ІТ-команд та команд безпеки. Однак він також усуває етап стажування, який довгий час був основою для підготовки досвідчених фахівців.
Оскільки організації автоматизують все більше завдань, які раніше виконувалися молодшими аналітиками та інженерами, вони стикаються з викликом, що стосується не стільки архітектури, скільки дизайну робочої сили: як підготувати нове покоління експертів, коли ШІ бере на себе роботу, що раніше служила для їх навчання.
Чим займався молодший персонал
Протягом двох десятиліть шлях до того, щоб стати провідним аналітиком SecOps, SRE або інженером NetOps, пролягав через повторення.
Розбір хибних спрацьовувань. Пошук контексту на панелях моніторингу. Читання логів о 2 годині ночі, які виявлялися нешкідливими. Галузь сприймала цю роботу як рутину, і багато в чому так воно і було.
Але це також слугувало етапом стажування.
Тисячі годин, які аналітик проводив, вивчаючи патерни трафіку, формували інтуїцію, що робила його безцінним під час реальної атаки. Цю інтуїцію не можна було отримати на одному курсі чи зафіксувати в інструкції. Вона накопичувалася через досвід, розпізнавання закономірностей, невдачі та ескалацію. З часом це те, як люди здобувають глибокий аналітичний досвід.
Однак агентний ШІ починає автоматизувати саме ті завдання, які колись були тренувальним майданчиком для цієї експертизи. Це не привід сповільнюватися. Рутина була дорогою. Вигорання було реальним. Організації повинні використовувати агентів для зменшення навантаження, де це можливо.
Водночас, усуваючи цей цикл стажування, ми повинні надати операторам щось краще на заміну. Те, як організації підійдуть до цього питання сьогодні, визначить переможців майбутнього.
Організації, які підійдуть до цього цілеспрямовано, підготують операторів, здатних досягти успіху в наступному десятилітті. Організації, які відкладуть це на потім, можуть виявити, що мають швидші системи сьогодні, але з меншою кількістю людей, які глибоко їх розуміють, щоб керувати ними завтра.
Коли автоматизація спустошує підзвітність
Існує й другий, менш помітний аспект цієї дискусії.
У регульованих середовищах рутина стажування є частиною шару підзвітності. Фреймворки від SOX до PCI DSS, HIPAA до NIS2 передбачають ланцюжок людських рішень за контрольною дією.
Аудитори не спілкуються з моделями. Вони спілкуються з людьми, які можуть пояснити, чому система зробила те, що зробила, чому рішення було обґрунтованим і чи були впроваджені належні заходи контролю.
Коли популяція професіоналів, здатних пояснити цей ланцюжок, починає скорочуватися, ризик може проявитися не відразу. Контроль може все ще проходити. Робочий процес може все ще виконуватися. Панель моніторингу може все ще виглядати зеленою.
Але базовий інституційний пам’ять починає спустошуватися.
Це не просто проблема інструментів. Це також проблема навичок та дизайну робочої сили. І для організацій, які швидко впроваджують агентні рішення, ризик ближче, ніж багато хто думає.
Побудова людської експертизи для управління ШІ
Коли ми втрачаємо частину шару підзвітності через агентні системи, люди будуть виконувати новий тип управлінської ролі. Управління агентними системами означає впровадження автоматизованих запобіжників, які адаптуються до недетермінованої поведінки агентів і забезпечують їх належну роботу за умов, які ніхто повністю не передбачив. Це означає розробку критеріїв ескалації, які виявляють правильні аномалії, не перевантажуючи людей неправильними. Це означає впровадження динамічних інструментів, сповіщень та процесів для перевірки рішень машин, щоб виявити дрейф, упередженість та збої в логіці, які не виявить жоден окремий випадок.
Здатність оцінювати ці винятки та реагувати на них вимагає суджень, сформованих роками досвіду, вивчення розпізнавання закономірностей, які раніше забезпечувала модель стажування.
Ось чому питання робочої сили та питання архітектури тепер є одним і тим же питанням. Якщо ми очікуємо, що люди керуватимуть все більш автономними системами, нам потрібні цілеспрямовані шляхи, які допоможуть людям управляти масштабом та швидкістю систем ШІ, одночасно формуючи інтуїцію та судження у операторів, необхідні для виконання цієї роботи.
В епоху ШІ найціннішими платформами будуть не ті, що просто автоматизують найбільше завдань. Вони допоможуть людям стати більш здібними, більш надійними та більш важливими, оскільки системи навколо них стають швидшими та інтелектуальнішими.
Це означає, що організації повинні інвестувати в повну екосистему експертизи для операторів: спільноти, які поширюють спільні практики, сертифікації або інші докази, що роблять експертизу видимою, а також орієнтовані на людей пояснення та верифікацію в ШІ, поряд з навчальними шляхами, що розвивають можливості. Розширення прав і можливостей — це вибір дизайну архітектури.
Розширення прав і можливостей людей є критично важливою частиною розмови про практичне використання ШІ. Однак без цілеспрямованої стратегії для підтримки цього, це ризикує стати фразою, що нічого не означає, тому що може означати що завгодно.
Розширення можливостей для агентних систем не може бути просто концептуальною вимогою. Це має бути набір проектних рішень, вбудованих у поведінку систем. Агентна система, яка надає можливості своїм операторам та розвиває їх професійні навички, робить чотири речі:
1. Розкриває логіку з її вихідними даними
Кожна рекомендація, яку робить агент, повинна бути відстежуваною до даних, які він розглядав, логіки, яку він застосував, та походження використаних ним вхідних даних. Оператори, які можуть бачити логіку, розвивають судження щодо того, коли їй довіряти. Оператори, яким надаються лише висновки, цього не роблять.
2. Балансує повноваження за рівнем впевненості та впливу
Знайомі, низькоризикові патерни можуть оброблятися автономно. Нові ситуації або дії зі значним охопленням впливу повинні за замовчуванням ескалуватися. Межа повинна бути явною та конфігурованою командами, які несуть відповідальність за наслідки.
3. Розглядає розбіжності як сигнал корекції
Коли досвідчений інженер перекриває дію агента, він робить більше, ніж просто не погоджується. Він виправляє систему судженням, якого модель не мала: крихкою залежністю, особливістю середовища, обмеженням, яке дані ніколи не бачили. Система, яка реєструє перекриття, але ігнорує причину, нічого не вчиться з того моменту, коли людина знала краще.
4. Фіксує рішення як міждоменні знання
Те, як вирішується інцидент, — це урок, який рідко залишається в одній галузі. Інцидент SecOps може виявити слабкість ITOps. Проблема мережі може призвести до бізнес-наслідків. Коли цей зв’язок існує лише в закритому тікеті, наступна команда, яка стикається з ним, починає з нуля. Рішення повинні перетинати домени, а не помирати там, де вони були подані.
Це не бажані якості. Це перевірені функціональні можливості продукту. Керівники, які оцінюють агентні системи, повинні мати можливість визначити, де ці можливості існують, що відбувається, коли вони виходять з ладу, і чи покращуються навички операторів після розгортання.
Наступна перевага — коли людина та ШІ масштабуються разом
Щоб системи ШІ були практичними, надійними та працювали у масштабі, ключовим моментом проектування є те, щоб ШІ тісно співпрацював з операторами та розширював їхні можливості.
Таким чином, ера агентних систем — це не історія про заміну людей. Це історія про перепроектування систем, якими керують люди, щоб ці операції могли відбуватися зі швидкістю та масштабом машини, водночас зростаючи людська експертиза.
Цей результат не гарантований. Він відбудеться лише там, де керівництво вважатиме розвиток операторів пріоритетом, а не другорядним питанням. Для досягнення цього агентні системи повинні бути навмисно розроблені так, щоб розкривати логіку, фіксувати навчання та передавати роботу людям таким чином, щоб розвивати навички та кар’єру, а не руйнувати їх.
Агенти будуть ставати все розумнішими та швидшими. Здатність операторів, які працюють пліч-о-пліч з ними, навчатися та розвиватися синхронно, визначить, чи буде наступне десятиліття цифрової стійкості чимось, чим організації дійсно володіють, чи чимось, що вони орендують з віддаленого пулу експертизи.
Дізнайтеся більше про те, як Cisco Data Fabric на базі платформи Splunk допомагає командам прискорювати агентні операції.
Камал Хаті є SVP та GM Splunk, компанії Cisco.
Рекламні статті — це контент, створений компанією, яка або платить за публікацію, або має ділові стосунки з VentureBeat, і вони завжди чітко позначені. Для отримання додаткової інформації зв’яжіться з [email protected].
Як захиститися (Порада ІТ-Блогу): Впроваджуйте двофакторну автентифікацію (2FA) всюди, де це можливо, особливо для доступу до критично важливих систем та облікових записів. Регулярно оновлюйте програмне забезпечення та операційні системи, щоб усунути відомі уразливості.
Подробиці можна знайти на сайті: venturebeat.com