Представлено Snowflake
Надто часто історія корпоративної безпеки була історією ускладнення користування. З’являється нова загроза, додається новий контроль, і десь у процесі люди починають обходити саме ті системи, які створені для їхнього захисту.
Протягом своєї кар’єри я на власні очі бачив, що впровадження безпеки рідко зазнає невдачі через те, що людям байдуже до неї. Вона зазнає невдачі, тому що безпечний шлях видається складнішим за незахищений.
В епоху штучного інтелекту (ШІ) цей урок важливіший, ніж будь-коли.
ШІ розширює поверхню атаки та підвищує межу можливостей зловмисників, що робить спрощення безпеки ще критичнішим. Засоби безпеки, які вимагають зусиль або створюють незручності, зрештою ігноруються. Люди знаходять обхідні шляхи. Відповідь полягає в тому, щоб зробити безпечний шлях найлегшим.
Безпека працює найкраще, коли вона не заважає
Коли безпекою легше користуватися, ніж її уникати, люди її приймають. Роками, коли галузь масштабно впроваджувала двофакторну автентифікацію, найбільшим викликом було не створення самої безпеки, а тертя, яке виникало під час її використання. Людям доводилося зупиняти свою роботу, брати телефон, запускати VPN, вводити коди та переривати робочий процес лише для входу в систему.
Зрештою, впровадження стимулювало не політика, вимоги відповідності чи навчання з питань безпеки. Це була простота. Тепер, коли це так само легко, як відбиток пальця або розпізнавання обличчя, люди використовують це без вагань.
Той самий принцип спонукав розробників браузерів робити безпеку більш помітною та інтуїтивно зрозумілою для звичайних користувачів. Замість того, щоб очікувати, що люди будуть вручну перевіряти URL-адреси, сучасні браузери чітко позначають незахищені сайти (без HTTPS) як небезпечні, допомагаючи користувачам за замовчуванням рухатися до безпечнішої поведінки. Безпека стала сильнішою частково тому, що безпечний шлях також став простішим і більш очевидним.
Де складність проявляється в ШІ
Дозволи для агентів є хорошим прикладом того, де це проявляється в системах ШІ. Співробітники з часом накопичують численні дозволи через один проект, доступ до іншої системи, роль, яку ніколи не було видалено після зміни команди. Люди знають, який доступ релевантний для завдання, навіть якщо система активно його не застосовує.
Агенти не мають такого судження. Агент, призначений для вирішення проблеми, буде досліджувати кожен доступний шлях. Якщо він може отримати доступ до 12 систем, але завдання потребує лише двох, він все одно може дослідити інші 10. Це просто ретельність, але результат — потенційна поверхня атаки, значно більша, ніж вимагало завдання.
Спокуса полягає в тому, щоб залучити людину, позначаючи значні дії та запитуючи дозвіл перед їх виконанням. Але на практиці агент може попросити людину схвалити глибоко технічну дію без достатнього контексту, щоб оцінити, чи є вона доречною. У більшості випадків, її схвалять просто для того, щоб робочий процес рухався далі. Це лише додає тертя та створює помилкове відчуття нагляду.
Що дійсно потрібно, так це модель дозволів, побудована навколо намірів. Агент повинен мати лише ті облікові дані, які йому потрібні для конкретного завдання, і вони повинні закінчуватися після його завершення. Галузь вже починає рухатися до кращих моделей. Стандарти, такі як OAuth, еволюціонують для підтримки агентних систем ШІ, дозволяючи агентам мати ідентичності, обмежені конкретним завданням, а не повним набором дозволів користувача.
Зробити безпеку ШІ простою у використанні
Легкість використання починається з видимості, тому першочерговим завданням є знання того, що насправді відбувається. До яких ресурсів підключаються ваші агенти? Які дані вони торкаються? Які дозволи вони використовують?
Багато підприємств здивовані відповідями, коли вперше починають перевірку. Більшість організацій працюють приблизно з 80% видимості та контролю. Проблема полягає в решті 20%, тому що саме там зазвичай приховується реальний ризик. ШІ знайде ці прогалини набагато швидше, ніж люди. Почніть з моніторингу, навіть якщо ви ще не готові нічого застосовувати. Використовуйте ШІ, щоб просіяти те, що ви знайдете, і пріоритезувати поведінку з найвищим ризиком. Потім методично усувайте ці ризики.
З точки зору ідентифікації, переходьте до ідентифікації навантаження (workload identity), де це можливо. Стара модель створення облікових записів служб, завантаження ключів та їх розповсюдження по всій інфраструктурі є крихкою та складною для аудиту. Сучасні хмарні середовища пропонують кращий підхід: ідентичність навантаження встановлюється під час розгортання, а облікові дані ніколи не розповсюджуються як статичні ключі. Тягар управління зменшується, а разом з ним і поверхня атаки.
Що стосується агентів, зокрема, чиніть опір спокусі надавати їм широкі дозволи, виходячи з припущення, що схвалення людьми виявить проблеми до того, як вони трапляться. Обмежуйте доступ агентів до поставленого завдання та переконайтеся, що ці дозволи закінчуються після завершення роботи. Для команд, які керують численними з’єднаннями агентів з інструментами, з’являються шлюзи MCP (Multi-Cloud Platform gateways) як практичний спосіб кодування правил управління централізовано, а не інструмент за інструментом. Тримайте людину в процесі для важливих дій, а не для кожної дії, особливо тих, де потенційні наслідки помилки є значними.
Темпи зростання ризиків прискорюються
В епоху ШІ розрив між викриттям та експлуатацією швидко зникає, скорочуючись з днів до годин, а в деяких випадках — до хвилин. Звіт CrowdStrike Global Threat Report за 2026 рік документує, що середній час прориву зловмисника прискорився на 65% рік до року. Оскільки ШІ стає більш спроможним самостійно виявляти слабкі місця, команди безпеки, які покладаються на ручні процеси реагування, відстануть.
Однак відповідь не змінилася. Безпека, яка створює перешкоди, зрештою буде обійдена. Безпека, вбудована безпосередньо в архітектуру, яка застосовується за замовчуванням і невидима на практиці, — це та, яка дійсно працює. ШІ підвищує ставки, але принцип залишається тим самим: безпека працює лише тоді, коли безпечний шлях також є найлегшим.
Mayank Upadhyay є директором з безпеки та довіри (Chief Security & Trust Officer) у Snowflake.
Спонсоровані статті – це контент, створений компанією, яка або платить за публікацію, або має ділові відносини з VentureBeat, і вони завжди чітко позначені. Для отримання додаткової інформації зв’яжіться з [email protected].
Як захиститися (Порада ІТ-Блогу):
1. Регулярно переглядайте дозволи: Не дозволяйте накопичуватися надмірним правам доступу для користувачів та системних облікових записів. Перевіряйте, які дані та ресурси доступні агентам ШІ, та обмежуйте їх до мінімально необхідних. Якщо можливо, використовуйте тимчасові або обмежені за часом дозволи.
2. Увімкніть двофакторну автентифікацію (2FA): Для всіх облікових записів, особливо для адміністративних та тих, що мають доступ до конфіденційної інформації. Переконайтеся, що процес 2FA є максимально простим (наприклад, через мобільні додатки-автентифікатори), щоб не створювати бар’єрів для користувачів.
Інформація підготовлена на основі матеріалів: venturebeat.com