Минуло два місяці, як я писав про витік даних Vercel та витік даних Composio. Кожен із них дає власні уроки. Однак, аналізуючи їх разом, я постійно повертаюся до одного спостереження: це не ізольовані інциденти.
Це одна й та сама атака, повторена двічі проти різних цілей, де електронна пошта не була точкою входу в робочий простір. І коли ви чітко бачите цю модель, вона змінює ваше розуміння того, що потрібно захищати.
Це також ставить незручне питання, над яким я розмірковував. Модель, яку я описую, де дозвіл OAuth використовується для доступу до облікового запису, читання конфіденційних даних з електронної пошти та Диска, а потім використання цього доступу для розширення впливу в межах робочого простору, описує не тільки дії зловмисників. Це все частіше описує і те, що за своєю суттю роблять агенти штучного інтелекту щодня.
Перш ніж перейти до цього обговорення, давайте приділимо хвилину, щоб окреслити ланцюжок атак у робочому просторі.
Стара модель мислення: небезпека криється в електронній пошті
Протягом останнього десятиліття домінуючою моделлю мислення щодо безпеки робочого простору було таке: електронна пошта — це небезпечний канал, а все інше в Google Workspace — відносно безпечне.
Ця модель мала сенс, коли зловмисники в основному намагалися викрасти облікові дані за допомогою фішингу. Але вона більше не актуальна, оскільки зловмисники навчилися просуватися в робочому просторі, а не просто потрапляти через електронну пошту.
Модель, з якою знайомі більшість команд безпеки, виглядає приблизно так:
- Електронна пошта як точка входу: Зловмисний лист (фішингове посилання, заражений вкладений файл, переконлива приманка, підказка, призначена для введення в оману агента ШІ) — це те, з чого починається більшість атак.
- Викрадення облікових даних: Атака призводить до викрадення дійсних облікових даних та захоплення облікового запису.
- Доступ до конфіденційних даних у Gmail та на Диску: Після захоплення облікового запису зловмисник легко отримує доступ до пов’язаних програм у межах Google Workspace.
- Латеральні переміщення: Зловмисник, перебуваючи в поштовій скриньці, може скидати паролі та отримувати доступ до додаткових програм за допомогою “чарівних посилань”.
- Встановлення стійкості: Зловмисники можуть непомітно перебувати в облікових записах протягом днів, тижнів або місяців, тихо вилучаючи дані з різних систем.
Сукупно це сценарій жаху, широко відомий як захоплення облікового запису (ATO). Ланцюжок атак на робочий простір починається з компромета ідентичності через електронну пошту та розширюється звідти.
Дивіться, як Material охоплює кожен крок ланцюжка атак
Ланцюжок атак у цій статті не зупиняється на поштовій скриньці, і ваші засоби захисту теж не повинні.
Дізнайтеся, як Material об’єднує безпеку електронної пошти, OAuth та Диска, щоб закрити прогалини, якими користуються як зловмисники, так і агенти ШІ. Замовляйте демо для вашого Google Workspace.
Замовити демо
Ланцюжок атак, що розвивається: OAuth як точка входу
Елементи ланцюжка атак на робочий простір не змінилися, але послідовність, у якій відбуваються атаки, еволюціонувала. Послідовність, яку я спостерігав у Vercel, Composio та зростаючій кількості інцидентів, які ми відстежуємо, взагалі не починається з електронної пошти.
Натомість сценарій перевертається, і токен OAuth стає вхідними воротами до електронної пошти, а не навпаки.
Ось як виглядали ці атаки:
- OAuth як точка входу: Ці атаки починалися зі встановлення стійкості через викрадений токен OAuth. Ці токени переживають скидання паролів, не термінуються і їх важко помітити. Вони невидимі для користувачів і здебільшого невидимі для команд безпеки, які не відстежують поведінку програм. Ще страшніше, що викрадений токен є атакою на ланцюжок постачання. Постачальник скомпрометований, і результатом є доступ до вашого середовища.
- Доступ до конфіденційних даних: Використовуючи викрадений токен, зловмисник зміг отримати доступ до даних, що зберігаються в Gmail та на Диску.
- Захоплення облікових записів електронної пошти: ATO спочатку здійснюється за допомогою OAuth, а не електронної пошти. Доступ до електронної пошти перетворює скомпрометовану поштову скриньку на значно ширший інцидент.
- Латеральні переміщення: Використовуючи комбінацію облікових даних, збережених на Диску, та скидання паролів або “чарівних посилань” через електронну пошту, зловмисник може потім переміщатися латерально між підключеними системами.
Ми можемо передбачити, що будівельні блоки ланцюжка атак на робочий простір залишаться незмінними, але зловмисники, оснащені інструментами ШІ для виявлення вразливостей та масштабування своїх зусиль, продовжуватимуть знаходити способи їх перекомбінувати.
Ці атаки, орієнтовані на OAuth, є лише одним із прикладів цієї еволюції.
Ті самі ланцюжки, інший виконавець
Тепер давайте змінимо наше мислення, тримаючи в голові ці чотириетапні послідовності, які я щойно описав.
Ваші співробітники підключають агенти ШІ до Google Workspace прямо зараз. Ці агенти мають дозвіл. Вони використовують легітимні дозволи OAuth. Вони читають електронну пошту, шукають на Диску, працюють від імені реальних користувачів, виконуючи реальні завдання. У більшості організацій це відбувається швидше, ніж команди безпеки можуть це відстежити.
Коли агент ШІ поводиться несподівано — тому що його інструкції були неоднозначними, тому що він слідував ланцюжку міркувань, якого його розробники не передбачали, тому що йому було надано підказку через вміст, який він зустрів у середовищі — він може пройти тим самим шляхом, що й зловмисник:
- Він отримує доступ до поштової скриньки або папки на Диску, до яких йому не було явно призначено доступу, оскільки його сфера дії була ширшою, ніж вимагало завдання.
- Він читає конфіденційний вміст, такий як облікові дані в ланцюжках електронних листів або конфіденційні документи в спільних папках, і використовує цю інформацію.
- Він виконує дію після такого доступу: надсилає повідомлення, переходить за посиланням, надсилає запит до іншого сервісу.
- Він переміщується латерально між програмами, і конфіденційна інформація потрапляє до третьої сторони.
Немає зловмисного актора. Немає скомпрометованих облікових даних. Просто агент, який робить щось, чого його оператор не мав наміру, у середовищі, яке не мало контролю, щоб це зупинити.
Чому це важливо для вашого підходу до захисту
Більшість розмов про безпеку агентів ШІ зосереджені на запобіганні введенню підказок, тестуванні поведінки агентів або перегляді програм, які підключають ваші співробітники. Це реальні проблеми, і їх варто вирішувати.
Але загроза, яку я описую, не стосується зброї, яку використовує агент. Вона стосується того, як агент працює точно так, як він був створений, у середовищі, де запобіжні заходи не були розроблені з урахуванням такого актора.
Людина-оператор, що діє в середовищі, де йому надали надмірні дозволи, зазвичай знатиме, як орієнтуватися в цій ситуації, комбінуючи здоровий глузд і розуміння норм і політик компанії.
Токени OAuth, надані агенту ШІ, несуть такий самий доступ, як і токени, надані людині, але агент не зрозуміє, що йому надали надмірні дозволи, перш ніж діяти. Він просто зробить те, що йому потрібно, щоб виконати завдання.
Контроль, який тут має значення, — це не контроль над агентом. Це контроль над середовищем, у якому діє агент.
Якщо ви знаєте, де зберігаються конфіденційні дані в електронній пошті та на Диску, ви можете застосувати політики, які обмежують доступ до них, перш ніж агент (або зловмисник) дістанеться до них. Якщо ви розслідуєте дозволи OAuth, ви можете зрозуміти та обмежити доступ з боку зловмисника або помилкового агента.
Якщо ви можете видаляти посилання для скидання пароля та вимагати додаткової перевірки перед тим, як конфіденційний вміст поштової скриньки стане доступним, не має значення, чи є сутністю, яка намагається отримати доступ до цього вмісту, зловмисник чи агент, що діє поза межами своєї призначеної сфери.
Такий самий захист, який обороняє від сучасного ланцюжка атак, також обороняє від сучасного ризику, пов’язаного з агентами. Це та сама проблема, що носить різні капелюхи.
Як виглядає захист по всьому ланцюжку
Я не думаю, що відповідь — це додавати більше точкових рішень для кожного етапу цього ланцюжка. Я думаю, що відповідь — це охоплення, яке розуміє ланцюжок як ланцюжок, яке може бачити, що відбувається в електронній пошті, OAuth, на Диску та в поведінці облікових записів, і з’єднувати крапки, перш ніж щось піде не так на третьому чи четвертому кроці.
Саме це ми побудували в Material. Ось як наше покриття відображається на кожному кроці:
Блокування початкового поштового навантаження. Наша безпека електронної пошти розроблена для виявлення того, що пропускають вбудовані засоби контролю: складний фішинг, навантаження, що обходять фільтри на основі репутації, методи атак “людина посередині”. Зупинка найпоширенішого методу атаки, перш ніж вона почнеться, залишається найефективнішим втручанням для шкідливої загрози.
Виявлення підозрілої поведінки OAuth. Material виходить за рамки каталогізації програм та їхніх дозволів.
Платформа відстежує, що насправді роблять програми: що вони читають, коли вони це читають, як ця поведінка змінюється з часом. Незалежно від того, чи використовується токен OAuth зловмисником, чи агентом ШІ, що діє поза межами своїх призначених параметрів, аномальна поведінка на рівні активності виявляє небезпеку.
Виявлення та захист конфіденційних даних у стані спокою. Ви не можете захистити те, чого не бачите, і ви не можете розробити політику доступу, про існування якого ви не знаєте.
Безпека файлів Material надає командам видимість того, де зберігаються конфіденційні дані в електронній пошті та на Диску: які спільні диски мають широкий доступ, які ланцюжки електронних листів містять облікові дані чи персональні дані, які папки на Диску доступні ширше, ніж передбачено. Це основа для застосування мінімальних привілеїв доступу до будь-якого актора, людського чи автоматизованого.
Блокування латерального переміщення через скидання паролів. Material може видаляти конфіденційний вміст повідомлень, включаючи посилання для скидання паролів, та вимагати додаткової перевірки перед тим, як цей вміст стане доступним.
Зловмисник з доступом до поштової скриньки не може використовувати його як точку опори, якщо посилання для скидання не доступні в текстовому форматі. Агент ШІ, який отримує доступ до поштової скриньки, шукаючи щось для дії, стикається з таким самим обмеженням.
Модель повторюватиметься
Vercel. Composio. Я очікую, що цей список буде зростати, і я очікую, що наступні записи в ньому не завжди будуть чітко вписуватися в категорію “зовнішній зловмисник”.
Деякі з них будуть включати агенти ШІ, що роблять щось несподіване. Деякі будуть включати інтеграції з надмірними дозволами, які отримують доступ до даних, яких вони ніколи не повинні були бачити. Механізм виглядатиме знайомо, навіть якщо історія навколо нього — ні.
Правильною відповіддю не є тривога щодо агентів ШІ або уповільнення їх впровадження. Агенти справді корисні, і їхня продуктивність є реальною.
Правильною відповіддю є визнання того, що робочий простір, у якому діють ці агенти, потребує контролю, відповідного для світу, де програмне забезпечення, автентифіковане через OAuth (авторизоване чи ні), є першокласним актором у вашому середовищі.
Якщо ваша стратегія безпеки Google Workspace закінчується на поштовій скриньці, вона має прогалину. Ця прогалина — це саме те місце, де проходить сучасний ланцюжок атак, і це саме те місце, де буде проходити агент ШІ, що діє поза межами своєї призначеної сфери.
Якщо ви хочете обговорити, як виглядає повне охоплення робочого простору для вашого середовища, зв’яжіться з нами в Material Security.
Спонсоровано та написано Material Security.
Дізнатися більше на: www.bleepingcomputer.com