Зловмисник створив ШІ-агентів, призначених для відновлення шкідливого програмного забезпечення, щойно його виявляли інструменти безпеки. В окремій операції підозрюваний спільник ShinyHunters, маючи викрадений токен розробника, за приблизно три години отримав повний адміністративний контроль над хмарним середовищем жертви. Про ці операції Anthropic повідомив у своєму звіті про загрози за вересень.
Для команд безпеки виявлення не обов’язково зупиняє атаку: шкідливе ПЗ може бути відновлене, а викрадені облікові дані ШІ можуть бути використані для подальшого вторгнення за рахунок власника облікового запису.
Як працювала кампанія з відновлення шкідливого ПЗ
Anthropic відстежив зловмисника як GTG-20006 і оцінив його методи як такі, що відповідають групі Midnight Blizzard.
За даними Anthropic, зловмисник використовував ШІ-агентів для моніторингу виявлення його шкідливого ПЗ засобами безпеки. Коли продукт позначав імплант, агенти модифікували та відновлювали його. Вони були розроблені для повторення цього процесу доти, доки шкідливе ПЗ не залишалося непоміченим.
Зловмисник масово експортував поштові скриньки щонайменше двох виробників компонентів для дронів і викрав програмний пакет розробника (SDK) для пропрієтарної системи бачення дронів. Потім він провів реверс-інжиніринг системи, відновивши її архітектуру продукту, специфікацію обладнання та залежності постачальників.
Зловмисник націлився на понад 20 організацій на етапах планування, розвідки та активних операцій, включно з урядовими міністерствами, оборонними та розвідувальними органами, посольствами, аналітичними центрами та компаніями оборонно-промислового комплексу, зосередженими в Україні та Європі. Зловмисник викрав понад 300 000 записів національних посвідчень особи та комерційні реєстрові дані понад пів мільйона компаній від північноафриканського урядового технологічного органу.
ШІ керував процесом від розвідки до викрадення даних, тоді як люди відповідали за вибір цілей та перегляд викраденої інформації. Той самий зловмисник скомпрометував постачальників Wi-Fi для гостей готелів і захопив їхні DNS-записи, розміщуючи шкідливе ПЗ для цільових гостей. Microsoft задокументувала цю кампанію у своєму звіті CaptiveCrunch від 31 липня.
Anthropic виявив, що супутні корисні навантаження були розроблені для заморожування оновлень безпеки комп’ютера жертви. Аналіз Microsoft тих самих інструментів, пов’язаних спільним C2-адресою та хешем файлу в таблицях індикаторів обох звітів, визначив конкретний механізм. ChocoShell вимагав адміністративних привілеїв для блокування оновлень сигнатур Defender і включав методи обходу UAC для їх отримання.
Зловмисник розробив свої інструменти для замикання петлі з обох боків: відновлюючи корисне навантаження для обходу сканерів та блокуючи жертві отримання наступних оновлень від сканерів. Anthropic стверджує, що кваліфіковані супротивники можуть, “принаймні теоретично”, обходити виявлення швидше, ніж захисники можуть їх розробляти та розгортати.
Від викраденого токена до адміністратора хмари приблизно за три години
Підозрювані спільники колективу ShinyHunters використовували ШІ на всьому ланцюгу атак. Один з них, маючи викрадений токен розробника, за приблизно три години отримав повний адміністративний контроль над хмарним середовищем жертви.
Anthropic описує цей підхід як схожий на “vibe hacking”: оператори ставлять перед ШІ загальні цілі, а він самостійно навігує в кожному середовищі.
Під час окремого компрометування технологічного провайдера оператори викрали понад терабайт даних, включно з сотнями тисяч національних ідентифікаторів та мільйонами записів платіжних карток. В авіакомпанії оператори отримали доступ до систем, що містять десятки мільйонів записів пасажирів. Anthropic повідомляє, що підозрювані спільники ShinyHunters також викрадали ключі API ШІ жертв і переносили свої атакуючі робочі навантаження на ці ключі.
Три перевірки для команд безпеки
Атаки, задокументовані Anthropic, використовували знайомі слабкі місця, включно з розкритими обліковими даними, одночасно використовуючи ШІ для прискорення вторгнень та адаптації шкідливого ПЗ до виявлення. Команди безпеки можуть почати з перевірки, чи існують ті самі прогалини в їхніх власних середовищах.
Виконайте TruffleHog або еквівалентний сканер проти ваших репозиторіїв коду, образів контейнерів та бінарних файлів мобільних додатків. Один підозрюваний спільник ShinyHunters масово завантажив 1,8 мільйона Android APK і просканував кожен на наявність жорстко закодованих секретів.
Складіть інвентаризацію всіх облікових даних ШІ-агентів у виробництві та запишіть, які агенти їх використовують, до чого вони мають доступ і як їх відкликати.
Перевірте, чи виявляє ваш EDR послідовно відновлені варіанти одного й того самого імплантату та чи позначає спроби заблокувати оновлення сигнатур Defender. Microsoft публікує назви виявлень для обходу UAC, втручання в AMSI та викрадення COM. Перевірте, чи виявляє ваш інструментарій цю поведінку і чи може ваша команда ідентифікувати кінцеві точки, які перестали отримувати оновлення сигнатур.
За даними порталу: venturebeat.com