## Інцидент з безпекою на Hugging Face Платформа Hugging Face стала об’єктом кібератаки, внаслідок якої автономні ШІ-агенти отримали доступ до частини виробничої інфраструктури. Зловмисники змогли викрасти обмежений набір внутрішніх даних та кілька службових облікових даних. Наразі компанія проводить перевірку, щоб з’ясувати, чи був скомпрометований доступ до інформації партнерів або клієнтів. Атака розпочалася з використання шкідливого набору даних, який експлуатував дві вразливості в системі його обробки. Зловмисник зміг виконати довільний код на робочому сервері, підвищити свої привілеї, викрасти облікові дані для доступу до хмарних ресурсів та кластерів. Протягом вихідних днів вони здійснювали переміщення між внутрішніми кластерами. ## Розслідування за допомогою ШІ Згідно з офіційним звітом Hugging Face, агентна система здійснила тисячі дій в короткочасних, ізольованих середовищах. Вона також самостійно переносила свою інфраструктуру керування між загальнодоступними сервісами. Точну мовну модель, яка використовувалася для атаки, встановити не вдалося. Для розслідування інциденту Hugging Face залучила власні ШІ-агенти. Ці інструменти проаналізували понад 17 000 зафіксованих дій зловмисника. Спочатку компанія намагалася використати передові моделі через комерційні API, але їхні захисні механізми блокували запити, що містили реальні команди атаки, експлойти та елементи інфраструктури керування. ## Застосування китайської моделі Згодом фахівці компанії вирішили локально запустити модель GLM-5.2 з відкритими вагами від китайської компанії Z.ai. Таке рішення дозволило ефективно обробити матеріали атаки, уникаючи передачі журналів з потенційно чинними обліковими даними стороннім сервісам. Видання The Stack звернуло увагу на цей аспект, однак Hugging Face не розкрила назви постачальників заблокованих API. ## Відновлення та рекомендації Hugging Face підтвердила, що не виявила втручання у загальнодоступні моделі, набори даних та Spaces. Також було проведено перевірку контейнерних образів та опублікованих пакетів. Вразливості були усунені, скомпрометовані вузли перебудовані, а облікові дані замінені. Користувачам платформи рекомендовано оновити токени доступу та перевірити недавню активність своїх облікових записів. Нагадаємо, на початку липня дослідники зафіксували, ймовірно, першу кібератаку, яка була повністю виконана за допомогою агентного ШІ. Програма-вимагач JadePuffer самостійно провела розвідку, викрала облікові дані, підвищила привілеї та зашифрувала 1342 конфігураційні записи.
Вердикт ІТ-Блогу: Рекомендується всім користувачам Hugging Face для забезпечення безпеки своїх облікових записів та проєктів.
Подробиці можна знайти на сайті: mezha.ua