Іспанське агентство із захисту даних (AEPD) вперше отримало повідомлення про порушення захисту персональних даних, яке, за версією постраждалої організації, виконав ШІ-агент на базі відомої великої мовної моделі.
Згідно з описом інциденту, агент почав із пошуку вразливостей у типових файлах і успішно пройшов авторизацію. Опинившись усередині системи, він самостійно продовжив шукати вразливості вже в самому застосунку — і, знайшовши їх, зміг змінити персональні дані та отримати доступ до рахунків-фактур.
Що саме змінилося
Використання ШІ у зловмисних кампаніях не є новиною: генеративні моделі давно застосовують для написання фішингових листів, перекладу шахрайських кампаній, підміни особи та аналізу коду. Поява агентів, наголошує AEPD, дає якісно інший результат — агент отримує мету, планує проміжні завдання, використовує інструменти, виконує код, звіряється з джерелами та самостійно змінює поведінку залежно від того, що знаходить.
Сам ШІ при цьому не створює нових загроз. Він збільшує швидкість, масштаб і здатність до адаптації вже відомих технік, скорочуючи час, який захисники мають на виявлення та стримування атаки. Того ж висновку дійшов Національний криптологічний центр Іспанії в настанові CCN-CERT BP/36 про наступальний ШІ, де офенсивний ШІ описано як операційну спроможність, уже інтегровану в реальні кампанії.
Поява ШІ-агентів у наступальній сфері має спонукати до негайного перегляду моделей безпеки та захисту даних