Безпосередньо для технологічного відділу компанії Visa стали очевидними наслідки використання передових моделей штучного інтелекту, коли вони почали тестувати модель Mythos від Anthropic.
Вже за кілька тижнів після старту проєкту Glasswing, команда спостерігала, як швидко зловмисники можуть виявляти та використовувати вразливості в критичних кодових базах, створюючи ризики безпеки. Про це розповів Раджат Танеджа, президент з технологій Visa, під час підготовки до своєї доповіді на VB Transform 2026, майбутньому заході VentureBeat, присвяченому агентам штучного інтелекту.
Visa є однією з компаній, обраних для тестування майбутньої моделі Anthropic. Версія моделі була випущена 9 червня, але раптово відключена через кілька днів для відповідності директивам уряду США.
Виявлені в ході проєкту Glasswing результати привернули увагу до зростаючих прогалин у корпоративній безпеці та уразливостей, якими можуть скористатися зловмисники.
«Безпека завжди була важливою, але зараз, в епоху ШІ, вона стане ще важливішою, оскільки атаки стають автономними», — заявив Танеджа виданню VentureBeat. «Захист також має стати автономним. І ми ще не досягли цього. Існує асиметрія, яка становить дуже великий ризик для світу».
Згідно зі звітом Cisco “State of AI Security 2026”, кіберзлочинці вже мають доступ до потужних ШІ-агентів, які можуть працювати цілодобово, «діючи в масштабі та зі швидкістю, що не під силу людським командам, автоматизуючи виснажливі фази розвідки та експлуатації в кібератаці». Емі Чанг, керівник відділу досліджень безпеки та розвідки загроз ШІ в Cisco, також буде спікером на VB Transform.
Для мінімізації цих ризиків Visa розробляє власні рівні абстракції, засоби спостережуваності та механізми контролю даних для забезпечення безпеки своїх автономних комерційних фреймворків. Платіжний гігант також запустив відкритий фреймворк безпеки на базі ШІ, який перетворює виявлення та усунення вразливостей на структурований, повторюваний конвеєр.
Їхня робота демонструє зміну, яку повинні здійснити корпоративні ІТ-команди для захисту систем від загроз, що створюються зловмисниками, які використовують автономних агентів. Танеджа поділиться цими спостереженнями та цінними технічними деталями під час своєї доповіді на VB Transform під назвою “Всередині проєкту Glasswing та Mythos: Забезпечення безпеки агентивного майбутнього вже сьогодні” 15 липня.
Інші доповіді на VB Transform, присвячені безпеці агентивного ШІ, включатимуть:
-
CrabTrap: Як Brex створив проксі з відкритим кодом для захисту критичних недоліків OpenClaw для всіх за участю співзасновника та CEO Brex Педро Франческі;
-
Коли ШІ-агенти мають гаманці: Побудова рівня довіри для автономної B2B-комерції за участю директора з ШІ та даних Mastercard Грега Ульріха;
-
План Expedia щодо створення автономних агентів для критично важливих транзакційних систем за участю директора з ШІ та даних Ксав’є Аматрейна; та
-
Забезпечення безпеки агентивного ШІ: Посібник з управління дозволами, пісочницями та контролем за участю людини – панельна дискусія з лідерами безпеки ШІ з Intuit, Box та Cisco.
Зацікавлені відвідати VB Transform 2026? Зареєструйтеся тут. Також доступна обмежена кількість безкоштовних перепусток для старших технічних керівників. Зв’яжіться з нами, щоб отримати свою.
Як захиститися (Порада ІТ-Блогу): У зв’язку зі зростанням можливостей ШІ у виявленні вразливостей, критично важливо регулярно оновлювати все програмне забезпечення та використовувати багатофакторну автентифікацію для захисту облікових записів, щоб ускладнити зловмисникам доступ до ваших систем.
Оригінал статті: venturebeat.com