Capital One представила VulnHunter — інструмент безпеки на базі штучного інтелекту з відкритим кодом, який сканує вихідний код на наявність вразливостей, моделює шляхи їхнього використання зловмисниками та пропонує цільові виправлення ще до того, як будь-який рядок коду потрапить у продакшн. Цей інструмент, розроблений всередині компанії та тепер доступний на GitHub під ліцензією Apache 2.0, є однією з найамбітніших спроб великої фінансової установи перетворити можливості ШІ для нападу на загальнодоступний ресурс для захисту.
У час, коли команди безпеки стикаються зі зростаючою хвилею нових загроз ШІ, рішення Capital One зробити інструмент відкритим відображає зусилля, за словами директора з інформаційної безпеки Кріса Німса, щодо подолання «надзвичайно короткого вікна, перш ніж складні можливості атак нового покоління на основі ШІ стануть доступними та економічно вигідними практично для будь-якого супротивника».
Capital One не просто випускає черговий сканер вразливостей. VulnHunter представляє те, що компанія називає «аналізом на випередження з точки зору зловмисника» (attacker-first forward analysis) — робочий процес, під час якого інструмент починає з точок входу реального зловмисника в систему, таких як API, мережеві повідомлення або завантаження файлів, і аналізує логіку програми, щоб визначити, чи може шлях експлуатації подолати наявні захисні механізми коду. Традиційні сканери зазвичай працюють навпаки: вони визначають небезпечний патерн коду, а потім шукають гіпотетичного зловмисника. Цей підхід, як широко визнають фахівці з безпеки, засипає інженерні команди величезною кількістю помилкових спрацьовувань.
VulnHunter вирішує цю проблему за допомогою другої інновації: вбудованого «двигуна фальсифікації» (falsification engine), який намагається спростувати власні висновки ще до того, як їх побачить розробник. Після того, як інструмент виявляє потенційну вразливість, структурований робочий процес аналізу шукає логічні прогалини, необґрунтовані припущення та умови, які могли б перешкодити успіху атаки. Лише ті знахідки, які двигун не зміг спростувати, потрапляють до людського рецензента — і коли це відбувається, VulnHunter надає не просто сповіщення, а повне пояснення шляху експлуатації та запропоноване виправлення коду, готове до перевірки інженерами.
Наразі інструмент працює на моделі Anthropic Claude Opus 4.8 у середовищі Claude Code, хоча Capital One зазначає, що фреймворк потенційно може працювати з іншими базовими моделями та кодовими оболонками.
Чому Capital One роздає інструмент безкоштовно
Відповідаючи на запитання, чому Capital One вирішила зробити настільки значущий інструмент відкритим, Німс вказав на спільну природу проблеми.
«Ми відчули нагальну потребу зробити VulnHunter відкритим, оскільки сучасні ланцюжки поставок програмного забезпечення дуже взаємопов’язані, а масштаб загрози ШІ перевищує можливості будь-якої окремої організації», — сказав Німс VentureBeat. «Захист програмного забезпечення та наших цифрових середовищ — це спільна основа, яка приносить користь розробникам, підприємствам і людям, які залежать від систем, що ми всі створюємо. Захисні інструменти для протидії цій реальності мають бути так само широко розповсюджені, протестовані та вдосконалені, як і кодові бази, які вони захищають».
«Замість того, щоб чекати», — додав він, — «ми вирішили, що правильна відповідь — це створити продукт, який ідеально підходить для складного ландшафту безпеки сьогоднішнього дня, і передати його в руки захисників у всьому світі».
Чому Capital One вважає, що відкриття VulnHunter посилює захист усіх
Випуск інструмента відбувається на тлі подій, добре відомих компанії. 19 липня 2019 року Capital One повідомила, що сторонній особі — пізніше ідентифікованій як колишня співробітниця Amazon Web Services на ім’я Пейдж Томпсон — вдалося отримати несанкціонований доступ до імен, адрес, даних про самостійно вказаний дохід, номерів соціального страхування та пов’язаних номерів банківських рахунків клієнтів та заявників на кредитні картки. Злом, який, за словами Capital One, стався 22 і 23 березня 2019 року, був виявлений лише після того, як зовнішній дослідник безпеки повідомив про вразливість конфігурації через Програму відповідального розкриття компанії 17 липня того ж року.
Збитки були масштабними. Постраждало приблизно 100 мільйонів людей у Сполучених Штатах та 6 мільйонів у Канаді. Було скомпрометовано близько 140 000 номерів соціального страхування, приблизно 80 000 пов’язаних номерів банківських рахунків та близько 1 мільйона канадських номерів соціального страхування. ФБР заарештувало Томпсон, а уряд заявив, що дані були відновлені без ознак шахрайства. Однак репутаційні та регуляторні наслідки були величезними.
У серпні 2020 року Управління контролера грошового обігу (Office of the Comptroller of the Currency) оштрафувало Capital One на 80 мільйонів доларів, встановивши, що банк не зміг адекватно ідентифікувати та управляти ризиками під час міграції значних технологічних операцій у хмару. Як тоді повідомляло Reuters, наказ OCC посилався на недостатні засоби контролю мережевої безпеки, неналежні заходи запобігання втраті даних та раду директорів, яка не притягла керівництво до відповідальності, коли внутрішній аудит виявив проблеми. OCC також наказало Capital One переглянути свої операції та подати нові плани кібербезпеки на розгляд регулятора.
CyberScoop тоді назвав цей інцидент «застережливою історією для компаній, які поспішають впроваджувати нові технології». Генеральний директор Capital One Річард Д. Фейрбанк визнав серйозність моменту. «Хоча я вдячний, що зловмисника спіймано, я глибоко шкодую про те, що сталося», — сказав Фейрбанк тоді. «Я щиро перепрошую за зрозуміле занепокоєння, яке цей інцидент мусив спричинити постраждалим, і я зобов’язуюсь виправити це».
Як Capital One відновила свою репутацію в галузі безпеки завдяки інвестиціям у відкритий код
Те, що сталося далі, було не відступом від технологій, а подвоєнням зусиль — з явним акцентом на безпеці.
Capital One почала випускати відкриті проєкти у 2014 році та оголосила себе компанією «спочатку відкритий код» (open-source first) у 2015 році як частину ширшої технологічної трансформації, що розпочалася понад десятиліття тому. Компанія продовжує інвестувати в безпеку ланцюжків поставок програмного забезпечення, управління відкритим кодом та захист на основі ШІ. У серпні 2022 року Capital One приєдналася до Open Source Security Foundation (OpenSSF) як преміум-член, отримавши місце в Керівному комітеті організації. Кріс Німс, тоді віце-президент з хмарних технологій та інженерії продуктивності, назвав цей крок природним продовженням операційної філософії компанії. «Як компанія, що підлягає суворому регулюванню, ми маємо досвід управління відповідністю та управлінням і виступаємо за стандартизацію, автоматизацію та співпрацю», — сказав Німс в оголошенні OpenSSF.
За цим публічним зобов’язанням стояв значний операційний апарат. Офіс програмного забезпечення з відкритим кодом Capital One, нині в своїй третій ітерації, керує використанням відкритого коду, внесками та розвитком спільноти в межах підприємства. Компанія випустила понад 40 проєктів з відкритим кодом і зробила тисячі внесків до зовнішніх проєктів з відкритим кодом, від яких залежить, згідно з даними компанії. Ці зусилля охоплюють не лише залежності від коду, але й увесь життєвий цикл розробки програмного забезпечення — інструменти DevSecOps, інфраструктуру та спільні середовища, як внутрішні, так і зовнішні, що формують процес створення та розгортання програмного забезпечення.
VulnHunter є найважливішим продуктом цих багаторічних зусиль — і найчіткішим сигналом на сьогоднішній день про те, що Capital One розглядає співпрацю у сфері відкритого коду не як благодійність, а як конкурентну стратегію безпеки. Компанія стверджує, що сучасні ланцюжки поставок програмного забезпечення настільки глибоко взаємопов’язані, що одна вразливість у широко використовуваному компоненті з відкритим кодом може каскадно поширитися тисячами підприємств одночасно. Власні засоби захисту, якими б складними вони не були, не можуть вирішити проблему, яка є фундаментально спільною. Випускаючи VulnHunter під дозвільною ліцензією, Capital One запрошує глобальну спільноту дослідників безпеки тестувати, розширювати та вдосконалювати інструмент — фактично, краудсорсингуючи власну інфраструктуру безпеки та одночасно зміцнюючи ширшу екосистему.
Як триступеневий ШІ-двигун VulnHunter знаходить вразливий код
Для інженерних керівників, які оцінюють VulnHunter, технічна архітектура демонструє амбіції інструменту. Робочий процес розгортається у три окремі етапи.
На першому етапі — аналізі на випередження з точки зору зловмисника — VulnHunter починає з точок, де зовнішній зловмисник взаємодіяв би з системою: кінцеві точки API, обробники мережевих повідомлень, інтерфейси завантаження файлів. З кожної точки входу інструмент аналізує логіку програми, відстежуючи потоки даних, трансформації та внутрішні контрольні точки безпеки, щоб визначити, чи може зловмисник фактично досягти небезпечного шляху коду. Цей підхід імітує спосіб, у який досвідчений тестувальник на проникнення міг би дослідити систему, але автоматизує процес у масштабах, недосяжних для людської команди.
Другий етап — це те, чим VulnHunter найбільш різко відрізняється від традиційних сканерів. Після виявлення потенційної вразливості двигун фальсифікації запускає структурований робочий процес аналізу, призначений для спростування власного висновку. Він шукає припущення, які не виправдовуються, логічні прогалини у шляху експлуатації та умови середовища, які могли б перешкодити атаці. Знахідки, які не проходять цю внутрішню перевірку, відкидаються ще до того, як їх побачать розробники. Чітка мета Capital One — перекласти тягар розробника з аналізу помилкових спрацьовувань, що є вічною проблемою, яка підриває довіру до інструментів безпеки та сповільнює швидкість розробки.
На третьому етапі вразливості, які пережили двигун фальсифікації, запускають робочий процес виправлення, підкріплений доказами. VulnHunter збирає підтверджувальні дані з кодової бази, відображає повний шлях експлуатації, що вижив, пояснює дефект та конкретні можливості, які отримав би зловмисник, і генерує цільові зміни коду для перегляду інженерами. Результатом є не загальна рекомендація, а конкретна, контекстно-залежна пропозиція щодо виправлення.
Capital One зазначає, що внутрішньо протестувала VulnHunter перед випуском, запустивши його на тисячах репозиторіїв, що охоплюють десятки бізнес-напрямків. Компанія повідомляє, що інструмент виявив та виправив вразливості зі швидкістю та ефективністю, які значно перевищили те, чого її команди раніше досягали шляхом ручного аналізу.
Чому атаки на основі ШІ змушують банки переглядати традиційні методи кіберзахисту
VulnHunter з’являється в той момент, коли ландшафт кібербезпеки змінюється під ногами кожного підприємства. Оголошення Capital One викладає нагальність у різких термінах: передові моделі ШІ «драматично знизили планку для зловмисників щодо виявлення та використання вразливостей у програмному забезпеченні», а вікно, перш ніж складні можливості атак на основі ШІ стануть доступними та економічно вигідними практично для будь-якого супротивника, швидко скорочується.
«Захист інформації є ключовим для нашої місії та нашої ролі як фінансової установи», — сказав Німс VentureBeat. «Ми багато інвестували в кібербезпеку і продовжуватимемо це робити, щоб залишатися на крок попереду від сучасної еволюціонуючої карти загроз».
Дослідники компанії у сфері безпеки ШІ уважно відстежують ці тенденції. На NeurIPS 2024 у Ванкувері команда Capital One представила дослідження та зібрала список із майже 100 статей, що охоплюють безпеку LLM, стійкість до атак, атаки «обходу захисних механізмів» (jailbreak attacks) та генерацію синтетичних даних. Вибрані ними статті — зокрема, роботи з багатоагентних систем захисту, автоматизованого червоного тестування та класифікаторів захисних бар’єрів — малюють картину гонки озброєнь, у якій наступальні та оборонні можливості ШІ співрозвиваються з блискавичною швидкістю.
Кілька з цих дослідницьких тем безпосередньо пов’язані з архітектурою VulnHunter. Двигун фальсифікації перегукується зі стратегіями захисту від атак, дослідженими в таких статтях, як «BackdoorAlign», яка продемонструвала, що вбудовування структурованого механізму безпеки в невелику кількість тренувальних прикладів може відновити безпечну прив’язку моделі без погіршення продуктивності. Аналіз на випередження з точки зору зловмисника відображає філософію «WildTeaming», фреймворку, який збирає та аналізує реальні спроби обійти захисні механізми для створення більш стійких моделей. А акцент VulnHunter на мінімізації помилкових спрацьовувань паралельний цілям «GuardFormer», класифікатора захисних бар’єрів, який перевершив GPT-4 за показниками безпеки, працюючи в 14 разів швидше.
Нить, що пов’язує всю цю роботу, — це переконання, що традиційна, реактивна безпека — моніторинг мереж, виправлення відомих вразливостей, реагування на інциденти після їх виникнення — більше не достатня, коли зловмисники можуть використовувати ШІ для виявлення та використання вразливостей нульового дня зі швидкістю машини. Єдиний надійний захист, стверджує Capital One, — це знайти та виправити вразливості у власному коді ще до того, як їх знайдуть зловмисники.
Що шлях Capital One у хмарі розкриває про всю банківську галузь
Хмарний шлях Capital One також висвітлює ширший перегляд традиційних підходів у фінансових послугах. Коли Capital One активно переходила на Amazon Web Services у середині 2010-х років, це було рідкістю серед великих банків. Більшість фінансових установ просто не довіряли третім сторонам зберігати свої найчутливіші дані. Тодішній ІТ-директор Capital One Роб Александер публічно пропагував хмару як більш безпечну, ніж власні дата-центри банку — твердження, яке злом 2019 року значно ускладнив.
Звіт CyberScoop того періоду відобразив напруженість у галузі. В. Патрік Опет, керуючий директор з кібербезпеки JP Morgan Chase, описав культурний зсув у банківській справі від пріоритету трейдерів до пріоритету розробників: «Тепер це «Зосередьтеся на розробнику, перетворіть усе на код і автоматизуйте все»». Марк Ніколсон, керівник відділу кібербезпеки Deloitte у фінансовій галузі, зазначив, що тиск на швидкі дії виявив «слабкі місця в методології розробки». А сам злом став нагадуванням про те, що навіть коли Chase витрачав 600 мільйонів доларів на рік на кібербезпеку, відносно прості вразливості — як-от помилка Apache Struts, яка спричинила злом Equifax — могли підірвати величезні інвестиції в захист даних.
Через сім років галузь переважно наслідувала Capital One у переході до хмари, а проблеми безпеки лише посилилися. Питання вже не в тому, чи використовувати хмарну інфраструктуру, а в тому, як захистити програмне забезпечення, що працює на ній. VulnHunter — це відповідь Capital One: замість того, щоб покладатися виключно на мережеві засоби контролю та периметральний захист, безпеку впроваджують безпосередньо в код на момент його написання. Відкритий випуск також несе неявний конкурентний тиск. Якщо VulnHunter здобуде популярність серед розробників і команд безпеки, він може встановити новий стандарт того, що повинні робити корпоративні інструменти безпеки — і змусити банки-конкуренти, фінтех-компанії та хмарних провайдерів відповідати або перевищувати його можливості.
Чи виправдає VulnHunter ці амбіції, залежатиме від його прийняття, залучення спільноти та реальної ефективності інструменту проти все більш складних атак на основі ШІ, для протидії яким він був розроблений. Але сам випуск розповідає історію, яка виходить далеко за межі одного інструменту чи однієї компанії. У 2019 році неправильно налаштований брандмауер розкрив 100 мільйонів записів і зробив Capital One синонімом ризику неправильної конфігурації хмари. У 2026 році та сама установа робить відкритим захист на основі ШІ, створений для нового покоління загроз, — і робить ставку на те, що найкращий спосіб захистити власний код — це допомогти всій галузі захистити свій.
За матеріалами: venturebeat.com