Найсучасніша модель штучного інтелекту від Anthropic, Claude Opus 4.6, проаналізувала вихідні коди відкритих проектів і виявила безліч прогалин у безпеці: понад 500 уразливостей високого ступеня критичності, які не були помічені протягом десятиліть експертного аналізу та мільйонів годин фазингу. Шкірна знахідка ретельно перевірялася перед оприлюдненням.
За п’ятнадцять днів компанія представила комерційний продукт — Claude Code Security.
Керівники відділів безпеки, які відповідають за багатомільйонні бюджети управління вразливостями, ймовірно, почують від своїх рад директорів під час наступної реорганізації типове запитання: “Як нам запровадити сканування на основі логічного аналізу, перш ніж це зроблять зловмисники?”. Адже, як показав аналіз Anthropic, навіть просте застосування ШІ до відкритого коду може допомогти виявити, а в руках кіберзлочинців – і використати, недоліки безпеки.
Важливішим за кількість знайдених проблем є підхід: як ваші інструменти та процеси розподіляють завдання між сканерами, що базуються на шаблонах, та аналізом, що ґрунтується на логіці. CodeQL та інструменти на його основі порівнюють код із відомими шаблонами.
Claude Code Security, представлений Anthropic 20 лютого як обмежений дослідницький проєкт, аналізує код подібно до того, як це робить дослідник безпеки-людина. Він відстежує потік даних у застосунку та виявляє помилки в бізнес-логіці та контролі доступу, які не покриваються жодними наборами правил.
Розмова, яку лідери безпеки мають провести вже цього тижня
П’ятсот нововиявлених “нульових днів” — це не просто тривожна статистика, а вагомий аргумент для перегляду бюджету на код безпеки.
Можливості логічного аналізу, які демонструє Claude Code Security, та їх неминучі конкуренти, мають стати центральними у процесі закупівель. Статичний аналіз безпеки застосунків (SAST) виявляє відомі класи уразливостей. Сканери, що базуються на логіці, знаходять ті, для чого співставлення із шаблонами ніколи не було призначене. Обидва підходи мають своє місце.
Anthropic опублікувала результати дослідження “нульових днів” 5 лютого. За п’ятнадцять днів вони випустили продукт. Хоча це та сама модель та її можливості, тепер вони доступні клієнтам Enterprise та Team.
Що Claude вміє, а CodeQL – ні
GitHub вже багато років пропонує сканування на основі CodeQL через Advanced Security, а в серпні 2024 року додавши Copilot Autofix для створення пропозицій щодо виправлення сповіщень за допомогою великих мовних моделей. Команди безпеки покладаються на це. Однак межа виявлення визначається набором правил CodeQL, і все, що знаходиться за її межами, залишається невидимим.
Claude Code Security розширює ці межі, генеруючи та перевіряючи власні гіпотези щодо потоків даних та управління в застосунку, включаючи випадки, які не описуються жодним існуючим набором правил. CodeQL вирішує завдання, для якого було створено: аналіз потоку даних в межах попередньо визначених запитів. Він повідомляє, чи досягає “заражень” вхідний потік небезпечної функції.
CodeQL не призначений для автономного аналізу історії комітів проекту, виведення логіки неповного виправлення, відстеження цієї логіки в іншому файлі, а потім складання робочого експлойту “end-to-end”. Claude саме це зробив з GhostScript, OpenSC та CGIF, щоразу використовуючи різні стратегії логічного аналізу.
“Справжній зсув полягає від співставлення шаблонів до генерації гіпотез”, — зазначила Меррітт Беар, CSO в Enkrypt AI, радник Andesite та AppOmni, а раніше заступниця CISO в AWS, в ексклюзивному інтерв’ю VentureBeat. “Це стрибкоподібне збільшення потужності виявлення, яке вимагає настільки ж надійних людських та технічних засобів контролю”.
Три приклади з опублікованої методології Anthropic показують, де закінчується співставлення шаблонів і починається генерація гіпотез.
- Аналіз історії комітів у різних файлах. GhostScript – це широко використана утиліта для обробки файлів PostScript та PDF. Фазинг нічого не виявив, як і ручний аналіз. Потім Claude проаналізував історію комітів Git, знайшов виправлення, яке додало перевірку між стеком для обробки шрифтів у файлі `gstype1.c`, і перевернувши логіку: якщо виправлення було потрібне там, то кожен інший визов цієї функції без виправлення все ще був уразливим. У файлі `gdevpsfx.c`, який є зовсім іншим, виклик тієї ж функції не мав перевірки меж, яка була виправлена в іншому місці. Claude створивши робочий прототип збою. Жодне правило CodeQL сьогодні не описує такої помилки. Після цього розробники випустили виправлення.
- Аналіз попередніх умов, до яких фазери не можуть дістатися. OpenSC обробляє дані смарт-карток. Стандартні підходи тут також не спрацювали, тому Claude шукав у репозиторії виклики функцій, які часто бувають уразливими, і знайшов місце, де кілька операцій `strcat` виконувалися послідовно без перевірки тривалості вихідного буфера. Фазери рідко досягали цього шляху коду, оскільки цьому перешкоджало дуже багато попередніх умов. Claude проаналізував, які фрагменти коду виглядають цікавими, створивши переповнення буфера та довівши вразливість.
- Випадки на рівні алгоритму, які не ловляться жодною метрикою покриття. CGIF – це бібліотека для обробки GIF-файлів. Вразливість вимагала розуміння того, як стиснення LZW будує словник токенів. CGIF припускав, що стиснення вивід завжди буде меншим за нестиснений ввід, що майже завжди вірно. Claude зрозумівши, що якщо словарь LZW заповниться і спричинити скидання, стиснення вивід може перевищити розмір нестисненого, спричинивши переповнення буфера. Навіть 100% покриття гілок не виявило б цього. Ошибка вимагає специфічної послідовності операцій, яка реалізує граничний випадок у самому алгоритмі стиснення. Генерація випадкових вхідних даних майже ніколи не створює. Claude – створивши.
Беар бачить у цьому ширшу картину. “Проблема з логічним аналізом полягає не в точності, а в самостійності”, — сказала вона VentureBeat. “Коли система може формувати гіпотези та переслідувати їх, ви переходите від інструменту пошуку до чогось, що може досліджувати ваше середовище способами, які важче передбачити та обмежити”.
Як Anthropic підтвердила понад 500 знахідок
Anthropic помістила Claude в ізольовану віртуальну машину зі стандартними утилітами та інструментами аналізу вразливостей. Червона команда не надавала жодних спеціальних інструкцій, кастомних інструментів чи специфічних запитів. Тільки модель і код.
Червона команда зосередилася на уразливості пошкодження пам’яті, оскільки їх найлегше об’єктивно підтвердити. Моніторинг збоїв та санітайзери адреса не залишають місця для сумнівів. Claude самостійно фільтрував свої результати, удалявши дублікати та переназначавши пріоритети, перш ніж до справи бралися дослідники-люди. Коли кількість підтверджених знахідок продовжувала зростати, Anthropic залучила зовнішніх фахівців з безпеки для перевірки результатів та написання виправлень.
Кожен цільовий об’єкт був проєктом з відкритим кодом, що лежить в основі корпоративних систем та критичної інфраструктури. Багато з них підтримуються невеликими командами волонтерів, а не фахівців з безпеки. Коли вразливість залишається в одному з таких проєктів десятиліттями, кожен продукт, що його використовує, успадковує ризик.
Anthropic не почала з випуску продукту. Оборонні дослідження тривають більше року. Компанія брала участь у змаганнях Capture-the-Flag, де Claude посів місце в топ-3% на PicoCTF global, розв’язав 19 із 20 завдань на HackTheBox AI vs Human CTF, та посів 6-те місце з 9 команд у захисті реальних мереж проти атак червоної команди на Western Regional CCDC.
Anthropic також співпрацювала з Тихоокеанською північно-західною національною лабораторією (Pacific Northwest National Laboratory) для тестування Claude на симуляції водоочисної споруди. Дослідники PNNL оцінили, що модель завершила емуляцію супротивника за три години. Традиційний процес займає кілька тижнів.
Питання подвійного призначення, якого не можуть уникнути лідери безпеки
Логіка, яка знаходитиме вразливість, може допомогти злодійникові її використати. Лідер команди Frontier Red Team Логан Грім відкрито признав це у розмові з Шерон Голдман з Fortune. Він розповів Fortune, що моделі тепер можуть самостійно досліджувати кодові бази та швидше просуватися у розслідуваннях, ніж молодший дослідник безпеки.
Габбі Кертіс, керівниця відділу комунікацій Anthropic, розповіла VentureBeat в ексклюзивному інтерв’ю, що компанія створила Claude Code Security, щоб зробити оборонні можливості більш доступними, “нахиляючи ваги на користь захисників”. Вона також прямо зауважила про напруженість: “Та сама логіка, яка допомагає Claude знаходити та виправляти вразливості, може допомогти зловмиснику їх експлуатувати, тому ми свідомо підходимо до того, як це випускаємо”.
В інтерв’ю понад 40 CISOs з різних галузей VentureBeat виявила, що формальні керівні принципи для інструментів логічного сканування є швидше винятком, ніж правилом. Найпоширенішою відповіддю було те, що ця сфера вважалася настільки новою, що багато CISOs не очікували появи таких можливостей так рано в 2026 році.
Питання, на який кожен директор з безпеки повинен відповідати перед розгортанням такого інструменту: якщо я дам своїй команді інструмент, який знаходитиме “нульові дні” через логіку, чи не розширивши я ненавмисно мою внутрішній вигляд загроз?
“Ви не озброїли свою внутрішній поверх, ви її виявили”, – сказала Беар VentureBeat. “Ці інструменти можуть бути корисними, але вони також можуть швидше та масштабованіше виявити приховані ризики. Той самий інструмент, який знаходитиме “нульові дні” для захисту, може виявити прогалини у вашої моделі загроз. Пом’ятайте, що більшість вторгнень відбуваються не через “нульові дні”, а через неправильні налаштування”.
“Окрім ризиків доступу та шляхів атаки, існує ризик інтелектуальної власності”, — сказала вона. “Не тільки витік, а й трансформація. Моделі логічного аналізу можуть засвоювати та перефразовувати власницькі ідеї таким чином, що розмиває межу між використанням та витоком”.
Випуск свідомо обмежень. Тільки для клієнтів Enterprise та Team через обмежений дослідницький проект. Розробники відкритого коду отримують безкоштовний прискорений доступ. Знайдені вразливості проходять багатоетапну самоперевірку перед тим, як потрапити до аналітика, із позначками рівня критичності та оцінками впевненості. Шкірне виправлення вимагає схвалення людини.
Anthropic також вбудовувала механізми виявлення безпосередньо у модель. У блозі, що детально описує захисні заходи, компанія розповіла про розгортання “зондів”, які вимірюють активацію моделі під час генерації відповідей, з новими спеціалізованими кібер-зондами, призначеними для відстеження потенційного зловживання. З боку забезпечення безпеки Anthropic розширює свої можливості для реагування, включаючи втручання в реальному часі, таке як блокування трафіку, що ідентифікується як шкідливий.
Грем прямо заявив Axios: моделі надзвичайно добре знаходять вразливості, і він очікує, що вони стануть ще кращими. VentureBeat звернувся до Anthropic із запитами щодо рівня помилкових спрацьовувань до і після самоперевірки, кількості розкритих вразливостей з виправленнями порівняно з тими, що ще перебувають на стадії розгляду, та специфічних заходів безпеки, які відрізняють використання зловмисниками від використання захисниками. Провідний дослідник проєкту з 500 вразливостями був недоступний, і компанія відмовилася ділитися конкретними механізмами виявлення зловмисників, щоб не розкривати цю інформацію потенційним загрозам.
“Наступальні та оборонні можливості зливаються”, — сказала Беар. “Диференціатором є нагляд. Якщо ви не можете аудитувати та обмежувати використання інструменту, ви створили ще один ризик”.
Це перевага у швидкості не є автоматичною вигодою для захисників. Вона надається тому, хто її adopтує першим. Директори з безпеки, які діють швидко, встановлюють правила гри.
Anthropic не самотня. Шаблон повторюється.
Дослідник безпеки Шон Хілан використав модель o3 від OpenAI без кастомних інструментів чи фреймворків агентів, щоб виявити CVE-2025-37899 – раніше невідому вразливість “use-after-free” у реалізації SMB ядра Linux. Модель проаналізувала понад 12 000 рядків коду та виявила гонку станів, яку традиційні інструменти статичного аналізу послідовно пропускали, оскільки для її виявлення потрібно розуміти взаємодію паралельних потоків між з’єднаннями.
Окремо, стартап з безпеки ШІ AISLE виявивши всі 12 “нульових днів”, об’явлених у апрельському патчі безпеки OpenSSL 2026 року, включаючи рідкісну нахідку високого рівня критичності (CVE-2025-15467, переповнення буфера стека ключових матеріалів). Співзасновник і головний науковий співробітник AISLE Станіслав Форт повідомив, що система ШІ його команди відповідає за 13 із 14 загальних CVE OpenSSL, призначених у 2025 році. OpenSSL є однією з найретельніше перевірених криптографічних бібліотек у світі. Фазери працювали з нею роками. ШІ виявив ті, для чого вони не були розроблені.
Вікно можливостей вже відкрите
Ці 500 вразливостей містяться у проєктах з відкритим кодом, від яких залежать корпоративні застосунки. Anthropic розкриває інформацію та випускає виправлення, але саме у проміжку між виявленням та впровадженням цих виправлень діють зловмисники.
Ті самі покращення моделі, що лежать в основі Claude Code Security, доступні будь-кому з доступом до API.
Якщо ваша команда оцінює ці можливості, обмежений дослідницький проект — це правильне місце для старту, з чітко визначеними правилами обробки даних, журналюванням аудиту та погодженими критеріями успіху.
Порада від ІТ-Блог: Це оновлення є важливим для всіх, хто займається розробкою або безпекою програмного забезпечення. Новий інструмент Claude Code Security від Anthropic використовує передові технології штучного інтелекту для виявлення уразливостей, які раніше залишалися незаміченими. Його здатність аналізувати код на основі логіки, а не лише шаблонів, відкриває нові горизонти у захисті від кіберзагроз. Якщо ви прагнете підвищити безпеку своїх проектів, варто звернути увагу на цю інновацію, адже вона може значно полегшити виявлення та виправлення критичних помилок до того, як їх знайдуть злодії.
Інформація підготовлена на основі матеріалів: venturebeat.com