HAWK витримав роки тестувань, проте завдяки Mythos було виявлено фатальну слабкість.
Квантово-стійкий криптографічний алгоритм, який розглядався як офіційний стандарт США, був вилучений з розгляду після того, як модель безпеки Anthropic допомогла виявити вразливість, що зробила його зламаним.
Алгоритм відомий як HAWK. Це схема цифрового підпису, розроблена для протистояння майбутнім атакам з боку квантових комп’ютерів. HAWK пройшов два етапи тестування NIST (Національного інституту стандартів і технологій) для оцінки безпеки алгоритмів PQC (постквантової криптографії) шляхом широких випробувань. HAWK перебував на третьому етапі тестування, призначеному для виявлення саме таких недоліків, які допомогла виявити Mythos.
Після оголошення Anthropic про результати в понеділок, розробник HAWK заявив у вівторок, що вилучає його.
Ще до розробки Anthropic вихваляв результати двох криптографічних проблем, які були поставлені його моделі безпеки AI Mythos. Модель виявила слабкі місця в математичних проблемах, що лежать в основі HAWK, і, окремо, в широко використовуваному шифрі AES.
Незважаючи на вилучення HAWK, важко сказати, наскільки звіт компанії є маркетинговим перебільшенням, але результати все ще заслуговують на увагу, оскільки вони можуть сигналізувати про важливі досягнення у зламуванні криптографії, яка є ключовою для конфіденційності та безпеки.
Перш ніж заглибитися в результати, кілька застережень.
По-перше, результати є поетапними. Вони не ламають жодних криптосистем, на які хтось покладається сьогодні. Натомість вони виявляють методи для помірного зменшення роботи, яка була б необхідна для подолання систем.
По-друге, протестовані криптосистеми були ослабленими версіями тих, що визначені в їхніх формальних специфікаціях. Такі «складні екземпляри» надаються авторами специфікацій для використання в змагальному рецензуванні. Стандартно використовувати ослаблені версії під час тестування, але справжні версії значно стійкіші в робочих середовищах.
По-третє, навіть з покращенням, базові «примітиви» — тобто базові математичні проблеми, що складають основні будівельні блоки криптосистем — залишаються безпечними, принаймні на даний момент.
Нарешті, обидві атаки використовують методи, які, ймовірно, були б неможливими за межами тестових середовищ.
HAWK мертвий
Anthropic заявив, що його модель Mythos, яка наразі залишається доступною лише для обмеженої групи довірених користувачів, змогла просунути атаки проти двох криптосистем. Перша система — HAWK, схема цифрового підпису, розроблена для протистояння майбутнім атакам з боку квантових комп’ютерів.
Приблизно за 60 годин роботи та приблизно 100 000 доларів обчислювальних витрат, дослідник Anthropic без досвіду в криптографії спонукав Mythos покращити найкращу відому існуючу атаку на алгоритм, що фактично скоротило його ключову силу вдвічі.
Математика, на якій ґрунтується безпека HAWK, — це складність задачі ізоморфізму ґратки, яка, на відміну від найчастіше використовуваних сьогодні схем цифрового підпису, вважається безпечною від атак квантових комп’ютерів. Найкраща відома класична обчислювальна атака для розв’язання цієї проблеми працює шляхом знаходження так званих симетрій автоморфізму. Mythos видав раніше невідомий метод для пошуку таких симетрій. Результат скоротив довжину ключа вдвічі.
Слабкість можна пом’якшити, подвоївши розмір ключа, але додаткові обчислення роблять HAWK менш привабливим, ніж доступні алгоритми підпису PQC. В академічних колах криптографічні алгоритми вважаються зламаними, коли слабкі місця дозволяють зловмиснику отримати ключ швидше, ніж це можливо за допомогою атаки повного перебору.
Метью Грін, професор Університету Джонса Гопкінса та експерт з криптографії, заявив, що вражаючим у цьому відкритті було його покладання на кілька існуючих методів, які ніхто раніше не думав об’єднати.
«Що особливо турбує (і тому особливо сприятливе для ШІ), так це те, що атака не винаходить фундаментально нову математику», — написав Грін. «Вона просто розширює набір інструментів, які лежали навколо і були добре відомі, і дає хороший результат».
Anthropic роз’яснив:
Щоб знайти атаку, Claude Mythos Preview працював напівавтономно в агентському середовищі, з періодичним людським наглядом та нетехнічним керівництвом. Mythos знайшла атаку після вичерпного огляду літератури для розуміння стану справ, а також значних математичних міркувань та обчислювальних експериментів. Після виявлення атаки Mythos впровадив наскрізний конвеєр перевірки, щоб переконати себе — і оператора-людини — в коректності атаки.
Щоб знайти покращений метод, Mythos розгорнув двох окремих агентів, які працювали переважно незалежно. Один спочатку відхилив метод як непрацездатний. Другий знайшов спосіб зробити його робочим. Зрештою, агенти працювали злагоджено, поки не дійшли згоди щодо ефективності покращеної атаки. (Як і в описі атаки на AES пізніше в цій статті, методологія атаки на HAWK була спрощена. Повні деталі дивіться в дописі Anthropic або двох довших статтях про атаки на HAWK та AES відповідно.)
Софі Шміг, експерт з PQC у Google, заявила, що HAWK вже підозрювався у слабкостях, які врешті-решт будуть виявлені. Тим не менш, метод подвоєння сили ключа, знайдений за допомогою Mythos, зробив кандидатський алгоритм менш конкурентоспроможним порівняно з існуючими схемами цифрового підпису PQC, такими як ML-DSA та FN-DSA.
«По суті, з цією статтею HAWK мертвий», — написала вона.
Менше драми, але все одно досить цікаво
Атака на AES дала менш драматичні результати. Вона базується на покращенні, знайденому за допомогою Mythos для виконання атаки «зустріч посередині» (meet-in-the-middle), яка використовується для отримання ключа в моделі загроз із вибраним відкритим текстом — найкращій відомій існуючій атаці на AES. Техніка передбачає введення великої кількості відомих відкритих текстів у криптосистему та аналіз зашифрованого вихідного тексту на наявність підказок, які, при достатній кількості входів, зрештою розкривають невідомий ключ. Раніше найкраща відома атака «зустріч посередині» на AES вимагала приблизно 2105 входів відкритого тексту, числа, достатнього для того, щоб метод був неможливим.
Mythos допоміг знайти нову техніку «зустріч посередині», яка покладається на Möbius Bridge — більш складний алгоритм відбитків пальців, що використовується в атаках «зустріч посередині». Використовуючи його, за словами Гріна, код, створений Mythos, зміг скоротити кількість необхідних входів до 289. Anthropic стверджує, що така економія може скоротити час, необхідний для таких атак, у 200-800 разів.
Можливість створення такої великої кількості входів робить атаку недосяжною за межами лабораторії. Крім того, фактична швидкість прискорення невідома, оскільки ослаблений алгоритм AES, що тестувався, використовував лише сім раундів. Специфікаційно-сумісний AES, за словами Гріна, використовує 10, 12 або 14 раундів залежно від розміру ключа.
Anthropic ретельно чітко пояснює більшість цих застережень. Однак у понеділковому дописі в блозі стверджується, що результати все ж є значущими і в кінцевому підсумку можуть принципово змінити процес криптоаналізу, або змагального тестування криптосистем.
«Кібербезпекова спільнота зараз стикається з тим фактом, що мовні моделі здатні виявляти стільки помилок, що стандартні людські процеси (такі як пріоритезація вразливостей, перевірка та виправлення) ледве встигають», — написав Anthropic. «Ми прогнозуємо, що незабаром те саме станеться і в академічних дослідженнях криптографії. Оскільки мовні моделі все частіше автономно створюють нові дослідницькі результати, людські дослідники можуть стати вузьким місцем у вивченні та валідації цих результатів на технічну обґрунтованість, новизну та корисність».
У звіті Anthropic не згадано, чи використовували його дослідники Mythos для атаки на інші тестовані криптосистеми, такі як криптографія на еліптичних кривих та RSA. Покращення атак на ці системи були б більш вражаючими. Досягнувши найбільш вражаючого результату проти алгоритму, який ще перебуває на ранніх стадіях розробки, незрозуміло, наскільки реальною була перевага, надана Mythos. Немає способу дізнатися, чи були дослідники, які використовували звичайні методи криптоаналізу, вже близькі до виявлення такої ж атаки.
Зрештою, урок з цього дослідження простий. Криптоаналіз за допомогою ШІ залишається неперевіреним, а постачальники цих платформ зацікавлені в перебільшенні їхніх переваг. Водночас зростає свідчення того, що LLM можуть надати значні переваги у виявленні криптографічних слабкостей. Було б помилкою вважати, що LLM одного дня не відіграватимуть важливої ролі в гонці між захистом і компрометацією наших найцінніших активів.
Заголовок і текст цієї статті були оновлені, щоб відобразити вилучення HAWK.
Ден Гудін
Старший редактор з питань безпеки
Ден Гудін є старшим редактором з питань безпеки в Ars Technica, де він курує матеріали про шкідливе програмне забезпечення, комп’ютерний шпигунство, ботнети, апаратне зломування, шифрування та паролі. У вільний час він займається садівництвом, кулінарією та відвідує концерти незалежної музики. Ден проживає в Сан-Франциско. Слідкуйте за ним тут на Mastodon та тут на Bluesky. Зв’яжіться з ним через Signal за номером DanArs.82.
Подробиці можна знайти на сайті: arstechnica.com