HAWK витримав багаторічні випробування, які не виявили фатальної слабкості, поки її не знайшли за допомогою Mythos.
Квантово-стійкий криптографічний алгоритм, який розглядався як офіційний стандарт США, був відхилений після того, як модель безпеки Anthropic допомогла виявити вразливість, що зробила його зламаним.
Алгоритм відомий як HAWK. Це схема цифрового підпису, розроблена для протистояння майбутнім атакам з боку квантових комп’ютерів. HAWK пройшов два етапи тестування NIST (Національного інституту стандартів і технологій) для оцінки безпеки постквантових криптографічних (PQC) алгоритмів через широке тестування. HAWK перебував на третьому етапі тестування, призначеному для виявлення саме тих видів недоліків, які допомогла виявити Mythos.
Після оголошення Anthropic про результати в понеділок, розробник HAWK у вівторок заявив, що відкликає його.
Ще до розробки, Anthropic вихваляв результати роботи двох криптографічних завдань, які модель штучного інтелекту Mythos для безпеки від Anthropic успішно вирішила. Модель виявила слабкі місця в математичних основах HAWK і, окремо, у широко використовуваному шифрі AES.
Незважаючи на відкликання HAWK, важко сказати, скільки звітів компанії є маркетинговим ажіотажем, але результати все ще варті уваги, оскільки вони можуть сигналізувати про важливі досягнення у зламуванні криптографії, яка є ключовою для конфіденційності та безпеки.
Перш ніж заглиблюватися в результати, кілька застережень.
По-перше, результати є приростом. Вони не ламають жодної з криптосистем, на які хтось покладається сьогодні. Натомість вони розкривають методи для помірного зменшення роботи, яка знадобилася б для подолання систем.
По-друге, протестовані криптосистеми були ослабленими версіями тих, що визначені в їхніх формальних специфікаціях. Такі “викликові екземпляри” надаються авторами специфікацій для використання в змагальному рецензуванні. Стандартно використовувати ослаблені версії під час тестування, але реальні є значно надійнішими в робочих середовищах.
По-третє, навіть з покращенням, базові “примітиви” — тобто базові математичні задачі, що складають основні будівельні блоки криптосистем — залишаються безпечними, принаймні наразі.
Нарешті, обидві атаки використовують методи, які, ймовірно, були б неможливими поза тестовими середовищами.
HAWK мертвий
Anthropic заявив, що його модель Mythos, яка наразі залишається доступною лише обмеженій групі довірених користувачів, змогла просунути атаки проти двох криптосистем. Першою системою є HAWK, схема цифрового підпису, розроблена для протистояння майбутнім атакам з боку квантових комп’ютерів.
Приблизно за 60 годин роботи та витрат на обчислення близько 100 000 доларів дослідник Anthropic без досвіду в криптографії попросив Mythos покращити найкращу відому існуючу атаку на алгоритм, що фактично зменшило його силову міцність удвічі.
Математика, на якій ґрунтується безпека HAWK, — це складність проблеми ізоморфізму решіток, яка, на відміну від найчастіше використовуваних сьогодні схем цифрового підпису, вважається безпечною від атак квантових комп’ютерів. Найкраща відома атака класичних комп’ютерів для вирішення цієї проблеми працює шляхом знаходження так званих симетрій автоморфізму. Mythos видав раніше невідомий метод знаходження таких симетрій. Результат скоротив довжину ключа вдвічі.
Слабкість можна зменшити, подвоївши довжину ключа, але додаткові обчислення роблять HAWK менш привабливим, ніж доступні PQC алгоритми підпису. В академічних колах криптографічні алгоритми вважаються зламаними, коли слабкості дозволяють противнику отримати ключ швидше, ніж це можливо за допомогою атаки повного перебору.
Метью Грін, професор Університету Джонса Хопкінса та експерт з криптографії, заявив, що вражаюче в цьому відкритті було його покладання на кілька існуючих методів, які раніше ніхто не думав об’єднати.
«Що особливо тривожить (і тому особливо сприятливе для ШІ), так це те, що атака не винаходить принципово нову математику», — написав Грін. «Вона просто розширює набір інструментів, які були під рукою і добре відомі, і досягає хорошого результату».
Anthropic роз’яснив:
Щоб знайти атаку, Claude Mythos Preview працював напівавтономно в агентському середовищі, з періодичним людським контролем та нетехнічним керівництвом. Mythos знайшов атаку після детального огляду літератури для розуміння стану справ, а також значних математичних розрахунків та обчислювальних експериментів. Після знаходження атаки Mythos впровадив наскрізний конвеєр перевірки, щоб переконати себе — і оператора — в правильності атаки.
Щоб знайти покращений метод, Mythos розгорнув двох окремих агентів, які працювали переважно незалежно. Один спочатку відкинув метод як непрацездатний. Другий знайшов спосіб змусити його працювати. Агенти врешті-решт працювали злагоджено, доки не дійшли згоди, що покращена атака була ефективною. (Як і в описі атаки на AES пізніше в цій статті, методологія атаки на HAWK була спрощена. Повні деталі дивіться в дописі Anthropic або в двох довших статтях про атаки на HAWK та AES відповідно).
Софі Шміг, експерт з PQC в Google, заявила, що HAWK вже підозрювався у слабкостях, які згодом будуть виявлені. Проте, метод подвоєння силової міцності ключа, знайдений за допомогою Mythos, зробив кандидатний алгоритм менш конкурентоспроможним, ніж існуючі PQC схеми цифрового підпису, такі як ML-DSA та FN-DSA.
«По суті, з цією статтею HAWK мертвий», — написала вона.
Менше драми, але все одно досить цікаво
Атака на AES дала менш драматичні результати. Вона базується на покращенні, знайденому за допомогою Mythos для виконання атаки “зустріч посередині”, яка використовується для отримання ключа в моделі загрози вибраного відкритого тексту, найкращій відомій атаці на AES. Техніка вводить велику кількість відомих відкритих текстів у криптосистему та аналізує зашифрований вивід на наявність підказок, які, з достатньою кількістю входів, зрештою розкривають невідомий ключ. Раніше найкраща відома атака “зустріч посередині” на AES вимагала приблизно 2105 відкритих текстів, що є числом, достатнім для того, щоб зробити метод нездійсненним.
Mythos допоміг знайти нову техніку “зустріч посередині”, яка спирається на Möbius Bridge — більш складний алгоритм відбитків пальців, що використовується в атаках “зустріч посередині”. Використовуючи його, за словами Гріна, код, створений Mythos, зміг зменшити кількість необхідних входів до 289. Anthropic заявив, що ця економія може скоротити час, необхідний для таких атак, у 200–800 разів.
Можливість генерувати таку велику кількість входів робить атаку недосяжною поза лабораторією. Крім того, реальна швидкість прискорення невідома, оскільки ослаблений алгоритм AES, що тестувався, використовував лише сім раундів. Специфікаційно-сумісний AES, за словами Гріна, використовує 10, 12 або 14 раундів, залежно від довжини ключа.
Anthropic ретельно роз’яснює більшість цих застережень. Однак у понеділковому блозі стверджується, що результати все ж таки значущі та зрештою можуть принципово змінити процес криптоаналізу, тобто змагального тестування криптосистем.
«Спільнота кібербезпеки зараз стикається з тим фактом, що мовні моделі здатні виявляти стільки помилок, що стандартні людські процеси (як-от сортування вразливостей, перевірка та виправлення) ледве встигають», — написав Anthropic. «Ми прогнозуємо, що те саме незабаром відбудеться і в академічних дослідженнях криптографії. Оскільки мовні моделі все частіше автономно створюють нові дослідницькі результати, людські дослідники можуть стати вузьким місцем у вивченні та валідації цих результатів на технічну достовірність, новизну та корисність».
У звіті Anthropic не згадується, чи використовували його дослідники Mythos для атак на інші тестовані криптосистеми, такі як еліптична криптографія та RSA. Покращення атак на ці системи були б більш вражаючими. Досягнувши найбільш вражаючого результату проти алгоритму, який ще перебуває на ранніх стадіях розробки, не зрозуміло, наскільки великою перевагою справді була Mythos. Немає способу дізнатися, чи були дослідники, які використовували традиційні методи криптоаналізу, вже близькі до виявлення такої ж атаки.
Зрештою, урок з дослідження простий. Криптоаналіз за допомогою ШІ залишається недоведеним, і постачальники цих платформ зацікавлені в перебільшенні їхніх переваг. Водночас зростає свідчення того, що LLM можуть надати значні переваги у виявленні криптографічних слабкостей. Було б помилкою вважати, що LLM одного дня не відіграватимуть важливу роль у гонці між захистом і компрометацією наших найважливіших активів.
Заголовок та основний текст цієї історії були оновлені, щоб відобразити відкликання HAWK.
За даними порталу: arstechnica.com