Microsoft намагається екстрено виправити вразливості, перш ніж їх знайдуть хакери.
Серед дня в середині травня десятки інженерів Microsoft та їхні менеджери зібралися онлайн та в конференц-залі штаб-квартири компанії в Редмонді, штат Вашингтон, щоб обговорити Project Glasswing.
Технологічний гігант поспішав виправити слабкі місця у своєму коді, які нова модель ШІ під назвою Mythos виявляла безпрецедентними темпами. Гігантський розробник ШІ Anthropic, який створив Mythos, надав доступ до обраних організацій, що створюють програмне забезпечення, яким користуються звичайні люди, компанії та уряди по всьому світу. Мета полягала в тому, щоб знайти та виправити вразливості до того, як хакери та ворожі уряди, як-от Китай, почнуть використовувати подібні інструменти для їх пошуку та використання в шпигунстві та саботажі.
Коли група влаштувалася, один інженер поставив запитання, яке висіло в повітрі: чи виправдовує Mythos «хайп, який, за словами Anthropic, він мав би мати?»
«Так», — відповів менеджер, згідно з записом зустрічі, переглянутим ProPublica.
Версія, яку використовувала Microsoft, Claude Mythos Preview, виявляла помилки швидше, ніж технологічний гігант встигав їх виправляти, і, за словами менеджера, інженери тепер «шалено поспішали» скоротити розрив.
Один слайд у презентації того дня показував, що лише у квітні Mythos виявив 90 «критичних» і 141 «важливу» помилку в SharePoint, широко використовуваному корпоративному програмному забезпеченні Microsoft. У першій половині травня він знайшов ще більше.
«Будь ласка, будь ласка, будь ласка, якщо ваша організація має якісь помилки за квітень, виправляйте їх», — благав групу менеджер з інжинірингу Ганс Андерсен. У них було приблизно два тижні, «щоб знайти якомога більше речей і зробити якомога більше добра з цим доступом».
31 травня, пояснив він, «вважається днем, коли решта світу наздожене».
Інженери, які були на дзвінку, подискутували щодо цього твердження, і один із них підсумував дилему: «Отже, ви фактично кажете, що якщо це буде випущено 1 червня, то 2 червня супротивники матимуть наші помилки?»
«Так», — відповів один чоловік. «Так», — повторив інший.
Відтоді, як Anthropic розпочав національну дискусію про потужність ШІ у пошуку помилок у квітні, коли Project Glasswing став публічним, експерти з національної безпеки прогнозували, що США матимуть вікно можливостей для виправлення недоліків, перш ніж противники матимуть подібні моделі, здатні виявити ті ж слабкості. Наприкінці червня міжнародний альянс розвідувальних агентств, відомий як Five Eyes — до складу якого входять США, Австралія, Канада, Нова Зеландія та Велика Британія — у незвичайній спільній заяві попередив, що за кілька місяців це вікно закриється. Однак запис зустрічі Microsoft, поряд із внутрішніми документами, розглянутими ProPublica, свідчить про те, що день кібернетичного розплати, можливо, вже настав.
З огляду на велику кількість виявлених Mythos недоліків, Microsoft досі зосереджувалася на виправленні тих, які вона вважає найбільш небезпечними, класифікованими як критичні або важливі, згідно з презентацією, а також із власними публічними оновленнями компанії. Внутрішні записи вказують, що Microsoft планує врешті-решт усунути недоліки «середньої» серйозності, виявлені Mythos. Документи не згадують про помилки «низької» серйозності.
Підхід компанії відображає типову для галузі систему сортування. Так само, як найхворіших пацієнтів першими лікують у відділенні невідкладної допомоги, сортування вразливостей надає пріоритет проблемам, які, ймовірно, спричинять найбільшої шкоди, якщо їх використають хакери.
Але ця стратегія несе власний ризик в епоху пошуку помилок за допомогою ШІ, коли нові інструменти виявляють рекордну кількість слабких місць у продуктах, якими ми користуємося щодня. Mythos, наприклад, здатний поєднувати низку помилок, що взаємно посилюються, тобто помилки низької та середньої серйозності, які залишаються невиправленими, можуть створити можливість для здійснення руйнівних атак.
«Проблема зараз полягає в тому, що ви можете поєднати чотири низькорівневі помилки, і це може дорівнювати високому рівню серйозності», — сказав Вінь Нгуєн, старший технічний радник Anthropic і старший науковий співробітник з питань ШІ в Раді з міжнародних відносин, який раніше обіймав посаду головного директора з питань ШІ та головного наукового співробітника з даних у Агентстві національної безпеки. «Якщо ви Microsoft, поточна стратегія сортування може недооцінювати ризики».
У письмовій відповіді на запитання ProPublica Microsoft підтвердила свій підхід, заявивши, що її рішення щодо сортування базуються на низці факторів, зокрема на можливості експлуатації та впливі на клієнтів. Презентація компанії не згадувала про ланцюжки, але речник повідомив ProPublica, що ця техніка «давно розглядається як частина оцінки вразливостей та аналізу ризиків».
Відповідаючи на запитання про внутрішню презентацію та наближення терміну 31 травня, речник зменшив її значення, заявивши, що «прискорене націлювання та використання нових вразливостей не є новим явищем». Однак, додав він, коментарі, зроблені під час зустрічі, відображають те, як компанія «відчуває нагальну потребу допомогти нашим клієнтам у цей час».
«Те, що було почуто на цьому дзвінку, і є правдою сьогодні, це те, що безпека є найважливішим пріоритетом Microsoft, і команди по всій компанії зосереджені на використанні ШІ для якомога швидшого виявлення та усунення вразливостей».
Microsoft відмовилася відповідати на запитання про те, скільки помилок інженери виправили з моменту презентації.
Anthropic відмовився від коментарів.
Внутрішня презентація Microsoft та супутні слайди передбачали, що група співробітників, які працюють над SharePoint, що використовується урядами та бізнесом по всьому світу для керування даними та документами, «буде зайнята місяцями», спочатку працюючи над найпріоритетнішими критичними помилками, а потім розглядаючи важливі у серпні. Microsoft стверджує, що вразливості, які вона класифікує як критичні, включають так звані черв’яки, які можуть призвести до збоїв систем та поширення шкідливого програмного забезпечення під час пересування комп’ютерними мережами. Важливі можуть призвести до «компрометації конфіденційності, цілісності чи доступності даних користувачів», а також «доступності обчислювальних ресурсів». Після усунення цих категорій група розпочне роботу над приблизно 300 «помірними» помилками, згідно з презентацією.
Хоча внутрішні документи, розглянуті ProPublica, не містять оновлень щодо всього спектру пропозицій Microsoft, вони дають уявлення про масштаб проблеми. Один документ зазначав, що з моменту початку використання компанією Mythos на початку цього року, вона виявила сотні помилок, які Microsoft класифікувала як критичні або важливі в таких популярних продуктах, як Microsoft 365, платформа для конференц-зв’язку Teams та інструмент ШІ Copilot. Станом на середину травня більшість із них ще не були виправлені.
«Вони не глибокі та екзотичні, але вони реальні», — сказав Андерсен, менеджер з інжинірингу, під час зустрічі. «І багато з них піддаються експлуатації».
Невідомо, чи хакери використали будь-яку конкретну помилку, виявлену Mythos, але деякі використовували ШІ для автоматизації атак і, схоже, використовують технології, подібні до Mythos, для пошуку та експлуатації слабких місць.
Були зовнішні ознаки внутрішньої боротьби Microsoft з наростаючим списком помилок, які потрібно виправити. Кожного місяця компанія публічно випускає виправлення для вразливостей свого програмного забезпечення в рамках так званого «Patch Tuesday». У червні вона випустила виправлення для понад 200 помилок, що, на думку експертів галузі, було рекордом. Але 14 липня компанія перевищила цей рекорд і випустила виправлення для понад 600 помилок. Лише сім були класифіковані як низького або середнього рівня серйозності, одна з яких активно експлуатувалася хакерами, за словами Дастіна Чайлдса, керівника програми bounty Zero Day Initiative, яка є частиною компанії з кібербезпеки TrendAI. Решта були важливими або критичними.
«Ну що ж, друзі. Ми тут. Апокаліпсис помилок повністю спустився на нас», — написав Чайлдс у блозі 14 липня.
Microsoft повідомила ProPublica, що загальний обсяг помилок «ще деякий час не буде стабілізуватися», але речник заявив, що компанія «значно інвестувала як у людей, так і в рішення для сортування на основі ШІ, які швидко масштабуються для обробки зростаючої кількості вразливостей».
Зважаючи на нові реалії епохи ШІ, зокрема можливості ланцюжкових атак, компаніям, подібним до Microsoft, можливо, доведеться переглянути свій загальний підхід до сортування, зазначив Нгуєн, колишній головний експерт з ШІ АНБ. Замість того, щоб відкидати те, що зараз вважається низькоризикованими недоліками, компанії повинні виділяти персонал для розробки та тестування виправлень для всього спектру вразливостей, сказав він. Іншими словами, відділення невідкладної кібербезпеки потребує більше лікарів і медсестер для лікування як небезпечних для життя хвороб, так і незначних ран, які пізніше можуть стати смертельними.
«Альтернативи немає», — сказав Нгуєн. «Пацієнти надходять швидко і в несамовитій кількості».
Microsoft повідомила ProPublica, що вона «завжди буде переоцінювати та розглядати, чи слід оновлювати раніше низькі або помірні показники, чи розглядати їх по-іншому. З цими системами ШІ ми переосмислюємо деякі з цих речей. В усій галузі ми всі спостерігаємо, наскільки радикальною буде зміна».
Користувачі Microsoft можуть бути особливо вразливими. Популярність її пропозицій, що використовуються в усьому світі, робить її частою та прибутковою мішенню для хакерів. Крім того, багато її продуктів містять «застарілий» код. Розроблений десятиліття тому з використанням застарілих технологій, цей код містить невирішені недоліки і сприяє тому, що в галузі називають «технічним боргом».
Але проблема виправлення потоку нововиявлених помилок також поширюється на решту програмної індустрії та на програмне забезпечення з відкритим кодом, яке зазвичай безкоштовне у використанні та значною мірою підтримується волонтерами. Програмне забезпечення з відкритим кодом лежить в основі інтернет-інфраструктури та інтегроване в значну частину сучасних технологій світу, включаючи продукти, що пропонуються великими технологічними компаніями, такими як Microsoft.
«Ніхто ще не зрозумів, як з цим впоратися, і всі шукають, що їм потрібно робити», — сказав Дж. Майкл Деніел, колишній радник з кібербезпеки президента Барака Обами та президент Cyber Threat Alliance, некомерційної організації, що займається кібербезпекою. «Наш технічний борг настає».
Бен Едвардс, науковий співробітник, який спеціалізується на управлінні вразливостями програмного забезпечення, сказав, що програмна індустрія мала справу з «інтенсивним обсягом навіть до ШІ».
«Раніше це було як пити з садового шланга на струмені, а тепер це як пити з пожежного шланга», — сказав Едвардс. «У них, можливо, були команди, які могли впоратися з цим садовим шлангом. Чи зможуть вони впоратися з пожежним шлангом — це інше питання».
Хоча обсяг вразливостей зростав протягом років, внутрішня група Microsoft, відповідальна за їх обробку, Microsoft Security Response Center, постійно страждала від нестачі персоналу. Навіть до напливу помилок, виявлених ШІ, центр щомісяця отримував сотні або навіть тисячі звітів, що виводило групу на межу її можливостей, повідомляла ProPublica.
Розмір центру відображає філософію корпорації Microsoft: закриття дірок у безпеці — це центр витрат, тоді як створення нових продуктів — це центр прибутку, сказали колишні співробітники. Компанія неохоче залучає своїх найкращих інженерів до створення виправлень безпеки — центру витрат — замість розробки нових продуктів та функцій, які приноситимуть прибуток, повідомляла ProPublica.
Microsoft повідомила ProPublica, що вона не обговорює внутрішні кадрові рішення, але в останні роки робила інвестиції, щоб «зосередити наші команди на забезпеченні безпеки наших клієнтів». Компанія «постійно оцінює кадровий потенціал, процеси та технології, необхідні для підтримки реагування на інциденти безпеки та управління вразливостями», — сказав речник.
Згідно зі слайдами, що супроводжували травневу внутрішню презентацію, Anthropic надала доступ до Mythos приблизно 50 штатним співробітникам Microsoft з метою «посилити критично важливі послуги до того, як загальнодоступні моделі наздоженуть». На слайді під назвою «Що далі» прогнозувалося, що Microsoft Security Response Center побачить «продовження обсягу справ» у міру того, як «публічні інструменти наздоженуть» Mythos.
Під час травневої зустрічі один співробітник, здавалося, втішався вірою в те, що супротивники «не мають вихідного коду», який такий інструмент ШІ сканував би на наявність слабких місць. Однак його колеги швидко його виправили. Частини коду Microsoft фактично потрапляли до рук хакерів протягом років.
«Можливо, це не вихідний код цього тижня», — сказав один чоловік. «Але в них є вихідний код. Він там є».
У заяві для ProPublica Microsoft зменшила значення цього коментаря, заявивши, що інженери «розробляють наші процеси безпеки, виходячи з припущення, що рішучі супротивники можуть отримати доступ до коду».
Дізнатися більше на: arstechnica.com