Microsoft поспішає латати вразливості, перш ніж їх знайдуть хакери.
У середині травня десятки інженерів Microsoft та їхні менеджери зібралися онлайн і в конференц-залі штаб-квартири компанії в Редмонді, штат Вашингтон, щоб обговорити Project Glasswing.
Технологічний гігант поспішав виправити слабкі місця у своєму коді, які нова модель ШІ на ім’я Mythos виявляла з безпрецедентною швидкістю. Гігантський розробник ШІ Anthropic, що створив Mythos, надав доступ до нього вибраним організаціям, які розробляють програмне забезпечення, що використовується звичайними людьми, компаніями та урядами по всьому світу. Мета полягала в тому, щоб знайти та виправити вразливості до того, як хакери та ворожі уряди, як-от Китай, почнуть використовувати подібні інструменти для їх виявлення та використання в шпигунстві та саботажі.
Під час зустрічі один з інженерів поставив питання, яке домінувало в обговоренні: чи Mythos «виправдав ажіотаж, який, за словами Anthropic, він викличе?»
«Так», — відповів менеджер, згідно із записом зустрічі, з яким ознайомилася ProPublica.
Версія, яку використовувала Microsoft, Claude Mythos Preview, виявляла помилки швидше, ніж технологічний гігант міг їх виправити, і, за словами менеджера, інженери зараз «гарячково» працюють, щоб подолати розрив.
Один зі слайдів презентації того дня показав, що лише у квітні Mythos виявив 90 «критичних» та 141 «важливу» помилку в SharePoint, широко використовуваному програмному забезпеченні для співпраці від Microsoft. У першій половині травня знайшлося ще більше.
«Будь ласка, будь ласка, будь ласка, якщо у вашій організації є якісь квітневі помилки, вирішіть їх», — благав інженерний менеджер Ганс Андерсен групу. У них було приблизно два тижні «щоб знайти якомога більше і зробити якомога більше добра з цим доступом».
«31 травня, — пояснив він, — вважається днем, коли решта світу наздожене».
Інженери на дзвінку поставили під сумнів це твердження, і один із них підсумував ситуацію: «Отже, ви, по суті, кажете, що якщо його випустять 1 червня, то 2 червня противники матимуть наші помилки?»
«Так», — відповів один співрозмовник. «Так», — повторив інший.
Відколи Anthropic у квітні, коли Project Glasswing став загальнодоступним, започаткував національну дискусію про можливості ШІ для пошуку помилок, експерти з національної безпеки прогнозували, що США матимуть вікно можливостей для виправлення недоліків до того, як противники отримають подібні моделі, здатні виявити ті ж слабкі місця. Наприкінці червня міжнародний альянс розвідувальних агентств, відомий як “П’ять очей” (Five Eyes) — до складу якого входять США, Австралія, Канада, Нова Зеландія та Велика Британія — у незвичайній спільній заяві попередив, що за кілька місяців це вікно закриється. Але запис зустрічі Microsoft, разом із внутрішніми документами, розглянутими ProPublica, свідчать про те, що день кібернетичного розплати, можливо, вже настав.
Враховуючи велику кількість виявлених Mythos помилок, Microsoft наразі зосереджується на виправленні тих, які вважає найнебезпечнішими, класифікованими як критичні або важливі, згідно з презентацією, а також із власними публічними оновленнями компанії. Внутрішні записи свідчать про те, що Microsoft планує згодом виправити помилки «помірної» серйозності, виявлені Mythos. Документи не згадують про помилки «низької» серйозності.
Підхід компанії відображає систему сортування, типову для галузі. Так само, як найхворіших пацієнтів першими лікують у відділенні невідкладної допомоги, сортування вразливостей надає пріоритет питанням, які, ймовірно, завдадуть найбільшої шкоди, якщо їх використають хакери.
Але ця стратегія несе власний ризик в епоху пошуку помилок за допомогою ШІ, коли нові інструменти виявляють рекордну кількість слабких місць у продуктах, якими ми користуємося щодня. Mythos, наприклад, може об’єднувати низку помилок, які посилюють одна одну, що означає, що невідремонтовані вразливості низької та помірної серйозності можуть створити можливість для проведення руйнівних атак.
«Проблема зараз полягає в тому, що ви можете об’єднати чотири низькорівневі помилки, і це може дорівнювати високій серйозності», — сказав Він Нгуен, старший технічний радник Anthropic та старший науковий співробітник з ШІ в Раді з міжнародних відносин, який раніше обіймав посаду головного директора з ШІ та головного наукового співробітника з даних у Агентстві національної безпеки. «Якщо ви Microsoft, поточна стратегія сортування може недооцінювати ризики».
У відповідях на запити ProPublica, надісланих електронною поштою, Microsoft підтвердила свій підхід, заявивши, що її рішення щодо сортування ґрунтуються на низці факторів, включаючи можливість експлуатації та вплив на клієнтів. Презентація компанії не згадувала про ланцюгове з’єднання, але речник сказав ProPublica, що ця техніка «давно розглядається як частина оцінки вразливостей та аналізу ризиків».
Відповідаючи на запитання про внутрішню презентацію та неминучий термін 31 травня, речник зменшив її значення, заявивши, що «прискорене націлювання та використання нових вразливостей — це не нове явище». Тим не менш, додав він, коментарі, зроблені під час зустрічі, відображають те, як компанія «відчуває нагальну потребу допомогти нашим клієнтам у цей час».
«Те, що було почуто на тому дзвінку, і що правдиво сьогодні, це те, що безпека є найвищим пріоритетом Microsoft, і команди по всій компанії надають пріоритет використанню ШІ для якнайшвидшого виявлення та усунення вразливостей».
Microsoft відмовилася відповідати на запитання про те, скільки помилок інженери виправили з моменту презентації.
Anthropic відмовився від коментарів.
Внутрішня презентація Microsoft та супровідні слайди прогнозували, що група співробітників, які працюють над SharePoint, що використовується урядами та бізнесом по всьому світу для управління даними та документами, «буде зайнята місяцями», спочатку працюючи над критичними помилками найвищого пріоритету, а потім беручись за важливі у серпні. Microsoft стверджує, що вразливості, які вона класифікує як критичні, включають так звані “черв’яки”, які можуть призвести до збоїв систем та поширення шкідливого програмного забезпечення під час роботи в комп’ютерних мережах. Важливі можуть призвести до «компрометації конфіденційності, цілісності або доступності даних користувача», а також «доступності ресурсів обробки». Після усунення цих категорій група розпочне роботу над приблизно 300 «помірними» помилками, згідно з презентацією.
Хоча внутрішні документи, розглянуті ProPublica, не містять оновлень щодо всього спектру пропозицій Microsoft, вони дають уявлення про масштаб проблеми. Один документ зазначав, що з моменту початку використання компанією Mythos на початку цього року, було виявлено сотні помилок, які Microsoft класифікувала як критичні або важливі в популярних продуктах, таких як Microsoft 365, платформа для конференцій Teams та інструмент ШІ Copilot. Станом на середину травня більшість із них ще не було виправлено.
«Вони не є глибокими та екзотичними, але вони реальні», — сказав Ганс Андерсен, інженерний менеджер, під час зустрічі. «І багато з них піддаються експлуатації».
Невідомо, чи хакери використовували якусь конкретну помилку, виявлену Mythos, але деякі з них використовують ШІ для автоматизації атак і, схоже, використовують подібні до Mythos технології для пошуку та використання слабких місць.
Були зовнішні ознаки внутрішньої боротьби Microsoft з наростаючим списком помилок, які потребують виправлення. Кожного місяця компанія публічно випускає виправлення для вразливостей свого програмного забезпечення в рамках так званого «Patch Tuesday». У червні вона випустила виправлення для понад 200 помилок, що, за словами експертів галузі, було рекордом. Але 14 липня компанія побила цей рекорд і випустила виправлення для понад 600 помилок. Лише сім з них були класифіковані як низької або помірної серйозності, одна з яких активно використовувалася хакерами, за словами Дастіна Чайлдса, керівника програми винагород за виявлення помилок Zero Day Initiative, що є частиною компанії з кібербезпеки TrendAI. Решта були важливими або критичними.
«Ну що ж, шановні. Ось ми й тут. Апокаліпсис помилок повністю спустився на нас», — написав Чайлдс у блозі 14 липня.
Microsoft повідомила ProPublica, що загальний обсяг помилок «не буде стабілізуватися ще деякий час», але речник сказав, що компанія «значно інвестувала як у людей, так і в рішення для сортування на основі ШІ, які швидко масштабуються для обробки зростаючої кількості вразливостей».
Враховуючи нові реалії епохи ШІ, включаючи можливості ланцюгового з’єднання, компаніям, подібним до Microsoft, можливо, доведеться переглянути свій підхід до сортування, вважає Нгуен, колишній голова відділу ШІ NSA. Замість того, щоб відкидати те, що зараз вважається низькоризикованими недоліками, компанії повинні присвятити персонал розробці та тестуванню виправлень для всього спектру вразливостей, сказав він. Іншими словами, кібер-відділенню невідкладної допомоги потрібно більше лікарів і медсестер для лікування як життєво небезпечних захворювань, так і незначних ран, які пізніше можуть стати смертельними.
«Альтернативи немає», — сказав Нгуен. «Пацієнти надходять швидко і в шаленому темпі».
Microsoft повідомила ProPublica, що вона «завжди буде переоцінювати та розглядати, чи слід підвищувати або по-іншому розглядати те, що раніше було низьким або помірним. З цими системами ШІ це змушує нас переосмислювати деякі з цих речей. У всій галузі ми всі спостерігаємо, наскільки радикальними будуть зміни».
Користувачі Microsoft можуть бути особливо вразливими. Популярність її продуктів, що використовуються по всьому світу, робить її частою та прибутковою ціллю для хакерів. Крім того, багато її продуктів містять «застарілий» код. Розроблений десятиліття тому з використанням застарілих технологій, цей код містить невиправлені недоліки та сприяє тому, що в галузі називають «технічним боргом».
Але проблема виправлення потоку нововиявлених помилок також стосується решти індустрії програмного забезпечення та відкритого програмного забезпечення, яке зазвичай безкоштовне у використанні та переважно підтримується волонтерами. Відкрите програмне забезпечення лежить в основі інфраструктури Інтернету і інтегроване в багато сучасних технологій світу, включаючи продукти, що пропонуються великими технологічними компаніями, такими як Microsoft.
«Ніхто насправді не з’ясував, як з цим впоратися, і всі шукають, що їм потрібно робити», — сказав Дж. Майкл Деніел, колишній радник з кібербезпеки президента Барака Обами та президент Cyber Threat Alliance, некомерційної організації, що займається кібербезпекою. «Наш технічний борг настає».
Бен Едвардс, науковець з даних, який спеціалізується на управлінні вразливостями програмного забезпечення, сказав, що галузь програмного забезпечення вже мала «інтенсивний обсяг ще до ШІ».
«Це було як пити з садового шланга на реактивному режимі раніше, а тепер це як пити з пожежного шланга», — сказав Едвардс. «У них, можливо, були команди, які могли впоратися з тим садовим шлангом. Чи зможуть вони впоратися з пожежним шлангом — це інше питання».
Хоча обсяг вразливостей зростав протягом років, внутрішня група Microsoft, відповідальна за їх обробку, Microsoft Security Response Center, завжди була недоукомплектована. Навіть до напливу помилок, виявлених ШІ, центр отримував сотні або навіть тисячі звітів на місяць, що доводило групу до межі, як повідомляла ProPublica.
Розмір центру відображає філософію корпорації Microsoft: усунення дірок у безпеці — це центр витрат, тоді як створення нових продуктів — це центр прибутку, зазначали колишні співробітники. Компанія неохоче залучає своїх найкращих інженерів до виправлення помилок безпеки — центру витрат — замість розробки нових продуктів та функцій, які генеруватимуть прибуток, повідомляла ProPublica.
Microsoft повідомила ProPublica, що вона не обговорює внутрішні рішення щодо персоналу, але зробила інвестиції в останні роки, щоб «зосередити наші команди на забезпеченні безпеки наших клієнтів». Компанія «постійно оцінює персонал, процеси та технології, необхідні для підтримки реагування на безпеку та управління вразливостями», — заявив речник.
Згідно зі слайдами, що супроводжували травневу внутрішню презентацію, Anthropic надав доступ до Mythos приблизно 50 штатним співробітникам Microsoft з метою «зміцнення критично важливих служб до того, як загальнодоступні моделі наздоженуть». Слайд під назвою «Що далі» передбачав, що Microsoft Security Response Center побачить продовження обсягу справ «у міру того, як загальнодоступні інструменти наздоженуть» Mythos.
Під час травневої зустрічі один зі співробітників, схоже, втішився вірою в те, що противники «не мають вихідного коду», який такий інструмент ШІ сканував би на наявність слабких місць. Однак його колеги швидко його виправили. Фактично, частини коду Microsoft протягом років потрапляли до рук хакерів.
«Можливо, це не вихідний код цього тижня», — сказав один співрозмовник. «Але у них є вихідний код. Він є там».
У заяві для ProPublica Microsoft зменшила значення цього коментаря, заявивши, що інженери «розробляють наші процеси безпеки з розрахунком на те, що рішучі противники можуть отримати доступ до коду».
За даними порталу: arstechnica.com