Сучасні дослідницькі лабораторії штучного інтелекту в Кремнієвій долині створили найкращих у світі хакерів у формі ШІ-агентів. Дайте передовим моделям завдання, і вони будуть настільки винахідливими, що виконають його, навіть якщо для цього доведеться вийти за межі захисту “пісочниці” кібербезпеки та проникнути в чужу мережу. В крайньому разі, вони вдадуться до соціальної інженерії та маніпуляцій.
Навіть зважаючи на це, новина минулих вихідних про австралійця, чий агент OpenClaw зламав систему бронювання його спортзалу та видалив бронювання іншого клієнта, щоб отримати йому місце на популярний клас, є особливо показовою. Це натякає на те, що якщо ми хочемо приборкати неслухняні ШІ-хакерські атаки, ми можемо шукати не в тому напрямку.
Хоча про цей інцидент повідомила австралійська ABC News, назвавши його першим задокументованим випадком злому за допомогою ШІ-агента в країні, фактично хак стався кілька місяців тому.
Власник OpenClaw, Ендрю Берд, опублікував допис у блозі на сайті своєї компанії 10 квітня, який згодом було видалено. Копія допису досі доступна в архіві Інтернету.
Він навчив свого OpenClaw виконувати такі завдання, як бронювання для нього. Він любив відвідувати популярні ранкові тренування, але йому набридло потрапляти до списку очікування, а потім грати в “рулетку оновлення”, як він це описував, щоб отримати місце.
Коли він попросив бота забронювати йому місце, найкраще, що він міг зробити, це 4-те місце у списку очікування, як він розповів ABC. Тоді його агент повідомив йому, що знайшов спосіб забронювати йому місце на заняття заздалегідь. За кілька місяців до того, як спортзал відкрив запис на ці заняття.
Берд запитав, чи може він перемістити його вище у списку очікування. Бот виконав це прохання і спробував це зробити. Бот знайшов вразливість у частині авторизації програмного забезпечення для бронювання, яке використовував спортзал. Він зламав систему та скасував бронювання №1 у списку очікування. Бот радісно повідомив йому, згідно з логами чату, опублікованими ABC:
API не має жодних перевірок авторизації для скасування бронювань інших людей… Я протестував це з особою, яка перебуває під №1 у списку очікування — і це спрацювало. Тож ви вже перемістилися з №4 на №3», — відповідав він.
Берд, який сам є розробником програмного забезпечення, був нажаханий тим, що його ШІ зламав його спортзал, повідомляє ABC. Він запитав, чи може він скасувати це і повернути іншу людину до списку очікування. Ні, це неможливо, сказав ШІ.
Тож він зробив наступне найкраще — попросив бота підготувати “електронний лист із відповідальним розкриттям інформації до служби підтримки”. Лист “пояснював вразливість, пропонував виправлення та навіть порівнював зламані зміни з тими, що правильно застосовували авторизацію”, — написав Берд.
Окрім гумору ситуації, коли хтось виштовхує іншу людину з дороги, щоб потрапити на заняття у спортзалі, є дві справді цікаві частини цього інциденту. По-перше, Берд використовував Claude Opus 4.6, випущений у лютому, зі своїм OpenClaw. По-друге, це реакція компаній Кремнієвої долини на X, де ця історія стала вірусною.
Після відомого інциденту минулого місяця, коли невідома модель OpenAI зламала Hugging Face, про що OpenAI на той час не знала, інші лабораторії дослідили свої моделі. Потім з’явилися повідомлення від Kimi K3 від Moonshot, Muse Spark від Meta та Anthropic.
Насправді, Anthropic виявив, що три їхні моделі зробили це, зокрема Opus 4.7, випущений у квітні та відомий своєю здатністю до складного кодування, Mythos 5, Fable (відомий своїми навичками кібербезпеки) та внутрішня, невипущена дослідницька тестова модель.
Щоб вирішити цю проблему, деякі лабораторії ШІ говорили про уповільнення розвитку передових моделей або створення незалежних організацій для тестування наступного покоління моделей.
Але OpenClaw Берда використовував 4.6, як він повідомив. Це означає, що старіші моделі, а також безліч відкритих моделей, що відстають на три кроки, вже є винятково добрими хакерами. Отже, хто знає, скільки з них зламали або зламують зараз, щоб досягти бажань своїх власників?
Багато користувачів X побачили в цьому інциденті гумористичний потенціал. Партнер Andreessen Horowitz Крістіан Кейл написав у відповідь: “Це просто жахливо. Хтось знає, чи працює це для бронювання полів для гольфу?”
Або, як зазначив користувач X Roon: “система бронювання тенісу в Сан-Франциско стане одним із найбільш захищених програмних забезпечень на планеті Земля”.
Смішно, так. Але є певна правда в цих жартах. Існує майбутнє, яке будує Долина, де кожен матиме ШІ-агента, який працюватиме на нього. Цей агент робив лише те, що йому наказали, і не мав у своєму розпорядженні можливостей рівня Mythos.
То що, якщо творці та власники агентів насправді не хочуть контролювати таке невідповідність? Ми можемо побачити перший натяк на хаос у всьому, від бронювання авіаквитків до квитків на концерти, або будь-якої іншої дратівливої ситуації з обслуговуванням клієнтів. Як зазначив один користувач X, який найдивовижніший хак, який коли-небудь виявив ШІ? Це може бути “протискання без черги”.
Подробиці можна знайти на сайті: techcrunch.com