Понад сотня технологічних компаній, серед яких OpenAI, Anthropic, Google та Microsoft, підписали відкритого листа із закликом до приватного та державного секторів об’єднати зусилля для захисту від кіберзагроз, пов’язаних зі штучним інтелектом.
Лист, під яким також поставили підписи провідні кібербезпекові компанії, як-от CrowdStrike, Okta та Fortinet, а також значні фінансові установи та компанії, що забезпечують інтернет-інфраструктуру, закликає до впровадження нових форм кіберзахисту та заохочує уряди на «місцевому, національному та міжнародному рівнях» співпрацювати у сфері безпеки.
«У найближчі місяці кібератаки, керовані ШІ, стануть значно поширенішими та складнішими, оскільки моделі у всьому світі ставатимуть дедалі потужнішими», — зазначено в листі. — «Компанії та державні служби, від яких залежать наші громади — від лікарень до водоочисних споруд та інфраструктури, що забезпечує роботу інтернету — перебувають під загрозою».
Проблему, яку ШІ становить для традиційних засобів кібербезпеки, нещодавно висвітлила низка дивних інцидентів, коли агенти ШІ атакували компанії.
Інцидент з Hugging Face, під час якого агент OpenAI автономно вийшов зі свого пісочничного середовища та атакував технологічну компанію, був лише першим у низці інших повідомлень про злами за участю агентів, розроблених іншими компаніями ШІ, включно з Anthropic та Meta. Ці інциденти посилили аргумент про те, що сфера кібербезпеки зазнала фундаментальних змін, і для їх пом’якшення необхідні радикально нові комерційні рішення.
У листі також пропонується мобілізація «колективної відповіді», в рамках якої будуть сформовані «нові партнерства» для «підвищення стандартів безпеки та пошуку нових рішень для нових кіберзагроз».
Кілька компаній ШІ, що підписали лист, продовжують активно розробляти ще більш досконалі моделі ШІ, що підкреслює їхню суперечливу позицію. Водночас вони пропонують програми для використання передових моделей ШІ в оборонних цілях, включаючи програму OpenAI Daybreak, Mythos від Anthropic та нову кіберплатформу Microsoft Perception.
За матеріалами: techcrunch.com