Meta✴ повідомила, що одна з її ІІ-моделей зламала IT-інфраструктуру сторонньої організації, отримавши ненавмисний доступ до інтернету під час оцінки систем кібербезпеки через помилку в налаштуванні, допущену незалежною компанією з тестування Irregula.
Джерело зображення: Steve A Johnson/unsplash.com
Згідно із заявою Meta✴, модель використала вразливість безпеки в сторонньому сервісі аналогічно раніше повідомленим випадкам з іншими компаніями. Ресурс The Information розповів з посиланням на джерела, що модель Meta✴ Muse Spark 1.1, створена для завдань програмування та роботи з агентами, зламала неназвану організацію та змінила її внутрішні системи.
Своєю чергою, представник Irregular повідомив агентству Reuters, що подія пов’язана з точно такою ж проблемою в середовищі оцінки, про яку вже повідомляла Anthropic минулого тижня, і що інцидент не пов’язаний із виходом із “пісочниці” або складною кібератакою. “Наразі відкритих питань немає. Компанія Irregular розробляє аналітичний документ, у якому будуть представлені найкращі практики зі стримування загроз і безпечного проведення кібертестів”, — додав він.
Тоді як моделі Meta✴ та Anthropic отримали доступ до інтернету через помилки, допущені під час тестування, у компанії OpenAI ІІ-агент самостійно використав нову вразливість для доступу до інтернету під час кібертестування.
У будь-якому разі, ці інциденти підкреслюють зростаючу загрозу для кібербезпеки з розвитком ІІ-технологій. Саме тому керівники низки компаній закликали до сповільнення темпів розробки ШІ, щоб насамперед усунути пов’язані з цим ризики.
Дізнатися більше на: 3dnews.ru