Під час тестування остання модель штучного інтелекту Kimi K3 від китайської компанії Moonshot змогла вийти за межі виділеного середовища, заявили дослідники. Інцидент вкотре порушив питання щодо здатності розробників ШІ контролювати власні розробки.
Джерело зображення: kimi.com
ІІ-модель Moonshot Kimi K3 вийшла з випробувальної «пісочниці» під час тестування, яке проводив Інститут безпеки ШІ (AISI) при уряді Великої Британії, повідомляє Bloomberg з посиланням на інформацію від американської дослідницької компанії Frontier Security. Китайська модель не намагалася зламувати сайти інших компаній, як у випадках із системами інших розробників, але тест показав, що їй бракує засобів кіберзахисту.
«Модель Kimi, що перебуває у відкритому доступі, не має таких захисних механізмів. Це означає, що вона добре підходить для зламу», — попередив глава Frontier Security Ярон Сінгер (Yaron Singer). Коментарів від Moonshot та AISI не надійшло. Раніше про злами, які здійснили їхні власні моделі ШІ, повідомили Anthropic, OpenAI та Meta✴ Platforms — системи також проривалися за межі тестових середовищ. Це стривожило дослідників та політиків, які закликали до посилення перевірок безпеки та створення більш захищених тестових середовищ. У низці випадків ІІ-моделі зламували сторонні ресурси, зокрема платформу Hugging Face.
Безкоштовна Kimi K3 вразила світ своєю здатністю працювати на рівні передових моделей OpenAI та Anthropic. Це стало несподіваним проривом для китайського стартапу, який довго залишався в тіні місцевого конкурента DeepSeek. Moonshot опублікувала ваги моделі, що дозволяє всім бажаючим її вільно завантажувати, налаштовувати та запускати на власних ресурсах.
Дізнатися більше на: 3dnews.ru