Британське Управління комісара із захисту інформації (ICO) заявило, що уважно стежить за розвитком подій, пов’язаних з OpenAI та Anthropic, після нещодавніх хакерських атак, скоєних агентами штучного інтелекту цих компаній.
Джерело зображення: chris robert / unsplash.com
Галузь ШІ опинилася під пильною увагою влади США — адміністрація президента Дональда Трампа завершила розробку добровільних тестів на кібербезпеку; у Євросоюзі влада регіону також вступила в переговори з двома лідерами галузі.
«Управління комісара із захисту інформації Великої Британії регулярно проводить проактивні наглядові заходи щодо розробників ШІ, зокрема OpenAI та Anthropic. Нам відомо про нещодавні хакерські атаки, що торкнулися галузі, і ми уважно стежимо за розвитком подій», — заявили у відомстві.
Раніше OpenAI визнала, що дві її моделі та ШІ-агенти вийшли з-під контролю та зламали ресурси платформи Hugging Face; згодом Anthropic повідомила, що деякі її моделі Claude під час тестів на кібербезпеку також зламали системи трьох компаній. Британська влада має намір розглянути питання про регулювання передових моделей ШІ, якщо чинна добровільна система їх тестування перед розгортанням перестане забезпечувати достатній рівень захисту населення.
Подробиці можна знайти на сайті: 3dnews.ru