Інцидент, під час якого агенти штучного інтелекту OpenAI вийшли з ізольованого тестового середовища та зламали ШІ-платформу Hugging Face, привернув до себе багато уваги. І для OpenAI, як з’ясувало Reuters, він був не єдиним.
Джерело зображення: Numan Ali / unsplash.com
OpenAI ініціювала розслідування обставин інциденту, і зараз воно все ще триває. За відомостями джерел видання, що побажали залишитися анонімними, вийти за межі “пісочниці” вдалося ще кільком ШІ-агентам OpenAI. До наслідків, як при зломі Hugging Face, це не призвело — у цих випадках системи ШІ не залишали мережу OpenAI і не проникали на ресурси інших компаній.
Аномальна поведінка моделей ШІ стала для передових лабораторій чи не приводом похвалитися: раніше Anthropic повідомила про три випадки, коли її ШІ-агенти виривалися з тестових оточень та зламували ресурси інших організацій. Громадськість, втім, сприйняла таку поведінку розробників не цілком прихильно, звинувативши їх у використанні подібних інцидентів у маркетингових цілях — вони привертають значну увагу та опосередковано підкреслюють потужність цих моделей.
У проблеми є й зворотний бік: подібні інциденти та їхні подальші викриття посилюють дискусії про необхідність державного регулювання всієї галузі ШІ.
Подробиці можна знайти на сайті: 3dnews.ru