У минулому півріччі стартап Anthropic через суперечності з Пентагоном став першою американською компанією, яка потрапила до списку неблагонадійних постачальників, що складається цим відомством. Відтоді урядові структури США формально не повинні були використовувати розробки Anthropic, але обізнані джерела стверджують, що вони це роблять для пошуку вразливостей у своїй інформаційній інфраструктурі.
Джерело зображення: Anthropic
Використання AI-моделі Anthropic у державних структурах США
Видання Reuters повідомило про використання ШІ-моделі Mythos Агентством з кібербезпеки та захисту інфраструктури США (CISA), яке входить до складу Міністерства внутрішньої безпеки. Ця урядова структура, за словами джерела, проводить аудит репозиторію програмного забезпечення, що використовується урядом США, з допомогою ШІ-моделі Mythos, яка оптимізована для пошуку вразливостей у програмному коді. Представники Anthropic та CISA своїх коментарів з цього питання Reuters не надали.
Деталі застосування та оцінка ефективності
Спеціалізований підрозділ CISA, який займається імітацією хакерських атак на інфраструктуру, нібито використовує Mythos у своїй роботі. За даними деяких джерел, фахівцям відомства вдалося знайти велику кількість уразливостей, які потребують усунення. Їхню серйозність визначити неможливо за наявними уривчастими даними. АНБ (Агентство національної безпеки) почало використовувати Mythos у своїх цілях ще в квітні, як нагадує Reuters, в результаті фахівці відомства високо оцінили можливості цієї ШІ-моделі у сфері виявлення вразливостей програмного коду.
Головний підсумок від ІТ-Блогу: Незважаючи на включення до списку неблагонадійних постачальників, урядові агентства США, зокрема CISA та АНБ, таємно використовують ШІ-модель Mythos від Anthropic для виявлення кіберзагроз. Це вказує на високу оцінку функціональності моделі для забезпечення безпеки, попри формальні обмеження.
Оригінал статті: 3dnews.ru