Розробники популярного програмного забезпечення з відкритим кодом NanoClaw, яке призначене для підприємств, об’єднують зусилля з лідером у сфері управління ланцюжками поставок програмного забезпечення JFrog. Метою партнерства є впровадження нової спільної інтеграції безпеки, яка, за їхніми словами, захистить автономних агентів NanoClaw від впровадження шкідливого коду.
«Ці агенти виконують дії, які ви не можете контролювати і не можете обов’язково навчити», – заявив Гал Мардер, директор зі стратегії JFrog, в ексклюзивному інтерв’ю VentureBeat.
Партнерство, доступне вже зараз, безпосередньо інтегрує агентів NanoClaw з перевіреними програмними репозиторіями JFrog. Це гарантує, що AI-асистенти зможуть завантажувати лише перевірені та безпечні залежності.
Цей реліз вирішує проблему, що стрімко зростає у сфері технологій: автономні агенти часто встановлюють пакети у фоновому режимі для розширення своїх можливостей, часто без відома чи нагляду з боку людини-оператора.
«Люди, які керують агентами, не обов’язково є розробниками, і вони навіть не усвідомлюють наслідків», – пояснив Гавриїл Коен, творець NanoClaw та генеральний директор і співзасновник стартапу NanoCo AI, що надає комерційні послуги.
Для забезпечення безпеки ширшої екосистеми партнери працюють над тим, щоб зробити це рішення повністю безкоштовним для спільноти відкритого програмного забезпечення. Водночас підприємства зможуть безперешкодно спрямовувати своїх агентів через наявні ліцензовані середовища JFrog.
Нова технічна можливість, що стала можливою завдяки цьому партнерству, доповнює кроки NanoCo щодо додавання діалогових вікон дозволів у всіх додатках, де воно доступне, через співпрацю з Vercel, а також нове партнерство з Docker, яке дозволить агентам NanoClaw безпечніше працювати, ізольовано від інших програмних середовищ, безпосередньо всередині віртуальних контейнерів Docker.
Ризик використання сучасних персональних автономних AI-агентів
Коли оператор взаємодіє з автономною системою, такою як NanoClaw від NanoCo, комунікація відбувається на високому рівні абстракції.
Користувач може просто надіслати аудіофайл або голосове повідомлення, спонукаючи агента самостійно з’ясувати, як його обробити.
Як пояснив Коен, агент міркує: «О, я не можу розпізнати голосові повідомлення, тому я піду і знайду пакет, завантажу щось, встановлю, налаштую і запущу його».
Таке динамічне самовдосконалення робить AI-агентів надзвичайно потужними, але також робить їх дуже вразливими до атак на ланцюжки поставок програмного забезпечення. Зловмисники все частіше отруюють репозиторії з відкритим кодом шкідливими пакетами. Оскільки агенти діють автономно, вибираючи те, що їм потрібно, вони оминають людську перевірку.
Оператори, які можуть навіть не бути розробниками, значною мірою не усвідомлюють наслідків безпеки, що розгортаються за лаштунками.
Як NanoCo та JFrog працюють над запобіганням запуску шкідливого коду агентами
Інтеграція між NanoCo та JFrog діє як автоматизована імунна система для цих AI-середовищ.
По суті, агенти NanoClaw тепер налаштовані так, щоб надсилати запити на програмні пакети, інструменти командного рядка (CLI) та сервери протоколу контексту моделі (MCP) виключно через репозиторії JFrog.
Якщо агент намагається завантажити скомпрометовану бібліотеку, наприклад, вразливу версію популярного пакету Axios, репозиторій JFrog перехоплює запит.
Він блокує встановлення, повертаючи агенту помилку політики безпеки, зазначаючи, що запит було «відхилено репозиторієм JFrog через політику безпеки 403».
Важливо, що система не просто зупиняє загрозу; вона створює цикл динамічної корекції. Агенту повідомляють про вразливість і скеровують його автоматично шукати та встановлювати затверджену, нешкідливу версію запитуваного пакету натомість.
Для великих організацій ця інтеграція вирішує серйозну проблему відповідності вимогам. Мардер зазначає, що в міру того, як підприємства впроваджують автономних агентів, їм потрібна абсолютна видимість.
Організаціям потрібна «система обліку, нам потрібне місце для відстеження того, які агенти хто запускає, які пакети споживає, які навички використовує та які MCP використовує», – сказав він VentureBeat.
Окрім видимості, інтеграція JFrog забезпечує фундаментальний «рівень довіри» та суворе управління тим, до чого ці автоматизовані системи мають доступ.
Ліцензування та доступність
У сфері розповсюдження програмного забезпечення ліцензування та параметри доступу визначають впровадження. Партнерство NanoCo та JFrog використовує подвійний підхід для обслуговування як індивідуальних розробників відкритого програмного забезпечення, так і високорегульованих підприємств.
Для спільноти відкритого програмного забезпечення інтеграція є абсолютно безкоштовною. JFrog надає користувачам відкритого NanoClaw безкоштовний доступ до безпечних, перевірених джерел артефактів, інструментів та навичок.
Це дозволяє окремим розробникам запускати автономних агентів локально, не перевантажуючись запитами на ручне затвердження кожного окремого залежності. Крім того, коли члени спільноти створюють та діляться новими «навичками» для агентів, ці внески завантажуються до репозиторію, скануються на наявність шкідливого коду та очищуються, перш ніж хтось інший зможе їх використати.
Ця інфраструктура безпосередньо нейтралізує загрозу отруєних репозиторіїв спільноти.
Для корпоративних розгортань архітектура безперешкодно інтегрується з існуючим комерційним середовищем організації. Замість використання загальнодоступного репозиторію відкритого програмного забезпечення, корпоративні користувачі вказують своїм агентам NanoClaw на власні внутрішні репозиторії JFrog.
Це гарантує, що вся діяльність агентів відповідає специфічним комерційним ліцензіям компанії, внутрішнім політикам безпеки, потребам видимості та стандартам управління.
Оскільки штучний інтелект продовжує розмивати межу між людським наміром та виконанням машиною, інфраструктура, що забезпечує це виконання, повинна еволюціонувати. Це партнерство визнає ключову реальність: ви не можете навчити ШІ ідеально розпізнавати кожну нульового дня уразливість; натомість ви повинні побудувати середовище, в якому агент просто не зможе досягти цієї уразливості.
Як захиститися (Порада ІТ-Блогу): Активізуйте двофакторну автентифікацію (2FA) для всіх своїх онлайн-акаунтів, особливо для тих, що пов’язані з фінансами та роботою. Перевіряйте URL-адреси перед натисканням на будь-які посилання, щоб уникнути фішингових атак, спрямованих на крадіжку ваших облікових даних.
Джерело новини: venturebeat.com