Епоха автономних систем штучного інтелекту настала – подобається нам це чи ні. Те, що розпочалося з невинної розмови з ChatGPT у 2022 році, переросло в екзистенційну дискусію про безпеку робочих місць та повстання машин.
Нещодавно побоювання щодо досягнення загального штучного інтелекту (AGI) стали більш реальними з появою потужних автономних агентів, таких як Claude Cowork та OpenClaw. Погравшись з цими інструментами деякий час, пропоную порівняння.
Перш за все, розглянемо OpenClaw (раніше відомий як Moltbot та Clawdbot). Набравши понад 150 000 зірок на GitHub за лічені дні, OpenClaw вже розгортається на локальних машинах з глибоким системним доступом. Це схоже на робота-«прибиральника» (як Айрона для шанувальників «Річі Річа»), якому ви даєте ключі від свого будинку. Він повинен прибрати його, а ви надаєте йому необхідну автономію для дій та управління вашими речами (файлами та даними) на власний розсуд. Головна мета – виконати поставлене завдання: сортування електронної пошти, автоматичні відповіді, кураторство контенту, планування подорожей тощо.
Далі йде Google Antigravity – агент для кодування з інтегрованим середовищем розробки (IDE), що прискорює шлях від запиту до виробництва. Ви можете інтерактивно створювати повні проектні додатки та модифікувати конкретні деталі за допомогою окремих запитів. Це схоже на молодшого розробника, який може не тільки писати код, але й створювати, тестувати, інтегрувати та виправляти проблеми. У реальному світі це як найняти електрика: вони дуже добре справляються з конкретною роботою, і вам потрібно лише надати їм доступ до конкретного об’єкта (вашої електричної розподільчої коробки).
Нарешті, ми маємо потужного Claude. Випуск Anthropic Cowork, який пропонував ШІ-агентів для автоматизації юридичних завдань, таких як перевірка контрактів та сортування NDA, спричинив різкий спад акцій у сегментах legal-tech та software-as-a-service (SaaS) (так званий SaaSpocalypse). Claude і так був основним чат-ботом; тепер завдяки Cowork він має галузеві знання для специфічних індустрій, таких як юриспруденція та фінанси. Це схоже на наймання бухгалтера. Вони досконало знають свою галузь і можуть займатися податками та рахунками. Користувачі надають специфічний доступ до високочутливих фінансових даних.
Як змусити ці інструменти працювати на вас
Ключ до підвищення ефективності цих інструментів полягає в наданні їм більшої потужності, але це збільшує ризик зловживання. Користувачі повинні довіряти таким провайдерам, як Anthropic та Google, щоб гарантувати, що запити агентів не завдадуть шкоди, не призведуть до витоку даних або не нададуть несправедливої (незаконної) переваги певним постачальникам. OpenClaw є відкритим програмним забезпеченням, що ускладнює ситуацію, оскільки відсутній центральний орган управління.
Хоча ці технологічні досягнення є дивовижними та спрямованими на загальне благо, достатньо однієї-двох негативних подій, щоб спричинити паніку. Уявіть, що агент-електрик спалить усі електричні кола у вашому будинку, підключивши неправильний дріт. У сценарії з агентом це може бути введення некоректного коду, руйнування великої системи або додавання прихованих недоліків, які можуть бути неочевидними одразу. Cowork може пропустити значні можливості для заощадження під час подання податків користувача; з іншого боку, він може включити незаконні списання. Claude може завдати непередбачуваної шкоди, маючи більше контролю та повноважень.
Але посеред цього хаосу існує можливість отримати справжню вигоду. За наявності правильних запобіжників агенти можуть зосередитись на конкретних діях і уникати випадкових, неврахованих рішень. Принципи відповідального штучного інтелекту – підзвітність, прозорість, відтворюваність, безпека, конфіденційність – надзвичайно важливі. Реєстрація кроків агента та людське підтвердження є абсолютно критичними.
Також, коли агенти взаємодіють із такою кількістю різноманітних систем, важливо, щоб вони говорили однією мовою. Онтологія стає дуже важливою, щоб події можна було відстежувати, моніторити та враховувати. Спільна предметно-орієнтована онтологія може визначити «кодекс поведінки». Ці етичні норми ШІ можуть допомогти контролювати хаос. У поєднанні зі спільним рівнем довіри та розподіленою системою ідентифікації ми можемо створювати системи, які дозволять агентам виконувати справді корисну роботу.
При правильному підході екосистема агентів може значно зменшити «когнітивне навантаження» людини та дозволити нашим працівникам виконувати завдання високої цінності. Люди виграють, коли агенти виконуватимуть рутинну роботу.
Dattaraj Rao – архітектор інновацій та R&D у Persistent Systems.
Ласкаво просимо до спільноти VentureBeat!
Наша програма гостьових публікацій – це місце, де технічні експерти діляться своїми думками та надають нейтральні, неупереджені глибокі аналізи ШІ, інфраструктури даних, кібербезпеки та інших передових технологій, що формують майбутнє підприємств.
Читайте більше з нашої програми гостьових публікацій – та ознайомтеся з нашими рекомендаціями, якщо ви зацікавлені у внеску власної статті!
Прогноз ІТ-Блогу: У найближчі 1-2 роки ми побачимо значний розвиток гібридних моделей ШІ, які поєднуватимуть потужності генеративного ШІ з інструментами для виконання конкретних завдань. Це призведе до появи більш надійних та керованих автономних систем, а також до зростання потреби у створенні прозорих онтологічних рамок для безпечної взаємодії.
Джерело новини: venturebeat.com