Агентний штучний інтелект (ШІ) сьогодні стає невід’ємною частиною інженерних процесів, забезпечуючи колосальний приріст продуктивності та дозволяючи генерувати значно більше коду. Проте, все частіше від керівників бізнесу лунає складне запитання: якщо ми створюємо код швидше, ніж будь-коли, чому наші продукти не вдосконалюються з такою ж швидкістю?
Причина полягає в тому, що саме написання коду ніколи не було обмежуючим фактором. Визначення правильних вимог, інтеграція зі складними системами та підтримка програмного забезпечення в реальних умовах завжди були найскладнішими аспектами. І коли агенти насичують організацію великою кількістю нового коду, ці складні завдання стають ще складнішими. Агенти скорочують час виконання, але не усувають невизначеність, не беруть на себе відповідальність і не спрощують операційну складність.
Зі зростанням обсягів ШІ-згенерованого коду, людський контроль стає новим масивним вузьким місцем, а інженери втрачають необхідний контекст для виявлення помилок, допущених агентами. Компанії, які усвідомлять це, діятимуть виважено і навіть створять нові ролі завдяки ШІ. Ті ж, хто цього не зробить, схилятимуться до простішого, але значно більш руйнівного висновку: скорочення штату та збільшення витрат на ШІ.
План дій
Незворотні структурні рішення вимагають обережності, саме тому, що технології розвиваються так стрімко. Керівники інженерних відділів підприємств потребують продуманого плану дій для навігації в цьому хаосі. Ось як можна почати:
Фаза 1: Фінансове управління та управління ризиками
Захистіть себе від негативних наслідків — забезпечте інфраструктуру та обмежте фінансові втрати.
-
Ставтеся до управління як до ризику першого рівня: Тиск щодо інтеграції ШІ є реальним, але надання командам свободи експериментувати без централізованої структури призводить до фрагментованих процесів, дублювання роботи та неконтрольованих витрат. Організації повинні встановити спільні стандарти, дозволяючи при цьому командам адаптуватися та досліджувати в межах визначених кордонів. Це означає ставитися до конфігурації агентів як до виробничої інфраструктури — версіонувати, переглядати та тестувати промпти та навички перед поступовим розгортанням.
-
Забезпечте мінімальні привілеї для нелюдських акторів: Ніколи не дозволяйте агенту просто успадковувати повні права доступу свого людського оператора. Людські інженери отримують широкі права доступу, оскільки вони мають контекстуальне судження та несуть остаточну відповідальність. Розгортання агентів з доступом на рівні людини без ретельного розгляду створює прогалину у відповідальності у ваших системах. Впроваджуйте суворе розділення між доступом на читання та запис/виконання, а також вимагайте обов’язкового затвердження людиною для деструктивних дій або дій, що змінюють виробниче середовище. Коли агенти переходять від пропозицій коду до самостійного виконання завдань, вони повинні бути ретельно інтегровані у вашу модель безпеки.
-
Слідкуйте за витратами: Захистіть свій загальний бюджет на ШІ, запроваджуючи квоти та обмеження швидкості як для інженерної роботи, так і для виробництва. Приклади, що застерігають, стають все більш поширеними: Uber обмежив свої витрати на ШІ після того, як витратив бюджет 2026 року до квітня, а, за даними Axios, неназвана компанія нарахувала приголомшливий рахунок Anthropic на 500 мільйонів доларів за один місяць через неконтрольовані агентні цикли.
Фаза 2: Технічна стратегія
Побудуйте “двигун”: виберіть правильні моделі та виміряйте їх успішність.
-
Використовуйте мультимодельний підхід та кількох постачальників: Жодна окрема модель не є досконалою у всіх завданнях. Важливо точно характеризувати межі поведінки та продуктивності різних моделей, щоб розуміти, де кожна з них демонструє свої сильні сторони, і спрямовувати конкретні завдання до систем, які найкраще пристосовані для їх виконання. Стандартизація на одному постачальнику чи моделі призводить до втрати можливостей і створює критичну єдину точку відмови. Жодна організація не повинна брати на себе такий рівень ризику концентрації у своїй основній інженерній функції.
-
Платіть за передові розробки: Розглядайте ШІ як важіль для інженерії, а не просто як чергову витрату SaaS. Платіть за преміальні передові моделі, які забезпечують найвищу якість результатів і зменшують витрати на переробку. Зрештою, найдешевша модель — це не та, що має найнижчу ціну за токен, а та, що максимізує ефективність, мінімізуючи ваші подальші ризики.
-
Вимірюйте те, що дійсно має значення: Розгортання, рядки коду та запити на злиття ніколи не були хорошими показниками продуктивності, а з появою ШІ вони стають активно хибними. Натомість, орієнтуйтеся на метрики, пов’язані з бізнес-результатами (прийняття функцій, утримання користувачів) та інженерною стійкістю (рівень збоїв змін, пропущені дефекти, довговічність коду з часом). Для ефективності ШІ вимірюйте успішність завдань на долар та час переробки. Кількість токенів зручна для рейтингових таблиць, але вона не може сказати, чи були ці токени витрачені з користю.
Фаза 3: Таланти та організація
Переорієнтуйте людський капітал для управління новим вузьким місцем.
-
Переведіть інженерів від синтаксису до систем: Оскільки агенти беруть на себе основну частину генерації коду, людський контроль та архітектурна узгодженість стають новими вузькими місцями. Організації повинні свідомо підвищувати кваліфікацію свого персоналу, щоб перейти від авторів синтаксису до системних мислителів та менеджерів агентів. Інженери потребують навчання та повноважень для керування агентними процесами, управління складними міжсистемними інтеграціями та підтримання загального архітектурного бачення, яке агентам може бути важко зберегти.
-
Перевизначте продуктивність та стимули: Коли окремий інженер може генерувати результат, який раніше вимагав цілої команди, традиційні метрики, такі як бали завдань або швидкість спринтів, можуть стати неефективним навантаженням. Розгляньте можливість переорієнтації ваших систем оцінки, щоб краще винагороджувати розширений бізнес-вплив, надійність між системами та ефективну оркестрацію агентів. Якщо ви хочете отримати системних мислителів, які охоплюють ширшу стратегічну сферу, готові досліджувати та ризикувати, і створювати продукти довговічно, ви повинні винагороджувати їх за вплив вищого рівня, а не за чистий обсяг.
-
Не скорочуйте штат, поки ваша стратегія не адаптується: Якщо ви не інтегрували агентні робочі процеси, не виміряли розширений випуск продукції в реальних умовах і не переглянули свою дорожню карту для прискорення виконання, ви насправді не знаєте, чи відповідають ваші потреби та можливості. Скорочення штату до встановлення цієї базової лінії — це не дисципліна, а сліпота. Мета — не просто менші команди, а команди, здатні охопити ширшу стратегічну сферу.
Впровадження корпоративного ШІ вимагає людської еластичності
ШІ — це не заміна інженерного судження, а його множник сили. У добре структурованих системах він безпечно прискорює доставку. У погано зрозумілих системах він прискорює збій. Ми вже бачимо наслідки: збої, зростання технічного боргу та несподівані сплески витрат, спричинені погано керованим впровадженням. Це операційні збої, а не теоретичні ризики.
Помилка, яку зараз роблять організації, полягає не в надто повільному впровадженні ШІ, а в його впровадженні без розуміння того, де він виходить з ладу.
Для вищого керівництва розуміння цієї динаміки більше не є опціональним — це визначальний фактор того, як бізнес навігує в цю епоху. Виклик полягає в тому, що швидкість виконання випереджає здатність галузі керувати наслідками. Ми передали інженерним командам найпотужніший інструмент. Стара приказка вимагає “сім разів відміряй, один раз відріж”. Натомість, занадто багато фірм обирають просто “відрізати”.
Джо Бертоламі — технічний директор та співзасновник Clifton AI.
Ласкаво просимо до спільноти VentureBeat!
Наша програма запрошених авторів — це місце, де технічні експерти діляться своїми знаннями та надають нейтральні, неупереджені глибокі аналізи щодо ШІ, інфраструктури даних, кібербезпеки та інших передових технологій, що формують майбутнє підприємств.
Читайте більше від нашої програми запрошених авторів — і ознайомтеся з нашими рекомендаціями, якщо ви зацікавлені у внесенні власної статті!
Прогноз ІТ-Блогу: У найближчі 1-2 роки ми побачимо значне вдосконалення механізмів людського контролю та затвердження для агентних систем ШІ. Компанії, які успішно впровадять ці процеси, зможуть масштабувати свої операції, тоді як інші зіткнуться зі зростанням витрат та технічного боргу.
За даними порталу: venturebeat.com