Під час конференції Meta @Scale, Борис Черні, один із творців Claude Code, відповів на запитання про “петлі” (loops) в контексті штучного інтелекту.
На запитання, чи є “петлі” наступним етапом розвитку ШІ чи черговим хайпом, Черні відповів ствердно: “Так, вони справжні”.
Він пояснив, що якщо два роки тому розробники писали код вручну, потім перейшли до використання агентів для написання коду, то зараз спостерігається перехід до ситуації, коли одні агенти дають завдання іншим агентам, які вже генерують код. За його словами, цей крок, наскільки значущий, як і перехід від написання коду вручну до використання агентів.
Черні детальніше розповів про “петлі” у своїй роботі. Один агент постійно шукає шляхи вдосконалення архітектури коду, тоді як інший аналізує дублювання абстракцій для їх уніфікації. Вони надсилають запити на злиття коду (pull requests), як і будь-які інші розробники, і оскільки код постійно змінюється, їхня робота ніколи не припиняється.
Це потужна ідея, особливо з огляду на значущість постаті Черні. Зі зміною фокусу на агентний штучний інтелект, більшість користувачів зосереджувалися на ефективному управлінні агентами: встановленні чітких цілей, моніторингу проміжних результатів та запобіганні відхиленням від задачі. “Петлі” виводять це на новий рівень, дозволяючи групі агентів працювати безперервно у фоновому режимі. Це вимагає значної довіри до ШІ, але з огляду на стрімке покращення моделей, це може стати наступним кроком у делегуванні реальних завдань штучному інтелекту.
Рекурсивні петлі та їх аналогії
Важливо усвідомити, що це не зовсім нова концепція. Рекурсивні петлі, де функція викликає саму себе для повторення дії за певної умови, є стандартним елементом навчальних курсів з програмування. Тут логіка роботи не є детермінованою – саме під-агент визначає, коли зупинити цикл, а не чітка умова. Однак, базовий підхід залишається тим самим. Відколи програмісти почали використовувати ШІ для виконання завдань, версія рекурсивної петлі, де штучний інтелект контролює штучний інтелект, була неминучою.
“Петля Ральфа” та обчислювальна потужність
На відміну від класичного програмування, агентні “петлі” можуть бути напрочуд простими. Одним з популярних прийомів є “петля Ральфа” (Ralph Loop), названа на честь персонажа Ральфа Віггама. Вона фактично агрегує всю роботу, виконану моделлю, і перевіряє, чи досягнута мета. Це спосіб боротьби з ситуаціями, коли моделі ШІ “загублюються” під час тривалої роботи – по суті, відбувається багаторазове повернення до попередніх кроків, доки завдання не буде завершено.
Інший погляд на “петлі” – це частина загального тренду на збільшення обчислень під час тестування (test-time compute). Як зазначив дослідник OpenAI Ноам Браун, сучасні моделі здатні вирішувати майже будь-яку задачу, якщо надати їм достатньо обчислювальних ресурсів. Це означає, що один зі способів гарантувати вирішення проблеми – це постійно надавати їй обчислювальні потужності, доки вона не буде завершена. Це особливо актуально для завдань типу “сходження на пагорб” (hill-climbing), як-от покращення бази коду, де модель може поступово вносити зміни, доки не досягне певного порогу. Або, як у прикладі Черні, вона може безперервно вдосконалюватись, доки є доступні обчислювальні ресурси.
Вартість та перспективи агентних “петель”
Якщо це звучить дорого, то так воно і є. Подібно до агентного ШІ загалом, “петлі” ШІ споживають токени значно швидше, ніж прості чат-боти для запитань-відповідей. Оскільки метою є постійна робота “петлі”, верхньої межі витрат не існує. Це може бути вигідно для таких компаній, як Anthropic, які заробляють на продажу токенів, але для решти це може виявитися дорогим способом роботи.
Тим не менш, залежно від задачі, яку вирішує агентна “петля”, та правильної конфігурації, що дозволяє контролювати витрати токенів, відхилення та інші типові проблеми ШІ, потенційні вигоди можуть значно перевищувати витрати.
Думка ІТ-Блогу: Впровадження “петель” в агентний ШІ відкриває нові горизонти для автоматизації складних завдань, але вимагатиме значних інвестицій у обчислювальні потужності та ефективне управління ресурсами.
Джерело новини: techcrunch.com