AWS оголосила про випуск нової версії OpenSearch Serverless — повністю керованої бази даних для пошуку та векторної обробки даних, розробленої з урахуванням специфіки агентних робочих навантажень.
Джерело зображення: Igor Omilaev/unsplash.com
За словами Тіа Вайт (Tia White), генерального менеджера Amazon OpenSearch Service, агенти переходять з експериментальної стадії в виробничу, створюючи моделі трафіку з миттєвими змінами інтенсивності, для яких попередня інфраструктура просто не була призначена.
Агенти можуть за запитом демонструвати сплеск активності, створюючи безліч під-агентів, які за лічені секунди запитують дані з сотень баз даних, шукають документи та викликають API, а потім також швидко припиняють діяльність. Як стверджує AWS, OpenSearch Serverless нового покоління може миттєво масштабуватися при запуску завдань агентами і повертатися до нуля в режимі очікування.
Ключова зміна полягає в тому, що сервіс відокремлює обчислювальні ресурси від сховища, дозволяючи масштабувати обчислювальні потужності за лічені секунди для обробки сплесків трафіку агентів і зменшувати їх до нуля, зводячи також до нуля витрати клієнтів, коли агенти простоюють. Клієнт платить тільки за ресурси, що споживаються його активними робочими навантаженнями, а не за виділену потужність, що забезпечує значну економію.
«OpenSearch Serverless наступного покоління масштабується від нуля до тисяч запитів на секунду і назад до нуля в режимі очікування, забезпечуючи економію коштів до 60 % порівняно з вартістю кластерів OpenSearch Service, виділених для пікового навантаження», — повідомила AWS.
«Раніше в нашій попередній версії Serverless потрібно було мати щонайменше один працюючий екземпляр, тому що сховище та обчислювальні ресурси були взаємопов’язані, — повідомила Вайт. — Ви не могли просто автоматично запускати [обчислювальні ресурси] з необхідною швидкістю, тому у вас завжди були вільні обчислювальні ресурси, зарезервовані для вашого робочого навантаження, незалежно від того, використовували ви їх чи ні».
Традиційно для роботи з OpenSearch вимагалося виділення інстансів EC2, налаштування кластерів, управління масштабуванням, а також обробка оновлень та резервне копіювання. При використанні OpenSearch Serverless всі ці операційні завдання AWS бере на себе.
Сервіс використовує обчислювальні одиниці OpenSearch (OCU) для вимірювання та виставлення рахунків за ресурси, динамічно масштабуючи їх залежно від потреб робочого навантаження клієнта, від періодів простою до раптових піків, без необхідності будь-якого ручного втручання.
На момент запуску OpenSearch Serverless буде інтегрований з платформами розробки ШІ, такими як Vercel та Kiro, тому розробники зможуть розгортати готові до виробництва бекенди пошуку та векторизації для агентів без управління інфраструктурою.
Розширення використання агентного ШІ спричинило трансформацію всієї хмарної індустрії. Microsoft випустила оновлення для платформи Azure, призначені забезпечити ресурсами сплески активності ШІ-агентів та спільне використання ними пам’яті. Компанія Cloudflare минулого місяця представила інфраструктуру для забезпечення агентів постійними середовищами та миттєвою масштабованістю.
За даними Cloudflare, за останні шість місяців на ботів припадала майже третина (31 %) всього HTTP-трафіку. Приблизно чверть усіх запитів від ботів припадала на пошукові роботи, пошукові системи та голосові помічники.
«Нелюдський трафік перевищить людський приблизно в першій половині 2027 року», — повідомила Лай І Ольсен (Lai Yi Ohlsen), старший менеджер з продуктів Cloudflare, в інтерв’ю TechCrunch.
Головний підсумок від ІТ-Блогу: Нова версія AWS OpenSearch Serverless вирішує проблему масштабування для агентних робочих навантажень, відокремлюючи обчислювальні ресурси від сховища. Це дозволяє миттєво масштабуватися під час пікових навантажень та зменшуватися до нуля в режимі очікування, забезпечуючи значну економію коштів для користувачів.
Подробиці можна знайти на сайті: 3dnews.ru