Вибух популярності штучного інтелекту (ШІ) спричинив справжній бум серед компаній, які прагнуть запустити власні дата-центри. Однак, створення такої інфраструктури – це не завжди проста справа.
Навіть якщо вам вдасться розв’язати питання забезпечення необхідними GPU (графічними процесорами), мережевими комутаторами та сховищами даних, залишається ще багато роботи: конфігурація, налаштування та забезпечення можливості задовольняти різноманітні потреби клієнтів. Підготовка дата-центру до надання послуг хмарних обчислень, особливо для завдань інференсу (висновків) та тренування моделей ШІ, може зайняти місяці. А чим довше ви йдете до виходу на ринок, тим вищі витрати, пов’язані з простою дороговартісних GPU.
Netris: Прискорюємо запуск хмарних дата-центрів
Стартап з мережевої автоматизації Netris стверджує, що може допомогти вирішити цю проблему для нових хмарних провайдерів (neoclouds). Компанія пропонує програмне забезпечення, яке працює безпосередньо на мережевих комутаторах, а також платформу, що інтегрується з цими пристроями. Її мета – скоротити час виходу на ринок для операторів neoclouds шляхом автоматизації налаштування, конфігурації та операційної діяльності. Платформа також забезпечує мережеву абстракцію, що дозволяє легко змінювати апаратні конфігурації за потреби, та ізолює сервери й ресурси на апаратному рівні, що дає змогу обслуговувати кількох клієнтів одночасно (мультитенантність).
Розв’язання очевидної проблеми для малого бізнесу
Якщо це звучить як рішення очевидної проблеми, то ви не помиляєтеся. Донедавна дата-центри були переважно сферою діяльності великих інфраструктурних операторів, таких як Equinix, NTT, Digital Realty, Oracle, Microsoft, AWS чи Google. Ці компанії здебільшого вирішували питання налаштування мережі, конфігурації та мультитенантності самостійно, наймаючи великі команди інженерів або розробляючи власні системи автоматизації. Невеликі ж компанії, що створюють нові хмарні сервіси, рідко мають такі ресурси.
«Як оператору GPU-кластера, вам потрібно щодня вносити зміни до конфігурації кожного з’єднання. У традиційних дата-центрах для цього використовували так звані SDN (програмно-визначені мережі), але SDN виявляється недостатнім, оскільки це програмна технологія», – розповів TechCrunch генеральний директор Netris Алекс Сароян. «Для ШІ програмні рішення не підходять, тому що обсяг трафіку настільки великий, що все має бути апаратно прискорене. Тому вам потрібне щось на кшталт SDN, але повністю апаратно прискорене. Саме це ми й робимо, і цим займаємося вже вісім років».
Сароян зазначив, що платформа Netris є незалежною від виробника і сумісна з мережевим обладнанням та стандартами, що використовуються в дата-центрах, як для серверів Nvidia, так і для AMD.
Інвестиції та майбутні плани
Обіцянка стартапу знайшла багато прихильників, серед яких і Nvidia. Два роки тому чип-гігант був настільки вражений демонстрацією технології Netris, що рекомендував компанію кільком своїм клієнтам. Сьогодні Netris вже працює на понад 35 GPU-кластерах по всьому світу (загалом близько мільйона GPU), якими керують такі компанії, як Lightning AI, Foxconn, Visionbay, Hewlett Packard Enterprise, TensorWave, Telus та інші.
Щоб закріпити цей успіх, Netris нещодавно залучив 15 мільйонів доларів у рамках раунду фінансування Серії А від Andreessen Horowitz, про що TechCrunch дізнався ексклюзивно.
Цікаво, що в продукті Netris не використовується штучний інтелект. Сароян пояснив, що компанія застосовує лише власні алгоритми, розроблені раніше для управління автоматизацією та операційною діяльністю. «Ми почали значно раніше, ніж з’явився ШІ. Ми рано усвідомили цей виклик і почали розробляти цей алгоритм. ШІ не є детермінованим, чи не так? Іноді він робить речі самостійно. Це добре для творчої роботи, але для зміни тисяч конфігурацій комутаторів вам не потрібна креативність. Вам потрібна послідовність і повторюваність».
Гвідо Аппенцеллер, партнер a16z, увійде до складу ради директорів компанії. Надалі Netris планує використати залучене фінансування для найму більшої кількості інженерів та спеціалістів з продажів, додавання підтримки для ширшого кола виробників обладнання та впровадження нових функцій у свій алгоритм.
Думка ІТ-Блогу: Проблема масштабування інфраструктури для ШІ є однією з найгостріших для нових гравців ринку. Рішення від Netris, яке фокусується на апаратно-прискореній автоматизації мережі, може суттєво знизити бар’єр входу для компаній, що прагнуть надавати послуги ШІ-хмар, роблячи їх більш конкурентоспроможними.
Дізнатися більше на: techcrunch.com