У вівторок компанія Runware, що спеціалізується на інфраструктурі ШІ, анонсувала запуск власного модульного дата-центру під назвою Sonic Inference Pod. Розроблений як єдиний транспортувальний блок, Pod представляє собою більш гнучкий тип обчислень, який може розміщуватися поряд з масштабними проєктами дата-центрів від гіперскейлерів.
Runware стверджує, що Pod може забезпечувати вищу якість висновків (inference) за нижчою ціною, ніж інші безсерверні платформи для висновків та хмари GPU. Модульна конструкція означає, що потужності можна швидко нарощувати, створюючи нові Pods, замість того, щоб розширювати стаціонарний дата-центр. “Це майбутнє”, — сказав TechCrunch Флавіу Радулеску, співзасновник та CEO Runware.
«Ми віримо, що розподілені обчислення, розташовані ближче до кінцевих користувачів для швидших висновків, переможуть у довгостроковій перспективі», — зазначив він, наводячи свою компанію як приклад. Окрім нижчої ціни, Радулеску підкреслив, що система Runware може швидко масштабуватися та нарощувати потужності, розгортатися будь-де, де є доступ до електроенергії, та швидко адаптуватися до нових апаратних рішень. Pods від Runware також не використовують воду, натомість застосовують замкнуту систему охолодження, яку можна побудувати за кілька днів, на відміну від місяців або навіть років, необхідних для будівництва традиційних дата-центрів.
«Попит на висновки зростає швидше, ніж вдається побудувати потужності, — сказав Радулеску. — Ми хочемо живити інтелект світу, стати основою, на якій працює кожна модель ШІ, забезпечуючи потужності, які відповідають попиту, а не обмежують його».
За словами Радулеску, Runware наразі має 10 Pods, розгорнутих у США, Європі та Азійсько-Тихоокеанському регіоні. Компанія вже надає послуги висновків кільком клієнтам, зокрема Higgsfield AI та Wix, і має 160 доступних майданчиків для розгортання своїх Pods. У грудні Runware оголосила про залучення 50 мільйонів доларів серії А для створення інфраструктури, необхідної компаніям для генерації зображень. Розширення до Pods вони розглядають як частину місії компанії: надавати послуги висновків компаніям, а не як окремий продукт.
AI-лабораторії, такі як OpenAI та SpaceX, продовжують гонку за будівництвом дата-центрів по всій території США. Наприклад, OpenAI близька до укладання угоди на 500 мільярдів доларів про будівництво дата-центру в Огайо, згідно з повідомленнями. Однак Радулеску не бачить у цих проєктах загрози для Sonic Inference Pods, називаючи гнучкість Pods ключовою перевагою.
«Кожен Pod працює як частина єдиної мережі, тому запити надходять туди, де є вільні потужності, ближче до користувачів, і якщо один Pod виходить з ладу, трафік перенаправляється на інший», — зазначив він, додавши, що збій системи означає вихід з ладу одного Pod, а не цілого стаціонарного об’єкта. «Клієнти, які хочуть мати виділене обладнання, отримують у своє розпорядження цілі Pods».
Він також не надто стурбований тим, що інші компанії будуватимуть подібні рішення самостійно, пояснюючи, що розробка обладнання є повільною, а пул талановитих фахівців для створення та обслуговування цієї технології — невеликий.
«Помилка в дизайні друкованої плати коштує місяців на перепроектування, симуляцію, виготовлення, тестування та доставку, — сказав він. — Кожен із цих етапів вимагає когось, хто точно розуміє, що робить кожен компонент і що вийде з ладу, якщо його не буде».
Будівництво дата-центрів для ШІ є суперечливою темою, зокрема через великі обсяги ресурсів, які вони споживають. У громадах, де розташовані дата-центри, вже повідомляють про зростання витрат на комунальні послуги. Runware бачить майбутнє, де їхні рішення працюватимуть на відновлюваній енергії та не споживатимуть ресурси, необхідні громадам, але цей день ще не настав.
Радулеску зазначив, що використання енергії для ШІ зростатиме незалежно, «зумовлене попитом на висновки, а не тим, хто його забезпечує». Наразі Runware зосереджується на тому, як цей попит буде задовольнятися, — сказав він. — Відсутність втрат при передачі, відсутність води в охолодженні, і ми використовуємо вже наявну електроенергію замість того, щоб вимагати будівництва нової мережевої потужності. Більше обчислень, реалізованих таким чином, означає менше потреби в нових мережах, менше води при тому ж обсязі обчислень».
Під час купівлі товарів за посиланнями в наших статтях ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Оригінал статті: techcrunch.com