General Compute, стартап у сфері хмарних обчислень для інференсу ШІ, отримав позику у розмірі 400 мільйонів доларів від Upper90, інвестиційної компанії, що фокусується на технологіях. Ймовірно, це перша угода, де заставою виступають чіпи, призначені саме для інференсу – тобто, для швидкого та ефективного запуску вже навчених моделей ШІ, на відміну від дорожчих чіпів, які використовуються для навчання моделей.
Це фінансування є черговим сигналом того, що ринки реагують на занепокоєння щодо вартості інструментів та “токенів” ШІ, звертаючи увагу на інфраструктуру, яка дозволяє запускати моделі з відкритим вихідним кодом дешевше, ніж найновіші великі мовні моделі (LLM) від провідних лабораторій.
Компанія General Compute, заснована генеральним директором Фінном Пукловскі та технічним директором Джейсоном Гудісоном, залучила 15 мільйонів доларів посівного фінансування у травні для створення “нео-хмари” для інференсу на базі чіпів від SambaNova, виробника напівпровідників за підтримки Intel. (Нео-хмари – це спеціалізовані рішення для завдань ШІ, на відміну від універсальної інфраструктури, яку пропонують традиційні гіперскейлери, як-от AWS чи Azure).
Чіпи SN50 компанії розроблені для інференсу. Вони енергоефективні та не потребують дорогих систем водяного охолодження, що дозволяє швидше розгортати їх, ніж GPU, у ширшому спектрі дата-центрів. General Compute стверджує, що нові чіпи забезпечать у 16 разів швидший інференс порівняно з хмарами на базі GPU.
Виклик полягає в тому, щоб отримати багато таких чіпів, особливо для абсолютно нової компанії.
Співзасновник і генеральний директор Upper90 Біллі Ліббі, колишній кількісний трейдер Goldman Sachs, мав для цього свій план: у 2021 році його фірма фінансувала закупівлю GPU компанією Crusoe, стартапом, що спеціалізується на дата-центрах з фокусом на енергетику. Ліббі вважає, що це був перший випадок кредитування під заставу передових чіпів.
Традиційні кредитори уникали таких угод у той час через ризики та невизначеність щодо амортизації GPU. Але після того, як CoreWeave зробила кредити під заставу чіпів своєю бізнес-моделлю, а потім і основою для успішного IPO, таке фінансування стало поширеним.
«Коли ми вперше профінансували GPU Nvidia, це був неефективний ринок», — розповів Ліббі TechCrunch. «Ми змогли створити щось як ранні учасники і отримати компенсацію за ризик».
Зараз, коли GPU відносно добре вивчені та, можливо, перекуплені, Upper90 звертає увагу на такі компанії, як General Compute, щоб скористатися наступною хвилею буму ШІ. «Ми вважаємо, що моделі з відкритим вихідним кодом будуть важливими, і минулого року ми шукали гравця, який працює в галузі інференсу», — сказав Ліббі. «Не всім потрібен суперкомп’ютер, але всім потрібен інференс та ШІ».
Ця теза стає все сильнішою: компанії, що надають доступ до відкритих моделей, як-от OpenRouter та Fireworks, залучають нові раунди фінансування з величезними оцінками. Нові моделі, як-от K3 від Kimi, довели свою конкурентоспроможність із останніми розробками Anthropic та OpenAI у тестах кодування. А нові виробники чіпів, як-от Groq та Cerebras, привернули інтерес як з боку потенційних покупців, так і публічного ринку.
Здатність General Compute отримувати доступ до чіпів поза екосистемою Nvidia має значення з тієї ж причини. TensorWave, ще одна компанія в галузі інфраструктури ШІ, робить схожу ставку на партнерство з AMD. З появою все більшої кількості альтернатив Nvidia, постачальники обчислень, які не прив’язані до угод з Nvidia, можуть мати перевагу у забезпеченні економічно ефективного інференсу.
«Існує багато чіпів, які починають масштабуватися, мають дивовижну [загальну вартість володіння] або можуть працювати значно швидше, ніж Nvidia, але для них не так багато покупців», — сказав Пукловскі. «Об’єднавшись з Upper90, це не просто «крутий стартап отримав гроші на покупку обчислень». Це перший сигнал про те, що капітал організовується, і про фрагментацію монополістичного домінування Nvidia».
Під час покупок за посиланнями в наших статтях ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Інформація підготовлена на основі матеріалів: techcrunch.com