Компанія Furiosa AI готується подвоїти виробництво своїх чіпів до 50 000 одиниць, готуючи свій 2-нм чип “Stork” для того, щоб кинути виклик домінуванню NVIDIA у сфері інференсу.
Furiosa AI стверджує, що її 3-е покоління чипів “Stork” на базі 2 нм матиме найкращі на ринку можливості інференсу, а також подвоїть виробництво чипів 2-го покоління наступного року, щоб зламати монополію NVIDIA
У травні Furiosa AI анонсувала свій прискорювач штучного інтелекту третього покоління під назвою Stork для платформи RNGD (Renegade). Чип побудований за 2-нм техпроцесом від Broadcom, і стартап стверджує, що він конкуруватиме з NVIDIA, пропонуючи провідну енергоефективність та найнижчу вартість за токен.
Згідно з галузевими джерелами від 13 числа, Furiosa AI планує значно збільшити обсяг виробництва свого спеціалізованого чипа для інференсу LLM другого покоління, “Renegade (RNGD)”, до 40 000–50 000 одиниць наступного року. Це більш ніж удвічі перевищує цьогорічні 20 000 одиниць. Це перший випадок, коли плани виробництва на наступний рік від Furiosa AI, провідної вітчизняної компанії з виробництва напівпровідників для ШІ, були підтверджені.
За матеріалами ETNews
Поточний 2-нм чип вже запущений у масове виробництво, і очікується, що до 2026 року буде готово 20 000 одиниць. Але Furiosa AI має більш амбітні плани щодо своїх ШІ-прискорювачів. Ці плани включають подвоєння виробництва чипів до 40–50 тис. одиниць наступного року. Компанія заявила, що стрімке зростання інференсу ШІ спонукало їх подвоїти виробництво, оскільки вони прогнозують величезний попит, виходячи з їхніх нещодавніх досягнень.
Чип Stork від Furiosa AI – революція в 2-нм інференсі ШІ
Дизайн наступного покоління буде повністю зосереджений на сегменті інференсу ШІ, оскільки агентний ШІ продовжує користуватися величезним попитом. Третє покоління ШІ-прискорювачів від FuriosaAI має наступні ключові особливості:
- Платформа поєднує 2-нм обчислювальну технологію з пам’яттю HBM4/4E, призначену для забезпечення високошвидкісної мережі масштабу стійки для масивних обчислювальних кластерів ШІ.
- Архітектура оптимізована для вимогливих робочих навантажень інференсу з акцентом на високошвидкісну передачу даних, що забезпечує вищу продуктивність на ват та більшу щільність токенів, ніж навіть у найефективніших GPU.
- Вона базується на чипі RNGD поточного покоління від Furiosa, який зараз перебуває у масовому виробництві. Серед клієнтів – Samsung SDS та LG AI Research.
Починаючи з деяких деталей, наданих FuriosaAI, платформа чипів Stork AI буде використовувати передовий 2-нм обчислювальний кристал та стандарт пам’яті HBM4/E. Компанія співпрацює з Broadcom для використання можливостей передової упаковки, що дозволяє їм інтегрувати кілька кремнієвих кристалів в єдиний високопродуктивний ШІ-чип (систему на кристалі).
На тизерному зображенні компанія демонструє ШІ-чип 3-го покоління з 12 модулями пам’яті HBM4/E, двома масивними обчислювальними чіплетами (2 нм) та двома IO-контролерами. Це складає 432 ГБ, якщо Furiosa використає 12-шарові модулі пам’яті по 36 ГБ на стек.
Окрім обчислювальної архітектури, FuriosaAI також використовуватиме IP-адреси Broadcom для Ethernet та PCIe, що забезпечить вищу пропускну здатність мережі масштабу стійки для масивних обчислювальних кластерів ШІ. ШІ-чип оптимізований для вимогливих реальних робочих навантажень ШІ, таких як пост-тренувальна вибірка, і висока пропускна здатність є ключовим фокусом, тому компанія обирає найновіші стандарти HBM4/E.
Компанія стверджує, що її зосередженість на пропускній здатності, а не на управлінні потоками (що вимагається GPU), допоможе їй забезпечити вищу енергоефективність та вищу пропускну здатність токенів, ніж у сучасних GPU. Крім того, компанія зазначає, що її програмний стек дозволяє розробникам швидко розгортати нові моделі ШІ, відповідаючи вимогам до пропускної здатності та затримки.
SDK Furiosa використовує універсальний компілятор, який автоматично відображає код високого рівня PyTorch на кремній. Для розробників, яким потрібен більш детальний контроль, Virtual ISA від Furiosa пропонує декларативну модель програмування, яка забезпечує контроль над апаратним забезпеченням без недетермінованої складності традиційного програмування GPU.
«Об’єднання інфраструктурних можливостей Broadcom та архітектури Tensor Contraction Processor від Furiosa разом із її галузевим програмним стеком дозволяє нам вийти за межі рівня чипа і запропонувати комплексне рішення для епохи фабрик токенів», — заявив співзасновник та генеральний директор Furiosa Джун Пайк.
Щодо доступності, то прискорювач FuriosaAI 3-го покоління очікується на вибірку у першій половині 2028 року і буде готовий задовольнити обчислювальні потреби центрів обробки даних нового покоління для ШІ.
Про автора: Інженер-програміст за освітою та ентузіаст ПК за покликанням, Хассан Муджтаба є старшим редактором розділу апаратного забезпечення Wccftech. Маючи багаторічний досвід роботи в галузі, він спеціалізується на глибокому технічному аналізі процесорних та графічних архітектур наступного покоління, материнських плат та систем охолодження. Його робота включає не тільки найсвіжіші новини про майбутні технології, але й всебічні практичні огляди та бенчмаркінг.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у своїх стрічках.
Подальше читання
Орієнтовна вартість стійки NVIDIA Rubin Ultra становить 21 мільйон доларів США, причому сама пам’ять HBM4e коштуватиме 1,5 мільйона доларів США за одиницю
Hassan Mujtaba
За повідомленнями, процесори NVIDIA Rosa використовують 2-нм техпроцес TSMC або A16 з технологіями живлення зворотної сторони
Hassan Mujtaba
Broadcom уникає долі Qualcomm; укладає нову угоду з Apple, яка гарантує стабільне постачання чіпів та дохід протягом кількох років
Omar Sohail
Samsung подвоює зусилля щодо новіших вузлів 1.4 нм+ через дизайн та методи оптимізації, приєднуючись до клубу передових вузлів менше 2 нм разом з TSMC та Intel
Omar Sohail
Чи варто купувати? (Порада ІТ-Блогу): Компанія Furiosa AI робить ставку на майбутнє інференсу ШІ, особливо з їхнім майбутнім 2-нм чипом Stork. Хоча ціни та точні показники продуктивності ще не оголошені, їхні плани значно збільшити виробництво чипів другого покоління та фокус на ефективності та низькій вартості за токен свідчать про амбіції кинути виклик NVIDIA. Для компаній, які шукають спеціалізовані рішення для ШІ, особливо для обробки великих мовних моделей, ці продукти можуть запропонувати конкурентоспроможну альтернативу, але остаточне рішення залежатиме від співвідношення ціни та продуктивності після випуску.
Інформація підготовлена на основі матеріалів: wccftech.com