Компанії FuriosaAI та Broadcom об’єднали зусилля для створення високопродуктивного AI-прискорювача з пам’яттю нового покоління HBM4/E.
AI-прискорювач наступного покоління від FuriosaAI: чіплетна архітектура 2 нм та підтримка пам’яті HBM4/E для масивних AI-кластерів
FuriosaAI анонсувала свій AI-прискорювач третього покоління, який базується на платформі другого покоління RNGD, що наразі масово виробляється за 5-нм техпроцесом TSMC. AI-платформа другого покоління RNGD має форм-фактор PCIe потужністю 180 Вт і орієнтована на робочі навантаження LLM та Agentic AI. Наступне покоління пристрою буде повністю зосереджене на сегменті AI-інференсу, оскільки Agentic AI продовжує демонструвати величезний попит.
Наступне покоління AI-прискорювачів від FuriosaAI має такі ключові особливості:
- Платформа поєднує 2-нм обчислювальну технологію з пам’яттю HBM4/4E, розроблену для забезпечення високошвидкісного мережевого зв’язку масштабу стійки в масивних AI-кластерах.
- Архітектура оптимізована для вимогливих інференсних навантажень з акцентом на високошвидкісну передачу даних, що забезпечує вищу продуктивність на ват та більшу щільність токенів порівняно навіть з найефективнішими GPU.
- Пристрій є розвитком чипа RNGD поточного покоління від Furiosa, який вже масово виробляється. Серед клієнтів — Samsung SDS та LG AI Research.
Якщо говорити про деталі, надані FuriosaAI, то чіплетна платформа використовуватиме передовий 2-нм обчислювальний кристал та стандарт пам’яті HBM4/E. Компанія співпрацює з Broadcom, використовуючи їхні передові можливості пакування, що дозволяє інтегрувати кілька кремнієвих кристалів в єдиний високопродуктивний AI-чіп (систему на кристалі).
На представленому зображенні компанія демонструє AI-чіп 3-го покоління з 12 модулями пам’яті HBM4/E, двома масивними чіплетами для обчислень (2 нм) та двома IO-контролерами. Це забезпечить загальний обсяг пам’яті 432 ГБ, якщо Furiosa використовуватиме 12-шарові модулі пам’яті по 36 ГБ кожен.
Окрім обчислювальної архітектури, FuriosaAI також використовуватиме IP-блоки Ethernet та PCIe від Broadcom, забезпечуючи вищу пропускну здатність та мережевий зв’язок масштабу стійки в масивних AI-кластерах. AI-чіп оптимізовано для вимогливих реальних AI-завдань, таких як постобробка семплів, і саме тому компанія робить ставку на новітні стандарти HBM4/E, де висока пропускна здатність є ключовим фактором.
Компанія стверджує, що її фокус на пропускній здатності, а не на управлінні потоками (що вимагається GPU), допоможе досягти вищої ефективності та вищої пропускної здатності токенів порівняно з сучасними GPU-дизайнами. Крім того, компанія зазначає, що її програмний стек дозволяє розробникам швидко розгортати нові AI-моделі, одночасно задовольняючи вимоги до пропускної здатності та затримки.
SDK від Furiosa використовує універсальний компілятор, який автоматично відображає високорівневий код PyTorch на кремній. Для розробників, яким потрібен більш детальний контроль, Virtual ISA від Furiosa пропонує декларативну модель програмування, що надає контроль над апаратним забезпеченням без невизначеної складності традиційного GPU-програмування.
«Об’єднання інфраструктурних можливостей Broadcom та архітектури Tensor Contraction Processor від Furiosa, а також її провідного програмного стеку, дозволяє нам вийти за межі рівня чипа та запропонувати комплексне рішення для епохи „фабрик токенів“», — заявив співзасновник та генеральний директор Furiosa, Джун Пайк.
Щодо доступності, AI-прискорювач FuriosaAI 3-го покоління очікується до початку семплювання в першій половині 2028 року і буде готовий задовольнити обчислювальні потреби AI-центрів обробки даних нового покоління.
Про автора: Будучи інженером-програмістом за освітою та ентузіастом ПК за покликанням, Хассан Муджтаба є старшим редактором розділу обладнання Wccftech. Маючи багаторічний досвід у галузі, він спеціалізується на глибокому технічному аналізі архітектур ЦП та ГП наступного покоління, материнських плат та систем охолодження. Його робота включає не тільки висвітлення новин про майбутні технології, але й всебічні практичні огляди та бенчмаркінг.
Слідкуйте за Wccftech у Google, щоб отримувати більше новин у стрічці.
Додатково для читання
Платформи NVIDIA Rubin та Rubin Ultra мають проблеми з дизайном/характеристиками згідно з чутками, тоді як AMD MI500 заплановано до випуску у другій половині 2027 року
Hassan Mujtaba
AMD MI430X стане найпродуктивнішим FP64 GPU в історії, перевершивши NVIDIA Rubin у 6 разів у класичних HPC-навантаженнях
Hassan Mujtaba
OpenAI зібрала команду для прискорення великомасштабного AI-тренування — AMD, NVIDIA, Intel, Microsoft та Broadcom роблять ставку на MRC
Hassan Mujtaba
AMD розпочала семплювання GPU MI450 та веде переговори з клієнтами щодо MI500, найбільші AI-розгортання призначені для інференсу
Hassan Mujtaba
Чи варто купувати? (Порада ІТ-Блогу): Наразі йдеться про попередні анонси та партнерство, тому говорити про ціну поки зарано. Однак, якщо FuriosaAI та Broadcom зможуть досягти заявленої пропускної здатності та ефективності, цей AI-прискорювач може стати дуже цікавою альтернативою існуючим GPU-рішенням для задач інференсу, особливо враховуючи потенціал 2-нм техпроцесу та пам’яті HBM4/E. Варто стежити за подальшими оновленнями та результатами тестування.
Подробиці можна знайти на сайті: wccftech.com