NVIDIA анонсувала власне рішення HBM під назвою NVHBM, яке буде використовуватися в майбутніх GPU, забезпечуючи вищу пропускну здатність і менше енергоспоживання.
NVHBM — це кастомне рішення HBM від NVIDIA та Annapurna Labs (Amazon), розроблене для прискорення можливостей DRAM для майбутніх агентних та фізичних AI-навантажень
Рішення DRAM NVIDIA NVHBM є розширенням NVLink Fusion, яке пропонує вищу продуктивність і ефективність пам’яті для XPU в той час, коли пропускна здатність пам’яті стає критично важливою через стрімке зростання розмірів моделей до трильйона параметрів.
NVIDIA стверджує, що її рішення NVHBM забезпечує кращу пропускну здатність і ефективність порівняно зі стандартними рішеннями HBM, виносячи контролер пам’яті з XPU і розміщуючи його безпосередньо в базовому кристалі HBM. Багато постачальників пам’яті та виробників чипів працюють над подібними рішеннями.
Рішення, такі як Qualcomm HBC, використовують схожий підхід, але зі стандартними стеками LPDDR DRAM. Великі гравці, Samsung, SK Hynix і Micron, також виділили впровадження контролерів обчислень і пам’яті у свої відповідні базові кристали HBM у майбутніх продуктах.
Ця технологія буде інтегрована в майбутні GPU, а сам контролер пам’яті буде кастомним дизайном NVIDIA, який буде інтегрований у базовий кристал HBM. Завдяки цьому рішенню, пропускна здатність пам’яті зросте на 30%, а енергоспоживання знизиться на 15% порівняно зі стандартним рішенням HBM4E. Видалення контролера пам’яті з XPU також заощаджує до 25% площі кристала основного чіпа, яку можна виділити для додаткових обчислювальних можливостей.
У порівнянні зі стандартом JEDEC HBM4e, ця конструкція зменшує площу PHY та підтримки до 67%. Вужчий інтерфейс також спрощує маршрутизацію інтерпозера, забезпечуючи до 80% більше корисного кремнію по всьому макету.
Таблиця 1. NVHBM надає три основні переваги на рівні платформи для програм прискорювачів ШІ: вищу пропускну здатність пам’яті, більше площі корпусу та кремнію, а також нижче енергоспоживання HBM.
| Характеристика | Перевага NVHBM |
|---|---|
| Пропускна здатність | До 30% більша пропускна здатність пам’яті порівняно зі стандартним HBM4e |
| Площа | Більш ефективні з’єднання інтерфейсу дозволяють збільшити площу обчислювального кристала до 25% для додаткових можливостей XPU |
| Енергоспоживання | До 15% нижче енергоспоживання HBM порівняно зі стандартним HBM4e, що забезпечує економію для тисяч XPU |
Щодо впровадження, NVIDIA створює стандартну реалізацію NVHBM, яка буде доступна від кількох постачальників пам’яті. Це допоможе зменшити інженерні зусилля, які інакше знадобилися б для інтеграції та кваліфікації дизайну пам’яті від різних постачальників. Учасники екосистеми NVLink Fusion також зможуть швидше виводити на ринок кастомні AI-чіпи.
«NVHBM представляє новий архітектурний підхід до підвищення продуктивності та ефективності пам’яті з високою пропускною здатністю», — сказав Нафеа Бшара, віце-президент Annapurna Labs в Amazon. «Ми з нетерпінням чекаємо на цю технологічну співпрацю, яка принесе користь майбутнім розробкам інфраструктури AWS».
Одним із перших партнерів, які використовуватимуть NVIDIA NVHBM, є Annapurna Labs від Amazon, яка співпрацюватиме над інтеграцією технології NVHBM та архітектури масштабування NVLink для підвищення продуктивності та ефективності в AI-навантаженнях. Чіпи AWS Trainium наступного покоління, починаючи з Trainium4, використовуватимуть NVLink Fusion для підключення GPU NVIDIA до чіпів Amazon у рамках спільної архітектури масштабу стійки.
Оскільки NVIDIA вже згадувала кастомну HBM для своїх GPU Feynman, можна очікувати, що це покоління буде першим, яке впровадить NVHBM під час свого запуску у 2028 році.
Про автора: Хасан Муджтаба, за освітою інженер-програміст, а за пристрастю — ентузіаст ПК, є старшим редактором розділу апаратного забезпечення Wccftech. Маючи багаторічний досвід роботи в галузі, він спеціалізується на глибокому технічному аналізі процесорів і GPU наступного покоління, материнських плат та систем охолодження. Його робота включає не лише висвітлення новин про майбутні технології, але й всебічні огляди та тестування.
Подальше читання
Amazon повертає кошти за відсутнє замовлення Ryzen 7 9600X, але потім відправляє ще одну порожню коробку для процесора
Сарфраз Хан
Всього за 329 доларів цей OLED-ігровий монітор досягає добрих 240 Гц, що робить його найдешевшим QHD@240 Гц OLED на ринку
Сарфраз Хан
Придбайте цю Radeon RX 9070 за 629 доларів, перш ніж ціна повернеться до 750 доларів
Сарфраз Хан
Партнери NVIDIA з оптики спростовують чутки про затримку CPO, а доходи Coherent від масштабованих рішень почнуться наприкінці 2026 року
Хасан Муджтаба
Дізнатися більше на: wccftech.com