Плани NVIDIA щодо LPU-модулів Groq викликають чимало обговорень у галузі. Коли Дженсена Хуанга запитали про них під час звіту про прибутки за 4 квартал 2026 року, він натякнув на дещо справді цікаве.
LPU-модулі Groq від NVIDIA посилять позиції компанії у завданнях з чутливістю до затримок
NVIDIA цього року активно проводить агресивні придбання. Однак однією з найважливіших угод стала співпраця з Groq – угода на суму до 20 мільярдів доларів, яка є найбільшою інвестицією “Команди Зелених”. Хоча оголошення з’явилося напередодні Різдва, NVIDIA поки не надала деталей щодо конкретних планів. Цікаво, що під час конференц-дзвінка CEO NVIDIA запитали про плани щодо Groq, і він дав роз’яснення, яке може свідчити про роль LPU-модулів у майбутніх рішеннях NVIDIA для ШІ.
Стосовно того, як ми розглядаємо Groq та декодер з низькою затримкою, у мене є кілька чудових ідей, якими я хотів би поділитися з вами на GTC.
Тож, що ми зробимо з Groq – ви побачите на GTC, але ми розширимо нашу архітектуру за допомогою Groq як прискорювача, саме так, як ми розширили архітектуру NVIDIA за допомогою Mellanox.
– CEO NVIDIA Дженсен Хуанг
Ідея придбання Groq проста. NVIDIA прагне охопити робочі навантаження, чутливі до затримок, а на сьогоднішній день домінує етап інференсу (виведення). Додатки, що працюють в агентних середовищах, вимагають надзвичайно швидких відповідей, тому затримка стає головним вузьким місцем для обчислювальних провайдерів. NVIDIA домінує у тренуванні завдяки Hopper та Blackwell, але з Vera Rubin інференс – це сфера, де компанії ще належить закріпити свою лідерство, і LPU-модулі Groq відіграватимуть ключову роль у встановленні нових стандартів.
CEO NVIDIA порівняв роль Groq з придбанням Mellanox. Для тих, хто не знає, Mellanox вирішила проблему “мережевої взаємодії”. Mellanox заклала основу для InfiniBand, що згодом призвело до того, що NVIDIA називає “екстремальним спільним дизайном”. Тому не буде помилкою сказати, що це придбання сприяло розвитку стратегії NVIDIA щодо дата-центрів. Groq відіграватиме подібну роль, і, як зазначає Дженсен, “Команда Зелених” “розширить свою архітектуру” за допомогою Groq, що означає, що ми побачимо певну форму інтеграції LPU-модулів на рівні стійок.
Декодування та префіл є ключовими етапами інференсу, і в контексті агентного ШІ перший набуває значно більшого значення. Враховуючи, що в багатоагентних робочих навантаженнях декодування дозволяє агентам виконувати складні логічні кроки за лічені “секунди”, що є необхідним, оскільки світ рухається до роїв ШІ-агентів, які залежать один від одного. За допомогою Rubin CPX NVIDIA фактично покрила етапи префілу завдяки своїм механізмам прискорення уваги та масивним обчислювальним потужностям NVFP4.
Для декодування NVIDIA використовуватиме Groq, як зазначив Дженсен. LPU-модулі використовують вбудовану SRAM для забезпечення пропускної здатності в десятки терабайтів на секунду. Ми вже бачили широке застосування SRAM компаніями, такими як Cerebras з WSE-3 та Microsoft з Maia 300. Щодо того, де саме ми можемо побачити інтеграцію LPU-модулів, існує дві основні теорії. Перша полягає в тому, що NVIDIA може розробити гібридні обчислювальні вузли в рамках рішень на рівні стійок, з кількома LPU-модулями, з’єднаними через єдиний інтерконект.
GF Securities вважає (через Jukan), що NVIDIA може представити “LPX-стійку” на цьогорічній GTC, яка міститиме 256 LPU-модулів в одному блоці. Базуючись на їхній інформації, ми вважаємо, що для з’єднання LPU-модулів між собою NVIDIA використовуватиме нативний протокол chip-to-chip plesiosynchronous. Для з’єднання LPU-модулів з GPU ми можемо побачити використання NVLink Fusion для обробки масивного KV-кешу, що вивантажується з GPU під час фази префілу. Інший варіант, що розглядається, – це використання LPU-модулів як вбудованих блоків у GPU Feynman за допомогою гібридного з’єднання (hybrid bonding), але наразі варіант зі стійкою видається значно більш імовірним.
Ідея полягає в тому, що LPU-модулі Groq відіграватимуть роль, подібну до Mellanox у мережевих технологіях, і що ця гібридна архітектура надасть NVIDIA перевагу в робочих навантаженнях з чутливістю до затримок. На цьому дзвінку про прибутки Дженсен вже повідомив, що обчислювальні потужності та доходи тепер зростають 1:1, що зумовлено більш агресивним розвитком “прикладного рівня” ШІ. Ми очікуємо, що NVIDIA офіційно представить свої плани щодо LPU-модулів на цьогорічній GTC.
Про автора: Мухаммад Зухаїр – репортер Wccftech з апаратного забезпечення та технологій, що спеціалізується на напівпровідниковій промисловості та складній взаємодії між технологіями, виробництвом та геополітикою. Його висвітлення зосереджено на корпоративних стратегіях та технологічних дорожніх картах таких гігантів галузі, як TSMC, NVIDIA, Samsung та Intel. Експертиза Зухаїра полягає в аналізі складних тем, таких як виробничі вузли (наприклад, 2-нм процес), економічний вплив політик, таких як CHIPS Act, та стратегічний розвиток інфраструктури ШІ від NVIDIA, AMD та Intel.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у своїй стрічці.
Читайте також
Справжня сила NVIDIA полягає в її інфраструктурі, але є недооцінений аспект її впливу: «Мережа альянсів» Дженсена
Мухаммад Зухаїр
Що NVIDIA насправді зробила неправильно з презентацією DLSS 5
Алессіо Палумбо
NVIDIA Rubin CPX вибула з дорожньої карти, замінена LPU Groq для інференсу, але може повернутися з Feynman у 2028 році
Мухаммад Зухаїр
Вигнання NVIDIA до Китаю може нарешті закінчитися, оскільки H200 повертається у виробництво, а рішення на базі Groq виходить на ринок
Мухаммад Зухаїр
За даними порталу: wccftech.com