Нове партнерство OpenAI з NVIDIA охоплює не лише Vera Rubin, а й обчислювальну потужність для інференсу, яка буде забезпечена майбутнім рішенням NVIDIA-Groq.
OpenAI знову звертає увагу на NVIDIA для інференсу, оптимістично налаштовуючись на майбутнє рішення Groq
OpenAI активно укладає угоди з інфраструктурними партнерами по всій галузі ШІ. Нещодавно цей технологічний гігант оголосив про залучення 110 мільярдів доларів нового капіталу, отриманого завдяки таким інвесторам, як NVIDIA, SoftBank та Amazon. OpenAI вважає ці інвестиції необхідними для підтримки розвитку ШІ та забезпечення необхідних обчислювальних потужностей. Згідно з повідомленням WSJ, NVIDIA продемонструє свій “процесор” на базі Groq на цьогорічній конференції GTC 2026, що узгоджується з нашими попередніми звітами.
Цікавим є той факт, що OpenAI стане найбільшим клієнтом майбутнього рішення. У нещодавній угоді про інвестиції NVIDIA в OpenAI було зазначено, що остання використовуватиме 3 ГВт виділеної потужності для інференсу, яка, ймовірно, походитиме від того, що NVIDIA представить у березні. Попередні звіти вказували на те, що інференс останнім часом є серйозною проблемою для OpenAI, і компанія була “незадоволена” тим, що пропонувала NVIDIA для вирішення цієї задачі.
OpenAI погодилася стати одним з найбільших клієнтів нового процесора, що є значною перемогою для Nvidia. Розробник ChatGPT, який є одним з найбільших клієнтів Nvidia, протягом останніх кількох місяців шукав ефективніші альтернативи чіпам Nvidia.
– WSJ
Повідомлялося, що OpenAI вела переговори з Cerebras та Groq щодо угод, спрямованих на забезпечення оптимальної продуктивності для навантажень, чутливих до затримок. Однак тепер, схоже, OpenAI залишається з NVIDIA, що, ймовірно, свідчить про те, що майбутнє рішення на базі LPU від Groq є достатньо перспективним, щоб компанія зобов’язалася на 3 ГВт потужності. Щодо очікуваної конфігурації NVIDIA-Groq, найімовірнішим рішенням є гібридна конфігурація обчислювальних піддонів, як ми обговорювали раніше.
Наразі ми очікуємо значних анонсів від NVIDIA на цьогорічній GTC, зокрема щодо Vera Rubin, можливо, наступного покоління Feynman, а також рішення на базі Groq.
Чи варто купувати? (Порада ІТ-Блогу): Хоча прямої інформації про вартість нового рішення NVIDIA-Groq немає, зобов’язання OpenAI на 3 ГВт потужності вказує на те, що це буде значна інвестиція. З огляду на поточний попит на високопродуктивні обчислення для ШІ та потенціал нових LPUs, це рішення, ймовірно, буде дорогим, але його цінність визначатиметься реальною продуктивністю та ефективністю для завдань інференсу порівняно з конкурентами.
Інформація підготовлена на основі матеріалів: wccftech.com