Сервери зі штучним інтелектом (ШІ), оснащені великою кількістю графічних процесорів NVIDIA, раніше могли обробляти величезні обсяги тимчасових контекстних даних, відомих як кеш Key-Value (KV). Однак астрономічні масштаби цих даних почали створювати вузьке місце для чіпів, що призвело до необхідності впровадження Context Memory Storage (CMX). Саме тут на сцену виходить Samsung.
Новий звіт свідчить про те, що корейський гігант вже постачає NVIDIA великі обсяги NAND V9 для цієї мети, а V10 перебуває на стадії масового виробництва. Хоча ці поставки мають усунути обмеження контекстних даних для GPU, основний тягар ляже на інші компанії та споживачів, оскільки залишиться мало або зовсім не залишиться доступної продукції.
Samsung також досліджує NAND V11 для CMX NVIDIA, здатний досягти вражаючих 500 шарів вертикально розташованої пам’яті
Згідно з повідомленнями Sedaily, потужності виробництва V-NAND від Samsung для NVIDIA сягають 100 000 одиниць, причому 60% потужностей компанії виділено на лінійку V9. NAND V10 повинен забезпечити більшу кількість шарів пам’яті, гарантуючи, що NVIDIA зможе оснащувати SSD вищої ємності в межах одного модуля CMX.
На даний момент кожен Context Memory Storage для ШІ-серверів може вміщувати 576 SSD, досягаючи вражаючої потужності 9 600 ТБ. Хоча це потенційно може усунути вузьке місце даних для GPU NVIDIA, це відбувається за рахунок дефіциту поставок, що майже гарантує, що інші компанії та споживачі опиняться у скрутному становищі, оскільки вони намагатимуться задовольнити свої скромні потреби в сховищі за завищеними цінами.
Спочатку бум ШІ спричинив дефіцит DRAM, що призвело до стрімкого зростання цін, і ця катастрофічна зміна вже негативно вплинула на ринок зберігання даних. Варто нагадати, що це лише початок. Оскільки GPU для ШІ будуть вивантажувати все більше тимчасових контекстних даних до CMX, ненаситний попит NVIDIA зростатиме експоненціально.
Згідно зі звітом, чіпи зберігання даних для CMX зростуть з 35 мільйонів терабайт до понад 100 мільйонів терабайт у 2026 році, при цьому очікується, що Samsung досягне 250 мільйонів терабайт поставок NAND, зміцнивши свою позицію як потенційного головного постачальника NVIDIA. З позитивного боку, після років боротьби зі збитками, корейський технологічний гігант нарешті знайшов своє покликання, і його прибуток у 2026 році, як очікується, перевищить сукупний прибуток за останні 40 років.
З цим галузевим зрушенням виробники NAND вже усвідомили, де приховуються прибуткові партнерства, але саме тут проблеми починають загострюватися для всієї галузі. Єдиною втіхою, яку ми бачимо від альянсу Samsung та NVIDIA, є прискорення розробки NAND V11, який має максимальну висоту складання 500 шарів, що на 100 шарів більше, ніж V10, який вже пропонував на 50% вищу щільність зберігання, ніж 286 шарів V9.
Цю технологію можна використовувати для масового виробництва SSD споживчого класу з більшою ємністю за нижчою ціною, але лише якщо Samsung вирішить виділити відповідні потужності. Зважаючи на все, обслуговування решти галузі здається нереальною мрією.
Джерело новин: Sedaily
Про автора: Омар Сохаїл – репортер і аналітик мобільного розділу Wccftech, який спеціалізується на технологіях та бізнесі мобільної індустрії. Його експертиза полягає у складних ланцюжках поставок обладнання, охоплюючи розробки у виробництві напівпровідників, літографії чіпів та технології сенсорів камер.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у своїй стрічці.
Подальше читання
Ланцюжок поставок CXMT очікує на значний перехід процесу для захоплення можливості DDR6 перед комерціалізацією, загрожуючи глобальному домінуванню Samsung та SK hynix
Омар Сохаїл
NVIDIA RTX Spark отримує перші драйвери для розробників з підтримкою Windows on Arm напередодні осіннього запуску
Хассан Муджтаба
Понад 80% працівників Samsung Foundry планують звільнитися через значну різницю в оплаті праці з підрозділом пам’яті
Рохаїл Салім
Придбайте цю RTX 5070 лише за 579 доларів США, коли GPU продається за понад 650 доларів США
Сарфраз Хан
Інформація підготовлена на основі матеріалів: wccftech.com