Компанія SanDisk на початку тижня провела презентацію для інвесторів. Звичайно, це звичайна подія. Однак пізніше деякі слайди з презентації, що містили ймовірні неточності та суттєві пропуски, почали поширюватися соціальними мережами, викликавши негативну реакцію з боку технологічної спільноти.
SanDisk встановлює ємність HBM на GPU на рівні 192 ГБ з пропускною здатністю 12,8 ТБ/с та не згадує витривалість запису HBF
Модель штучного інтелекту складається із серії трансформерних блоків, які мають два ключові елементи:
- Шар уваги (Attention Layer) аналізує зв’язки між словами в реченні. Наприклад, якщо моделі надіслати запит “Париж — столиця Франції”, шар уваги пов’яже слово “столиця” з “Францією” та визначить “Париж” як відповідь. Проте цей шар не знає, що означають “Франція” чи “Париж”, але зберігає ці нотатки у вигляді KV-кешу. Зі збільшенням контексту зростає і KV-кеш.
- Мережа прямого поширення (Feed-Forward Network, FFN) містить загальні знання моделі у вигляді вагових коефіцієнтів. Саме цей шар використовує складні математичні формули для розкриття значення кожного слова. Наприклад, він звертається до “енциклопедії країн” для Франції і так далі.
Наразі як вагові коефіцієнти моделі, так і KV-кеш зберігаються в HBM. Однак стеки HBM припаяні поруч з GPU і мають обмежену ємність пам’яті. Більше того, для збільшення HBM зазвичай потрібно збільшувати кількість GPU, що може швидко стати дуже дорогим.
High-Bandwidth Flash (HBF), однак, є одним із можливих векторів вирішення цієї проблеми. SanDisk наразі розробляє стандарт HBF спільно з SK hynix, який пропонуватиме 512 ГБ пам’яті з пропускною здатністю від 0,4 ТБ/с до 3 ТБ/с. Компанія планує комерційний випуск до 2028/2029 року.
По суті, подібно до того, як HBM розміщує DRAM, HBF розміщує NAND-кристали один над одним, причому наскрізні кремнієві провідники (TSV) з’єднують кристали, а логічний контролер приклеюється до цього NAND-масиву.
Проблема використання NAND-комірок полягає в їхній надзвичайно низькій швидкості. SRAM забезпечує швидкість читання близько наносекунди, тоді як DRAM — приблизно 100 наносекунд, а NAND — цілих 100 мікросекунд. Це означає, що NAND забезпечує в 1000 разів повільніше читання, ніж HBM на базі DRAM.
HBF, однак, використовує потужність паралелізму для збільшення пропускної здатності на порядки. Логічний кристал планує тисячі паралельних зчитувань NAND-комірок одночасно. Отже, хоча кожне окреме зчитування даної NAND-комірки в 1000 разів повільніше, тисячі паралельних зчитувань можуть забезпечити сукупну пропускну здатність від 0,3 ТБ/с до 3 ТБ/с.
Тим не менш, HBF не може компенсувати жахливу швидкість запису NAND та пов’язану з цим низьку витривалість запису.
They are deliberately misrepresenting HBM performance
For some reason, they fix the bandwidth of both HBM & HBF stacks at 1.6TB/s (12.8/8)
Secondly, nobody serves models on bf16 anymore
Most models are served on fp4 or fp8
So a Qwen 480B should occupy 240GB to 480GB depending on… https://t.co/I19HOYo5LJ— Zephyr (@zephyr_z9) August 14, 2026
Це підводить нас до суті сьогоднішньої теми. SanDisk припустилася помилок у точності та найкращих практиках у своїй презентації цього тижня. Наприклад, враховуючи той факт, що HBF з’явиться лише до 2028/2029 року, компанія мала порівняти свої специфікації з показниками 16Hi HBM4E, який, ймовірно, буде домінуючим рішенням HBM того часу. Отже, цей варіант HBM має пропускну здатність 32 ТБ/с, що приблизно в 3 рази вище, ніж 12,8 ТБ/с, які SanDisk, схоже, вказала.
SanDisk також використовувала bf16 як обрану квантизацію, тоді як більшість сучасних моделей використовують fp8 або fp4.
Been sitting on my HBF notes for the past 2 weeks
But $SNDK investor day update made me realize how manipulative they are on narrative, for two reasons:
> comparing HBF GPU and HBM GPU without showing write endurance (100k+ cycles, inherent NAND characteristic, vs unlimited for…
— sigma capitalist (@phithetasigma) August 13, 2026
Ще більш обурливим є те, що SanDisk не згадала про очікувану витривалість запису HBF, що є серйозним недоглядом, який потенційно може зробити цю технологію непридатною для KV-кешу.
Хоча ми впевнені, що SanDisk зможе надати вагомий захист щодо всіх цих недоліків та ухилень, вони створюють дещо відчайдушну картину.
Про автора: Письменництво – моя незаперечна пристрасть. За останні шість років я написав понад 2200 статей на фінансові та технологічні теми, обсягом майже 1 мільйон слів. Я є членом команди Wccftech mobile з 2025 року. Як випускник Торонтського університету (програма Rotman Commerce) я привношу nuanced розуміння, глибокі знання та унікальну перспективу до кожної теми, яку висвітлюю. Коли я не пишу, я подорожую світом, досліджуючи приховані кондитерські та ресторани як амбіційний гурман.
Додаткове читання
Складність виробництва HBM означає, що загального призначення DRAM залишається основним джерелом прибутку для компаній, подібних до Micron; прогнозована валова маржа досягне 95% у 2027 році
Омар Сохаїл
SK hynix, у співпраці з SanDisk, представляє новий стандарт High Bandwidth Flash (HBF), допомагаючи вирішити проблеми з інференсом ШІ, з цільовою пропускною здатністю до 3 ТБ/с
Омар Сохаїл
Intel долає стіну інкапсуляції, що блокує надвеликі чіпи, розширюючи передове пакування до 24x розміру ретикули та далі
Хассан Муджтаба
Генеральний директор Apacer попереджає, що постачання товарної DRAM скоротиться на 70% у 2027 році, повторюючи апокаліптичний прогноз генерального директора SK hynix
Рохаїл Салім
Оригінал статті: wccftech.com