Micron зробила черговий вагомий крок у галузі пам’яті, представивши нові модулі пам’яті SOCAMM2, які вражають своєю місткістю та енергоефективністю.
Нові модулі Micron SOCAMM2 з KV-Cache зменшують вузькі місця, забезпечуючи роботу з низькою затримкою
Зі зростанням складності AI-застосунків, вузькі місця в пам’яті стають дедалі помітнішими, адже навантаження постійно масштабуються. Саме тому виробники DRAM приділяють особливу увагу розробкам у галузі HBM та інших спеціалізованих рішень для AI. В останньому анонсі Micron встановила “новий орієнтир” з модулями пам’яті SOCAMM2, збільшивши місткість одного модуля до 256 ГБ, що є значним стрибком порівняно з попереднім показником у 192 ГБ. За заявами компанії, SOCAMM2 буде інтегровано в сучасне обладнання для AI-інфраструктури, допомагаючи вирішувати проблеми обмеженої пам’яті.
“Досягнення Micron у забезпеченні величезної місткості та пропускної здатності пам’яті з меншим енергоспоживанням, ніж у традиційної серверної пам’яті, завдяки 256 ГБ SOCAMM2, відкривають шлях для наступного покоління AI-процесорів.” – Іан Файндер, керівник відділу продукції CPU для дата-центрів в NVIDIA.
З новою ітерацією SOCAMM2, Micron збільшила місткість одного монолітного кристала LPDRAM до 32 ГБ. Модель на 256 ГБ забезпечує 2 ТБ LPDRAM на 8-канальний процесор, що дозволяє AI-серверам легко обробляти контекстні вікна великої довжини. Micron також зазначає, що завдяки новому рішенню SOCAMM2, час до першого байту (TTFT) для інференсу з довгим контекстом збільшився у 2.3 рази, що значно допомагає в роботі з агентськими навантаженнями, де самостійні CPU-застосунки відіграють ключову роль.
SOCAMM2 – це рішення, розроблене у співпраці з NVIDIA. Як ми вже обговорювали раніше, Vera Rubin стане однією з перших AI-інфраструктурних пропозицій, що використовуватимуть новий стандарт пам’яті. У світі AI пам’ять стала надзвичайно важливим активом для робочих навантажень, де ключову роль відіграють затримка та контекст. Водночас, SOCAMM2 є одним із продуктів, що займатиме значну частку ринку DRAM, ймовірно, витісняючи загальні продукти, такі як GDDR7. Micron повідомляє, що зразки 256 ГБ SOCAMM2 вже були відправлені клієнтам, а саме рішення буде представлено на цьогорічній конференції GTC 2026.
Чи варто купувати? (Порада ІТ-Блогу): Нові модулі Micron SOCAMM2 – це справжній прорив для AI-інфраструктури, що забезпечує безпрецедентну місткість та ефективність. Хоча ціна, ймовірно, буде високою, для ентузіастів та професіоналів, що працюють з найсучаснішими AI-завданнями, це може бути виправданою інвестицією в майбутнє обчислень.
Подробиці можна знайти на сайті: wccftech.com