Компанія Cerebras, розробник чипів Wafer-Scale Engine, представила нове рішення CS-4, оснащене новим чипом WSE-3 Turbo.
Cerebras CS-4 працює на базі чипів Wafer-Scale, пропонуючи до 250 PFLOPS на пластину та подвоєну пропускну здатність 43,2 PB/s завдяки 44 ГБ SRAM
У 2024 році Cerebras представила свій Wafer Scale Engine 3-го покоління (WSE-3). Ця пластина виступає як один чип і забезпечує широкі обчислювальні можливості. Cerebras займається розробкою чипів Wafer-Scale з самого початку, і сьогодні компанія анонсувала наступний етап свого шляху в цій галузі.
«В ШІ швидкість — це продуктивність», — заявив Ендрю Фельдман, генеральний директор та співзасновник Cerebras. «Історично склалося так, що швидкий висновок (inference) означав використання менших і менш потужних моделей. Cerebras CS-4 забезпечує провідну в галузі швидкість для найбільших передових моделей, фундаментально змінюючи парадигму. Кожен аспект дизайну був оптимізований для забезпечення найвищої швидкості з величезною пропускною здатністю. З CS-4 ШІ працює настільки швидко, що це кардинально змінює досвід користування продуктами».
Новий чип, WSE-3 Turbo (WSE-3T), є наступником WSE-3. Він зберігає позиціонування як «найбільший процесор для ШІ» та містить ту ж кількість транзисторів і ядер — 4 трильйони та 900 000 відповідно. Площа чипа становить 46 225 мм², а також він оснащений 44 ГБ SRAM, інтегрованої безпосередньо на тій самій пластині.
Щодо ключових показників продуктивності, WSE-3T забезпечує подвоєну обчислювальну потужність для ШІ: 125 PFLOPs (250 PFLOPS з розрідженістю) на пластину, а пропускна здатність зросла до 43,2 PB/s. Внутрішня мережа чипа пропонує 53,5 PB/s пропускної здатності, тоді як зовнішній I/O — 2,4 Tb/s. Оновлення wafer-scale engine також допомогли зменшити затримку з 5 мс до 2 мс.
Це все, що наразі розкрито щодо чипа, але сучасний ШІ — це дещо більше. Чипи є життєво важливим компонентом, але клієнти ШІ цікавляться не чипами, а системами та комплексними рішеннями. Тому Cerebras оснащує своє останнє рішення CS-4 серверного рівня чипами WSE-3T.
За даними Cerebras, CS-4 побудований на новій архітектурі Nexus Platform Architecture, яка базується на модульному підході, що включає три рівні: Compute (Обчислення), Power (Живлення) та I/O (Введення/Виведення). Кожен серверний стійка має змінний дизайн «бекпека», де обчислювальний підрозділ вставляється ззаду як «бекпек», що вертикально кріпиться до блоку живлення.
2 з 9
Кожен із цих автономних wafer-scale «бекпеків» інтегрує перетворення живлення, пряме рідинне охолодження, високошвидкісний I/O та системи керування в компактний модуль.
Нова конструкція також майже повністю усуває втрати потужності, переміщуючи перетворення живлення ближче до пластин. Оскільки втрати зменшуються, більше потужності може бути спрямовано на WSE-чипи, що призводить до подвоєння потужності для роботи чипа, дозволяючи досягти вищих частот і швидших обчислень.
Компанія також заявляє про значні показники пропускної здатності для таких моделей, як GPT-OSS 120B. Одна стійка CS-4 забезпечує понад 4400 токенів за секунду для цієї моделі. Було проведено порівняння з ШІ-рішенням на основі GPU. Те, що CS-4 генерував за одну секунду, GPU-стійка обробляла за 30 секунд.
2 з 9
Загалом Cerebras заявляє про значне 10-кратне збільшення пропускної здатності на ват для CS-4 порівняно з CS-3. Кожна стійка CS-4 міститиме три чипи WSE-3T (Turbo), забезпечуючи 750 PFLOPS обчислень для ШІ, 7,2 Тбіт/с пропускної здатності I/O та 129,6 PB/s пропускної здатності SRAM. Завдяки новому рішенню для міжз’єднань, ШІ-фабрики можуть масштабувати CS-4 до великих кластерів для підтримки моделей з понад 50 трильйонами параметрів.
Перші поставки CS-4 з WSE-3T очікуються цього кварталу. NVIDIA є одним з основних конкурентів, з якими призначене для боротьби це рішення. Cerebras також співпрацює з AMD для використання своїх рішень серверного рівня wafer-scale разом з AI-стійкою Helios для підвищення пропускної здатності ШІ, подібно до того, як NVIDIA використовує стійки Groq 3 LPX для розвантаження KV-кешу на велику SRAM, розташовану на цих чипах.
Про автора: Хасан Муджтаба, інженер-програміст за освітою та ентузіаст ПК за покликанням, є старшим редактором розділу апаратного забезпечення Wccftech. Маючи багаторічний досвід роботи в галузі, він спеціалізується на глибокому технічному аналізі процесорних і графічних архітектур наступного покоління, материнських плат та рішень для охолодження. Його робота включає не тільки ексклюзивні новини про майбутні технології, але й обширні практичні огляди та тестування.
Пропозиція дня
Подальше читання
AMD випускає Adrenalin Edition 26.8.1 з підтримкою Radeon RX 9050 4 GB; також додає підтримку Resonance: A Plague Tale Legacy
Intel Razor Lake, за повідомленнями, використовуватиме 2-нм процес TSMC N2X, витісняючи AMD з виробничих потужностей, які вже обмежені
AMD стверджує, що всього дві її стійки для ШІ 2030 року будуть еквівалентні 570 стійкам MI300X, скорочуючи споживання електроенергії в 20 разів
Radeon RX 7900 XT все ж з’явився, незважаючи на відсутність на складі; користувач стверджує, що заплатив за GPU лише $226
Інформація підготовлена на основі матеріалів: wccftech.com