AMD представила свій новий PCIe GPU-прискорювач Instinct MI350P, який став першим PCIe-дизайном за багато років і орієнтований на робочі навантаження зі штучним інтелектом.
PCIe GPU Instinct MI350P використовує чипи MI350X, розділені навпіл, для 128 CU, 144 ГБ HBM3E та потужності 600 Вт
Завдяки PCIe GPU Instinct MI350P, AMD надає корпоративним користувачам можливість розширити свої можливості в галузі ШІ-обчислень без необхідності інвестувати у дороге обладнання. PCIe-дизайн MI350P робить його простим у використанні та інтеграції рішенням, яке забезпечує високу продуктивність у стандартному двослотовому форм-факторі, орієнтованому на сервери.
Розроблені, щоб допомогти вам підготуватися до ери агентного ШІ, PCIe-карти AMD Instinct MI350P є двослотовими картами, які легко інтегруються у стандартні сервери з повітряним охолодженням. Вони створені для розгортання інференсу на місцях, в межах існуючої інфраструктури живлення, охолодження та стійок вашого дата-центру. Графічні процесори AMD Instinct у бюджетних PCIe-картах доповнюють портфоліо обчислювальних рішень AMD для ШІ, надаючи широкий вибір опцій для вашого підприємства, яке проходить свій унікальний шлях впровадження ШІ.
2 з 9
Нижче наведено деякі ключові особливості PCIe GPU Instinct MI350P:
- Нативна підтримка низькоточних форматів MXFP6 та MXFP4, що забезпечують високу пропускну здатність.
- Прискорення завдяки підтримці розрідженості для більшості поширених 8- та 16-бітних точностей.
- Оціночна продуктивність 2,299 терафлопс (TFLOPS) та до 4,600 пікових TFLOPS у форматі MXFP4, що є найвищою продуктивністю, доступною наразі в корпоративній PCIe-карті.
- До 144 ГБ пам’яті High Bandwidth Memory 3e (HBM3E) з пропускною здатністю до 4 ТБ/с.
- Відкрита екосистема з безкоштовними або недорогими варіантами програмного стеку для розробки спрощує розгортання та допомагає знизити операційні витрати.
Згідно зі специфікаціями, AMD Instinct MI350P використовує архітектуру CDNA 4 та базується на тій самій 3-нм техпроцесі TSMC у конфігурації 4 XCD, що вдвічі менше, ніж у MI350X. Він також має один IO-чіп, виготовлений за 6-нм FinFET процесом TSMC. На чипі розміщено 128 обчислювальних блоків (CU), що еквівалентно 8,192 потоковим процесорам, та 512 матричних ядер. Ядра працюють на піковій частоті 2200 МГц. Весь чип містить 73 мільярди транзисторів.
Щодо пам’яті, Instinct MI350P оснащено 128 МБ LLC у вигляді Infinity Cache всередині GPU та 144 ГБ швидкої пам’яті HBM3E, яка працює через 4096-бітну шину, забезпечуючи пропускну здатність 4 ТБ/с. Для порівняння, MI350X має 288 ГБ пам’яті HBM3E через 8192-бітну шину. PCIe-карта має довжину 10,5 дюймів (267 мм) і оснащена пасивною системою охолодження, що ідеально підходить для серверів. AMD також використовує 16-контактний роз’єм для живлення до 600 Вт TBP. Цей показник може бути знижений до 450 Вт.
З точки зору продуктивності, AMD Instinct MI350P пропонує:
- 4.6 PFLOPs у форматі MXFP4
- 4.6 PFLOPs у форматі MXFP6
- 2.3 PFLOPs у форматі MXFP8
- 2.3 PFLOPs у форматі FP16 (зі Sparsity)
- 1.15 PFLOPs у форматі FP16
- 72 TFLOPS у форматі FP16
- 72 TFLOPS у форматі FP32
- 36 TFLOPS у форматі FP64
- 2.3 POPs у форматі INT8
- 4.6 POPs у форматі INT8 (зі Sparsity)
- 1.15 PFLOPs у форматі BFloat16
- 2.30 PFLOPs у форматі BFloat16 (зі Sparsity)
Як бачимо, серія AMD Instinct MI350, включаючи MI350P, забезпечує нативне прискорення для різних корпоративних форматів точності ШІ, таких як MXFP6 та MXFP4.
MI350P конкуруватиме з H200 NVL, яка є останньою PCIe GPU-прискорювачем від NVIDIA з 141 ГБ пам’яті HBM3E та GPU Hopper H200. NVIDIA випустила RTX PRO 6000 Blackwell у серверній версії, але вона базується на стандартному чіпі GB202, а не на GB200, який є справжнім серверним рішенням. RTX PRO 6000 Blackwell оснащений 96 ГБ пам’яті GDDR7. Вартість GPU H200 NVL становить приблизно $30-40 тис. США.
PCIe GPU AMD Instinct MI350P вже доступні через різних партнерів і пропонують повністю відкриту екосистему та готовий для корпоративного використання програмний стек для ШІ з підтримкою ROCm.
Про автора: Хасан Муджтаба, інженер-програміст за освітою та ентузіаст ПК за покликанням, є старшим редактором розділу апаратного забезпечення Wccftech. Маючи багаторічний досвід у галузі, він спеціалізується на глибокому технічному аналізі новітніх архітектур CPU та GPU, материнських плат та систем охолодження. Його робота включає не лише оперативне висвітлення нових технологій, але й всебічні практичні огляди та тестування.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у своїх стрічках.
Додатково для читання
Агентний ШІ змушує CPU мати 400 ГБ пам’яті, що в 4 рази більше, ніж сьогодні, оскільки дефіцит DRAM загострюється до 2027 року
Hassan Mujtaba
Провідний виробник пам’яті Китаю стикається з перешкодами на шляху HBM, тоді як вітчизняні виробники поспішають з виробництвом HBM3
Hassan Mujtaba
Samsung скорочує цикл розробки HBM з 2 років до 1, роблячи ставку на майбутнє на попит ШІ
Hassan Mujtaba
ARM співпрацює з SK Telecom та Rebellions для забезпечення агентного ШІ та телекомунікацій своїм абсолютно новим AGI CPU
Hassan Mujtaba
Чи варто купувати? (Порада ІТ-Блогу): AMD Instinct MI350P пропонує вражаючу продуктивність для завдань ШІ, особливо в корпоративному сегменті. Порівняно з конкурентами, як-от NVIDIA H200 NVL, він може виявитися привабливим варіантом, особливо з огляду на повну екосистему та підтримку ROCm. Однак, кінцеве рішення залежить від конкретних потреб, бюджету та доступності на ринку, оскільки ці рішення зазвичай мають високу вартість.
За даними порталу: wccftech.com