ACE, майбутній набір розширень x86, розроблений як AMD, так і Intel, отримав останню версію специфікацій, що зосереджується на прискоренні штучного інтелекту.
AMD та Intel зосереджуються на прискоренні ШІ через архітектури x86 наступного покоління, сумісні з ACE
Минулого року Intel та AMD об’єдналися для зміцнення екосистеми x86 через свою ініціативу “x86 Ecosystem Advisory Group”. План полягав у пропонуванні стандартизованого набору функцій для різних архітектур, щоб зробити x86 доступною, масштабованою та сумісною з майбутніми вимогами. Були оголошені чотири ключові функції: FRED, AVX10, ChkTag та ACE.
Наразі AMD та Intel опублікували останні специфікації ACE “AI Compute Extensions”, які дають нам уявлення про те, що ця нова функція для чипів x86 може запропонувати.
AI Compute Extensions (ACE) для архітектур x86 спрямовані на значне підвищення продуктивності матричних обчислень, забезпечуючи при цьому масштабованість та енергоефективність. Як ми знаємо, матричні обчислення є основним блоком нейронних мереж та великих мовних моделей (LLM) у робочих навантаженнях зі штучним інтелектом.
Сучасні розширення SIMD (Single Instruction, Multiple Data), такі як AVX10, можуть виконувати матричні обчислення, але їх масштабованість та щільність обчислень можуть бути обмежені. Техніки, такі як прискорені матричні обчислення, можуть призвести до вищої продуктивності, але це не є ефективним підходом. EAG має на меті вирішити цю проблему за допомогою ACE, яка прискорює матричні обчислення, пропонуючи більшу гнучкість та масштабованість.
Розширення ACE визначають примітиви матричних обчислень, які доповнюють код AVX та скалярний код новими можливостями, додаючи:
- Стан регістрів ACE, включаючи регістри масштабу плиток (tiles) та блоків
- Операції обробки даних, які споживають вхідні дані з регістрів AVX та працюють зі станом регістрів плиток
- Операції переміщення даних для переміщення даних між станом регістрів ACE та регістрами AVX
- Стан та операції для системного менеджменту
ACE забезпечує тісну інтеграцію між векторами AVX та плитковими регістрами ACE, поєднуючи операції обробки плиток з високою щільністю обчислень з комплексними функціями обробки даних AVX.
На додаток до прискорення матричних обчислень, низка спеціалізованих операцій конвертації форматів надається в рамках фреймворку AVX10.
через x86 EAG
Ці останні специфікації визначають розширення x86 для прискорення обчислювальних завдань, спочатку зосереджуючись на ядрах матричних обчислень та форматах даних зі зниженою точністю, важливих для робочих навантажень машинного навчання (ML).
Формати даних
Розширення, описані в цьому документі, включають підтримку кількох форматів даних. Це може включати нативну підтримку форматів для таких операцій, як матричні обчислення, підтримку масштабування для операцій типу OCP MX, формат акумуляції та підтримку конвертації форматів між різними форматами. Підтримка додаткових форматів даних може бути представлена в майбутньому.
| Формат | Опис | Примітки |
|---|---|---|
| INT8 | 8-бітне ціле число | |
| INT32 | 32-бітне ціле число | |
| FP32 | SE8M23 | Як визначено IEEE-754 |
| BF16 | SE8M7 | |
| FP16 | SE5M10 | |
| E8M0 | 8-бітний експонент | Використовується для форматів масштабу блоків степеня двійки |
| FP8 | 8-бітне число з плаваючою комою | Визначено в OCP 8-bit Floating Point Specification (OFP8) [1]. Також див. OCP Microscaling Formats (MX) Specification [2]. |
| MX FP8 | 8-бітні формати з плаваючою комою (SE5M2, SE4M3) | |
| MX FP6 | 6-бітні формати з плаваючою комою (SE3M2, SE2M3) | |
| MX FP4 | 4-бітний формат з плаваючою комою (SE2M1) | |
| MX INT8 | 8-бітний формат дробових чисел з фіксованою комою |
ACE — це лише один крок на шляху розвитку x86. Ми також обговорювали APX (Advanced Performance Extensions), які відіграватимуть ключову роль у розробці чипів наступного покоління з архітектурами x86. Очікується, що ці досягнення з’являться у майбутніх лінійках.
Про автора: Інженер-програміст за освітою та ентузіаст ПК за покликанням, Хассан Муджтаба є старшим редактором апаратного забезпечення Wccftech. Маючи багаторічний досвід у галузі, він спеціалізується на глибокому технічному аналізі процесорів та графічних процесорів наступного покоління, материнських плат та систем охолодження. Його робота включає не лише оперативне висвітлення майбутніх технологій, але й всебічні практичні огляди та тестування.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у стрічках.
Додаткове читання
AMD, за чутками, планує ще одне підвищення цін на Radeon RX 9000 на 10-15%, оскільки “RAMpocalypse” поглинає ринок GPU
Сарфраз Хан
AMD тихо заблокувала шифрування TSME для чипів PRO Ryzen, тоді як споживачі виявляють це лише випадково
Сарфраз Хан
AMD підвищує продуктивність Threadripper на 215% у HandBrake, виправляючи вузькі місця багатопоточності
Хассан Муджтаба
Ліп-Бу Тан майже пішов із напівпровідників, але один заклик “Врятувати Intel” повернув його на посаду CEO. Зараз він наймає найкращих розробників CPU/GPU.
Хассан Муджтаба
Чи варто купувати? (Порада ІТ-Блогу): Стаття стосується майбутніх технологій розширень x86 від Intel та AMD, спрямованих на прискорення ШІ. Наразі немає конкретних продуктів для купівлі, але ця розробка обіцяє значні покращення продуктивності для ШІ-завдань у майбутніх процесорах. Для споживачів це означає потенційно потужніші та ефективніші комп’ютери для роботи зі штучним інтелектом у майбутньому.
Подробиці можна знайти на сайті: wccftech.com