Відеокарта Intel Arc Pro B70 демонструє вражаючу продуктивність у тестуванні DeepSeek R1, перевершуючи NVIDIA RTX 5090D та RTX 4090D у задачах з великими мовними моделями (LLM).
Intel Arc Pro B70 32 GB: Тестування у конфігурації Quad-GPU проти NVIDIA 5090D та RTX 4090D
Виробник відеокарт Gunnir опублікував цікаві результати тестів, де відеокарта Intel Arc Pro B70 з 32 ГБ пам’яті змагалася проти NVIDIA RTX 5090D (32 ГБ) та RTX 4090D (24 ГБ) у конфігураціях з чотирма GPU. Головною метою тестування була оцінка продуктивності великих мовних моделей (LLM), зокрема DeepSeek R1 (Distill Qwen 32B FP16). Gunnir прагнув довести, що рішення від Intel не тільки найдоступніше за ціною, але й має потужні обчислювальні можливості.
У процесі тестування використовувалася модель DeepSeek R1 AI LLM з фіксованою довжиною вхідних/вихідних даних у 128 токенів. Тестування охоплювало повний діапазон паралелізму (concurrency) від 1 до 512. Ключовим показником продуктивності був т.зв. “токен/сек” (tokens/sec) – швидкість обробки токенів.
На початку тестів NVIDIA RTX 5090D одразу ж захопила лідерство, а RTX 4090D посіла друге місце. Відеокарти Intel Arc Pro B70 демонстрували результати, близькі до RTX 4090D, але лише при рівнях паралелізму нижче 32. Однак, при 32 та 64, Arc Pro B70 змогла зрівнятися та навіть перевершити RTX 4090D. Як тільки рівень паралелізму перевищив 128, Arc Pro B70 почала обганяти навіть RTX 5090D.
При паралелізмі 128 Intel Arc Pro B70 показала вищу пропускну здатність токенів на 8.6% порівняно з RTX 5090D і на 34.2% – порівняно з RTX 4090D. При 256 рівнях паралелізму, Arc Pro B70 32 GB виявилася на 7.5% швидшою за 5090D та на 48.7% – за RTX 4090D. Подібні результати спостерігалися і при 512 рівнях паралелізму.
Intel Arc Pro B70 продемонструвала найвищу швидкість обробки токенів серед усіх протестованих рішень, досягаючи пікових значень до 2320.76 токенів/сек.
Це свідчить про величезні можливості відеокарт Intel Arc Pro B70 порівняно з конкурентними рішеннями NVIDIA RTX, які коштують більш ніж удвічі дорожче. Перевага над RTX 4090D пояснюється просто: B70 має 32 ГБ пам’яті, тоді як 4090D пропонує 24 ГБ. Іншою перевагою Intel є використання XMX ядер, які спеціально прискорюють обробку завдань штучного інтелекту, таких як обчислення FP16. Саме тому Arc Pro B70 може перевершувати 5090D на вищих рівнях паралелізму. Хоча RTX 5090D має технологію NVFP4, яка мала б забезпечувати кращу продуктивність, для завдань FP16 AI, відеокарти Intel Arc Pro демонструють надзвичайно потужні результати.
Варто зазначити, що стандартна версія RTX 5090D з 32 ГБ пам’яті більше не виробляється в Китаї. Фокус змістився на новішу RTX 5090D V2, яка має зменшений об’єм пам’яті до 24 ГБ. Це означає, що ситуація може бути схожою на RTX 4090D, де обмеження пам’яті стають суттєвим фактором при роботі з великими LLM.
Наразі Arc Pro B70 32 GB продається на Newegg за $999 USD, тоді як RTX 5090D та RTX 4090D коштують понад $4000 та $2000 USD відповідно на китайських ринках. Стандартні версії RTX 5090 та RTX 4090 також мають схожі ціни, що значною мірою зумовлено дефіцитом GPU.
Про автора: Хассан Муджтаба, інженер-програміст за освітою та ентузіаст ПК за покликанням, є старшим редактором відділу апаратного забезпечення Wccftech. Маючи багаторічний досвід у галузі, він спеціалізується на глибокому технічному аналізі процесорів та GPU наступного покоління, материнських плат і систем охолодження. Його робота включає не тільки висвітлення новин про майбутні технології, але й всебічні практичні огляди та бенчмаркінг.
Слідкуйте за Wccftech на Google, щоб отримувати більше новин у стрічках.
Додаткове читання
Tenstorrent обіцяє “розгромити всіх”: Galaxy Blackhole досягає 350 токенів/с на DeepSeek R1, перевершуючи NVIDIA GB300 за вартістю володіння (TCO) у 5 разів
Хассан Муджтаба 
Китайський суперкомп’ютер LineShine досягне 2 Екзафлопс завдяки 47 000 процесорів та повній незалежності від іноземних чіпів
Хассан Муджтаба 
Intel Arc Pro B70 перевершує NVIDIA RTX Pro 4000 в AI за вдвічі меншої ціни та з на 33% більшим об’ємом пам’яті
Хассан Муджтаба 
Intel підтверджує робочу GPU Arc Pro B70 у примітках до релізу LLM-Scaler vLLM AI
Сарфраз Хан
Чи варто купувати? (Порада ІТ-Блогу): Безумовно! Intel Arc Pro B70 32 GB пропонує видатну продуктивність у завданнях AI LLM, особливо при високих рівнях паралелізму, значно перевершуючи значно дорожчі NVIDIA RTX 5090D та RTX 4090D. З ціною близько $999 USD, це неймовірно вигідна пропозиція для професійних завдань, де ключову роль відіграє співвідношення ціни та продуктивності.
Подробиці можна знайти на сайті: wccftech.com