CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 1

Apple нарешті представила CoreAI — наступника свого майже 9-річного рушія CoreML. Новинка обіцяє інференсинг, що не залежить від формату, та підтримку великих обсягів пам’яті для моделей. Проте, перші тести малюють більш неоднозначну картину нового AI-фреймворку Apple та його моделей для пристроїв.

Нові тести показують, що CoreAI від Apple майже зрівнявся з MLX у реалістичному розмірі моделі 8B для декодування

Для тих, хто, можливо, не знає, Apple випустила свій фреймворк машинного навчання CoreML ще у 2017 році. Він був розроблений переважно для виконання менших, статичних завдань машинного навчання, таких як класифікація зображень та ансамблі дерев. CoreAI — це абсолютно новий наступник CoreML, оптимізований для AI на пристроях (edge AI) та інференсингу “на борту”.

Натомість MLX — це рушій, орієнтований переважно на дослідження, тренування та доналаштування, який працює виключно на GPU Apple Metal та архітектурі уніфікованої пам’яті.

I benchmarked Apple’s brand-new Core AI (WWDC’26) against MLX and CoreML for on-device LLMs on an iPhone 17 Pro. The results surprised me.
Qwen3-0.6B Decode speed (tok/s):
• Core AI (GPU, pipelined): 180 warm 🥇
• MLX (GPU): 115
• Core AI (ANE): 50
• CoreML-LLM (ANE): 39 pic.twitter.com/BDWNGoPepV

— MLBoy_DaisukeMajima (@JackdeS11) June 10, 2026

Нове тестування дає нам цікаві інсайти щодо нового рушія CoreAI від Apple.

По-перше, для невеликих моделей, таких як Qwen3 з 0,6 мільярда параметрів, CoreAI у 2,47 раза швидший за MLX на Mac з M4 для завдань декодування. Аналогічно, на iPhone 17 Pro CoreAI приблизно в 1,6 раза швидший за MLX для декодування, знову ж таки, на основі моделі Qwen3 0,6b. Однак, коли розмір моделі зростає до більш практичних 8 мільярдів параметрів (Qwen3 8b, M4 Max Mac), CoreAI лише на 1,05x швидший за MLX, демонструючи майже ідентичну продуктивність декодування.

Цікаво, що при тривалих навантаженнях на iPhone 17 Pro GPU відносно швидко перегрівається, дозволяючи комбінації CoreML/Apple Neural Engine вийти вперед за збереженою продуктивністю. Ця комбінація також споживає найменше пам’яті, але є найповільнішою у завданнях декодування.

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 2

Рушії, оптимізовані під конкретні моделі від постачальників, майже завжди перевершують загальні рушії. Наприклад, рушій LiteRT-LM від Google, що працює з моделлю Gemma, був не тільки найшвидшим рушієм на iPhone 17 Pro (55,4 токенів на секунду), але й споживав у 4,5 раза менше оперативної пам’яті, ніж власний фреймворк MLX від Apple (641 МБ проти 2900 МБ).

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 3

Нарешті, було виявлено, що Apple Foundation Models є “у 2 рази енергоефективнішими на токен, ніж рушії на базі GPU, і в 4 рази ефективнішими, ніж CoreML/ANE”.

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 4

Про автора: Письмо — моя беззаперечна пристрасть. За останні шість років я написав понад 2200 статей на фінансові та технічні теми, загальним обсягом майже 1 мільйон слів. Я є членом команди Wcctech mobile з 2025 року. Як випускник програми Rotman Commerce Університету Торонто, я привношу нюанси, глибокі знання та унікальний погляд на кожну тему, яку висвітлюю. Коли я не пишу, я подорожую світом, досліджуючи приховані кондитерські та ресторани як початківець поціновувач їжі.

Слідкуйте за Wccftech на Google, щоб отримувати більше новин у своїй стрічці.

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 5 CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 6

Подальше читання

CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 7

MacBook Pro M6 з цим одним оновленням може поставити під загрозу продажі iPad від Apple напередодні запуску оновленої лінійки

Omar Sohail CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 8

Apple хоче, щоб її майбутні рої дронів перестали перевантажувати мережі 4G і 5G, згідно з новою патентною заявкою

Rohail Saleem CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 9

AMD стверджує, що MacBook Neo не може запускати всі ваші ігри, тоді як ноутбуки на базі Ryzen можуть

Sarfraz Khan CoreAI від Apple наздоганяє MLX: детальний аналіз продуктивності на моделях 8B 10

Apple хоче переконатися, що ваш iPhone 18 Pro залишиться таким же чистим і незайманим, як під час першого розпакування

Omar Sohail

Думка ІТ-Блогу: CoreAI — це крок у правильному напрямку для Apple, особливо для оптимізації AI на пристроях. Хоча він не завжди перевершує спеціалізовані рушії, його потенціал для енергоефективності та поступове покращення продуктивності свідчать про те, що це значне оновлення, а не просто незначна зміна. Варто спостерігати за його розвитком, особливо у майбутніх флагманських моделях.

За матеріалами: wccftech.com

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *