Вперше за всю історію Apple Silicon, чип A20 Pro оснащено двома 16-ядерними Neural Engine, розробленими для роботи зі складними AI-завданнями. Це значне оновлення, яке виявилося надзвичайно важливим для запуску локальних AI-моделей на смартфоні. В останній демонстрації iPhone 18 Pro запускає модель із 27 мільярдами параметрів удвічі швидше, ніж iPhone 17 Pro.
Двоядерний 16-ядерний Neural Engine забезпечує швидшу генерацію токенів, але обмеження пам’яті призводять до того, що 2-бітні квантовані AI-моделі занадто великі для iPhone 18 Pro
iPhone 18 Pro та iPhone 18 Pro Max оснащені 12 ГБ 96-бітної оперативної пам’яті LPDDR5X, що значно швидша за конфігурацію iPhone 17 Pro та iPhone 17 Pro Max. Це оновлення разом із двома 16-ядерними Neural Engine виводить продуктивність локальних AI-завдань на новий рівень. Адрієн Грондін продемонстрував цей приріст, запустивши модель Bonsai 27B на iPhone 18 Pro, і чітко видно, наскільки швидкою є генерація токенів.
Хоча це великий крок для iPhone у плані запуску складніших 27B AI-моделей без підключення до Інтернету, існують певні компроміси. По-перше, у дописі в X зазначено, що з випуском Bonsai 2, навіщо продовжувати запускати Bonsai? Відповідь розчаровує, але це сувора реальність запуску AI-моделей на смартфонах: Bonsai 2 з 2-бітною квантизацією занадто великий, щоб розміститися локально на iPhone 18 Pro, що призводить до зниження продуктивності.
The iPhone 18 Pro is much better than what I expected for on-device AI
It can run a 27B model at double the speed of the 17 Pro
The new A20 Pro chip is a beast pic.twitter.com/gb11TvBfn0
— Adrien Grondin (@adrgrondin) September 19, 2026
Bonsai, як 1-бітна квантована AI-модель, може безперешкодно працювати на пристроях з 4 ГБ оперативної пам’яті, а на телефонах із 8 ГБ або навіть 12 ГБ пам’яті працюватиме ще краще. На iPhone 18 Pro, який оснащено не тільки A20 Pro, але й надзвичайно швидкою пам’яттю, об’єднаною пропускною здатністю пам’яті 115,2 ГБ/с та двома 16-ядерними Neural Engine, пікова продуктивність яких перевищує 7-ядерний GPU SoC у робочих навантаженнях, призначених для NPU, Bonsai 27B не показуватиме жодних ознак уповільнення.
Сподіваємося, що коли Apple перейде до більших конфігурацій пам’яті в майбутніх випусках, ми побачимо підтримку складніших моделей.
За матеріалами: wccftech.com