Mac mini популяризував компактні рішення для запуску AI-агентів завдяки потужним чипсетам та достатньому обсягу об’єднаної пам’яті. Сінгапурський стартап Acrab, взявши цю концепцію за основу, представив свій відповідь — AI-чіп Gelix 1. Оснащений 20-ядерним ARM-процесором і виготовлений за 5-нм техпроцесом, цей чіп, за заявами компанії, здатен перевершити Apple M4 Pro за швидкістю AI-інференсу та обробляти моделі з 100 мільярдами параметрів.
Власні бенчмарки Acrab: Gelix 1 демонструє 1416 токенів/секунду при роботі з Gemma 26B
AI-можливості Gelix 1 посилені багатоядерним нейронним процесором, а його архітектура об’єднаної пам’яті забезпечує пропускну здатність 273 ГБ/с. Цікаво, що цей показник відповідає пропускній здатності M4 Pro. Як і Mac mini, Gelix 1 розроблено для роботи в компактному корпусі, без компромісів щодо продуктивності чи тепловиділення.
Згідно з результатами внутрішніх тестів Acrab, Gelix 1 досяг швидкості попереднього заповнення 1416 токенів на секунду під час роботи з моделлю Gemma 26B та контекстним вікном у 40 000 токенів. Для порівняння, Mac mini з M4 Pro показав лише 188 токенів на секунду в тій самій тестовій задачі. Варто зазначити, що видання DigiTimes повідомляє про відсутність незалежних верифікацій цих даних, тому до цих результатів слід ставитися з певною обережністю.
2 з 9
Залишаються відкритими питання щодо заяви Acrab про можливість запуску 100-мільярдних AI-моделей. Mac mini з M4 Pro наразі обмежений 48 ГБ об’єднаної оперативної пам’яті, що має бути достатньо для моделей з 35 мільярдами параметрів. Однак 100-мільярдна модель вимагатиме 128 ГБ пам’яті, що може бути максимальною конфігурацією Gelix 1. 20-ядерний ARM-процесор викликає асоціації з NVIDIA DGX Spark та RTX Spark, тому існує припущення, що він може використовувати процесор від MediaTek.
Gelix 1 може стати привабливим рішенням для користувачів та бізнесів, для яких важливі конфіденційність та низька затримка. Він дозволить запускати великі AI-моделі локально, займаючи мінімальний простір на столі. На жаль, ціна та деталі доступності наразі невідомі, але можна припустити, що конфігурація для запуску 100-мільярдних моделей локально не буде бюджетною.
Про автора: Омар Сохаїл — репортер та аналітик мобільного розділу Wccftech, що спеціалізується на технологіях та бізнесі мобільної індустрії. Його експертиза охоплює складний ланцюжок поставок апаратного забезпечення, виробництво напівпровідників, літографію чипів та технології сенсорів камер.
Слідкуйте за новинами Wccftech у Google, щоб отримувати більше актуальної інформації у своїй стрічці.
Apple припинила випуск Mac mini з 256 ГБ за день до попередження про «кризу пам’яті»
Рохаїл Салім
Фатальна помилка Apple у постачанні передових чіпів та популярність OpenClaw призвели до розчарування клієнтів та втрати доходу
Омар Сохаїл
Злодія Mac mini викрили через власну необережність, яка залишила докази на онлайн-майданчику
Омар Сохаїл
Apple намагається вивести з ринку продукти на базі чіпа M4, тому Mac Mini та Mac Studio зараз недоступні
Рохаїл Салім
Оригінал статті: wccftech.com