Apple не обов’язково створювати власну передову модель ШІ, щоб досягти успіху. Компанія може просто співпрацювати з іншою фірмою, яка вже вкладає значні ресурси у розробку моделей передового рівня. Прикладом такої співпраці є нещодавно оголошене партнерство між Apple та Meta AI, де нова модель Muse Spark Open була спеціально оптимізована для забезпечення високої продуктивності на пристроях Apple.
Модель Muse Spark Open від Meta має 816 мільярдів параметрів, але одночасно активує лише 42 мільярди параметрів і «оптимізована для роботи на двох Apple M5 Ultra Mac Studios з найновішим фреймворком MLX»
Сьогодні ми випускаємо Muse Spark Open — найпотужнішу відкриту модель у США на сьогодні.
Вона створена для завдань кодування та агентивної роботи, чудово справляється з довготривалими завданнями, складним програмним інжинірингом та багатоетапним міркуванням.
Основні характеристики моделі:
→ 816 млрд загалом / 42 млрд активних параметрів
→ 1 млн токенів… pic.twitter.com/yAtoxNeYJm— AI at Meta (@AIatMeta) October 15, 2026
Meta щойно випустила Muse Spark Open, назвавши її «найпотужнішою відкритою моделлю у США на сьогодні». Модель призначена для завдань, пов’язаних з агентивністю та кодуванням, і, як стверджується, «чудово справляється з довготривалими завданнями, складним програмним інжинірингом та багатоетапним міркуванням».
Щодо ключових архітектурних елементів Muse Spark Open, це масивна модель Mixture-of-Experts (MoE) з 816 мільярдами параметрів, яка активує лише 42 мільярди параметрів одночасно. Це надає їй глибоких можливостей міркування моделі майже з трильйоном параметрів без значного навантаження на обчислення. Вона також має контекстне вікно на 1 мільйон токенів.
Більше того, замість використання окремих модульних адаптерів або пізньої фазової обробки для обробки нетекстових входів, архітектура моделі є нативно мультимодальною, що означає, що вона може безпосередньо інтерпретувати довгий текст поряд із послідовними відеофрагментами.
Щоб забезпечити ефективну роботу моделі Muse Spark Open на периферійних пристроях, особливо від Apple, Meta впровадила низку функцій, зокрема:
- Pooled Memory Architecture: Вже відомо, що окремий чип Apple M5 Ultra може використовувати до 512 ГБ об’єднаної пам’яті (варіант на 512 ГБ вийде пізніше цього місяця), а коли два таких пристрої об’єднані за допомогою фреймворку MLX від Apple, кластер перетворює ці пристрої на суперкомп’ютер з 1 ТБ об’єднаної пам’яті, дозволяючи всьому файлу ваг на 816 млрд параметрів повністю розміститися на пристрої.
- Latency Mitigation: Архітектура використовує величезну пропускну здатність пам’яті Apple M5 Ultra — 1,2 ТБ/с. Оскільки моделі MoE залежать від миттєвого надсилання активних токенів до спеціалізованих експертів, ця високошвидкісна пропускна здатність забезпечує зчитування 42-мільярдної зрізки параметрів, необхідної для будь-якого окремого шару токенів, без серйозних вузьких місць у конвеєрі обчислень.
- Dynamic Weight Pulling: Інтегрований адаптер MLX нативно взаємодіє зі структурами репозиторію Hugging Face, відображаючи ваги безпосередньо в простори пам’яті Apple Silicon без необхідності інтенсивних локальних перетворень форматів.
Звісно, модель Muse Spark Open від Meta також може ефективно працювати на інших високопродуктивних периферійних пристроях завдяки низці оптимізацій:
- Custom Helion GPU Kernels: При розгортанні поза екосистемою Apple на дискретному обладнанні архітектура використовує спеціалізовані, автоматично настроювані ядра GPU Helion, інтегровані в SGLang, що забезпечує прискорення на рівні ядра від 1,03 до 3,95 рази на графічних процесорах NVIDIA і AMD, а також 3-відсоткове загальне прискорення спеціально для обладнання AMD MI350.
- Для розробників, які бажають далі модифікувати або розширювати архітектуру, модель нативно побудована для використання фреймворку TorchTitan від PyTorch, що дозволяє здійснювати чисте розподілене доналаштування та структурну кастомізацію.
Тим часом, модель перевершує всі інші відкриті LLM зі США майже за всіма показниками і може конкурувати з моделями з Китаю. Навіть попри це, Muse Spark Open значно слабша за деякі інші моделі Meta, включно з Muse Spark 1.3.
Тепер можна мати кілька кабелів thunderbolt між двома Mac, щоб збільшити загальну пропускну здатність кластера. Гадаю, зараз це близько 20 токенів на секунду на 2, ~36 на 4, але має стати набагато швидше
— Max Weinbach (@mweinbach) October 15, 2026
Нарешті, щоб отримати уявлення про її продуктивність, варто зазначити, що Muse Spark Open може видавати близько 20 токенів за секунду при підключенні двох Apple M5 Ultra Mac Studio через Thunderbolt, і близько 36 токенів за секунду при підключенні 4 таких пристроїв.
Зауважте, що для завантаження самої моделі потрібно щонайменше 359 ГБ пам’яті — при нативному BF16 параметри самі по собі потребують понад 1,6 ТБ. Однак при 4-бітному квантуванні знадобиться близько 493 ГБ пам’яті, а з урахуванням робочої пам’яті модель, ймовірно, не вміститься на один 512 ГБ Apple Mac Studio.
Про автора: Письменництво — це моя незаперечна пристрасть. За останні шість років я написав понад 2200 статей на фінансові та технічні теми, загальним обсягом майже 1 мільйон слів. Я є членом мобільної команди Wccftech з 2025 року. Як випускник програми Rotman Commerce Університету Торонто, я привношу глибину, глибокі знання та унікальну перспективу в кожну тему, яку висвітлюю. Коли я не пишу, я подорожую світом, досліджуючи приховані кондитерські та ресторани як початківець поціновувач їжі.
Подальше читання
AMD принесе «Arm»-дію до ноутбуків Microsoft Surface з APU Soundwave, щоб конкурувати з MacBook Neo за конкурентними цінами
Apple, ймовірно, представить свої перші 1.4 нм чіпи через два роки, оскільки TSMC прискорює масове виробництво у першому півріччі 2028 року, намагаючись запобігти випередженню поставок ШІ
KeyBanc повідомляє, що Intel виграла контракти від Broadcom, Google, Apple, AMD, Microsoft та NVIDIA, тоді як Amazon, Anthropic та Terafab SpaceX продовжують оцінювати її процеси 14A та 18A-P
9-річна NVIDIA Tesla V100 все ще демонструє певну потужність висновків; 4 GPU на платі NVLink можуть перевершувати M5 Ultra, DGX Spark у різних тестах ШІ до 230%
Джерело новини: wccftech.com