Meta відстає від конкурентів. Цукерберг вважає, що знайшов шлях уперед.
Марк Цукерберг під час презентації компанії. Джерело: Bloomberg / Contributor | Bloomberg
Meta оголосила про намір зосередитися на великих мовних моделях з відкритими вагами. Компанія також анонсувала випуск відкритої моделі Muse Glimmer і пообіцяла відкрити ваги для Muse Spark 1.2, її потужнішої моделі, протягом наступних кількох тижнів.
Разом із цими анонсами генеральний директор Meta Марк Цукерберг опублікував есе обсягом понад 6000 слів, окресливши філософію компанії щодо систем ШІ та їхнього управління в майбутньому. Есе має на меті відрізнити Meta від таких компаній, як OpenAI та Anthropic, які розробляють пропрієтарні моделі та лобіювали уряд США за допомогу в боротьбі з дистиляцією великого масштабу (використання існуючої моделі для навчання нової) або з моделями з відкритими вагами від китайських лабораторій.
Muse Glimmer — це модель із 30 мільярдами параметрів і контекстним вікном 128 000 токенів за замовчуванням. Вона дистильована з Muse Spark, більшої та потужнішої моделі, яку Meta випустила на початку цього року. Glimmer призначена для роботи на локальних машинах користувачів, а не через хмарний сервіс чи API. Ваги Glimmer є відкритими під ліцензією Apache 2.0.
Muse Spark було представлено у квітні як закриту пропрієтарну модель передового класу — перший великий випуск моделі від Meta після значного переформатування команд ШІ компанії минулого року, що стало відходом від її фокусу на моделях, які, за певним визначенням, є відкритими. Коли Meta випустила Muse Spark 1.1 у липні, вона запровадила свою першу платну послугу — знову ж таки, відхід від попередньої стратегії. Muse Spark 1.2 було випущено 5 серпня разом із Muse Code, термінальним агентом для кодування.
Розробники загалом вважають, що Muse Code не зовсім відповідає передовим моделям від Anthropic чи OpenAI за можливостями, але добре конкурує за вартістю — що означає подібне позиціонування до багатьох моделей з відкритими вагами від китайських лабораторій.
Як менша модель, призначена для роботи на споживчих GPU, Muse Glimmer взагалі не конкуруватиме на цьому рівні, але вона відображає зростаючий рух до перенесення частини інференсу на локальні пристрої для зменшення залежності та витрат на моделі, вироблені великими лабораторіями, як-от Anthropic та OpenAI.
Відкриті ваги, відкритий доступ
Окрім випусків моделей, Марк Цукерберг зазначений як автор довгого відкритого листа, в якому детально описано корпоративну стратегію Meta щодо ШІ та ширший аргумент щодо того, як ШІ має розроблятися, поширюватися та регулюватися.
Це випливає з кількох заяв інших лідерів Big Tech та компаній ШІ, які обговорювали переваги моделей з відкритими вагами, пропрієтарних лабораторій та практики дистиляції — того, що, за повідомленнями, деякі китайські лабораторії роблять для створення моделей, які конкурують із останніми розробками Anthropic та інших.
24 липня кілька компаній, зокрема Nvidia, Hugging Face, Meta, Mistral, Mozilla, OpenAI та інші, спільно підписали відкритий лист під назвою «Open Weights and American AI Leadership» («Відкриті ваги та лідерство Америки в галузі ШІ»). У листі стверджувалася цінність моделей з відкритими вагами як альтернатива (або принаймні доповнення) пропрієтарним моделям і захищалася дистиляція як легітимна практика, одночасно виділяючи «незаконні спроби отримати вигоду з закритих моделей». Компанії виступали за «цільові правові та комерційні рамки, а не заширокі обмеження методів, які відіграють важливу роль в інноваціях ШІ».
Щодо дистиляції Meta та Цукерберг писали:
Здатність моделей навчатися від інших моделей є важливим принципом роботи екосистеми з відкритим вихідним кодом. Усі моделі ШІ походять від людських знань. Дехто намагався представити дистиляцію як шкідливу, але я вважаю, що важливо захищати принцип, згідно з яким можна навчатися на всьому, що можна спостерігати.
Однак більша частина есе була присвячена концепції децентралізованих систем ШІ, які широко розповсюджуються. Вона також безпосередньо спрямована на аргументи про те, що жорстко контрольовані пропрієтарні моделі та системи ШІ необхідні через побоювання екзистенційних загроз або катастрофічних невідповідностей:
Дивно, що дискурс багатьох розробників ШІ наповнений таким песимізмом. Я не розумію, чому хтось, хто вірить, що ШІ усуне більшість робочих місць і значну частину актуальності людства, поспішатиме створювати таке майбутнє. Уявлення про те, що ШІ настільки небезпечний, що єдиний безпечний шлях — це крайня концентрація влади, здається проблематичним за своєю суттю.
Цукерберг писав, що підхід до узгодженості, якого дотримуються такі компанії, як Anthropic (які стверджують, що намагаються тренувати єдині й широкі базові моделі з операційними параметрами та системами безпеки, які гарантуватимуть, що вони принесуть користь людству загалом), є «фундаментально помилковим».
«Різноманітні цінності людей представляють різні компроміси, які вони робили б у важливих питаннях. Немає технологічного рішення, яке могло б одночасно узгодити протилежні інтереси та цінності всіх», — йдеться в есе. «Будь-який єдиний суперінтелект мусив би надавати пріоритет одним цінностям над іншими, і в процесі був би нездатним бути милостивим до всіх».
Натомість Meta стверджує, що моделі мають бути персоналізовані відповідно до потреб та цінностей індивідів або груп індивідів. Вона також стверджує, що децентралізація зробить усіх безпечнішими, оскільки надасть переваги та вигоди «суперінтелекту» всім однаково, замість того, щоб надавати переваги «невеликій кількості осіб, компаній, урядів чи самому ШІ».
Публічне перекалібрування
Meta відстає від інших компаній Big Tech та провідних лабораторій у розробці базових моделей. Її моделі не здобули такого рівня впровадження, як ті, що розроблені OpenAI або Anthropic.
OpenAI та Anthropic агресивно орієнтувалися на корпоративних клієнтів, випускаючи потужні моделі та інструменти для завдань, пов’язаних з інтелектуальною працею, як-от розробка програмного забезпечення, і досягли значних успіхів та генерували суттєві доходи від цієї стратегії. Meta не досягла такого ж рівня успіху.
Meta також пережила повне оновлення свого відділу ШІ минулого року, коли колишнього головного наукового співробітника Meta AI Яна ЛеКуна замінив колишній генеральний директор Scale AI Александер Ван. Це переформатування призвело до зміни фокусу.
Останніми місяцями дебати навколо моделей з відкритими вагами та дистиляції посилилися, оскільки нещодавні китайські моделі, як-от Qwen3.8-Max від Alibaba та Kimi K3 від Moonshot, продемонстрували конкурентоспроможність із Anthropic та OpenAI на передовому рівні. Ці моделі можуть показувати трохи гірші результати в бенчмарках кодування, наприклад, але їх використання загалом дешевше.
У певному сенсі Meta, здається, позиціонує себе як американську альтернативу Alibaba, Moonshot чи DeepSeek — не настільки орієнтовану на передові розробки, як Anthropic чи OpenAI, але більш відкриту, гнучку та доступну. Вона також орієнтується — принаймні, у цих публічних заявах — більше на персональне використання, аніж на великомасштабні корпоративні розгортання, принаймні на даний момент.
Це, певною мірою, відступ від деяких її попередніх амбіцій, оскільки компанія використовує мінливі вітри, щоб спробувати прокласти новий курс.
За даними порталу: arstechnica.com