Вражаючі можливості китайської лабораторії Moonshot та її Kimi K3, найбільшої великої мовної моделі з відкритими ваговими коефіцієнтами (open-weight), викликали дискусію, яка змішує економічні перспективи американських AI-гігантів та майбутнє LLM як технології.
Керівник відділу стратегічних майбутніх розробок OpenAI, Дін В. Болл, навіть дійшов висновку, що уряд США має знайти привід для створення регуляторного страху, невизначеності та недовіри до нових моделей, оскільки open-weight моделі неминуче стримують капітальні витрати передових лабораторій.
Це викликало бурхливу реакцію, а технологічні гуру, такі як Ян ЛеКун і Мартін Касадо, стверджували, що відкрите програмне забезпечення може прискорити інновації та співіснувати з пропрієтарними проєктами. Болл незабаром відмовився від своїх заяв про те, що регуляторні обмеження є «найкращою стратегією» Білого дому, і що open-weight моделі неминуче уповільнюють розвиток технології.
Однак, Axios повідомляє, що адміністрація Трампа розглядає можливість заборони K3 та інших передових китайських моделей на прохання американських передових лабораторій. Інший звіт від Politico свідчить, що Міністерство торгівлі не вживатиме таких заходів найближчим часом.
Вигода для великих AI-компаній очевидна: open-weight моделі, що працюють на незалежній інфраструктурі або в межах великих підприємств, пропонують дешевше інтелектуальне рішення, ніж моделі лідерів галузі від Anthropic або OpenAI. Якщо користувачі витрачатимуть більше поза межами закритих лабораторій, це означатиме меншу віддачу від їхніх величезних інвестицій у навчання моделей.
Це бачення виходить далеко за межі OpenAI. «Сильні, передові моделі з відкритим вихідним кодом стиснуть маржу прибутку та знизять ціни для передових компаній», — заявив TechCrunch Брейден Хенкок, співзасновник Snorkel AI та науковий співробітник Laude Institute. «Це не обов’язково означатиме, що обсяг використання ШІ трохи зменшиться. Ви самі розумієте, зовсім навпаки».
Це не проблема для людей, які не мають акцій в Anthropic та OpenAI. ШІ все одно поширюватиметься. Тож на якій підставі уряд має блокувати американцям можливість купувати щось на наших, здавалося б, вільних ринках?
Занепокоєння щодо китайських моделей має кілька аспектів. Одне з них — захист даних США від китайського уряду; США заборонили імпорт сучасних китайських електромобілів через побоювання щодо збору їхніх даних. Але експерти схиляються до думки, що open-weight моделі, що працюють на американських серверах, навряд чи передаватимуть дані до Китаю, хоча це не є неможливим.
Інше — це те, що моделі можуть мати неявне упередження щодо КНР — але незрозуміло, що це може означати, скажімо, для завдань кодування.
Третій поширений страх полягає в тому, що китайські моделі не мають захисних механізмів, які уряд США наказав (через непрозорий процес), спрямованих на запобігання використанню провідних американських LLM для експлуатації закритих комп’ютерних систем або створення зброї. Однак, ті самі захисні механізми можуть зробити американські компанії більш вразливими: Девід Сакс, венчурний капіталіст і радник Трампа, ділиться випадками, коли американські компанії зверталися до китайських LLM для усунення прогалин у безпеці, коли американські передові моделі відмовлялися виконувати завдання.
Але найвагомішою мотивацією для обмеження моделей є страх, що Китай зможе випередити США, якщо передові лабораторії сповільняться.
Сем Бреcнік, науковий співробітник, який спеціалізується на Китаї, у Центрі безпеки та новітніх технологій Джорджтаунського університету, каже, що зростаюча важливість ШІ для військових операцій США дає Америці підставу підтримувати подальші інвестиції в ШІ в передових лабораторіях. Але, за його словами, все це питання є непростим.
«Чому уряд США повинен захищати ці компанії від конкурентів, яких витісняють з американського ринку на підставі їхнього походження?» — запитує Бреcнік.
Прихильники відкритого ШІ стверджують, що передові компанії створюють хибну дихотомію між інноваціями та закритими моделями.
«Більший вплив від появи цих моделей з відкритим вихідним кодом з Китаю полягає не стільки в тому, що вони впроваджують приховані канали доступу, скільки в тому, що вони володіють інноваціями», — сказав Хенкок TechCrunch. «Ви отримуєте, по суті, розширений робочий колектив над вашою моделлю. PyTorch став галузевим стандартом, тому що він був з відкритим вихідним кодом, і вся спільнота могла робити внесок у нього, а не тільки одна компанія, і він ріс і ріс, а всі інші бібліотеки глибокого навчання фактично зникли в порівнянні з ним».
Хенкок та інші прихильники побоюються, що китайські LLM стануть центром міжнародних досліджень. Вже зараз американські аспірантські програми переважно спираються на китайські моделі з відкритими ваговими коефіцієнтами, і Хенкок каже, що половина статей, які вивчають студенти, надходять з китайських установ, причому американські передові лабораторії все менше готові ділитися своїми напрацюваннями.
«Обмеження відкритих моделей не зробить ШІ безпечнішим», — сказав Клем Деланж, генеральний директор Hugging Face, платформи для відкритої співпраці у сфері ШІ. «Це просто приховає ризики, сконцентрує владу в руках кількох осіб і ускладнить участь наступного покоління розробників, дослідників, науковців, некомерційних організацій, урядів у створенні ШІ, який буде безпечнішим і кориснішим для всіх».
Бреcнік вважає, що справжній спосіб уповільнити Китай — це більше зосередитися на експортному контролі чіпів. Кращим способом зберегти лідерство США в галузі ШІ було б припинити продаж процесорів Nvidia H200 до Китаю. «Це, — каже він, — могло б потенційно вивести нас з цієї складної дискусії про заборону технологій з відкритим вихідним кодом, які бажає використовувати величезна кількість американських компаній».
Частина проблеми полягає в невизначеності щодо економіки ШІ. «Відкрита бізнес-модель, пропрієтарна бізнес-модель — жодна з них ще не визначена. AI-компанії намагаються зрозуміти, як заробляти гроші на своїх інструментах, особливо коли витрати на навчання зростають і зростають», — зазначає Бреcнік.
Ті ж виклики, що спостерігаються в США, також проявляються в Китаї, де AI-компанії також намагаються генерувати дохід та отримувати доступ до обчислювальних потужностей, а уряд, схоже, заохочує відкриті релізи з політичних міркувань, незважаючи на труднощі з їх монетизацією.
Деякі американські компанії, зокрема Thinking Machines Lab та Nvidia, намагаються створити бізнес навколо випуску відкритих моделей. Хенкок зазначає, що Nvidia краще б «якщо б існували десятки або сотні компаній, що розробляють ШІ, а не дві чи три, які мають достатньо капіталу для виробництва власних чіпів», що є однією з причин її інвестицій у Nemotron, колекцію відкритих моделей.
«Основна думка полягає в тому, що США отримали б велику користь від наявності власних, дуже потужних і значно дешевших відкритих моделей», — сказав Бреcнік. «Це просто суперечить підходу, який обрали передові лабораторії».
За додатковими матеріалами Ребекки Белан.
Коли ви здійснюєте покупки за посиланнями в наших статтях, ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Оригінал статті: techcrunch.com