Зі зростанням можливостей та популярності китайських відкритих AI-моделей, дискусії про те, що з цим робити, знову загострилися.
Є розмови про те, що адміністрація Трампа може спробувати заборонити їх (хоча поки що не висловлювала жодних дій щодо цієї ідеї). Тим часом, розробники пропрієтарних моделей, зокрема OpenAI та Anthropic, висловлюють зростаюче занепокоєння щодо них.
Відкриті моделі, такі як Kimi K3 від Moonshot AI або Qwen від Alibaba, пропонують висновки за значно меншу вартість за токен порівняно із закритими моделями від великих американських лабораторій. Існує побоювання, що вони також становлять певну загрозу. Безумовно, вони загрожують прибутковості великих пропрієтарних AI-лабораторій.
Але чи повинні підприємства, що використовують ці моделі у власних дата-центрах, піддаватися страху, що вони можуть стати вектором для китайських хакерів?
Ні, каже Лукас Аткінс, технічний директор Arcee, компанії, яка розробляє відкриті моделі, щоб надати американським компаніям вітчизняну альтернативу китайським моделям.
Якби будь-який стартап виграв від заборони китайських моделей, то це була б Arcee. Але Аткінс стверджує, що відкриті моделі Китаю не більш небезпечні, ніж будь-яке інше програмне забезпечення з відкритим кодом, яке може використовувати компанія. Насправді, каже він, вони навіть надають переваги його власній компанії.
«Багато людей розглядають це подібно до китайської програми. Ніби вона була написана з певними намірами x, y, z», якими поганий актор може просто керувати, — сказав він.
«Фундаментально, це не те, як тренуються ці моделі. Насправді немає жодного способу, щоб Arcee чи Alibaba створили модель, хтось запустив її у своєму власному середовищі, і щоб ми мали до неї будь-який доступ», — пояснив він.
Хоча більшість цих моделей є так званими «відкритими ваговими» (open weight) і насправді не є повністю програмним забезпеченням з відкритим вихідним кодом, вихідний код (частина, яка фактично працює на серверах), якщо він завантажений з відкритих джерел, таких як Hugging Face, також значною мірою є видимим та доступним для перегляду. (Те, що недоступно, — це методи та дані, використані для навчання моделей).
Великі організації повинні піддавати основні компоненти будь-якої моделі своїм процесам тестування безпеки та інспекції, а також часто донавчати моделі для своїх конкретних потреб і можуть перевіряти такі аспекти, як упередженість, токсичність, галюцинації та чутливість до певних тем. Таким чином, вони працюють з моделями, оптимізують їх та розуміють, перш ніж люди почнуть надсилати їм запити.
Чи може модель, яка використовується для кодування, якимось чином вставляти шкідливі бекдори в код, який вона генерує? Знову ж таки, хоча це теоретично можливо, це вимагатиме акробатичних зусиль.
«Немає причин, чому достатньо складний актор не міг би навчити модель бути абсолютно дивовижною моделлю для кодування за будь-яких обставин, але при представленні певного типу кодової бази… спрацювало б якесь приховане навчання», — розмірковував Аткінс, який тренує моделі. Але він додає: «Я не знаю, як би ви це зробили».
Оскільки великі мовні моделі за своєю природою є творчими, шанси отримати від сучасної моделі шкідливе програмне забезпечення у відповідь на заздалегідь спланований ідеальний збіг контексту та запиту є невеликими. Ще менші шанси, що будь-яке підприємство потім використає цей код.
Чи може це статися в майбутньому? Це вже здогадки. Але підприємства також створюють свої AI-додатки, щоб вони були незалежними від конкретних моделей і могли використовувати кілька моделей. Тому, навіть якщо китайські моделі сьогодні найкращі за ціною, підприємства не будуть прив’язані до їх використання назавжди.
«Я думаю, що замість розмови про те, як заборонити китайські моделі, слід обговорювати, як нам розвивати добру, відкриту екосистему тут, у США», — каже Аткінс.
Arcee також отримує переваги від китайських моделей. Оскільки вони відкриті, стартап «отримує вигоду від того, що ці моделі є хорошими, тому що ми можемо вчитися на їхньому досвіді. Ми можемо будувати на їх основі. Тоді вони можуть вчитися на тому, що робимо ми», — каже він. «Ми маємо величезну повагу до людей, які створюють ці моделі, до окремих дослідників».
Зрештою, шлях до конкуренції з китайськими моделями — «це випустити модель, яка буде кращою», — каже Аткінс. «Нам потрібно дати їм привід для розмов».
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Джерело новини: techcrunch.com