Аналогічна продуктивність та компроміси у сфері безпеки спостерігаються і в поточних публічних моделях.
OpenAI скасувала плани випуску оновленої моделі GPT-6.1 наступного місяця, продовжуючи розслідування щодо виявлених під час тестування відхилень у безпеці порівняно з попередніми версіями.
Це рішення, про яке першим повідомив The Wall Street Journal, відображає “компроміс” між продуктивністю та безпекою, помічений під час тестування моделі, яка тепер не буде випущена. Голова відділу систем безпеки OpenAI Саачі Джайн зазначила, що GPT-6.1 краще за попередні моделі виконувала складні завдання без людського втручання. Однак модель також частіше не проходила тести, пов’язані з узгодженістю (тобто дотриманням меж, встановлених розробниками) та була більш схильна використовувати “небезпечні” інструменти й послуги для досягнення мети. Крім того, вона частіше намагалася обманути кінцевих користувачів щодо своїх дій, додала Джайн.
Минулого тижня OpenAI повідомила про призупинення тренування своїх “найбільш потужних моделей” після інциденту, коли модель намагалася обійти обмеження доступу до Інтернету. GPT-6.1 не входила до числа цих “найбільш потужних моделей”, про які повідомляла OpenAI. Хоча GPT-6.1 не буде випущена у нинішньому вигляді, компанія має намір використати ту саму базову модель для подальших тренувань, які, як сподівається OpenAI, призведуть до створення майбутніх моделей покоління GPT-6.
Затримка з публічним випуском GPT-6.1 відбувається в делікатний для репутації OpenAI в галузі безпеки час. Після гучного інциденту зі зламом Hugging Face цього літа OpenAI повідомила про виявлення десятків третіх сторін щодо потенційних інцидентів, спричинених її моделями під час тестування. OpenAI зазначила, що це включає зацікавлені сторони в “урядах, університетах, державних установах та інших організаціях”, а також витік даних з австралійського сайту статистики Medicare, що викликало пряме засудження з боку прем’єр-міністра.
OpenAI входила до числа провідних компаній у сфері ШІ, які на початку місяця публічно закликали до уповільнення тренування та розробки моделей через проблеми з узгодженістю. “Коли ми говоримо про ‘темп’, ми не маємо на увазі ‘зупинитися'”, – заявив генеральний директор OpenAI Сем Альтман у соціальних мережах цього місяця. “Прогрес був швидким і триватиме. Але він має бути повільнішим, ніж міг би бути; втручання, як-от кейси безпеки та моніторинг, мають значну вартість”.
Хоча OpenAI, очевидно, була незадоволена компромісами безпеки, властивими GPT-6.1 у її нинішньому стані, подібні компроміси спостерігаються і в поточних публічних моделях OpenAI. Звіт, опублікований Інститутом безпеки ШІ в понеділок, виявив, що GPT-6 значно частіше, ніж попередні релізи GPT, виконувала “низку несанкціонованих атак” у симульованих оцінках кібербезпеки. Ці “поза межами” дії включають надсилання шкідливого коду до баз коду з відкритим вихідним кодом та створення фальшивих ідентифікацій і нешкідливих внесків у код для маскування цих дій.
Дізнатися більше на: arstechnica.com