OpenAI виводить на широкий загал свою новітню передову мовну модель – Sol. Ця система вважається принаймні на рівні з Fable від Anthropic, моделлю, чиї можливості (або ж питання власності) настільки стурбували Білий дім, що її тимчасово заборонили до публічного доступу.
Нечіткі процеси затвердження
Як же ці моделі отримали дозвіл на випуск? Коротко кажучи: ніхто достеменно не знає.
«Чесно кажучи, я не маю чіткого уявлення про ці конкретні процеси, тому так, я не відчуваю, що маю достатньо інформації, щоб сказати, чи вони адекватні, чи ні», — зазначила Міна Нараянан, старший аналітик у Центрі безпеки та новітніх технологій Джорджтаунського університету, у коментарі TechCrunch. «Anthropic повідомили, що вони вели переговори з урядом, і що вони розробили класифікатор для виявлення спроб обійти обмеження (jailbreak), а також впровадили стратегії захисту для запобігання майбутнім таким спробам. Однак, який саме діалог відбувався між урядом та Anthropic і OpenAI, залишається незрозумілим».
Дін В. Болл, колишній радник адміністрації Трампа, а нині співробітник OpenAI, минулого місяця у своїй розсилці написав, що «ніхто не знає, які вимоги для отримання ліцензії».
Відсутність прозорості та влади
Енді Конвінскі, науковець-комп’ютерник, співзасновник Databricks, Perplexity та Laude Institute, заявив, що ніколи не спілкувався з ніким, хто б розумів цей процес, навіть зі співробітниками передових лабораторій. «Це екзистенційна проблема», — сказав він TechCrunch. «Незалежно від безпеки, питання в тому, хто має владу приймати рішення — хто контролює доступ і визначає дозволи?»
Через півтора року після початку роботи адміністрації Трампа, досі бракує ясності щодо подальших кроків, незважаючи на — або, як стверджують деякі критики, через — те, що провідні фігури галузі формують політику. Минулого місяця, після тижнів внутрішніх суперечок, було опубліковано виконавчий наказ, що окреслює дорожню карту для оцінки передових моделей. Проте конкретні деталі ще не визначені, окрім того, чого не буде. «FDA для ШІ не буде», — заявив Срірам Крішнан, колишній партнер Andreessen Horowitz, який до минулого місяця обіймав посаду старшого радника з питань ШІ у Білому домі, в інтерв’ю Financial Times.
Централізація контролю та невизначеність
Важливо відзначити, що досі немає згоди щодо того, які типи моделей потребують державного нагляду, або яке агентство чи агентства мають проводити ці оцінки. Наразі, схоже, провідну роль відіграє Центр стандартів та інновацій у сфері ШІ при Міністерстві торгівлі США. Однак, виконавчий наказ доручає шести міністерствам визначити остаточний процес до початку серпня. Те, що виникло за цей час, є, в кращому випадку, вимушеним.
Генеральний директор OpenAI, Сем Альтман, повідомив CNBC, що процес включав переговори з посадовцями, такими як міністр торгівлі Говард Лютнік, міністр фінансів Скотт Бессент та директор з кібербезпеки США Шон Кейрнкросс. Однак, незрозуміло, хто були експерти, які тестували моделі, і як саме вони це робили. OpenAI відмовилася надати TechCrunch деталі щодо урядового процесу, але вказала на результати зовнішніх оцінок від таких організацій, як U.K. AISI, SecureBio та Irregular, опубліковані в карті безпеки останньої моделі.
Як і у випадку з випуском Fable від Anthropic, OpenAI представила модель урядовцям та обраним користувачам перед ширшим розповсюдженням. Однак, ми не знаємо, хто саме були ці користувачі та як їх обирали. У блозі, опублікованому наприкінці червня, компанія заявила: «Ми не вважаємо, що такий процес державного доступу має стати довгостроковим стандартом», зазначивши, що OpenAI працюватиме з урядом над розробкою іншого шляху.
Політичні впливи та їх наслідки
На тлі цих переговорів, однак, виникають повідомлення про те, що Альтман нібито пропонував до 5% акцій OpenAI для так званих «рахунків Трампа» в адміністрації, а президент OpenAI Грег Брокман є найбільшим публічно відомим донором передвиборчої кампанії Трампа. Зовнішнім спостерігачам важко відокремити ці дії від, очевидно, менш суворого підходу уряду до регулювання Sol.
Натомість, Fable від Anthropic був тимчасово вилучений з ширшого доступу, коли уряд США заборонив його використання іноземцями. Це було частково зумовлено реальними побоюваннями щодо використання моделі для отримання доступу до можливостей злому, а частково — через особисті розбіжності між Anthropic та адміністрацією Трампа. Загроза заборони на експорт, можливо, також спонукала OpenAI бути більш кооперативною у відповідь на (невідомі) запити уряду.
З точки зору галузі, відсутність жорсткого регулювання може бути привабливою. Однак, підхід, що залежить від особистих зв’язків з посадовцями адміністрації, створює невизначеність та стимулює неправильну поведінку.
Роль експертів та майбутні моделі
Конвінскі висловив TechCrunch занепокоєння, що справжні експерти в цій галузі — «дослідники безпеки, дослідники узгодженості, дослідники інтерпретованості, а також фахівці з даних та люди з усіх рівень стеку» — не відіграють достатньої ролі у процесі випуску моделей.
Конвінскі стверджує, що «відкритий спільний ресурс» (open commons) є найкращим способом збалансувати безпеку та інновації. Він наводить приклади таких інституцій, як FDA, NIH або національні лабораторії, які об’єднують дослідників, урядовців та приватні компанії для досягнення консенсусу з питань безпеки.
Частково це пов’язано зі стимулами капіталізму, які мотивували дослідників ШІ більше десятиліття, і які розглядалися в судовому процесі під час позову Ілона Маска проти корпоративної структури OpenAI. Болл зазначає, що специфіка бізнесу ШІ вимагає від компаній якнайшвидшого повернення значних витрат на навчання своїх моделей після їх випуску, щоб випереджати конкурентів.
«Навіть якщо їхні наміри добрі, існують чіткі юридичні зобов’язання та фідуціарна відповідальність, вбудовані безпосередньо в операційні процедури», — підкреслює Конвінскі.
Болл у своїй статті стверджував, що шлях вперед залежатиме від сторонніх аудиторських організацій, ліцензованих урядом, які оцінюватимуть підходи передових лабораторій до безпеки. Конвінскі також оптимістично ставиться до нових інституційних форматів, таких як цільові дослідницькі організації, які могли б допомогти більш неупередженим експертам з академічних та некомерційних кіл отримати доступ та оцінити передові моделі.
Прозорість та суспільна довіра
Наразі таємничість навколо розробки ШІ не зникає, але вона також сіятиме політичні виклики для галузі, до якої американці ставляться дедалі скептичніше. «Немає відчуття, що відповідальні люди керують цими змінами», — заявив минулого тижня на конференції Open Frontier професор комп’ютерних наук Університету Вісконсин-Медісон Ремзі Арпачі-Дуссео.
На тій же події Девід Сігел, науковець-комп’ютерник, який заснував Two Sigma, один із найуспішніших кількісних хедж-фондів, попросив присутніх «уявити ситуацію, яка, на мою думку, була б дуже поганою: невелика кількість фірм контролює технологію; уряд у своїх таємних лабораторіях оцінює, чи придатна технологія для використання; а широка громадськість та наукова спільнота не мають жодного доступу до будь-чого з цього».
Здається, нам не потрібно це уявляти.
Думка ІТ-Блогу: Випуск передових моделей ШІ OpenAI та Anthropic на тлі невизначеності регуляторних процесів свідчить про зростаючу розсинхронізацію між швидким розвитком технологій та повільним створенням правових рамок. Це може призвести до непередбачуваних наслідків як для бізнесу, так і для користувачів, підриваючи довіру до галузі.
Інформація підготовлена на основі матеріалів: techcrunch.com