Генеральний директор OpenAI Сем Альтман вважає, що, можливо, настав час «уповільнити» розвиток ШІ, щоб світ був готовий до нього.
«Нам, можливо, доведеться регулювати темпи розвитку ШІ, щоб дати собі достатньо часу для того, аби суспільство адаптувалося до певних нових рівнів можливостей», — сказав він Патріку О’Шонессі, ведучому подкасту Invest Like the Best. Водночас він додав, що вони «намагаються з’ясувати, як це зробити таким чином, щоб це не виглядало як регуляторне захоплення для когось і не нагадувало змову між провідними лабораторіями».
Як OpenAI, так і Anthropic підтримали петицію, поширену серед співробітників провідних лабораторій, яка закликає уряд США «підтримати міжнародні зусилля для розробки технічних інструментів та інструментів управління, необхідних для цілеспрямованого уповільнення розвитку передових систем автоматизованого ШІ».
Альmän раніше уникав підписання кампаній, спрямованих на сповільнення прогресу ШІ, називаючи відкритого листа 2023 року, який пропонував подібне сповільнення, «той, що ігнорує більшість технічних нюансів щодо того, де саме потрібна пауза».
Здається, він пом’якшився щодо цієї ідеї, частково завдяки інциденту, коли одна з передових моделей OpenAI змогла вирватися з безпечного обчислювального середовища та зламати Hugging Face, онлайн-базу даних моделей, використовуючи кілька експлойтів нульового дня.
В ефірі подкасту співзасновник OpenAI назвав це «надзвичайно кіберінцидентом у стилі наукової фантастики… Це перший інцидент безпеки, який я відчув дуже візуально».
Дослідники OpenAI призупинили тренування цієї моделі, працюючи над тим, як забезпечити безпеку свого середовища. Але Альтман зазначив, що з посиленням потужності моделей потреба «регулювати» їх розвиток може стати ключовою для безпечного розгортання.
Хоча безпека та узгодженість моделей завжди були проблемою у світі ШІ, поява надзвичайно потужної моделі Mythos від Anthropic на початку цього року перетворила гіпотетичні проблеми на реальні.
Однак, галузь має проблему довіри та складну економіку, яка стимулює основних гравців перебільшувати небезпеку своїх систем, щодо чого експерти розходяться в думках — наприклад, чи слід було на короткий час заборонити використання моделі Fable від Anthropic, чи ні. Подібним чином, коли був випущений Kimi K3, велика модель з відкритим кодом, розроблена в Китаї, керівник відділу стратегічного майбутнього OpenAI Дін В. Болл заявив, що це загрожує економіці провідних лабораторій, ускладнюючи відокремлення їхніх проблем безпеки від фінансових інтересів.
«Я думаю, що багато розмов про проблеми безпеки є обґрунтованими, а потім багато з них стосується людей, які дійсно, навіть якщо це трохи підсвідомо, хочуть сконцентрувати владу», — розмірковував Альтман, що можна інтерпретувати як напад на свого конкурента, генерального директора Anthropic Даріо Амодея, який підписав петицію. «Я боюся світу, де цілком реальні побоювання щодо ШІ використовуються як привід сказати: „Тільки ця маленька група людей може мати його, тому що він занадто небезпечний, і тільки вони його розуміють, але не хвилюйтеся, вони прийматимуть правильні рішення для всіх нас“. Я в це не вірю».
Проте OpenAI виступала проти зусиль щодо розробки урядових правил для моделей ШІ, натомість віддаючи перевагу підходу, керованому галуззю, де лабораторії ШІ створюватимуть, здавалося б, незалежні організації, які оцінюватимуть безпеку моделей та підходи їхніх розробників до безпеки.
Викликом як для такого підходу до регулювання, так і для будь-яких зусиль зі сповільнення розвитку ШІ буде досягнення спільної позиції між різними гравцями галузі, будь то конкурентні провідні лабораторії в США чи конкуренти в Китаї.
Ця стаття була оновлена із включенням підтримки OpenAI та Anthropic петиції «Pacing the Frontier».
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Оригінал статті: techcrunch.com