Керівник відділу глобальної політики OpenAI Кріс Лехейн повідомив журналістам у вівторок, що компанія протягом кількох тижнів співпрацює з конкурентами Anthropic та Google DeepMind над безпекою штучного інтелекту. Про це першим повідомив Bloomberg. Лехейн, як повідомляється, перебуває у Вашингтоні для роботи з американськими законодавцями, які розглядають катастрофічні ризики, пов’язані зі ШІ.
Це повідомлення з’явилося після публікації есе генерального директора Anthropic Даріо Амодеї в суботу, в якому він закликав галузь до спільної роботи, щоб уповільнити розвиток передових систем ШІ та уникнути катастрофічних ризиків. Лідерів ШІ-індустрії, зокрема Сема Альтмана (OpenAI), Деміса Хассабіса (Google) та Ілона Маска (SpaceXAI), підтримали лист Амодеї та його заклик до дій. Альтман заявив, що OpenAI приєднається до Anthropic у впровадженні сторонніх оцінювачів для моніторингу безпеки.
У вівторок Лехейн підтвердив, що три компанії ведуть переговори щодо безпеки ШІ протягом кількох тижнів. Деякі, включно з Альтманом, зазначали, що такі переговори можуть становити ризик порушення антимонопольного законодавства, якщо координація буде розцінена як придушення конкуренції. Амодеї у своєму есе запропонував вузьке державне виключення, що дозволяє таку координацію з безпеки, але Лехейн, як повідомляється, заявив, що фірмам це не потрібно.
Ця новина підтверджує попередні повідомлення і натякає на те, що компанії працювали разом. В інтерв’ю Fortune минулого тижня Альтман натякнув, що він брав участь у приватних обговореннях з іншими лідерами ШІ. Цього тижня The Information повідомив, що три компанії співпрацюють над створенням стандартизованого органу для ШІ-індустрії — чого, як повідомляється, Альтман сказав співробітникам, потрібно досягти без підтримки уряду США.
У липні Хассабіс закликав США створити новий орган зі стандартизації, який діяв би як наглядач за ШІ, з повноваженнями перевіряти найпередовіші моделі світу та координувати загальногалузеве уповільнення розвитку, якщо небезпеки зростатимуть.
Президент Трамп, зі свого боку, відкинув занепокоєння щодо безпеки як вигадку і виступив проти потреби в жорсткіших регуляціях, заявивши, що будь-яке уповільнення дасть Китаю перевагу в перегонах. Його головний радник з питань ШІ Девід Сакс — давній інвестор із особистою зацікавленістю в багатьох секторах індустрії — підтримав цю думку, заявивши, що страхи перед екзистенційним ризиком від ШІ перебільшені.
На тому ж вівторковому засіданні Лехейн зазначив, що OpenAI підтримує положення закону FRONTIER Act, яке змусить провідні лабораторії дозволити “незалежним верифікаційним організаціям” доступ до своїх компаній для забезпечення безпечної розробки моделей.
TechCrunch звернувся до Anthropic, Google та OpenAI за коментарями.
Дізнатися більше на: techcrunch.com