Google та дослідники Google DeepMind у середу представили DeepMind Institute для розвитку дискусії навколо штучного загального інтелекту (AGI). Серед директорів інституту — співзасновник DeepMind Шейн Легг, керівник Google Джеймс Ман’їка та голова Google DeepMind Деміс Хассабіс. Шейн Легг виконуватиме функції головного редактора.
Новий інститут має на меті представити відмінності у поглядах між Google, Google DeepMind та ширшою світовою дослідницькою спільнотою щодо AGI. «Вони не завжди будуть згодні, і, ймовірно, змінять свою думку, коли з’явиться більше даних та інформації на цьому швидкоплинному фронті», — йдеться в анонсі.
Початкова колекція з чотирьох есе охоплює низку тем: економічні стратегії для управління потенційними перебоями, спричиненими AGI, збереження здатності моделей до пояснення своїх міркувань людиною, принципи процвітання людства та рамки для оцінки передових моделей ШІ.
Одне з есе, написане дослідниками з безпеки DeepMind Рохіном Шахом та Анкою Драган, стверджує, що скорочення «вікна прозорості» ШІ — тобто можливості бачити та перевіряти поетапні міркування моделі — не є неминучим. Автори зазначають, що, оскільки нові архітектури ускладнюють моніторинг найпотужніших моделей, розробники та регулятори повинні безпосередньо протистояти компромісам у безпеці. Це може означати обмеження «непрозорої послідовної глибини» — обсягу послідовних обчислень, які модель може виконати без генерації зрозумілого сліду міркувань — або вимагати від розробників довести, що менш прозорі системи залишаються так само моніторинговими.
В іншому есе Хассабіс пропонує очолювану США організацію зі стандартизації передових ШІ-моделей для оцінки найсучасніших систем. Згідно з його пропозицією, розробники спочатку добровільно подаватимуть моделі на розгляд за 30 днів до випуску. Після того, як система оцінки доведе свою ефективність, успішне проходження її тестів може стати обов’язковою вимогою для розгортання передових моделей у Сполучених Штатах.
Спочатку ця організація розроблятиме оцінки в консультації з компаніями, що займаються ШІ, але згодом створить незалежні, нерозголошувані тести — що в есе називається «резервними» тестами — щоб запобігти адаптації моделей компаніями до відомих тестів. Хассабіс заявив, що рамки можуть бути «посилені, якщо серйозність ситуації цього вимагатиме», потенційно включаючи скоординоване уповільнення розробки передових ШІ.
Ці есе з’являються в той час, коли галункові дебати щодо безпеки зміщуються від загальних висловлювань занепокоєння до конкретних пропозицій щодо розкриття інформації, зовнішнього контролю та, у разі відставання запобіжних заходів, скоординованого уповільнення. Цей зсув прискорився цього тижня, коли лідери галузі підтримали елементи заклику генерального директора Anthropic Даріо Амодея «відтермінувати» розробку передових ШІ.
За даними порталу: techcrunch.com