Річард Сохер, відомий засновник стартапу You.com та піонер у сфері ImageNet, знову в центрі уваги. Його новий проєкт, Recursive Superintelligence, розташований у Сан-Франциско, вийшов із “тіні” (стадії прихованої розробки) з вражаючою інвестицією у 650 мільйонів доларів. Компанія об’єднує провідних дослідників штучного інтелекту, зокрема Пітера Норвіга та Тіма Ші (співзасновника Cresta), для розробки моделі ШІ, яка здатна до рекурсивного самовдосконалення — автономно виявляти та виправляти власні недоліки без участі людини. Це довгоочікувана мета в галузі ШІ.
На шляху до самовдосконалення: філософія Recursive Superintelligence
У своєму інтерв’ю Сохер детально розповів про унікальний технічний підхід Recursive Superintelligence, відзначаючи, що цей проєкт відрізняється від “неолабораторій” (стартапів, що фокусуються на дослідженні, а не на продукті).
Унікальний підхід до рекурсії
«Наша унікальність полягає у використанні “відкритості” (open-endedness) для досягнення рекурсивного самовдосконалення, чого ще ніхто не досяг», — пояснює Сохер. Він розрізняє це від звичайного “автодослідження”, коли ШІ покращує інші системи чи тексти. «Ми прагнемо створити справжню рекурсивну, самовдосконалювану суперінтелект на масштабі, де весь процес ідей, впровадження та перевірки досліджень буде автоматизованим».
Початково це стосуватиметься досліджень у сфері ШІ, але згодом може поширитися на будь-які дослідження, навіть у фізичних сферах. Найбільший потенціал, на думку Сохера, криється в тому, коли ШІ працює над собою, розвиваючи нове “самоусвідомлення” власних обмежень.
“Відкритість” у технічному вимірі
Термін “відкритість” має специфічне технічне значення. Тім Рокташель, один зі співзасновників, який раніше керував командами з “відкритості” та самовдосконалення в Google DeepMind, працював над моделлю Genie 3. Це приклад “відкритості”, де система може генерувати та взаємодіяти з будь-якими концепціями та світами. Сохер порівнює це з біологічною еволюцією, де організми адаптуються до середовища, а інші контр-адаптуються, що триває мільярди років.
Іншим прикладом є “райдужне командування” (rainbow teaming), яке базується на концепції “червоного командування” (red teaming). Якщо в кібербезпеці “червоне командування” полягає у спробі зламати систему, то в контексті ШІ це означає тестування нейромережі на вразливості, наприклад, щоб вона не надавала інструкцій зі створення небезпечних предметів. “Райдужне командування” використовує дві ШІ: одна намагається “обдурити” іншу, яка, своєю чергою, вчиться уникати подібних загроз. Цей процес, що може тривати мільйони ітерацій, дозволяє двом ШІ “спів-еволюціонувати”, підвищуючи безпеку системи. Ця методика вже використовується у провідних лабораторіях.
Межі та амбіції
Сохер визнає, що деякі завдання ніколи не будуть “завершені” у абсолютному сенсі, оскільки інтелект може безкінечно вдосконалюватися. Однак він працює над формалізацією меж інтелекту, які, на його думку, є астрономічними, і людство далеке від них.
Відповідаючи на запитання про відмінності від “неолабораторій”, Сохер підкреслив, що Recursive Superintelligence відрізняється підходом, повністю зосередженим на “відкритості” та маючи команду з десятирічним досвідом досліджень у цій сфері. Він також не хоче обмежуватись статусом “лабораторії”, прагнучи створити компанію з продуктами, які матимуть позитивний вплив на людство.
Майбутні продукти та обчислювальні ресурси
Щодо випуску першого продукту, Сохер оптимістичний, вказуючи на можливість прискорення планів: “Ви побачите продукти протягом кварталів, а не років”.
Обговорюючи роль обчислювальних ресурсів, Сохер зазначає, що вони будуть критично важливими. Швидкість покращення ШІ залежатиме від потужності обчислень. Питання про те, як людство вирішить розподіляти ці ресурси для розв’язання різних проблем (наприклад, раку чи вірусних інфекцій), стане одним з найважливіших у майбутньому.
Думка ІТ-Блогу: Запуск Recursive Superintelligence з таким масштабним фінансуванням підкреслює зростаючу конкуренцію у сфері передових досліджень ШІ. Фокус на самовдосконаленні моделей може призвести до значних технологічних проривів, але також ставить нові питання щодо етичного контролю та розподілу ресурсів.
Джерело новини: techcrunch.com