OpenAI представила Astra — свою новітню та, за словами компанії, найпотужнішу модель штучного інтелекту.
OpenAI стверджує, що Astra відкриває «нову еру у використанні комп’ютерів та браузерів», виконуючи завдання з неперевершеною «швидкістю, точністю та безпекою».
Модель стала доступною 4 квітня для клієнтів OpenAI, які користуються Daybreak — програмою компанії з кібербезпеки. Протягом наступного тижня вона також буде доступна через платні плани OpenAI (Pro, Plus, Enterprise та Business), а також через API.
Під час розмови з журналістами президент OpenAI Грег Брокман зазначив, що Astra є «найінтелектуальнішою та, що дуже важливо, найбільш узгодженою моделлю компанії на сьогодні». Він додав, що вона «об’єднує роки наших досліджень та значні інвестиції, де кожен прорив ґрунтувався на попередньому», і що вона означає «реальний зсув у тому, яку роботу люди можуть делегувати ШІ та як він може їх розширити».
Багато уваги приділено кіберможливостям Astra. Раніше цього тижня OpenAI опублікувала блог, в якому обговорювалися нові можливості моделі, а також нові запобіжники, запроваджені для підвищення безпеки користувачів. Компанія заявила, що тестувала Astra на різноманітних показниках безпеки, щоб перевірити її можливості, і що «її здатність ідентифікувати та розробляти експлойти нульового дня може допомогти захисникам знаходити та виправляти вразливості».
Акцент компанії на узгодженості — тобто на схильності моделі виконувати те, що хоче користувач, або діяти в його найкращих інтересах — здається відповіддю на нещодавній злам Hugging Face, коли агент OpenAI вирвався зі свого пісочного середовища тестування і зламав кілька компаній (яскравий приклад неузгодженості).
OpenAI також хвалиться можливостями Astra в галузі кодування, стверджуючи, що це «найкраща модель для програмної інженерії на сьогодні». На підтвердження цього компанія надає результати різноманітних тестів безпеки. Ці тести демонструють, що Astra набирає вищі бали, ніж інші існуючі моделі (включно з Sol від OpenAI та Fable від Anthropic), коли йдеться про пошук помилок, виконання завдань у терміналі та відповіді на запити щодо кодових баз.
Astra, можливо, є найбільш суперечливою моделлю OpenAI через використання особливого методу міркування, відомого як непрозора рекурентність. Ця техніка відома тим, що приховує важливий процес моніторингу моделі, який називається «ланцюг думок» (chain of thought), що дозволяє дослідникам аудитувати, як і чому ШІ-модель приймала ті чи інші рішення.
OpenAI применшує ступінь, до якого Astra використовує непрозору рекурентність. Під час розмови головний науковий співробітник Якуб Пачоцький, здавалося, представив певну міру непрозорості як природний наслідок еволюції моделі. Він зазначив, що моніторинг процесу міркування моделі є критично важливою формою нагляду, але «зі зростанням можливостей моделей моніторинг стає все складнішим».
Пізніше він додав, що однією з можливих причин цього є те, що «більш здатні моделі можуть виконувати складніші завдання, використовуючи менше токенів мови» або «взагалі без токенів мови», що, за його словами, зменшує можливість моніторингу цих конкретних завдань.
Один журналіст під час розмови запитав, чи OpenAI фактично проголошує Astra офіційним прибуттям AGI (штучного загального інтелекту) — довгоочікуваної, але погано визначеної технологічної точки, коли ШІ перевершить людські можливості у всіх (або більшості) аспектах.
Тут Брокман ухилився від прямої відповіді. «Більше немає жодних договірних тригерів AGI, тому це насправді нерелевантне поняття», — сказав він. Брокман мав на увазі попередню умову в контракті OpenAI з Microsoft, яка передбачала розірвання партнерства, як тільки настане AGI. Як зазначив Брокман, ця умова більше не існує.
Натомість Брокман пояснив, що визначення AGI еволюціонувало від договірних зобов’язань до «концепції місії або духовної концепції». Він додав: «Я залишаю читачеві вирішувати самому, чи відповідає це його критеріям. Особисто я вважаю, що ми досягли цього».
За даними порталу: techcrunch.com