Оскільки проєкти на кшталт Pacing the Frontier розглядають великі лабораторії як спосіб убезпечити дослідження штучного інтелекту (ШІ), моделі з відкритим кодом стали болючою темою для індустрії. Завдяки вільному розповсюдженню та незначному контролю над їх використанням, моделі з відкритими параметрами (open-weight models) нелегко контролювати, що змушує деякі лабораторії вважати їх вельми небезпечними.
Однак на конференції Ai4 у Лас-Вегасі минулого тижня троє найшанованіших дослідників ШІ у світі — лауреат Нобелівської премії Джеффрі Гінтон, генеральний директор і співзасновник World Labs Фей-Фей Лі та співзасновник Coursera Ендрю Нг — висловилися з цього питання. І хоча вони мали різні думки щодо конкретних тактик, усі троє переконливо виступили за збереження відкритості ШІ.
Для трьох доповідачів основне занепокоєння полягало в тому, щоб дозволити жменьці великих ШІ-компаній контролювати темп прогресу. Коли кілька компаній контролюють доступ до технології, як Apple та Google контролюють мобільні операційні системи, інновації можуть сповільнюватися, а компанії, що контролюють платформи, можуть впливати на те, що на них створюється.
Ендрю Нг заявив, що він стурбований появою подібної динаміки у сфері ШІ. «Я не хочу, щоб були “охоронці” (gatekeepers)», — сказав Нг. «Це обмежує те, як усі ми можемо отримати доступ до ШІ».
Компанії мають стимул захищати свої конкурентні переваги, зокрема шляхом впливу на правила, що регулюють галузь. Це може створити динаміку, за якої лише найбільші, найкраще капіталізовані фірми матимуть ресурси для створення найпередовіших систем ШІ.
Рішенням Нга було зберегти множинність постачальників, щоб моделі та компанії конкурували, замість того, щоб дозволити жменьці гравців домінувати у цій сфері. «Якби мені довелося дати одну рекомендацію, це було б сприяння відкритості», — сказав Нг, — «тому що ШІ — це дивовижна технологія, і я хочу, щоб вона була в руках у кожного».
Проте не всі погодилися, що моделі з відкритими параметрами допоможуть зберегти такий стан речей. Зокрема, Гінтон провів розмежування між програмним забезпеченням з відкритим кодом (open source software), яке робить вихідний код доступним для перевірки та модифікації, та моделями з відкритими параметрами (open-weight models), які випускають у публічний доступ параметри навченої моделі ШІ.
«Open source — це чудово. Ви показуєте людям код, і багато хто дивиться на рядки коду і каже: “О, тут є помилка”. Open weights означає, що ви тренуєте велику модель, а потім даєте людям її параметри. Це зовсім інше», — сказав Гінтон. «Я був проти open [weights], тому що це надто полегшує людям можливість брати ці великі базові моделі, навчання яких коштує дуже дорого, і за значно менші гроші навчати їх робити погані речі, як-от кібератаки».
Але, попри свої застереження, Гінтон визнав, що моделі з відкритими параметрами вже є невід’ємною частиною ШІ. «Я думаю, що цю битву програно. Тепер у нас є моделі з відкритими параметрами, тому бар’єр для отримання цих великих моделей багатьма людьми, який полягав у вартості навчання базових моделей, цей бар’єр зник. Надто пізно».
Однак прийняття реальності не означало ігнорування ризиків. Позиція Гінтона була чіткою: ШІ продовжуватиме розвиватися, і він вважав, що це здебільшого добре. Він зазначив, що це підвищить продуктивність та покращить освіту й охорону здоров’я. «Занепокоєння можливими негативними наслідками ШІ та тим, що можуть робити розумні істоти, коли вони розумніші за нас. Я не думаю, що це несправедливо. Я вважаю несправедливим називати будь-кого, хто так думає, панікером», — додав Гінтон.
Нг мав інший погляд. Він стверджував, що питання не в тому, чи є відкриті моделі ризикованими, а в тому, хто контролює доступ і хто виграє ринок. Перевагу матиме той, хто створить дешевшу модель. Він попередив, що якщо китайські моделі з відкритими параметрами отримають широке поширення в Азії, Африці та/або країнах, що розвиваються, вони можуть вплинути на те, як мільярди людей сприйматимуть ідеї про демократію, свободу та права людини.
«Я сподіваюся, що ми будемо заохочувати американську конкурентоспроможність та open source AI. Виявляється, ШІ є надзвичайним джерелом “м’якої сили”. Ви можете бачити, який величезний успіх має модель Китаю, наприклад, в Африці», — сказав Нг. «Але мене турбує те, що через усі лобістські зусилля в США та панікерство, розробка open source AI в Америці стикається з труднощами у конкуренції з моделями з відкритими параметрами, що надходять з Китаю, і я боюся, що якщо Китай знайде фундаментально більш економічно ефективний спосіб створення ШІ, то більш економічно ефективні речі матимуть фундаментальну перевагу в бізнес-впровадженні».
Лі заперечила таке трактування. «Дуже небезпечно перетворювати це на дихотомію між повною відкритістю та повною закритістю», — сказала вона. «У складних програмних системах, як і в наукових системах, все набагато складніше».
Лі навела як приклад ядерну фізику: наукові статті публікуються відкрито, але уран регулюється, тоді як лабораторна робота перебуває десь посередині. Урок, пояснила вона, полягає в тому, що відкритість не обов’язково має бути вибором “все або нічого”. Різні рівні екосистеми можуть працювати з різним ступенем відкритості.
Вона також наголосила на співпраці між державними та приватними установами, як-от Проєкт “Геном людини”. Отримані знання стали платформою, на основі якої могли будувати інші, дозволивши фармацевтичним компаніям отримувати прибуток, вченим — просувати свою роботу, а суспільству — отримувати вигоду.
«Тому я думаю, що ми повинні використовувати [ШІ] як таку інфраструктуру», — сказала Лі. «Нам потрібен певний рівень відкритості, як у наукових відкриттях, освіті, глобальному партнерстві, так і прибуткові бізнес-моделі для підприємців. Але ми також будемо використовувати системи із закритим вихідним кодом. Ця дискусія, особливо на загальному рівні “ми можемо толерувати лише одне”, є хибною. Нам потрібно досягти рівня нюансів».
Однак усі погодилися, що певний рівень регулювання буде необхідний, щоб ШІ рухався у правильному напрямку. «Ми хочемо розвивати ШІ в напрямку, який допомагає людям, і регулювання допоможе нам у цьому», — сказав Гінтон. «Ви не можете залишити це на людей, як-от Ілон Маск та Марк Цукерберг, вирішувати, як слід розвивати ШІ».
Джерело новини: techcrunch.com