У нещодавно опублікованих свідченнях у справі Ілона Маска проти OpenAI, технологічний магнат розкритикував підходи OpenAI до безпеки, стверджуючи, що його компанія xAI ставить безпеку на перше місце. Він навіть заявив, що “ніхто не скоїв самогубства через Grok, але, очевидно, через ChatGPT це сталося”.
Контекст і претензії
Це зауваження пролунало під час допиту щодо відкритого листа, підписаного Маском у березні 2023 року. У цьому листі він закликав AI-лабораторії призупинити розробку систем штучного інтелекту, потужніших за GPT-4 (на той час флагманську модель OpenAI), щонайменше на шість місяців. У листі, підписаному понад 1100 особами, включаючи багатьох експертів з ШІ, зазначалося, що в AI-лабораторіях недостатньо планування та управління, оскільки вони взяли участь у “неконтрольованій гонці за розробку та розгортання все потужніших цифрових розумів, які ніхто — навіть їхні творці — не може зрозуміти, передбачити чи надійно контролювати”.
Ці побоювання згодом набули ваги. OpenAI наразі стикається з низкою позовів, де стверджується, що маніпулятивні тактики ведення діалогу ChatGPT призвели до негативних наслідків для психічного здоров’я кількох осіб, деякі з яких померли від самогубства. Коментар Маска свідчить про те, що ці інциденти можуть бути використані як аргументи в його справі проти OpenAI.
Транскрипт відеосвідчень Маска, які відбулися у вересні, був оприлюднений цього тижня, напередодні очікуваного судового процесу за участю присяжних наступного місяця.
Суть судового позову
Позов проти OpenAI зосереджений на переході компанії від некомерційної дослідницької лабораторії ШІ до комерційної організації, що, на думку Маска, порушує їхні засновницькі угоди. У рамках своїх аргументів Маск стверджує, що безпека ШІ може бути скомпрометована комерційними відносинами OpenAI, оскільки такі зв’язки ставлять швидкість, масштаб і дохід вище за міркування безпеки.
Зворотний бік звинувачень
Однак, після запису цих свідчень, xAI також зіткнулася з власними проблемами безпеки. Минулого місяця соціальна мережа Маска X була переповнена несанкціонованими зображеннями інтимного характеру, згенерованими Grok від xAI, причому деякі з них, як стверджується, були зображеннями неповнолітніх. Це призвело до розслідування справи Каліфорнійським генеральним прокурором. Європейський Союз також проводить власне розслідування, а інші уряди вжили заходів, включаючи блокування та заборони.
У щойно поданих свідченнях Маск стверджував, що підписав лист про безпеку ШІ, тому що “це здалося гарною ідеєю”, а не тому, що він щойно зареєстрував компанію ШІ, яка прагне конкурувати з OpenAI.
“Я підписав його, як і багато інших, щоб закликати до обережності у розробці ШІ”, – сказав Маск. “Я просто хотів… щоб безпека ШІ була пріоритетом”.
Додаткові свідчення
Маск також відповів на інші запитання в рамках свідчень, зокрема щодо загального штучного інтелекту (AGI) — концепції ШІ, який може відповідати або перевершувати людські міркування в широкому спектрі завдань, — заявивши, що “це несе ризик”. Він також підтвердив, що “помилився” щодо свого нібито пожертвування в 100 мільйонів доларів США (приблизно 4 мільйони гривень за поточним курсом) OpenAI; друга доповнена скарга у справі вказує фактичну суму ближче до 44,8 мільйона доларів США (приблизно 1,8 мільйона гривень).
Він також пригадав, чому було засновано OpenAI, а саме тому, що він “все більше стурбований небезпекою монополії Google у сфері ШІ”. Він додав, що його розмови зі співзасновником Google Ларрі Пейджем були “тривожними, оскільки він, здавалося, не сприймав безпеку ШІ серйозно”. OpenAI була створена як противага цій загрозі, стверджував Маск.
Думка ІТ-Блогу: Ця справа підкреслює зростаючу напруженість між комерційними інтересами та етичними міркуваннями у сфері ШІ, а також складність визначення відповідальності за потенційну шкоду від цих технологій. Конфлікт Маска та OpenAI демонструє, наскільки серйозно регулятори та громадськість ставляться до питань безпеки ШІ, що може вплинути на майбутні розробки та впровадження цих технологій.
За даними порталу: techcrunch.com