Більшість людей не усвідомлюють глибинної загрози, яку штучний інтелект (ШІ) невдовзі становитиме для людської волі. Поширеною думкою є те, що «ШІ – це просто інструмент», і, як будь-який інструмент, його переваги та небезпеки залежать від того, як ним користуються. Це мислення минулого. ШІ трансформується з інструментів, які ми використовуємо, на протези, які ми носимо. Це створить суттєві нові загрози, до яких ми просто не готові.
Ні, я не говорю про моторошні імпланти в мозок. Ці протези на базі ШІ будуть масовими продуктами, які ми купуватимемо на Amazon чи в Apple Store, і які маркетингово просуватимуться під дружніми назвами на кшталт «асистенти», «тренери», «другі пілоти» та «репетитори». Вони приноситимуть реальну користь у наше життя – настільки значну, що ми відчуватимемо себе в невигідному становищі, якщо інші носитимуть їх, а ми ні. Це створить тиск для швидкого масового впровадження.
Протезні пристрої, про які я говорю, – це «ношені пристрої з підтримкою ШІ», такі як смарт-окуляри, кулони, значки та навушники. Ваш ношений ШІ бачитиме те, що бачите ви, і чутиме те, що чуєте ви, відстежуючи, де ви перебуваєте, що робите, з ким ви, і чого намагаєтеся досягти. Потім, без необхідності вимовляти слово, ці розумові помічники шепотітимуть поради вам у вуха або виводитимуть підказки перед вашими очима.
Різниця між інструментом і протезом може здатися незначною, але наслідки для людської волі є глибокими. Це найкраще зрозуміти через простий аналіз вхідних і вихідних даних. Інструмент приймає людський вхід і генерує посилений вихід. Інструмент може зробити нас сильнішими, швидшими або дозволити нам літати. Натомість, ментальний протез формує зворотний зв’язок навколо людини, приймаючи вхід від користувача (відстежуючи його дії та взаємодіючи в розмові) і генеруючи вихід, який може безпосередньо впливати на мислення користувача.
Цей зворотний зв’язок змінює все. Це тому, що пристрої ШІ, що носяться на тілі, зможуть моніторити нашу поведінку та емоції та використовувати ці дані, щоб переконати нас повірити в неправдиві речі, купити непотрібні нам речі або прийняти погляди, які інакше ми б усвідомили як такі, що не відповідають нашим найкращим інтересам. Це називається Проблемою Маніпуляції ШІ, і ми не готові до ризиків. Це термінове питання, оскільки великі технологічні компанії поспішають вивести ці продукти на ринок.
Чому петлі зворотного зв’язку настільки небезпечні?
У сучасному світі всі обчислювальні пристрої використовуються для розгортання цілеспрямованого впливу від імені платних спонсорів. Носимі ШІ-пристрої, ймовірно, продовжать цю тенденцію. Проблема полягає в тому, що цим пристроям може бути легко надане «завдання впливу» та доручено оптимізувати свій вплив на користувача, адаптуючи свої розмовні тактики для подолання будь-якого опору, який вони виявлять. Це перетворює концепцію цілеспрямованого впливу з соціальних медіа «дробовика» на самонавідні ракети, які вміло обходять ваш захист. І все ж, політики не усвідомлюють цього ризику.
На жаль, більшість регуляторів досі розглядають небезпеку ШІ з точки зору його здатності швидко генерувати традиційні форми впливу (діпфейки, фейкові новини, пропаганда). Звісно, це значні загрози, але вони аж ніяк не такі небезпечні, як інтерактивний та адаптивний вплив, який незабаром може бути широко розгорнутий через розмовні агенти, особливо коли ці ШІ-агенти подорожують з нами протягом життя всередині носимих пристроїв.
Це вже скоро
Meta, Google та Apple змагаються за якнайшвидший випуск носимих ШІ-продуктів. Щоб захистити громадськість, політики повинні відмовитися від своєї концепції «використання інструменту» під час регулювання ШІ-пристроїв. Це складно, оскільки метафора використання інструменту сягає 35-річної давнини, коли Стів Джобс яскраво описав ПК як «велосипед для розуму». Велосипед – це потужний інструмент, який тримає вершника під повним контролем. Носимий ШІ переверне цю метафору, змушуючи нас дивуватися, хто ж керує велосипедом — людина, ШІ-агенти, що шепочуть людині на вухо, чи корпорації, які розгорнули цих агентів? Я вважаю, що це буде небезпечна суміш усіх трьох.
Крім того, користувачі, ймовірно, надмірно довірятимуть ШІ-голосам у своїй голові. Це тому, що ці ШІ-агенти надаватимуть нам корисні поради та інформацію протягом нашого повсякденного життя – навчатимуть нас, нагадуватимуть, тренуватимуть, інформуватимуть. Проблема полягає в тому, що ми можемо не розрізняти, коли ШІ-агент змінив свою мету з допомоги нам на вплив на нас. Щоб зрозуміти різницю, ви можете подивитися відзначений нагородами короткометражний фільм Privacy Lost (2023) про небезпеку носимих пристроїв на базі ШІ. Це особливо актуально, коли пристрої включають такі інвазивні функції, як розпізнавання облич (яке Meta, за повідомленнями, додає до своїх окулярів).
Що ми можемо зробити для захисту громадськості?
Перш за все, політики повинні усвідомити, що розмовний ШІ уможливлює абсолютно нову форму медіа, яка є інтерактивною, адаптивною, індивідуалізованою та все більш контекстно-орієнтованою. Ця нова форма медіа функціонуватиме як «активний вплив», оскільки вона може коригувати свою тактику в режимі реального часу, щоб подолати опір користувача. При розгортанні в носимих пристроях ці ШІ-системи можуть бути розроблені для маніпулювання нашими діями, зміни наших думок та впливу на наші переконання – і все це через нібито невимушену розмову. Гірше того, ці агенти з часом вивчатимуть, яка розмовна тактика працює найкраще на кожного з нас на особистому рівні.
Справа в тому, що розмовним агентам не слід дозволяти формувати контрольні петлі навколо користувачів. Якщо це не буде врегульовано, ШІ зможе впливати на нас із надлюдською переконливістю. Крім того, ШІ-агенти повинні бути зобов’язані інформувати користувачів щоразу, коли вони переходять до висловлення рекламного контенту від імені третьої сторони. Без такого захисту ШІ-агенти, ймовірно, стануть настільки переконливими, що сучасні методи цілеспрямованого впливу здаватимуться на їхньому тлі застарілими.
Луїс Розенберг – піонер доповненої реальності та багаторічний дослідник ШІ. Він отримав ступінь доктора філософії у Стенфорді, був професором Каліфорнійського державного університету та автором кількох книг про небезпеки ШІ, включаючи Arrival Mind та Our Next Reality.
Ласкаво просимо до спільноти VentureBeat!
Наша програма гостьових публікацій – це місце, де технічні експерти діляться своїми поглядами та надають нейтральні, незалежні глибокі аналізи ШІ, інфраструктури даних, кібербезпеки та інших передових технологій, що формують майбутнє підприємств.
Читайте більше від нашої програми гостьових публікацій – і перегляньте наші рекомендації, якщо ви зацікавлені у внесенні власної статті!
Як захиститися (Порада ІТ-Блогу): Будьте критичними до будь-яких порад чи інформації, що надходить від пристроїв ШІ, особливо якщо вони стосуються важливих рішень (фінансових, медичних, особистих). Завжди перевіряйте інформацію з кількох незалежних надійних джерел, перш ніж діяти.
Оригінал статті: venturebeat.com