Більшість людей не усвідомлюють глибинної загрози, яку штучний інтелект (ШІ) невдовзі становитиме для людської автономії. Поширеним аргументом є те, що «ШІ — це лише інструмент», і, як і будь-який інструмент, його переваги та небезпеки залежать від того, як ним користуються люди. Це мислення минулої епохи. ШІ трансформується з інструментів, які ми використовуємо, на протези, які ми носимо. Це створить значні нові загрози, до яких ми просто не готові.
Ні, я не говорю про моторошні імпланти в мозок. Ці ШІ-протези будуть масовими продуктами, які ми купуватимемо на Amazon чи в Apple Store і продаватимемо під дружніми назвами, як-от «асистенти», «тренери», «другі пілоти» та «репетитори». Вони надаватимуть реальну цінність нашому життю — настільки велику, що ми почуватимемося не в найкращому становищі, якщо інші їх носитимуть, а ми — ні. Це створить тиск для швидкого масового впровадження.
Протезні пристрої, про які я говорю, — це «ШІ-керовані носимі пристрої», як-от смарт-окуляри, кулони, значки та навушники. Ваш носимий ШІ бачитиме те, що бачите ви, і чутиме те, що чуєте ви, одночасно відстежуючи, де ви перебуваєте, що робите, з ким ви, і чого прагнете досягти. Потім, без необхідності вимовляти жодного слова, ці ментальні помічники шепотітимуть поради вам у вуха або показуватимуть підказки перед очима.
Різниця між інструментом і протезом може здатися незначною, але наслідки для людської автономії є глибокими. Це найкраще зрозуміти через простий аналіз вхідних і вихідних даних. Інструмент отримує людський вхід і генерує посилений вихід. Інструмент може зробити нас сильнішими, швидшими або дозволити нам літати. Ментальний протез, навпаки, утворює петлю зворотного зв’язку навколо людини, приймаючи вхідні дані від користувача (відстежуючи його дії та залучаючи до розмови) і генеруючи вихідні дані, які можуть негайно впливати на мислення користувача.
Ця петля зворотного зв’язку змінює все. Це тому, що носимі ШІ-пристрої зможуть відстежувати нашу поведінку та емоції і можуть використовувати ці дані, щоб переконати нас повірити в неправдиве, купити речі, які нам не потрібні, або прийняти погляди, які інакше ми б усвідомили як такі, що не в наших найкращих інтересах. Це називається Проблемою Маніпуляції ШІ, і ми не готові до пов’язаних ризиків. Це нагальне питання, оскільки великі технологічні компанії змагаються за виведення цих продуктів на ринок.
Чому петлі зворотного зв’язку такі небезпечні?
У сучасному світі всі обчислювальні пристрої використовуються для цілеспрямованого впливу від імені платоспроможних спонсорів. Носимі ШІ-продукти, ймовірно, продовжать цю тенденцію. Проблема полягає в тому, що цим пристроям може бути легко надано «ціль впливу» та завдання оптимізувати їхній вплив на користувача, адаптуючи свої розмовні тактики для подолання будь-якого виявленого опору. Це перетворює концепцію цілеспрямованого впливу з розсіяного впливу соціальних мереж на самонавідні ракети, які вміло оминають ваші захисні механізми. І все ж, політики не усвідомлюють цього ризику.
На жаль, більшість регуляторів все ще розглядають небезпеку ШІ з точки зору його здатності швидко генерувати традиційні форми впливу (діпфейки, фейкові новини, пропаганда). Звісно, це значні загрози, але вони далеко не такі небезпечні, як інтерактивний та адаптивний вплив, який незабаром може бути широко розгорнутий через розмовні агенти, особливо коли ці ШІ-агенти подорожують з нами через наше життя всередині носимих пристроїв.
Це відбувається вже скоро
Meta, Google та Apple змагаються за якнайшвидший запуск носимих ШІ-продуктів. Щоб захистити громадськість, політики повинні відмовитися від свого підходу «використання інструментів» під час регулювання ШІ-пристроїв. Це складно, оскільки метафора використання інструментів сягає 35 років тому, коли Стів Джобс яскраво описав ПК як «велосипед для розуму». Велосипед — це потужний інструмент, який тримає вершника міцно під контролем. Носимий ШІ переверне цю метафору, змушуючи нас замислитися, хто керує велосипедом — людина, ШІ-агенти, що шепочуть людині в вуха, чи корпорації, які розгорнули агентів? Я вважаю, що це буде небезпечна суміш усіх трьох.
Крім того, користувачі, ймовірно, надмірно довірятимуть «ШІ-голосам у своїй голові». Це тому, що ці ШІ-агенти надаватимуть нам корисні поради та інформацію протягом нашого повсякденного життя — навчаючи нас, нагадуючи, тренуючи, інформуючи. Проблема полягає в тому, що ми можемо не відрізнити, коли ШІ-агент змінив свою мету з допомоги нам на вплив на нас. Щоб зрозуміти різницю, ви можете переглянути відзначений нагородами короткометражний фільм Privacy Lost (2023) про небезпеку носимих пристроїв з ШІ. Це особливо актуально, коли пристрої включають інвазивні функції, такі як розпізнавання облич (яке, за повідомленнями, Meta додає до своїх окулярів).
Що ми можемо зробити для захисту громадськості?
Перш за все, політики повинні усвідомити, що розмовний ШІ уможливлює абсолютно нову форму медіа, яка є інтерактивною, адаптивною, індивідуалізованою та все більш обізнаною про контекст. Ця нова форма медіа функціонуватиме як «активний вплив», оскільки вона може адаптувати свою тактику в реальному часі для подолання опору користувача. Розгорнуті в носимих пристроях, ці ШІ-системи можуть бути розроблені для маніпулювання нашими діями, зміни наших думок та впливу на наші переконання — і все це через, здавалося б, невимушений діалог. Гірше того, ці агенти з часом навчатимуться, яка розмовна тактика найкраще працює на кожного з нас на особистому рівні.
Факт у тому, що розмовні агенти не повинні формувати контрольні петлі навколо користувачів. Якщо це не буде регулюватися, ШІ зможе впливати на нас із надлюдською переконливістю. Крім того, ШІ-агенти повинні бути зобов’язані інформувати користувачів, коли вони переходять до вираження промоційного контенту від імені третьої сторони. Без таких гарантій ШІ-агенти, ймовірно, стануть настільки переконливими, що зроблять сучасні методи цілеспрямованого впливу виглядатимуть старомодними.
Луїс Розенберг — піонер доповненої реальності та давній дослідник ШІ. Він здобув ступінь доктора філософії в Стенфорді, був професором Каліфорнійського державного університету та автором кількох книг про небезпеки ШІ, зокрема «Arrival Mind» та «Our Next Reality».
Ласкаво просимо до спільноти VentureBeat!
Наша програма для запрошених авторів — це місце, де технічні експерти діляться своїми думками та надають нейтральні, неупереджені глибокі аналізи щодо ШІ, інфраструктури даних, кібербезпеки та інших передових технологій, що формують майбутнє підприємств.
Читайте більше з нашої програми для запрошених авторів — і ознайомтеся з нашими рекомендаціями, якщо ви зацікавлені у створенні власної статті!
Прогноз ІТ-Блогу: Розвиток носимих ШІ-пристроїв, що здатні до адаптивного впливу, вимагатиме встановлення нових етичних норм ШІ та регуляторних механізмів. У найближчі 1-2 роки ми побачимо посилення дебатів щодо приватності даних та автономії користувачів, що може призвести до появи перших специфічних законів, які регулюватимуть взаємодію людини та ШІ в носимих форматах.
Оригінал статті: venturebeat.com