Слухайте наApple PodcastsСлухайте наSpotify
У своїй майбутній книзі «Злет і падіння штучної держави» Джилл Лепор попереджає, що технологічні компанії все частіше замінюють функції демократичного уряду. Цей зсув, за її словами, означає «повернення до тиранії та містифікації у формі правління алгоритмами, корпораціями, машинами».
В останньому випуску подкасту TechCrunch Equity я поспілкувалася з Лепор — істориком Гарварду та авторкою The New Yorker, яка нещодавно отримала Пулітцерівську премію за свою історію Конституції США — про еволюцію того, що вона описала як «ідею про те, що ми маємо жити за штучною державою або урядом машин».
«Я не проти технологів», — наполягала Лепор. Натомість, за її словами, «Моя претензія полягає у тому, як приватні корпорації все більше перебирають на себе функції держави».
Хоча книга Лепор досліджує технократичні філософії, що сягають століть, вона стверджувала, що багато «харизматичних або не дуже харизматичних лідерів» Кремнієвої долини — особливо Ілон Маск — нібито прокладають шлях до майбутнього, яке витягнуто з неправильно прочитаної наукової фантастики та коміксів.
«Але що смішно щодо Маска, так це те, що те, що йому подобається, насправді повністю руйнує і суперечить усім його політичним переконанням», — сказала вона.
Наша розмова також охопила знамениту рекламу Apple «1984» для Macintosh, чому називати Twitter цифровою ратушею «безглуздо», та поточну реакцію на дата-центри. Читайте далі, щоб дізнатися про основні моменти, відредаговані для стислості та ясності.
Тож, вам, ймовірно, довелося це робити багато разів, але чи можете ви пояснити, що ви маєте на увазі під «штучною державою»?
Під штучною державою я маю на увазі певну форму держави, яка замінює ліберально-демократичну національну державу в Сполучених Штатах та в усьому світі. Це і реальна річ, і конструкт, але це також і ідея.
І тому, в цій книзі «Злет і падіння штучної держави» я простежую злет ідеї про те, що ми маємо жити за штучною державою або урядом машин. Я також простежую уявлення про те, що це неминуча поразка, що штучна держава не може вижити, і я простежую цю ідею через наукову фантастику.
В одному місці ви кажете, що злет штучної держави означає кінець століть демократії та рівних прав, і це «повернення до тиранії та містифікації у формі правління алгоритмами, корпораціями, машинами». Чи можете ви детальніше розповісти, чому ви бачите це в таких різких термінах?
Так, я маю досить негативне ставлення до цього, і я вважаю, що важливо розрізняти штучну державу від самих технологій або способів їх використання. Я не проти технологів. Я одружена з комп’ютерним науковцем. Я справді захоплена всіма видами інтелектуальних революцій, які відбуваються зараз.
Це не моя претензія, чи не так? Моя претензія полягає в тому, як приватні корпорації все більше перебирають на себе функції держави. Ніхто на це не давав згоди. Це була свого роду поступова, значною мірою випадкова трансформація того, як працюють багато національних держав у світі — це сталося спочатку в Сполучених Штатах.
Я думаю, що часто ці інновації у впровадженні нових технологій для державного управління були надзвичайно добре продуманими; вони виникають з інтересу до ефективності, швидкості та дешевизни. А потім, я думаю, лише за останні 20-25 років ці рішення стали цілеспрямованими та навмисними як свого роду узурпація ролі національної держави.
І це не моя спекуляція. Ви чуєте, як багато видатних технологічних підприємців говорять про бажання вийти за межі епохи національної держави. [… ] Багато футуристів у 90-х були лібертаріанцями, і вони мали особливий інтерес до використання розвитку інтернету та наступних інновацій як засобу викорінення національної держави.
Ви говорите про технології, з одного боку, а потім також про філософію, що стоїть за ними, про роль, яку дедалі більше відіграє корпорація. Мені цікаво, наскільки ми можемо їх розділити. Чи можемо ми насправді мати версію інтернету та соціальних мереж, яка не обов’язково призведе до цього майбутнього, до якого, здається, ми зараз прямуємо?
Абсолютно. Я історик. Я не письменник про технології. Я не технологічний журналіст. Я не комп’ютерний науковець. Я історик, і я переважно політичний історик, хоча я також літературний історик. І тому, одне з того, що я справді прагну розкрити для читачів у цій книзі, — це всі «що якби», усі альтернативи, шляхи, які не були обрані, і чому.
Звичайно, у 1990-х роках велася дуже жвава дискусія про те, яким має бути інтернет, коли його відкриють, і те, що ми отримали, Закон про телекомунікації 1996 року — я думаю, багато людей скажуть, що це була помилка, а не акт злочинного наміру, чи не так?
Але це був продукт певного політичного моменту, на нього справді сильно вплинув Ньюt Ґінгріч та його «Контракт з Америкою», і було дуже важко до цього повернутися. Я думаю, варто подумати, якими були альтернативи, що існували тоді.
І те саме можна сказати про персональний комп’ютер. Отже, наскільки ми можемо визначити точку відліку для обіцянки, що кращі комп’ютерні технології забезпечать кращу демократію, я думаю, що перший момент, на який варто звернути увагу, — це січень 1984 року, та реклама Super Bowl, яку Apple запустила для випуску Macintosh, з темою, що нагадує «1984» Джорджа Орвелла. Apple дуже сильно просувала ідею, що мейнфрейми уособлюють тоталітаризм. Вони намагалися демонтувати гігантські сірі машини IBM, зображуючи їх у цій рекламі як тоталітарну державу. А стрункий, красивий, швидкий, чарівний персональний Macintosh мав стати сокирою, яка знищить цю машину і прокладе шлях новій ері, в якій «1984 не буде «1984»».
Це була розумна реклама. Я сумніваюся, що хтось в Apple справді вірив, що персональний комп’ютер стане інструментом особистої свободи. Я маю на увазі, він дозволить зробити багато крутих речей. Я пам’ятаю, коли я отримала свій перший Macintosh — це було, звісно, не в 1984 році, але це було дуже круто, це було дуже весело, це було дуже захопливо, я багато чого на ньому робила. Мені б ніколи не спало на думку, що це покращує мою громадянську компетентність або мою здатність краще функціонувати в громадянському суспільстві. Це був крутий інструмент.
Але якщо перенестися в 2026 рік — проміжні зупинки включають вибори 2016 року, коли Facebook News, у відповідь на критику, заснувала Верховний суд. До минулого року, коли Anthropic найняла морального філософа для написання конституції. До нещодавнього часу, коли Сем Альтман був у Джо Рогана і сказав [у відповідь на запитання Рогана]: «О, президент зі штучним інтелектом був би чудовою ідеєю».
Деяким чином, це дурні приклади. Але ви бачите, як ці корпорації, ці технологічні компанії з Кремнієвої долини, і особливо їхні харизматичні чи не дуже харизматичні лідери, перебирають на себе атрибути національної держави та функції демократії.
Вони не люди зі складною політичною філософією, але це схоже на мультяшну версію тієї реклами Macintosh 1984 року, тільки вона сприймає себе так серйозно. І ці компанії мають величезну владу.
Тим не менш, книга починається не з 1984 року. Я просто думаю, що це хороший приклад нашої сучасності та того, як весела рекламна кампанія перетворюється на свого роду ілюзорну фантазію з боку таких людей, як Сем Альтман.
Ви також говорите про обіцянку так званої «Твіттер-революції» та ідею, що вона принесе демократію всюди. Я не можу не дозволити цьому вплинути на те, як я [реагую], коли Сем Альтман чи інший CEO ШІ зараз каже, що ШІ принесе всі ці неймовірні дари — і тому, якщо ви станете на заваді, ви станете на заваді прогресу, на заваді історії.
Наскільки ми повинні просто відкидати всі ці заяви, чи є способи, якими вони можуть здійснитися?
Я маю на увазі, Twitter — це насправді хороший приклад, чи не так? Коли його запускали, коли Джек Дорсі його створив, він не оголошував себе: «Ми врятуємо людство, ми врятуємо людську цивілізацію від вимирання». Це був свого роду жарт, і я думаю, люди, які користувалися Twitter дуже рано, казали: «Знаєте що? Це було насправді весело». Це було схоже на: «Я сьогодні приготував сендвіч з тунцем. А що ви їли на обід?» Twitter як компанія не виступала на сцені, кажучи: «Ми тут, щоб врятувати демократію».
І насправді, що сталося, так це те, що політики, обрані посадовці почали використовувати Twitter таким чином, що це посилило їхню політичну владу, посилило їхні повідомлення, дозволило їм охопити молодшу аудиторію, дозволило їм мати постійний зв’язок з аудиторією. Політики та політичні кампанії фактично переконали Twitter — принаймні, наскільки я бачу, я не маю внутрішньої інформації про компанію — але дещо неохоче, Twitter змирився з думкою: «Twitter став таким великим, і люди так часто пишуть про політику, що це майже як ратуша».
До того часу, я думаю, це 2012 рік — багато років відносно короткої історії Twitter — вони опублікували «Посібник Twitter з політики та виборів», який насправді є посібником для політичних кандидатів та обраних посадовців про те, як найефективніше використовувати Twitter. А потім вони починають розгортання: «Це ратуша у вашій кишені, і це покращує нашу демократію, тому що ми відновлюємо недіючі збори містечка Нової Англії», і все це просто безглуздя.
Об’єктивно, ніщо не може бути далі від істини. На той час кожен п’ятий американець мав обліковий запис у Twitter. Більшість людей, які мали облікові записи у Twitter, ніколи ними не користувалися, а понад 90% усіх твітів про політику публікували менш ніж 10% тих, хто постійно користувався Twitter. У жодному разі Twitter не був представником електорату. Дивлячись на це зараз, ми можемо побачити: «Ну, це насправді машина спотворення. І якщо політики використовують її для оцінки електорату, вони отримують дуже погану інформацію».
Знову ж таки, ви можете сказати, що Twitter не намагався брати участь у створенні штучної держави чи підривати демократію. Twitter намагався вести бізнес, залучати більше користувачів і продавати більше того, чого завгодно. Але він мав ці ненавмисні наслідки, з якими потім якось змирився і став почуватися комфортно.
Я хочу поговорити трохи більше про структуру книги. Як ви сказали, вона починається з історії технологій, історії ідей, а друга половина — про наукову фантастику. Чи можете ви розповісти більше про те, як ви дійшли до такої структури і чому ви хотіли представити матеріал саме так?
Мене дуже зацікавило, з одного боку, як часто науково-фантастичні історії передбачають появу того, що я згодом назвала штучною державою, і тому я справді хотіла визначити літературну традицію, яку я вважаю притчею про штучну державу, в якій машини стають все більш складними, вони беруть на себе все більше функцій людей, включаючи функції уряду, і зрештою вони починають правити людьми, а потім, можливо, знищують усіх людей, тому що вони їм більше не потрібні.
Можливо, вони просто поневолюють їх, це залежить. Чи ми в «Термінаторі», чи в «Зоряному крейсері Галактика»? Є різні версії, і ці історії сягають корінням далеко в минуле. Вони сягають 1850-х років і ранніх десятиліть роздумів про наслідки індустріалізації.
Я думаю, багато людей — це, безумовно, стосується моїх студентів, моїх студентів бакалаврату — справді вірять, що технологічні зміни дорівнюють прогресу. І не тільки це, але єдиний вид прогресу — це технологічні зміни. Це новинка в історії людства. Це інтелектуальний винахід 19 століття, і це частково тому, що технологічні зміни прискорювалися саме в той час, коли Чарльз Дарвін розробляв, а потім публікував свою теорію еволюції.
Отже, існує своєрідний дивний шлюб між еволюцією як прогресом і технологічними змінами як прогресом, і в результаті зникають усі інші, більш ранні уявлення про прогрес, які головним чином включають моральний прогрес — наприклад, справи стають кращими, тому що люди стають кращими, або справи стають кращими, тому що люди стають вільнішими.
Існує багато інших способів думати про прогрес, але те, що домінує сьогодні, — це це уявлення 19 століття про технологічний прогрес як єдиний вид прогресу, і тому всі технологічні зміни є прогресом, на відміну від — об’єктивно, це прогрес лише тоді, коли справи стають кращими.
Але в будь-якому випадку, ця конвергенція в 19 столітті ідеї технологічного прогресу та ідеї еволюції означала, що люди, які чітко мислили, казали: «Ну, якщо машини стають кращими, швидшими і можуть робити більше речей — не тільки працювати, але й говорити, думати чи рухатися — що, якщо вони еволюціонують, щоб стати кращими у всьому, ніж ми? Не тільки кращими в роботі ткацького верстата, не тільки швидшими в пересуванні в часі та просторі, як поїзд?» І з цим зростала неймовірна тривога, яка знаходила вираження в науковій фантастиці знову і знову і знову.
Моя улюблена з цих історій була опублікована, я думаю, в 1909 році Е. М. Форстером, приблизно в той час, коли він писав «Кімнату з краєвидом». Він написав оповідання під назвою «Машина зупиняється», яке можна було б підзаголовити «Кімната без краєвиду». Він уявляє близьке майбутнє, в якому всі живуть у таких кімнатах, у таких маленьких комірках. Ви ніколи не бачите інших людей, тому що все, що вам потрібно, доставляється прямо до вашої кімнати. Це схоже на DoorDash, вам доставляють їжу, у вас є екран, де ви можете спілкуватися з іншими людьми. Всі ваші потреби задоволені.
Найбільше, чого люди бояться, — це природний світ. Ніхто ніколи не хоче бачити сонце, це трохи схоже на «Матрицю», і вони всі поклоняються машині, яка організовує їхнє життя і доставляє їм у їхні кімнати-кубики все, що їм потрібно. Історія про те, «що люди стали по суті рабами машини, яка сильніша, потужніша і має більше можливостей, ніж люди, і люди втратили ту здатність, яку мали». А потім кульмінація історії — коли машина зупиняється.
Якби читачі прочитали цю історію, їм здалося б, що її можна було б написати сьогодні, за винятком того, що сьогодні вона менш науково-фантастична, ніж щоденник дуже нещасливого YouTube-блогера.
Ви пов’язуєте цю нитку з деякими людьми, які керують компаніями і, можливо, керують аспектами нашого уряду сьогодні, як-от Ілон Маск. По суті, ви припускаєте, що вони дуже погано читають наукову фантастику. Вони читають багато попереджувальних історій, або принаймні неоднозначних, ніби це інструкції для майбутнього.
Це те, з чим я борюся як читач наукової фантастики — людина, яка любить Айзека Азімова, наприклад. Я думаю, це правда, що коли Маск чи Альтман відверто кажуть: «Так, ця історія — це шаблон того, що я маю робити зі своєю компанією», це божевілля. Але є [також] ця технократична лібертаріанська нитка в науковій фантастиці, яку вони підхоплюють. Це не те, що вони вигадують з нуля, чи не так?
Хоча, дивно, це Гайнлайн. Це не Азімов, це не Дуглас Адамс.
Звичайно, є така нитка в науковій фантастиці. Я не знаю, думаю, [Джефф] Безос — великий шанувальник Роберта Гайнлайна. Можна сказати: «Гаразд, це добре збігається. Вони читають це буквально, але принаймні вони отримують політичне послання, яке будь-яка раціональна людина може знайти в цьому літературному творі».
Але що смішно щодо Маска, так це те, що те, що йому подобається, насправді повністю руйнує і суперечить усім його політичним переконанням.
Ви також неодноразово стверджуєте, що штучна держава в її нинішній формі є неповною і приреченою на провал. Чому вона приречена на провал?
Це те, що передбачається у всій науковій фантастиці, яку я обговорюю.
Це не історія Азімова, але це одна з улюблених історій Азімова з його юності [«Людина, яка прокинулася» Лоуренса Меннінга] про майбутнє, в якому лісівники перемогли марнотратників. [… ] Війна, яку вели майбутні люди, була між марнотратниками, які вважали, що все можна використовувати і витрачати, і лісівниками, які справді вірили — ми б назвали це відновленням лісів та дикої природи.
Це загалом напруга в цих історіях. Це між штучною державою та природним світом. Щоб створити штучну державу і керувати людьми в ній, ви повинні відчужити їх від природного світу, тому що ви його знищуєте. Штучна держава знищить природний світ, але їй потрібні ресурси природного світу, щоб функціонувати.
Отже, вона приречена в тому сенсі, що немає можливості, щоб природний світ, придатна для життя планета — придатна для життя людей — пережила повне будівництво та залежність від пристроїв штучної держави. Ось як працює наукова фантастика, в будь-якому випадку.
Як ви сказали, ви історик, а не політик чи футурист. Але як ви думаєте, як виглядає поразка штучної держави? Це просто демонтаж усіх цих компаній, руйнування дата-центрів? Чи є майбутнє, яке більше спрямоване на контроль над нею?
Я маю на увазі, у мене немає посібника, окрім рекомендації, що ми живемо в демократії, де рішення повинні прийматися за погодженням з керованими, і ці рішення не є популярними.
Ви бачите це у всіх маленьких кризах дата-центрів, місто за містом, округ за округом, штат за штатом — які частково є наслідком занепаду місцевих газет та руйнування журналістики, що стало одним з багатьох наслідків соціальних мереж, і в разі [Марка] Цукерберга, я думаю, дещо навмисним наслідком.
Що ви бачите, так це багато людей, які приходять на ці міські збори і кажуть: «У нас навіть немає житла. У нас немає охорони здоров’я. У нас немає роботи. Хто сказав, що ми будуємо цей дата-центр? Мені потрібно дізнатися про це набагато більше. Мені потрібно знати, якими будуть його енергетичні витрати. Розкажіть мені про споживання води. Чи будуть робочі місця? Чи робочі місця будуть довготривалими? Чи вони будуть тільки на шість місяців? Що станеться з папугами-ара, які живуть у цьому районі?» Все, що люди хочуть знати.
Все більше і більше ви бачите, як люди — як у випадку із Солт-Лейк-Сіті, де понад 70% людей справді виступали проти цього дата-центру, а їхні представники підтримали його. Це не представництво народу. Я думаю, є політичні витрати, і ми почнемо бачити їх на виборах.
Або, можливо, ні. Достатньо демократичного функціонування має бути збережено, щоб люди фактично могли реагувати на зловживання з боку своїх представників.
Частина ваших роздумів про [штучну державу] почалася з вашої чудової статті, написаної понад десять років тому для The New Yorker, про Клейтона Крістенсена, з критикою його ідеї «дилеми інноватора» та «руйнівної інновації» — що дуже тісно пов’язане з TechCrunch, оскільки у нас є велика конференція під назвою Disrupt.
Через десять років, як ви ставитеся до цієї ідеї руйнівної інновації?
Я відстоюю все, що було в тій статті. [На той час Лепор писала: «Руйнівна інновація — це теорія про те, чому бізнеси зазнають невдачі. Це не більше. Вона не пояснює зміни. Це не закон природи». Крістенсен відповів, що Лепор порушила «всі правила дослідження, які вона звинуватила мене в порушенні»].
Я перечитала її минулого літа, коли працювала над цією книгою. Що б я хотіла сказати тут, намагаючись бути миролюбною людиною: я думаю, це справді проблема, що історики не взаємодіяли з цими ідеями. Однією з причин, чому я написала цю статтю про руйнівну інновацію — яка не була моєю ідеєю, це було завдання [… ] — було те, що я просто відчувала: «Руйнівна інновація — це теорія історії. Це теорія історичних змін, і вона базується на свідченнях з архівів». І я просто думала, як історик, це не має сенсу. Його використання доказів є абсолютно неприйнятним за будь-яким належним розумінням історичного методу. Його аргументація не пов’язана з жодним значущим розумінням того, як відбуваються зміни.
Тому я провела власне дослідження, і воно просто зовсім не витримало перевірки. Я відчувала, що мушу це написати. І я б хотіла, щоб я відчувала, що було більше взаємодії за останні роки з боку академічних істориків, які глибоко розмірковують над природою змін — це питання, які справді та автентично цікавлять людей, які займаються розробкою нових технологій.
Люди справді хочуть подумати: «Що це? Що я роблю? Якими будуть наслідки? Чи можу я чогось навчитися з історії? Що сталося, коли автомобіль замінив коня? Що сталося із законом? Як ми отримали водійські права? Як ми отримали дорожній рух? У нас не було правил дорожнього руху до появи автомобіля. У нас не було певних видів страхових систем. У нас не було водійських іспитів. Як вони з’явилися? Як [ми розробили] ці запобіжні заходи для технології, яка була надзвичайно захопливою, покращила життя людей у багатьох аспектах, кардинально змінила ландшафт, революціонізувала деліктне право? Можливо, варто про це подумати».
Я просто хотіла б, щоб історики більше спілкувалися з технологами протягом цих років, і з підприємцями. Не просто тому, що ми можемо стояти поруч і говорити: «Знаєте, у мене є лекція для вас з історії», але я думаю, що є справжня розмова, яку варто провести.
Все це лише для того, щоб сказати: дякую, що запросили.
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Оригінал статті: techcrunch.com