Pokud jste tomu nevěnovali pozornost, možná si neuvědomujete, že ačkoli na této planetě žije devět miliard lidí – kteří jedí, spí, milují se, vychovávají děti, zahradničí, padají na dno a zase se zvedají –, mají velmi málo společného s tím, co se ve světě skutečně děje. Jejich vliv se většinou omezuje na úroveň osobního života.
Systémy, které rozhodují o tom, co se děje ve financích, politice, justici, médiích a dokonce i o jejich vlastní identitě, jsou řízeny boty, zatímco jazyk trvá na tom, že „lidé“ mají věci pod kontrolou.
Stále mluvíme, jako by loď řídili lidé. Říkáme „trhy rozhodly“, „voliči si vybrali“, „spotřebitelé jsou sebejistí“, „soudci zvážili důkazy“. Pokud se však podrobně podíváte na to, jak tyto systémy ve skutečnosti fungují, všude narazíte na stejný vzorec: operativní rozhodnutí činí boti; lidé většinou slouží jako vstupní data, ozdoba a dodatečné vysvětlení.
Trhy a peníze: podvodný stroj
Vezměme si nejprve trhy, protože ty jsou ohledně svého fungování nejupřímnější, pokud víte, na co se zaměřit.
Stále v sobě nosíme filmový obraz obchodní sály: velká místnost plná lidí s telefony a obrazovkami, kteří křičí příkazy a potí se nad rozhodnutími. Kdysi to byla realita. Dnes je to většinou jen kulisa. Ceny, které vidíte na obrazovce, nejsou výsledkem úsudků tisíce lidí; jsou to výstupy tisíců algoritmů, které čtou cenové pohyby, signály a faktorová data a manipulují s cenami nahoru nebo dolů.
Boti obchodují s boty. Definují „trend“, „riziko“ a „hodnotu“ na základě svých vlastních vstupních dat – klouzavých průměrů, pásem volatility, skóre hybnosti, expozic vůči faktorům. Když se tato vstupní data změní, spouštějí příkazy. Lidé se objevují na začátku řetězce jako data (zveřejnění výsledků, makroekonomické údaje, novinové titulky) a na konci jako vypravěči příběhů. Skutečné rozhodnutí – koupit tohle, prodat tamto, hned – se odehrává uvnitř kódu.
Jazyk se to odmítá přiznat. Říká vám, že „Wall Street uzavřela smíšeně“, jako by dav lidí zvažoval možnosti a dospíval ke společnému názoru. Říká, že „investoři realizovali zisky“, když se spustila pravidla pro realizaci zisků, protože akcie překročila prahovou hodnotu. Říká, že „trh je optimistický“, když se rizikové modely posunuly z „snížit expozici“ na „zvýšit expozici“. Každá fráze v sobě skrývá subjektivní vliv, který již neexistuje.
Politika a volby: profily v plastu
Totéž děláme v politice. Říká se vám, že „voliči rozhodli“, že „Amerika odmítla X“ nebo „přijala Y“, že „veřejnost vyslala vzkaz“. Obrazy jsou známé: lidé se hrnou do školních tělocvičen, zaškrtávají volební lístky, odcházejí s pocitem, že splnili svou povinnost. To je sentimentální povrch.
Pod povrchem je moderní politika **cílícími systémy komunikujícími s profily**. Volební kampaně vás nevnímají jako celistvou osobu; vidí pouze záznam: věk, PSČ, historii nákupů, mediální návyky, odvozené náboženské vyznání a rasu. Boti rozhodují, kterou zprávu uvidíte, v jakou dobu, na jakém zařízení a prostřednictvím jaké tváře. Jiné boty vedou statistiky: agregátory průzkumů, modely volební účasti, demografické simulátory. Definují, jak „voličstvo“ vypadá a jak se „ono“ chová.
Než dorazíte do volební kabiny, stroj doporučení a přesvědčování už má za sebou měsíce tiché práce. Rozhodl, které otázky působí naléhavě, které jsou neviditelné, kteří kandidáti působí seriózně a kteří jsou jen vtipem. Když odborníci říkají, že „voliči se přiklonili k X“, popisují výstup tohoto stroje, nikoli odpoledne střízlivého uvažování v radnici v Nové Anglii.
Stále sice na volebním lístku uděláte značku. Vaše volba se však odehrává v rámci pole možností, které boti vytvořili a interpretovali. Jazyk vám říká, že jste se vyjádřili. Ve skutečnosti jste však převážně **zopakovali logiku**, která byla stanovena kódem dlouho předtím, než jste se objevili.
Názory a zprávy: syntetická veřejnost
Pak je tu „veřejné mínění“, které zní, jako by šlo o součet milionů individuálních hlasů. V praxi je to, s čím se setkáváte jako s názorem, vzorec vytvořený filtračními a váhovými algoritmy.
Zpravodajské kanály nejsou okny do reality; jsou to kurátorované úryvky obsahu vybrané doporučovacími systémy, které se naučily, co vás přiměje klikat. Rozhořčení se šíří, protože je přitažlivé. Boti si toho všimnou a rozhořčení ještě více podněcují. Brzy se celé společnosti dozví, že „lidé jsou rozzuření kvůli X“, protože stroje zesílily určitý emocionální vzorec. V reálném světě mohou být lidé unavení, znudění nebo tiše lhostejní, ale metrika ukazuje hněv, a tak se hněv stává celým světem.
I průzkumy veřejného mínění jsou výplodem strojů. Surové odpovědi se shromažďují, čistí a upravují pomocí systémů vážení, které určují, kdo se počítá a kdo ne. Modely účasti rozhodují, které demografické skupiny zdůraznit. Titulek „Američané podporují Y“ není pouhým počtem; je to hlas syntetického občana sestaveného kódem z fragmentů dat.
Diskutujete, stěžujete si, publikujete příspěvky. Děláte to však v rámci agendy stanovené algoritmy: která témata jsou „trendy“, které příběhy jsou „důležité“, které názory jsou „mainstreamové“ a které „okrajové“. Jazyk vám říká, že „uživatelé říkají“. Realita je taková, že **modely rozhodují** o tom, co to vůbec znamená být „uživatelem“ a co z toho „říkání“ se vám zobrazí na radaru.
Identita a posuzování: skóre místo tváří
Kdysi byla vaše reputace něčím, o čem lidé diskutovali. Sousedé, šéfové, klienti a příbuzní si předávali příběhy; byli jste posuzováni na základě těchto vyprávění. Nyní je vaše reputace z velké části **skóre**.
Software pro hodnocení úvěrové bonity rozhoduje, zda můžete získat hypotéku nebo auto. Rizikové modely rozhodují, zda jste dostatečně spolehliví pro práci nebo byt. V některých jurisdikcích pomáhají nástroje pro hodnocení rizika trestné činnosti rozhodovat, zda budete čekat na soud doma, nebo ve vězeňské cele. Nejedná se o lidská hodnocení v tradičním smyslu. Jsou to výpočty prováděné na základě dat: nezaplacená faktura, stěhování, změna zaměstnání, pokuta.
Systém vygeneruje číslo. To číslo vás provází. Bankéři, pronajímatelé, zaměstnavatelé a soudci toto číslo vidí a považují ho za vaši zhuštěnou hodnotu. Mohou provést drobné úpravy, ale ve většině případů skóre nepřepisují; řídí se jím.
Formulace zní: „Vyhodnotili jsme vaši žádost“, „soudce zvážil okolnosti“. V každodenní praxi vás však robot zařadil do určité kategorie a lidé se zdráhali s tím nesouhlasit. Ve své vlastní mysli zůstáváte člověkem, ale stále větší část světa vás vnímá jako vektor rizika a výnosu.
Zboží, služby a ekonomika bez nás
Nyní posuňme tuto logiku až na samou hranici.
Představte si, že roboti budou dál dělat přesně to, co dělají teď – obchodovat, optimalizovat, směrovat, bodovat –, ale my se zbavíme zdvořilé fikce, že systém pohání lidské chování. Co se stane?
Roboti mohou:
- Pokračovat v obchodování s akciemi, dluhopisy, měnami a deriváty.
- Pokračovat v alokaci kapitálu do továren na základě očekávaných výnosů.
- Pokračovat ve generování signálů „poptávky“ z modelů a zasílání objednávek firmám.
- Pokračovat v směrování kontejnerů a plánování tras kamionů v rámci dodavatelských řetězců.
Továrny budou i nadále vyrábět televize, ledničky, routery, boty a hračky. Sklady se budou i nadále plnit. Logistický software bude i nadále přesouvat palety v souznění nabídky a prognózované poptávky. Každý krok v řetězci bude zaznamenán jako „výstup“, „obchod“, „zásoby“, „HDP“.
A teď si představte… Kdyby… Nikdo ty krabice nikdy neotevřel. Žádné dítě by si s těmi hračkami nikdy nehrálo. Žádná rodina by to jídlo nikdy nesnědla. Zboží leží zabalené ve smršťovací fólii pod automatizovaným osvětlením v automatizovaných budovách. Z pohledu robotů ekonomika v plném proudu. Objednávky zadány, zboží doručeno, platby zúčtovány. To, zda nějaký živý tvor využívá to, co systém produkuje, není v modelu proměnnou.
Služby situaci komplikují – stříhání vlasů, operace, ošetřovatelství, výuka. Stroje zatím nedokážou umýt pacienta, vkusně ostříhat vlasy ani utěšit umírajícího. Ale i zde je velká část okolní logiky již algoritmická: skóre pro třídění pacientů, kódy pro fakturaci, schvalování pojištění, plánování. Lidský kontakt se odehrává uvnitř rozhodovacích rámců vytvořených softwarem.
V tomto imaginárním světě jsou lidé **biologickými koncovými body**, s nimiž systém občas musí počítat: kalorie, lůžka, buňky. Hlavním motorem koordinace a alokace je výhradně stroj. Roboti nakupují zboží, přepravují ho, skladují a v účetní knize ho označují jako „v pořádku“.
Zbytečné město
Jakmile si to uvědomíte, města začnou vypadat méně jako centra lidského života a více jako centra života strojů.
Město bývalo místem, kde se soustředila lidská aktivita: řemeslníci, tiskaři, lékaři, obchodníci, učitelé, redaktoři, politici – všichni vykonávali práci, která měla přímý význam. Nyní jsou v mnoha městech ústředními funkcemi datová centra, banky bez pokladníků, logistická centra a kancelářské věže plné lidí, jejichž úkolem je zásobovat a interpretovat stroje.
V takovém prostředí se dá jen těžko vyhnout kruté skutečnosti:
Pokud jste ve městě, jste pro systém čím dál tím zbytečnější. Jste tam proto, abyste zaplnili silnice dopravou, kanalizaci odpadem a tabulky daty. Práci, na které systému skutečně záleží, vykonávají roboti.
Systém potřebuje těla, kterým může něco prodávat, která může hodnotit a občas potrestat.
Nepotřebuje váš úsudek.
Nepotřebuje vaši přítomnost, leda jako zdroj dat.
Čím více se váš městský život skládá ze zírání do obrazovek, vyplňování formulářů a poslouchání automatizovaných pokynů, tím je zřetelnější, že jste periferním zařízením připojeným ke stroji, který jste nenavrhli.
Jednu instinktivní reakci na to jsme již dříve viděli.
Na konci 60. a v 70. letech se část generace Woodstocku pokusila odejít. Přestěhovali se do komunit a na usedlosti v rámci hnutí „zpátky k přírodě“, odhodláni pěstovat si vlastní jídlo, cítit na zádech skutečné sluneční paprsky a budovat životy, které se řídily půdou a počasím namísto rozvrhů a zářivek. Většina z nich nakonec podlehla nebo se vrátila zpět. Město a ekonomika je vtáhly zpět. Stroj byl trpělivý; mohl nabídnout platy, supermarkety a vytápěné byty.
To, co tehdy bylo jen v zárodku, je dnes jasnější. Ti hippies nepronásledovali jen idylickou fantazii; tápali po úniku ze systému, který směřoval k tomu, aby se stal plně strojovým. Dnes se ten systém rozrostl do botů, které řídí trhy, hodnotí občany, formují názor a směrují zboží. Oni pro to neměli slova; my ano.
Jediný život, který boti nemohou žít
Jakmile připustíte, že klíčové systémy – finance, politika, média, identita, vnější slupka ekonomiky – tiše vyškrtly lidskou svobodnou vůli ze svých scénářů, možnosti se zužují.
Můžete zůstat ve městě, plně napojeni na logiku botů, a přijmout svou roli jako data a odpad. Můžete i nadále nechat svou hodnotu měřit skóre, své názory formovat feedy, své „volby“ manipulovat kampaněmi a svou budoucnost diskvalifikovat modely. Budete mít stále co na práci – schůzky, termíny, předplatné –, ale budete zaneprázdněni uvnitř systému, který nepotřebuje, abyste existovali jako osoba, ale pouze jako signál.
Nebo můžete začít dělat to, co generace Woodstocku nikdy úplně nedokončila: přesunout svůj život do prostorů a činností, v nichž jsou roboti slabí.
Můžete si pěstovat vlastní jídlo. Zabít si vlastní maso. Postavit a opravit si vlastní přístřeší. Žít mezi sousedy, které vidíte a kterých se můžete dotknout, na místě, kde hlavními systémy, s nimiž se potýkáte, jsou počasí, půda, dřevo a zvířata, nikoli ovládací panely a skóre. Strojům zcela neuniknete – stále vám budou posílat daňové výzvy a účty za pojištění –, ale už nebudete jednou z jejich pohyblivých součástí. Budete lidskou bytostí na konkrétním místě, vykonávající práci, která existuje z jiných důvodů než kvůli datům.
Bez připojení k internetu je těžké zpeněžit svou zahradu, protože roboti ji nevidí. To může být nejjasnějším důkazem toho, že konečně děláte něco pro sebe. Pokud vás roboti nedokážou změřit, možná se znovu stanete skutečnými.