Je třeba přestat prezentovat „halucinace“ umělé inteligence jako pouhé zábavné chyby ještě mladé technologie. Samotný pojem je sémantickým podvodem. Stroj, který si vymýšlí zdroje, vytváří data a s naprostou suverenitou prezentuje neexistující informace, si nic „nesní“, ale vytváří podvrhy. A když je podvrh obalen slovníkem odborných termínů, uzavřen ve stostránkové zprávě, doplněn grafy a podepsán prestižní firmou, přestává být pouhou chybou a stává se nástrojem moci. Aféra PwC je v tomto ohledu obzvláště výmluvná.
PwC (zkratka pro PricewaterhouseCoopers) je mezinárodní síť společností specializujících se na audit, účetnictví, poradenství a právní a daňové služby. Oficiálně byla založena v roce 1998 sloučením společností Price Waterhouse a Coopers & Lybrand (jejíž počátky sahají až do roku 1849), patří k čtyřem největším světovým firmám, známým pod názvem „Big Four“, spolu s Deloitte, EY a KPMG. Hlavní sídlo sítě se nachází v Londýně a funguje jako soubor nezávislých právnických osob působících ve 136 až 157 zemích (podle nejnovějších zdrojů). V roce 2024 dosáhla skupina celosvětového obratu 56,9 miliardy dolarů a zaměstnává přibližně 364 000 spolupracovníků. Ve Francii má PwC France et Maghreb přibližně 7 000 spolupracovníků a od roku 2021 ji vede Patrice Morot; její sídlo se nachází v Neuilly-sur-Seine.
Podle šetření, o kterém informoval Consultor, obsahovaly čtyři publikace společnosti PwC Middle East řadu hrubých chyb, jako například neexistující odkazy nebo odkazy nesouvisející s uváděnými tvrzeními, údaje, které citované zdroje neobsahovaly, grafy založené na nenalezitelných odkazech atd. Ještě pozoruhodnější je, že jedna zpráva údajně prezentovala jako reálný systém s názvem „Citizen Pulse“, (společnost specializující se na řízení voleb (parlamentních, veřejných i soukromých) a politický marketing. Využívá datově orientovaná řešení k analýze voličů, řízení kampaní a poradenství kandidátům), který byl údajně nasazen v několika zemích, ačkoli žádný z citovaných zdrojů neumožňoval potvrdit jeho existenci. Financial Times navíc potvrdil analýzu citovanou společností Consultor. A právě v tom spočívá skutečný problém.
Nejde o to, že by se umělá inteligence mýlila. Jde o to, že budujeme civilizaci, v níž forma znalostí může přežít zmizení samotných znalostí. Tak se dobře napsaný text stává důkazem. Dobře sestavený graf se stává samozřejmostí. Vymyšlená citace se stává zárukou. Seznam nenalezitelných odkazů se stává pouhou iluzí autority. A jelikož stroj to vše vyprodukuje během několika sekund, je člověk postupně sváděn k tomu, aby už nic neověřoval.
Proč hledat, číst, porovnávat a pochybovat, když nyní stačí pár slov k získání okamžité, uhlazené a uklidňující odpovědi? Tato snadnost živí novou intelektuální lenost, formu závislosti na technologickém pohodlí, kde se snaha o porozumění sama stává archaickým omezením, a to i přesto, že výzkumy v oblasti kognitivního offloadingu ukazují, že lidé mají přirozenou tendenci přenášet část své mentální zátěže na algoritmy, jakmile jim to ušetří námahu.
A pro některé jde tento jev ještě dál: umělá inteligence se stává strojem na umělou výrobu kompetence a proslulosti, který umožňuje během několika minut vytvořit texty, obrázky, analýzy či odborné posudky, které lze poté předvést jako výsledek vlastního talentu – technologie tak již neslouží pouze k tomu, aby se člověk vyhnul přemýšlení, ale k vytvoření veřejné iluze, že přemýšlí lépe než ostatní. Právě v tom spočívá politický význam lži.
Neboť před příchodem umělé inteligence vyžadovala stará lež lháře. Bylo třeba falšovat, zamlžovat, korumpovat, manipulovat. Bylo třeba podstoupit riziko odhalení. S generativní umělou inteligencí se část tohoto mechanismu mění, protože faleš lze vytvářet automaticky, v průmyslovém měřítku, s zdánlivou neutralitou a objektivností.
Stroj neříká: „Chci vás oklamat.“ Říká něco mnohem nebezpečnějšího, když prohlásí: „Tady je odpověď!“ A tento rozdíl je zásadní. Autorita totiž již nutně nevychází z pravdivosti obsahu, ale z domnělé moci nástroje, který jej vytváří.
Takto se můžeme dostat od tvůrčího myšlení k jeho technologické karikatuře, protože na každou otázku odpovídá výzva a tedy i odpověď. Na další otázku pak další výzva a další odpověď. Už není třeba hledat. Už není třeba porovnávat. Už není třeba pochybovat. Už není třeba číst zdroje. Už není třeba rozumět uvažování. Stačí se zeptat.
A pokud je odpověď nesprávná, začneme znovu. Je-li stále nesprávná, přeformulujeme otázku… jako by změna otázky mohla zázračně proměnit stroj v věštce. Algoritmus však není ani vševědoucí, ani neutrální: ví pouze to, co mu umožňují vyprodukovat jeho data, v mezích korpusů, ke kterým má přístup, rozhodnutí učiněných při jeho návrhu a směrů, které určovaly jejich výběr. Žádná databáze však není vyčerpávající, žádný korpus neobsahuje celou složitost reality, žádný výběr zdrojů není prostý slepých míst. Algoritmus tedy nikdy nepozoruje svět v jeho celistvosti: podává jeho filtrovanou, neúplnou reprezentaci, strukturovanou lidskými rozhodnutími – a může tuto jednostrannost proměnit v odpověď, která, protože je formulována s jistotou, nebezpečně nabývá podoby pravdy.
Skutečné nebezpečí nastává, když toto zásadní omezení zmizí z vědomí toho, kdo ji používá. Tím, že neustále přenechává vyhledávání, třídění, syntézu a dokonce i úsudek technologii prezentované jako „inteligentní“, intelektuální lenoch nakonec zaměňuje odpověď za pravdu, rychlost za relevantnost a množství informací za znalosti. Už nic neověřuje, nic neporovnává, už nepochybuje: přeformulovává, dokud nezíská odpověď, která mu vyhovuje, a tento výsledek nazývá „inteligencí“. V této fázi už algoritmus ani nemusí být záměrně zavádějící; je to člověk, který z lenosti a fascinace technologií mechanicky proměňuje své limity v jistoty – a pohodlně se usadí za technologií nicoty, aby se vyhnul základnímu úsilí o myšlení.
Společnost, která však postupně přenechává svou schopnost analýzy systémům, které nerozumí tomu, co samy formulují, riskuje, že ztratí něco mnohem cennějšího než jen pár pracovních míst pro kancelářské pracovníky. Ztrácí samotný vztah k pravdě. A poradenské firmy zde představují téměř dokonalou laboratoř.
Tyto organizace vybudovaly značnou část své moci na falešném slibu, že promění složitost v odbornost, informace v rozhodnutí a nejistotu v doporučení. Nyní však stroje, které mají tuto produkci urychlit, mohou vymýšlet zdroje, na nichž tato doporučení spočívají.
Společnost PwC tak tvrdí, že disponuje procesy kontroly kvality a že bere přesnost svých publikací vážně. Právě v tom však spočívá problém. Neboť pokud lidská kontrola zůstává nepostradatelná, pak umělá inteligence intelektuální práci neodstranila; pouze přesunula riziko na ty, kteří ji neověří. A tento rozpor by nás měl trápit. Co by nás však mělo skutečně znepokojovat, je skutečnost, že aktéry v jádru tohoto mechanismu nejsou nějaké neznámé a bezvýznamné agentury, ale uznávaní tvůrci globálních ekonomických a politických rozhodnutí, jejichž excesy jsme mohli vidět například během pandemie COVID. Jsou to tedy McKinsey, Bain a BCG, proslulá trojice MBB, která vládne strategickému poradenství, a „Velká čtyřka“ – PwC, Deloitte, EY a KPMG –, která současně působí v oblasti auditu, financí, daní, transformace organizací a nyní i umělé inteligence.
Tyto společnosti se nespokojují pouze s poradenstvím pro nadnárodní společnosti a vlády, neboť se aktivně podílejí na definování diagnóz, vytváření ukazatelů, formulování scénářů a prosazování slovníku, v němž budou následně muset být rozhodnutí koncipována. Když se však hrstka soukromých společností stane schopnou vytvářet „důkazy“, žebříčky, prognózy a doporučení, které se následně používají k legitimizaci veřejných politik nebo masivních restrukturalizací, nejedná se již pouze o poradenství, ale čelíme skutečnému průmyslu legitimizace lží.
A pokud tyto stejné stroje začnou samy vytvářet zprávy plné neexistujících odkazů, jak ilustruje aféra PwC, riziko se stává závratným, protože technologie může dát zaujatým výkladům vzhled chladných a nezpochybnitelných dat. Institucionální lež pak již ani nemusí být vnucována, jelikož ji lze zamaskovat jako odborný posudek, podložit grafy, legitimizovat prestižními poradenskými firmami a nakonec občanovi předložit jako racionální závěr, s nímž mu nezbývá než souhlasit.
Umělou inteligenci nám prodávají jako nástroj, který osvobozuje člověka od intelektuálních úkolů. Společnost, která však přestane vykonávat ověřovanou činnost, nakonec ztratí schopnost ji vykonávat. Schopnost si neuchováme tím, že ji systematicky zadáváme externě. Kritického myšlení si neuchováme tím, že požádáme stroj, aby shrnul protichůdné argumenty. Schopnost bádat si neuchováme tím, že přijmeme automaticky generovanou bibliografii. Stejně jako si neuchováme úsudek tím, že každé rozhodnutí proměníme v algoritmické doporučení. Naopak vytváříme závislost.
A tato závislost má děsivý politický důsledek, protože ten, kdo ovládá systémy produkující narativy, kategorie, syntézy a „pravdy“, má potenciálně obrovskou moc nad tím, co ostatní považují za myslitelné.
Už ani nemusí jít nutně o cenzuru. Stačí jen zaplavit. Zaplavit veřejný prostor věrohodnými texty, neověřitelnými statistikami, automatickými analýzami, hotovými úvahami. Vytvořit tolik obsahu, že pro běžného člověka bude nemožné vše kontrolovat. A velké lži 21. století již tedy nemusí být přesvědčivé, protože stačí, aby jich bylo dostatek. A právě v tomto bodě se tento argument stává mnohem znepokojivějším než pouhá otázka „halucinací“ umělé inteligence.
Představte si, že zítra vyjde úřední zpráva ospravedlňující brutální politiku. (To už WEF dělá už léta.) Ekonomická analýza, která údajně prokazuje, že určitá skupina obyvatel představuje „náklad“ (to udělala WHO s lží o COVIDu). Bezpečnostní studii, která označí určitou skupinu občanů za „rizikový faktor“, nebo digitální nařízení, podle něhož je pro kolektivní ochranu nezbytné zavést další omezení. (To dělá EU se svým DSA). Vojenská zpráva, která chladnokrevně vyhodnocuje lidské ztráty a redukuje lidské životy na proměnné, „vedlejší škody“ a přijatelné pravděpodobnosti. (To dělá Izrael a Mossad, aby si od svého umělého vzniku udrželi americkou armádu na své straně). Nebo třeba interní zpráva vysvětlující, že takovéto mimořádné opatření je „racionální“, „nezbytné“ či „optimální“, a poté by přišla poradenská firma se svými konzultanty v oblecích, pestrobarevnými grafy a sterilním slovníkem, tak jak to dělají pro průměrné vládce Západu, kteří všichni pocházejí z řad Young Leaders…
Vězte tedy, že právě takto funguje nejnebezpečnější mechanismus moderní moci, protože od občana se již nepožaduje, aby se hlásil k nějaké ideologii, ale aby se podřídil odbornému posudku. Politické rozhodnutí mizí za čísly, odpovědnost za algoritmem, morální volba za technickým doporučením. A zítra, s umělou inteligencí, bude tento stroj legitimace schopen během několika vteřin vygenerovat zprávy, prognózy a argumenty potřebné k tomu, aby jakémukoli rozhodnutí dodal zdání objektivní nutnosti.
Skutečnou noční můrou tedy není umělá inteligence, která by rozhodovala za nás, ale vládnoucí třída, která by mohla umělou inteligenci využít k tomu, aby proměnila svá rozhodnutí v údajně neutrální pravdy – a poté nám vysvětlila, že jelikož to „data“ prokázala, nezbývá nám než poslechnout. A přesně to se v současné době děje. Stačí si všimnout jednotnosti diskursu ohledně nejzkorumpovanější země světa, kterou je Ukrajina, odporné propagandy proti Rusku a především hanebné podpory vrahů palestinských, íránských či libanonských dětí ze strany talmudsko-sionistických fanatiků, uctívačů Baala, kteří zkorumpovali všechny naše národy, jak ukazuje případ Epsteina.
Pokud jsou však zdroje od samého počátku falešné, ale nikdo je neověřuje, umělá inteligence nevytvoří pouhou chybu. Dodá lidskému rozhodnutí zdání racionality. A právě v tom spočívá skutečné nebezpečí umělé inteligence a jejího bezohledného využívání. Nejde o to, že by se stroj stal monstrózním, ale o to, že jej člověk může využít k tomu, aby se zbavil odpovědnosti za monstróznost svých vlastních rozhodnutí.
Válka již nabízí mrazivý příklad, když společnost Palantir na začátku roku 2024 uzavřela strategické partnerství s izraelským ministerstvem obrany pro mise související s válkou, zatímco zdroje poukázaly na vazby mezi jejími technologiemi a izraelskými systémy identifikace a sledování cílů — což společnost Palantir samozřejmě popírá, pokud jde o vývoj systémů automatického zaměřování. Izrael navíc v rámci svého ministerstva obrany zřídil úřad věnovaný umělé inteligenci a autonomním systémům, zatímco společnost Elbit Systems se chlubí integrací pokročilých technologií, zejména umělé inteligence, do svých vojenských platforem a od začátku války zaznamenala silný nárůst poptávky ze strany izraelského ministerstva obrany; její tržby v roce 2025 dosáhly téměř 7,94 miliardy dolarů.
Společnost Israel Aerospace Industries zase vyvíjí technologie autonomie založené na umělé inteligenci, zejména v letectví. Problém tedy nespočívá pouze v tom, že umělá inteligence může válku urychlit, ale především v tom, že umožňuje proměnit rozhodnutí zabít v technický proces, oběť v data, z cíle pravděpodobnost a z odpovědnosti řádek kódu. A čím více je rozhodovací řetězec automatizován, tím více mohou ti, kdo násilí spouštějí nebo schvalují, tvrdit, že pouze „následovali systém“, jako by algoritmus mohl nést morální odpovědnost za lidskou bytost.
Technologie se tak stává ideální zástěrkou zbabělosti, protože již nerozhodujeme, ale optimalizujeme; již nezabíjíme, ale zpracováváme data; již neděláme chyby, ale způsobujeme „vedlejší škody“. A zatímco se člověk schovává za stroj, průmyslníci smrti tento nový způsob vedení války proměňují v kolosální trh. A jaké výmluvy jsou pohodlnější, když se člověk chce vyhnout zodpovědnosti za rozhodnutí, než říci: „To jsem nerozhodl já, to byla umělá inteligence“, „Tak to říká model“, „Data jasně ukazují, že…“ Nebo ještě přímočařeji: „Algoritmus doporučuje…“
Historie je již plná byrokratických systémů schopných proměnit nelidskost v postup, násilí v administrativní kategorii a hrůzu v tabulku Excel. Umělá inteligence tuto pokušení nevytváří. Pouze jí dodává dosud nevídanou rychlost, rozsah a vědecký ráz.
Proto není zásadní otázka: „Je umělá inteligence inteligentní?“, ale „Kdo ještě přemýšlí, když odpovídá stroj? “ Stroj, který si vymýšlí odkaz, je totiž nebezpečný, ale člověk, který přestane tento odkaz ověřovat, je ještě nebezpečnější. Stroj, který produkuje nepravdu, je technický problém, ale civilizace, která nepravdu akceptuje jen proto, že ji produkuje stroj, je problém politický. A společnost, která nakonec považuje samotné intelektuální úsilí za ztrátu času, páchá jakousi formu intelektuální sebevraždy.
Ironií je, že jsme tyto technologie pojmenovali „umělá inteligence“, zatímco se právě ony mohou stát prostředkem k odnaučení se přirozené inteligence. Vytvořili jsme stroje schopné generovat miliony slov a riskujeme, že vychováme generace, které již nebudou umět rozlišit argumentaci od pouhého seskupení vět. Automatizovali jsme odpověď právě v okamžiku, kdy bychom měli znovu objevit otázku. A tomu říkáme pokrok.
Ne! Pokrok nespočívá v tom, že můžeme získat odpověď bez přemýšlení. Pokrok by spočíval v tom, že bychom měli k dispozici nástroje, díky nimž by nás bylo těžší oklamat. Umělá inteligence používaná bez ověření však může způsobit přesně opačný efekt. Může proměnit nevědomost v jistotu. Pochybnost v automatické odpovědi. Propaganda v odborném posudku. Výmysl v datech. A zítra možná ospravedlnění neospravedlnitelných věcí jako „objektivní analýza“.
Proto by se případ PwC neměl brát jako groteskní anekdota o několika špatně ověřených citátech. Měl by být považován za varování. Protože skutečným skandálem není to, že stroj dokáže lhát, ale že mu přenecháváme právo definovat, co je pravda!
A až k tomu dojde, nehledejte viníka ve stroji. Ten nebude mít ani svědomí, ani morálku, ani úmysl, protože pouze provedl pokyn, přeskupil dostupná data a vygeneroval odpověď, o kterou byl požádán. Skutečným viníkem bude člověk, který souhlasil s tím, že přenechá svůj úsudek stroji, ten, kdo upřednostnil okamžitou odpověď před hledáním, shrnutí před čtením, věrohodnost před důkazem, algoritmus před svou vlastní inteligencí. Neboť v den, kdy už nebudeme ověřovat – a tento den již není vzdálenou hypotézou –, kdy už nebudeme porovnávat zdroje, kdy už nebudeme hledat rozpory, kdy už nebudeme snášet nepříjemný pocit pochybností, umělá inteligence nás už ani nebude muset bránit v myšlení, protože se myšlení již dobrovolně vzdáme. A právě v tom spočívá nejděsivější zlom naší doby.
Populace, která již nic neověřuje, je populace, kterou lze informovat podle libosti; populace, která již neporovnává zdroje, je populace, kterou lze nasměrovat; populace, která již nepochybuje, je populace, kterou lze vládnout pomocí narativu. Pak bude stačit poskytnout správnou odpověď, se správnou slovní zásobou, správnými grafy, správnými odkazy – ať už skutečnými, či nikoli – a s dostatečnou sebejistotou, aby faleš získala vzhled pravdy. Nebudeme již čelit umělé inteligenci, ale něčemu mnohem nebezpečnějšímu, co lze definovat jako lidskou lenost uměle zesílenou technologií.
A až se každý bude ptát stroje, čemu má věřit, co má pochopit, co si má myslet nebo jak se má rozhodnout, bude už příliš pozdě tvrdit, že nám byla svoboda vyrvána, protože jsme ji dobrovolně vyměnili za iluzorní pohodlí, že už nemusíme uplatňovat vlastní úsudek.
Cena této výměny by však mohla být nesrovnatelně vyšší než pouhá ztráta našeho kritického myšlení, protože riskujeme, že se vzdáme zásadní části našeho lidství. Přemýšlet, pochybovat, hledat, konfrontovat, mýlit se, opravovat svůj úsudek, přijmout rozhodnutí a nést za něj odpovědnost nejsou nepříjemné archaismy, od nichž by nás měla technologie osvobodit; jsou to právě ty činnosti, které z nás dělají lidské bytosti.
Tím, že se snažíme odstranit veškeré tření, veškeré úsilí, veškerou nejistotu a veškeré obtíže ve jménu technologického pohodlí, které se stalo posedlostí, riskujeme, že vytvoříme lidstvo neschopné snášet pochybnosti, neschopné rozhodovat se bez pomoci, neschopné dokonce rozlišit, co ví, od toho, co mu někdo tvrdí.
Největším nebezpečím tedy není to, že umělá inteligence bude myslet za nás, ale že nás natolik zvykne na to, že už nebudeme myslet, až nám samotný akt myšlení nakonec připadne zbytečný. A lidstvo, které postupně opouští svůj úsudek, zvědavost, zodpovědnost a schopnost pochybovat, nezískává na inteligenci, ale samo se zbavuje toho, co z něj prostě dělá člověka…