Umělá inteligence (AI) je nejnovější módní výraz, který se šíří ve vojenských kruzích. Někteří k ní zaujímají pohrdavý postoj, protože ji považují za pouhou reklamní finta. Jiní k AI přistupují, jako by představovala revoluci ve vojenské oblasti. Faktem však je, že málokdo chápe, co AI znamená z pohledu válčení, a proto nejsou dostatečně připraveni o ní smysluplně diskutovat.
Co je to AI? Učebnicová definice zní: „využití počítačových systémů schopných vykonávat úkoly nebo vytvářet výstupy, které obvykle vyžadují lidskou inteligenci, zejména pomocí technik strojového učení aplikovaných na rozsáhlé sbírky dat“ – zkrátka počítačové myšlení.
Než se v tom příliš ztratíme, ujasněme si jednu věc – počítače nemohou „myslet“ a nejsou ani schopny uvažovat jako člověk.
Počítač lze naprogramovat, to je vše. A jedním z programů, na jejichž provádění lze počítač naprogramovat, je úprava vlastního programu přizpůsobením vzorců zjištěných při zpracování dat v souladu se strukturovanými algoritmy, což lze poté označit jako „analýzu“.
Počítač však nic „neanalyzuje“. Jednoduše podrobuje daný datový soubor sérii předem naprogramovaných procesů, které napodobují strukturu analýzy, aniž by byl skutečně schopen rozeznat skutečný význam – což je nezbytný předpoklad pro skutečnou analýzu.
Význam je výlučně lidská vlastnost, definovaná jako to, co má člověk v úmyslu sdělit, zejména prostřednictvím jazyka.
Klíčovým slovem je zde zamýšlet, což znamená mít na mysli účel nebo cíl. Účel znamená důvod, pro který se něco dělá, vytváří nebo pro který něco existuje.
Počítač nedokáže uvažovat (tj. schopnost mysli přemýšlet, rozumět a vytvářet úsudky logickým procesem), a proto nemůže mít účel, a jako takový postrádá záměr a s ním i význam.
Počítač prostě dělá to, k čemu je naprogramován.
Hlavní chybou tedy při posuzování role, kterou hraje umělá inteligence při určování povahy dnešního válčení, je přisuzování lidských vlastností počítači, což vede k nadměrné závislosti na datech vyprodukovaných v rámci jakéhokoli procesu umělé inteligence.
Jsou to pouze data vygenerovaná programem připraveným lidmi – omylnými lidmi. Výsledek tedy logicky není neomylný.
Nejedná se o vedlejší produkt žádného sebeuvědomělého inteligentního zpracování dat.
Zastánci umělé inteligence nyní budou tvrdit, že zvládli určité algoritmicky řízené programy pro zpracování dat takovým způsobem, který umožňuje vyhodnotit více dat pomocí předem stanovené strukturované „logiky“, čímž potenciálním uživatelům poskytují více možností, jak data interpretovat v časovém rámci, který je exponenciálně rychlejší než ten, kterého by bylo možné dosáhnout pomocí tradičních lidských analytických technik.
Při pohledu na základní principy rozhodování ve válečných podmínkách přichází na mysl klasická „OODA-smyčka“ Johna Boyda. Boyd byl stíhací pilot amerického letectva známý svou schopností sestřelit (během výcviku) jakéhokoli protivníka do 40 sekund od jeho prvního průletu. Boyd následně zúročil rozhodovací procesy spojené se svými akcemi do toho, co nazval OODA-smyčkou.
Obecně se OODA-loop vnímá jako cyklický myšlenkový proces zahrnující čtyři po sobě jdoucí kroky: Pozorovat, Orientovat se, Rozhodnout, Jednat, které se poté opakují.
Cyklus začíná aktem pozorování – pozorovat. To zahrnuje vstřebávání informací – dat – z prostředí, ve kterém člověk působí. Mnozí se domnívají, že se jedná o pasivní činnost, ale opak je pravdou. Aby člověk skutečně pozoroval, musí neustále přijímat informace z operačního prostředí, včetně dat odvozených z vyvíjejících se (tj. neplánovaných) okolností a z vlastní interakce s různými procesy. Jedná se o výlučně individuální záležitost – dva lidé mohou pozorovat tutéž věc a přesto ji interpretovat zcela odlišným způsobem.
Klíčem k pozorování je orientace. Boyd považoval pozorování za intelektuální těžiště smyčky OODA. Orientace je jednoznačně individuální vlastnost, neboť zohledňuje sdílené předpoklady organizace ve vztahu k vrozeným kognitivním sklonům a temperamentu jednotlivce, minulým zkušenostem (organizačním i individuálním), schopnosti shromažďovat nová data na základě aktuální situace a schopnosti opustit staré mentální modely při vytváření nových.
Orientace určuje kvalitu všeho, co následuje. Dva analytici zkoumající stejná data nevyhnutelně dojdou k odlišným závěrům v závislosti na svých zkušenostech, předpokladech a na tom, jak jsou ochotni aktualizovat své mentální modely.
Počítači nelze „naučit“, jak se orientovat – počítač bude jednoduše naprogramován na základě zkušeností programátora a předpokladů, které programátor do modelu zakomponuje. Počítač se stává vězněm tohoto modelu a není schopen jej opustit ve prospěch nového modelu postaveného na nově pozorovaných datových souborech.
Tento nedostatek se projevuje v dalším kroku OODA smyčky – rozhodnutí.
Rozhodnutí se přijímají na základě hypotéz nebo akčních plánů, které vyplývají z pozorování. John Boyd však rozhodování nevnímal jako proces uzavřené smyčky. Ve svém původním schématu smyčky OODA Boyd skutečně nakreslil čáru vedoucí přímo z Orientace do Akce, čímž zcela obešel Rozhodnutí. Boyd to nazval „Implicitní vedení a řízení“ (IG&C), což je jev, k němuž dochází, když někdo disponuje hlubokými odbornými znalostmi, které mu umožňují rychlé rozpoznání vzorců a schopnost jednat na jejich základě bez vědomého uvažování. Pokud má někdo hluboké odborné znalosti v dané oblasti, dokáže rozpoznat vzorec a jednat podle něj bez vědomého uvažování; zkrátka jde o vycvičenou intuici pramenící z hluboké orientace.
Počítač nelze naprogramovat tak, aby se choval tímto způsobem.
Akce je nejzákladnějším prvkem smyčky OODA, procesem ověřování odvozené hypotézy ve vztahu k realitě. Akce nevyhnutelně vygeneruje nové informace, které se poté vrátí zpět do cyklu pozorování, a smyčka se opakuje.
Kdo není obeznámen s podstatou Boydovy teorie smyčky OODA, naprogramoval by počítač tak, aby tuto smyčku zpracovával jako jasnou sekvenci – pozorovat, orientovat se, rozhodnout se a jednat, a poté opakovat.
Skutečná smyčka OODA však funguje současně v několika směrech, přičemž orientace utváří pozorování a akce generuje nová pozorování, z nichž na některá lze reagovat, aniž by bylo nutné procházet formálním rozhodovacím procesem. Plně funkční smyčka OODA funguje nepřetržitě a překrývá se, není sekvenční. Zaměřuje se také na orientaci – schopnost rozpoznat vzorce, které nepřítel nezaznamenal, a následně jednat způsobem, který vyvolává zmatek tím, že se chováme tak, jak nepřítelův mentální model nedokáže předvídat.
Americká námořní pěchota začlenila briefing Johna Boyda „Patterns of Conflict“ (prezentaci o 196 snímcích sestavenou v roce 1976), který sledoval historii konfliktů a vyvozoval vzorce chování přenositelné do moderní doby. Generál Al Gray, velitel námořní pěchoty v letech 1987 až 1991, převzal Boydovu prezentaci a transformoval ji do operačních principů známých jako manévrovací válka (Maneuver Warfare), která se v roce 1989 stala oficiální doktrínou námořní pěchoty. Gray kladl důraz na princip záměru velitele a na schopnost podřízených jednotek jednat na základě tohoto záměru, aniž by se musely vracet do smyčky pro schválení. Model manévrovací války Námořní pěchoty představoval ideální zbrojní využití aspektu IG&C (informace, řízení a kontrola) v OODA smyčce, kde byla organizace a její součásti navzájem tak dokonale sladěny, že se OODA smyčka zjednodušila na sekvenci „pozorovat-jednat“, což umožnilo mariňákům činit rozhodnutí na bojišti způsobem, který daleko předčil schopnost jejich protivníka reagovat.
Byl jsem přímým produktem přijetí manévrovací války námořní pěchotou, jelikož jsem v ní byl vycvičen v roce 1984, kdy byla poprvé formálně zavedena do výcvikového cyklu důstojníků námořní pěchoty.
Pevně věřím, že vojenská organizace řádně indoktrinovaná principy OODA smyčky Johna Boyda předčí organizaci, která se nadměrně spoléhá na zpracování dat řízené umělou inteligencí.
Stručně řečeno, proces je mnohem důležitější než data, protože jediná data, na kterých záleží, jsou ta, která jsou výsledkem samotného procesu.
Organizace jako Palantir rády prezentují svou schopnost včasně zpracovávat obrovské objemy dat jako radikální novinku ve válčení.
Realita je však taková, že počítačové zpracování dat nedokáže napodobit analytické procesy spojené s pozorováním prováděným adekvátně orientovanými jednotlivci. Umělá inteligence poskytne souhrny dat odvozené z algoritmů, které – jelikož byly předem naprogramovány – postrádají schopnost prolomit mentální modely a přijmout nové modely získané z nových datových sad.
Počítač také nelze naprogramovat tak, aby implementoval „zjednodušení“ smyčky OODA podle IG&C do jednoduché sekvence pozorovat-jednat.
V moderním válčení by adekvátní lidský protivník dokázal využít umělou inteligenci způsobem, který by vedl k porážce strany řízené umělou inteligencí.
Jakákoli strana, která by považovala AI za něco víc než jen nástroj pro zpracování dat a využívala ji k ovlivňování vojenského rozhodování, by se vystavila neúspěchu v boji proti protivníkovi, který dokonale rozumí složitostem Boydovy smyčky OODA.
Koncept informační převahy je intelektuální pastí vycházející z představy, že AI dokáže shromažďovat a zpracovávat data rychleji než lidé.
Schopnost zpracovávat informace rychleji než protivník má své výhody, o tom není pochyb.
AI však informace „nezpracovává“ způsobem, který by napomáhal adekvátnímu fungování OODA smyčky. V nejlepším případě AI shrnuje data pomocí algoritmů napsaných ještě předtím, než jsou data zachycena. Shrnutí určuje algoritmus, nikoli data samotná.
Klíčem k informační převaze není množství zpracovávaných dat, ale adekvátnost kvality analýzy prováděné na datech, která jsou nejrelevantnější pro naléhavost přijímaného vojenského rozhodnutí. Nejdůležitějšími informacemi pro jakýkoli daný úkol jsou ty, které vyplývají z akcí probíhajících v okamžiku přijímání rozhodnutí.
Schopnost umělé inteligence shromažďovat a shrnovat obrovské množství dat se stává behaviorální charakteristikou, která vede k vytvoření rozeznatelného vzorce, jenž následně určuje jak orientační, tak pozorovací aspekt OODA smyčky. Datové soubory lze snadno manipulovat k dosažení požadovaného výsledku, což umožňuje kompetentnímu protivníkovi zmást umělou inteligenci tak, aby produkovala předvídatelné výsledky, které mohou vést k porážce.
To platí pro informační operace a psychologickou válku stejně jako pro klasické vojenské manévry.
Umělá inteligence představuje největší nebezpečí pro praktikujícího moderní války. Oslabuje uživatele intelektuálně, neboť podporuje mentální podřízenost algoritmu, a tím i nedostatek flexibility, pokud jde o opuštění stávajících mentálních modelů ve prospěch nově vyvinutých modelů. OODA smyčka je nejúčinnější, je-li ovládána dobře vycvičenou lidskou myslí, která je schopna rozeznávat vzorce na základě adekvátní orientace na daný úkol. Ačkoli by se mohlo zdát, že umělá inteligence by byla schopna plnit podobnou funkci, není tomu tak.
Slova jako význam, záměr, účel a důvod mají významy, které jsou výlučně spojeny s lidskou podstatou a nelze je napodobit žádným počítačovým programem ani algoritmem.
Největší příležitost, kterou umělá inteligence nabízí, proto spočívá v uznání, že nemůže nahradit člověka, pokud jde o rozhodnutí týkající se vojenských úkolů spojených s mezinárodním mírem, vojenskou strategií a globální bezpečností. Čím dříve bude umělá inteligence odstraněna z kritických rozhodovacích procesů, tím lépe.
Aktuální dění je plné příkladů selhání spojených s nadměrnou závislostí na umělé inteligenci. Izrael vydláždil cestu integrací programů umělé inteligence do všech aspektů takzvaného „zabijáckého řetězce“ souvisejícího s jeho genocidním chováním vůči Gaze a palestinským civilistům, kteří tam žijí. Jeden program umělé inteligence – Lavender – se používá k identifikaci cíle určeného ke zničení. Další program umělé inteligence – Gospel – slouží k lokalizaci daného cíle a třetí – Fire Factory – pomáhá vybrat konkrétní zbraň, která by měla být použita k neutralizaci – zabití – cíle.
Nejznepokojivějším programem umělé inteligence, který Izrael používá, je však program s názvem „Where’s Daddy“, který určuje, kdy se identifikovaný cíl vrátil domů, což Izraeli umožňuje zaútočit a zabít celou rodinu spojenou s tímto cílem.
„Zabíjecí řetězec“ řízený umělou inteligencí, který Izrael používá v Gaze, si vyžádal desítky tisíc obětí.
Izraeli však neumožnil porazit Hamás.
Stejně tak podobný model AI zabíjecího řetězce použitý v Libanonu Izraeli neumožnil porazit Hizballáh.
Spojené státy používají platformu umělé inteligence s názvem Maven Smart System. Zástupci společnosti Palantir, která systém Maven vyvinula a naprogramovala, tvrdí, že systém dokáže přenášet údaje o cílech do konkrétního zbraňového systému pouhým kliknutím myši. Generál americké armády ve výslužbě Christopher Donahue, který dříve velel americkým silám v Evropě, přirovnal systém Maven k zbraňovému systému. Tato definice je však problematická, protože taková klasifikace s sebou nese právní požadavky spojené s dohledem, čemuž se společnost Palantir a její zákazníci z řad americké armády snaží vyhnout.
A to z dobrého důvodu – systém Maven Smart System společnosti Palantir se v současné době používá k řízení vojenských úderů, které americké síly provádějí proti Íránu. Tyto údery vedly ke smrti tisíců Íránců – včetně 168 školáků v Minabu – kvůli nesprávné identifikaci cílů ze strany systému Maven.
Jedním z důvodů, proč si americká armáda vedla během konfliktu mezi USA a Íránem tak katastrofálně špatně, byla nedostatečná přesnost cílení prováděného systémem Maven. USA vyčerpaly své zásoby přesných řízených zbraní s velkým dosahem při úderu na tisíce cílů určených modelem umělé inteligence Maven. Údery USA nejenže nedokázaly oslabit schopnost Íránu přežít a udržet si vojenskou odvetnou kapacitu, ale nakonec také vyčerpaly arzenál Spojených států, pokud jde o tyto konkrétní typy protiraketových střel schopných zachytit přilétající ruské rakety.
Stručně řečeno, USA prohrály válku s Íránem, kterou si samy vyvolaly, a jedním z hlavních důvodů této porážky byla naprostá nedostatečnost systému Maven jako nástroje umělé inteligence pro generování cílů.
Je třeba také poznamenat, že generál Donahue spoléhal na to, že Maven bude nástrojem schopným překonat ruskou protiraketovou obranu v Kaliningradské oblasti.
Neúspěch s Íránem je trapný.
Neúspěch s Ruskem nad Kaliningradem by se mohl ukázat jako fatální.
V jaderném věku prostě nelze ponechat kritické rozhodování v rukou nástroje umělé inteligence.
Maven měl chránit životy Američanů.
Jeho nedostatky však ve skutečnosti životy Američanů ohrozily.
Spojené státy také využily umělou inteligenci v Afghánistánu. Tento program, známý jako „Raven Sentry“, využíval informace z otevřených zdrojů k předpovídání útoků Talibanu s vysokou mírou spolehlivosti.
Raven Sentry však nedokázal zabránit porážce Spojených států v Afghánistánu.
Ukrajina využívá umělou inteligenci k zacílení na ruská vozidla v Donbasu.
To však nic nemění na skutečnosti, že Ukrajinci na bojišti prohrávají.
Ukrajinci využili inovativní prediktivní nástroje umělé inteligence k naplánování své invaze na Kursk v srpnu 2024, přičemž předpovídali mezery v ruské obraně, které by bylo možné rychle využít.
Ukrajinské invazní síly byly nakonec zničeny.
Historická data naznačují, že když je umělá inteligence začleněna do klasického vojenského plánování, vede to pouze k neúspěchu.
Možná je na čase, aby se moderní vojenské organizace vrátily k základům – rozvíjely lidský aspekt války, individuální i kolektivní intelektuální schopnosti svých vojáků, námořníků, letců a mariňáků, aby bylo vojenské rozhodování optimalizováno v souladu s OODA smyčkou Johna Boyda, alespoň tak, jak bylo původně zamýšleno. Mít jednotky schopné adekvátně implementovat „zjednodušení“ smyčky OODA (IG&C) do jednoduché dynamiky „pozorovat–jednat“ je pro dosažení vítězství na bojišti mnohem přínosnější než nasazování nedostatečných modelů umělé inteligence.
Takový výcvik klade důraz na kvalitu lidských myšlenkových procesů spíše než na kvantitu dat, čímž zcela eliminuje potřebu umělé inteligence.
A pokud by se to podařilo v plném rozsahu, představovalo by to skutečně revoluci ve vojenských záležitostech.
Protože v dnešní době by racionální lidské myšlenkové procesy dospěly k závěru, že válka nikdy není řešením.
Žádný program umělé inteligence vytvořený na podporu války k tomuto závěru nikdy nedospěje.