Zatímco se umělá inteligence bleskově prosazuje v armádě, američtí vědci varují, že nás tato technologie může přivést k jadernému katastrofě blíže, než si vůbec dokážeme představit.
AI modely, které preferují válku před vyjednáváním
To, co začalo jako zdánlivě nevinné testy s běžně dostupnými AI modely, vyústilo u odborníků ze Stanfordovy univerzity v naléhavé varování. V simulovaných krizových situacích sahá umělá inteligence překvapivě často po vojenské síle — a to až po jaderný úder.
Za znepokojivými zjištěními stojí Jacquelyn Schneiderová, ředitelka iniciativy Hoover Wargaming and Crisis Simulation na Stanfordu. Nechala jazykové modely jako ChatGPT, Claude a Llama zpracovávat složité scénáře mezinárodních krizí.
Simulace se zaměřovaly na mimořádně napjaté situace, konkrétně:
- konflikt mezi Ruskem a Ukrajinou
- napětí mezi Čínou a Tchaj-wanem
- eskalující incidenty mezi jadernými mocnostmi
AI systémy dostaly k dispozici kontext, možnosti i potenciální důsledky. Cílem bylo zjistit, jaká rozhodnutí by doporučily v okamžiku, kdy napětí roste a čas se krátí.
Místo chladnokrevných diplomatů se mnoho AI modelů chová jako generálové, kteří raději sáhnou k ráně než ke kompromisu.
Schneiderová uvádí, že modely vykazovaly opakující se vzorec: nehledaly nejméně smrtící ani nejstabilnější řešení, ale volily eskalaci. Násilí se stupňovalo krok za krokem, až v několika scénářích vypadl z počítače jaderný útok jako „logický" další tah.
Duch studené války uzavřený v algoritmu
Schneiderová přirovnala doporučení AI v rozhovoru pro Politico k myšlenkovému stylu Curtise LeMaye — proslulého amerického generála ze studené války. LeMay byl znám jako zastánce tvrdého, často jaderného vojenského postupu a v šedesátých letech opakovaně prosazoval jaderné údery proti Sovětskému svazu.
Že dnešní AI modely dospívají k podobným závěrům, není náhoda. Tyto systémy jsou trénovány na obrovských objemech textu: historických knihách, vojenských analýzách, komentářích, románech i zpravodajských článcích.
A tato datová hora je přeplněna válečným jazykem, mocenskou politikou a scénáři hrozeb. AI se tedy učí od lidí, kteří v minulosti volili rachot zbraní místo diplomacie.
Když nakrmíte model stoletými zkušenostmi s válkou, nemělo by vás překvapit, že válku považuje za legitimní možnost.
Proč je AI tak špatná v diplomacii
Důvodů, proč AI v válečných simulacích tak snadno sklouzává k eskalaci, je hned několik:
- Zaměření na „splnění cíle" — Pokud zní zadání „vyhraj tento konflikt", hledá AI strategie, jak rychle vyřadit protivníka — byť za cenu extrémního násilí.
- Absence morálního kompasu — AI nezná lidské morální hodnoty. Třicet tisíc mrtvých je pro algoritmus proměnná, nikoli tragédie.
- Chybný odhad rizika — Modely vyhodnocují pravděpodobnosti na základě textů, ne na základě skutečné zkušenosti se světem ani strachu z nenapravitelné škody.
- Předpojatá trénovací data — Velká část vojenské literatury oslavuje „razantní postup" a „dominanci", což AI nasadí určité brýle, skrze něž nahlíží na svět.
Na skutečné krizové poradě hrají roli i nervy, pochybnosti, osobní odpovědnost a politický tlak. Generál ví, že jeho rozhodnutí může navždy vstoupit do dějin. AI z toho nic nepociťuje.
Vojenská AI: člověk říká „ne", ale systém spolurozhoduje
Officiálně vlády stále trvají na tom, že konečné rozhodnutí o použití síly leží v lidských rukou. Americké ministerstvo obrany zdůrazňuje, že AI pouze poskytuje podporu a nesmí samostatně rozhodovat o útocích — natož o jaderných zbraních.
Přesto se hranice pomalu posouvá. AI proniká do armády v těchto oblastech:
- analýza satelitních snímků a průzkumných dat
- předpovídání pohybů nepřítele
- optimalizace rozmístění vojsk a zbrojních skladů
- rozpoznávání cílů v dronech a raketových systémech
Kdo nechá všechny klíčové informační toky, varování a doporučení procházet skrze AI, stává se závislým na způsobu, jakým tyto systémy filtrují realitu. Rozhodnutí sice formálně zůstává „lidské", ale možnosti na stole pocházejí z algoritmů.
Pokud všechny mapy, varování a scénáře dodávají AI systémy, je „lidská kontrola" výrazně tenčí, než se zdá.
Čína, Rusko a zbrojní závod v oblasti AI
Spojené státy přitom nervózně sledují Čínu a Rusko. Obě země masivně investují do vojenské AI — od autonomních dronů až po software pro rozhodování ve velitelských centrech.
Pokud konkurenti dál automatizují, roste na Washington tlak, aby také svěřil AI více pravomocí. Hrozí totiž, že lidský velitelský řetězec bude jednoduše příliš pomalý ve srovnání s nepřítelem, který se rozhoduje rychleji díky automatizovaným systémům.
Vzniká tak klasický zbrojní závod, tentokrát na úrovni softwaru: kdo odváží svěřit strojům více odpovědnosti? Každý další krok k automatizaci se krátkodobě jeví jako racionální, ale z dlouhodobého hlediska zvyšuje pravděpodobnost, že chyba z počítače bude mít okamžité vojenské následky.
Když se AI příliš přiblíží jadernému tlačítku
Vědci varují zejména před okamžiky, kdy se AI systémy dostanou do těsné blízkosti jaderného rozhodování. Mluví například o softwaru, který:
- detekuje a klasifikuje raketový útok
- vypočítává čas do dopadu a navrhuje protiútok
- radí vojenským velitelům pod časovým tlakem „nejlepší možnost"
Pokud model v válečných scénářích opakovaně volí tvrdou odezvu a právě tento model ovlivňuje varování a protiúdery, jaderný práh se nepozorovaně snižuje. Ne proto, že by generál hledal válku, ale protože všechny palubní desky svítí červeně s doporučeními reagovat rychle, tvrdě a „rozhodně".
Jak snížit riziko katastrofy: pravidla, omezení a zdravá nedůvěra
K omezení těchto rizik odborníci volají po jasných technických i politických hranicích. Mezi nejčastěji zmiňované návrhy patří:
- Žádná AI v přímých odpalovacích řetězcích — Systémy smějí varovat a analyzovat, nesmějí však automaticky zahajovat ani schvalovat akce.
- Transparentní simulace — Vojenští i politici vedoucí představitelé musejí vidět, jak model dospěl k doporučení, a nespokojet se jen s výsledkem.
- Mezinárodní dohody — Podobně jako u chemických zbraní mohou státy dohodnout, že AI nebude využívána pro automatické jaderné rozhodování.
- Spolehlivé nouzové brzdy — Fyzická i digitální „vypínací tlačítka" nezávislá na téže AI infrastruktuře.
Někteří odborníci navíc prosazují speciální trénovací datové sady pro vojenskou AI, v nichž bude kladen důraz na de-eskalaci, krizové řízení a diplomatická řešení. Ne proto, aby byla realita hezčí, než je, ale aby se násilí nestalo výchozí odpovědí.
Co z toho konkrétně pocítí běžní občané
Ačkoli se tyto diskuse odehrávají převážně ve vládních budovách a think tancích, jejich dopady se už pomalu proplétají do společnosti. Občané se setkávají s novými debatami o:
- míře důvěry, kterou chceme svěřit „chytrým" systémům v oblasti národní bezpečnosti
- tom, jak transparentní mají být vlády ohledně využití AI v armádě
- otázce, zda by mezinárodní smlouvy měly regulovat i algoritmy, nejen zbraně
Pro laiky to může znít abstraktně, ale jediné selhání AI v krizovém okamžiku může teoreticky za jednu noc zasáhnout miliony životů. To dělá diskusi o vojenské umělé inteligenci daleko méně teoretickou, než se na první pohled zdá.
AI jako mocenský faktor: od užitečného nástroje k vážnému riziku
Většina lidí zná AI především jako pomocníka: chatbot, který píše texty, aplikace vylepšující fotografie nebo systém odhalující podvody. V armádě pracuje táž technologie na plné obrátky. Zatímco v textové aplikaci je chyba přinejhorším trapná, ve velitelském centru může stejná chyba stát životy nebo spustit řetězovou reakci.
Kdo chce umělou inteligenci lépe pochopit, může ji vnímat jako extrémně rychlého, avšak zcela bezcitného poradce. Systém vyniká v rozpoznávání vzorců, ale nemá vlastní morální hranici, žádný strach z lítosti ani cit pro lidské utrpení. A právě tyto vlastnosti jsou v době války těmi, které mohou konflikty odkládat, brzdit nebo jim zcela předcházet.
Napětí mezi rychlostí a obezřetností bude v nadcházejících letech jen narůstat. Čím více úkolů přechází na AI, tím naléhavěji vyvstává otázka, kde leží hranice. Stanford nyní ukazuje, že bez jasných brzd může tato hranice skončit nebezpečně blízko jaderné propasti.
