Výbušná kombinace: umělá inteligence a vojenské zakázky
Za pouhých několik dní odhalil celý sektor umělé inteligence, jak citlivé téma vojenské využití AI skutečně je. Statistiky odinstalací ChatGPT vyletěly o téměř 300 procent v momentě, kdy firma podepsala kontroverzní dohodu s americkým ministerstvem obrany.
Skandál, který otřásl světem AI, odstartovalo odmítnutí společnosti Anthropic. Tvůrci modelu Claude dostali od Pentagonu nabídku ke spolupráci, ale rozhodli se nepřekračovat vlastní etické meze. Následovalo zařazení na černou listinu, ztráta lukrativních kontraktů a překvapivý přesun uživatelů ke konkurenčním aplikacím.
Pro běžné uživatele v Česku může celá záležitost znít jako vzdálený americký problém. Ve skutečnosti ale rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley přímo ovlivní, jaké funkce budou mít aplikace v našich telefonech za několik let. Experti z oxfordské univerzity i amerických think tanků varují, že soukromé firmy by neměly samy stanovovat etické hranice technologií, jejichž dopady pocítí lidé po celém světě.
Jak Anthropic odmítl Pentagon a skončil na černé listině
Celý příběh začíná nabídkou pro Anthropic, tvůrce modelu Claude. Pentagon chtěl jejich umělou inteligenci zapojit do systémů schopných analyzovat v reálném čase obrovské objemy dat — satelitní snímky, zpravodajské zprávy i senzorová data přímo z bojového pole. Záměrem bylo výrazně urychlit rozhodování velitelů v průběhu bojových operací.
Anthropic však stanovil dvě pevné etické hranice. Za prvé, model Claude nesmí sloužit k vývoji plně autonomních zbraňových systémů, kde by stroj sám rozhodoval o použití síly vůči lidem. Za druhé, systém nesmí být zneužit k masovému sledování běžných občanů na území Spojených států.
Tyto podmínky se z pohledu vojenských představitelů ukázaly jako nepřijatelné. Administrativa Donalda Trumpa údajně zařadila Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma si vybudovala pověst „neústupně etické“ společnosti, ale přišla o potenciálně výnosný trh.
Situaci dále komplikuje skutečnost, že podle zdrojů blízkých Pentagonu je model Claude přesto využíván v operacích spojených s napětím mezi USA, Izraelem a Íránem — přestože je firma formálně vyloučena z výběrových řízení. Ministerstvo obrany tyto informace nekomentuje, čímž zůstává řada otázek bez odpovědi.
Co podepsalo OpenAI a proč to rozzuřilo uživatele
Jakmile Anthropic odmítl spolupráci, do hry vstoupilo OpenAI. V pátek byla podepsána smlouva, která fakticky zaplnila mezeru po konkurentovi. ChatGPT měl zamířit do obranných aplikací, přičemž detaily kontraktu zůstaly zčásti utajené.
Sam Altman, šéf OpenAI, následující den zveřejnil prohlášení, v němž tvrdil, že vyjednaná bezpečnostní opatření jsou přísnější než ta, na která byl ochoten přistoupit Anthropic. Tento komunikát měl chránit reputaci firmy, v očích mnoha lidí však působil jako pokus těžit z principiálnosti rivala.
Reakce uživatelů byla okamžitá. Data analytické společnosti Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se objevovala obvinění ze zrady deklarovaných hodnot a podlehnutí vojenským zakázkám. V online diskuzích přibývaly komentáře zklamaných vývojářů a akademiků, kteří ChatGPT využívali pro výzkumné účely.
V pondělí Altman vystoupil v roli „viníka přiznávajícího chybu“. Veřejně prohlásil, že komunikace byla ukvapená a nepromyšlená a celá věc působila čistě oportunisticky. Oznámil také úpravy smlouvy s ministerstvem obrany. Během pouhých několika dní se ChatGPT v očích mnoha lidí proměnil ze symbolu odpovědné AI v nástroj spojovaný s vojenskou mašinérií.
Jaké konkrétní změny OpenAI ve smlouvě slíbilo
Pod tlakem veřejného mínění a sílícího bojkotu zapracovalo OpenAI do kontraktu několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají dohledu nad americkými občany a přístupu zpravodajských služeb k modelům.
Mezi zásadní změny patří:
- výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států
- blokování automatického přístupu pro zpravodajské agentury jako NSA bez samostatně a explicitně sjednané změny smlouvy
- prohlášení, že umělá inteligence má podporovat analytiky, nikoliv nahrazovat člověka v rozhodování o použití síly
- požadavek transparentního vykazování případů potenciálního zneužití systémů
- právo OpenAI pozastavit poskytování služeb při porušení dohodnutých limitů
- nezávislý audit využití technologie každých šest měsíců
- omezení přístupu k nejnovějším modelům pro aplikace s letálním potenciálem
Jde o částečné přiblížení k přístupu Anthropic, ale rozdíl zůstává zřejmý. Anthropic raději přišel o zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI zvolilo cestu doplnění omezení při zachování spolupráce. Analytici upozorňují, že tyto dodatečné záruky nemusí stačit, pokud chybí nezávislá kontrola jejich skutečného dodržování.
Proč armáda tak intenzivně touží po umělé inteligenci
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy jako ty od společnosti Palantir dnes integrují data z mnoha zdrojů — senzorů, dronů, satelitů a zpravodajských zpráv — a prezentují je velitelům ve formě hotových doporučení.
Podle představitelů tohoto odvětví takové systémy umožňují rychlejší analýzu tisíců satelitních snímků než desítky analytiků, predikci pohybů nepřátelských jednotek na základě vzorců z minulých konfliktů a identifikaci cílů s vyšší přesností než tradiční metody. Generál Roger Cloutier z velení USA v Evropě nedávno prohlásil, že integrace umělé inteligence do bojových systémů je stejně přelomová jako zavedení parního stroje do průmyslu.
Právě zde vyvstává klíčové napětí. Generativní umělá inteligence je omylná — má sklon k „halucinacím“ a dokáže vytvářet nepravdivé informace s přesvědčivostí. V civilních aplikacích to skončí nanejvýš trapnou odpovědí v chatu. Na bojišti by to mohlo znamenat smrt nevinných lidí. Výzkumníci z MIT varují, že psychologický tlak na velitele, aby v časové tísni přijali doporučení AI, může být obrovský.
Jak krize ChatGPT přinesla Claudovi nečekaný boom
Mediální bouře přinesla okamžitý tržní efekt. Uživatelé, kteří mazali ChatGPT, hledali alternativu — a přirozenou volbou se ukázal právě Claude, jehož výrobce šel do otevřené konfrontace s Pentagonem.
Data z App Store ukazují, že aplikace Anthropic v sobotu vyskočila na první místo žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média psala, že Claude předhání ChatGPT v počtu nových instalací — něco, co ještě před několika týdny vypadalo krajně nepravděpodobně. Tržní analytici odhadují, že Anthropic získal během jediného týdne tolik nových uživatelů, kolik by za normálních okolností potřeboval tři měsíce intenzivního marketingu.
Na internetu se rozjela organizovaná kampaň tlaku na OpenAI. Populárními se staly hashtagy #CancelChatGPT a #QuitGPT, vyzývající k trvalému opuštění produktů firmy po dobu spolupráce s ministerstvem obrany. Některé aktivistické skupiny to vnímají jako test toho, zda je uživatelský tlak schopen reálně změnit chování gigantů v oblasti AI.
Imageová krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném hesle: „my jsme neustoupili“. V technologických komunitách na Redditu a Hacker News se rozproudily debaty o etice používání AI nástrojů a mnoho vývojářů veřejně oznamovalo přechod na Claude pro své projekty.
Měli by běžní uživatelé sledovat, co AI firmy podepisují s armádou?
Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládačka znít jako něco velmi vzdáleného. Jenže rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do funkcí, které budou aplikace v telefonech nabízet za několik let.
Pokud budou jazykové modely „vychovávány“ na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale zároveň přebrat předsudky typické pro tento sektor. Jestliže soukromé firmy zjistí, že obranné kontrakty jsou odolnější vůči bojkotu než spotřebitelská předplatná, snadněji zvolí finanční jistotu na úkor etických omezení. Odbornice Mariarosaria Taddeo z oxfordské univerzity upozorňuje, že vytlačování nejobezřetnějšího hráče — tedy Anthropic — oslabuje bezpečnost celého ekosystému.
Pro uživatele v Česku je to vhodný okamžik prověřit, jaké podmínky uvádějí do svých pravidel AI firmy působící i u nás. Definují jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tlak trhu sice nenahradí legislativu, ale ukazuje korporacím, že reputace se stala skutečnou měnou.
Čím dál výrazněji se projevuje napětí mezi rychlostí inovací a potřebou stability a bezpečnosti. Generativní modely se rozvíjejí závratným tempem, jejich sklon k halucinacím ve vojenských, zdravotnických nebo finančních aplikacích však může mít dramatické následky. Hranice mezi „asistentem“ a „spolurozhodovatelem“ se stírá — a právě nyní probíhá spor o to, na které straně této čáry by se umělá inteligence měla zastavit.
