Když vojenské kontrakty rozzlobí miliony uživatelů
Počet denních odinstalací aplikace ChatGPT vyskočil téměř o 300 procent – a vedení OpenAI si uvědomilo, že spolupráce s armádou může firmu připravit o něco cennějšího než jakýkoli kontrakt: o důvěru uživatelů. Úpravy smlouvy přišly během pouhých několika dní.
Celý svět umělé inteligence přihlížel, jak rychle dokáže téma vojenského nasazení AI vyvolat hněv běžných lidí. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany – a pak ji ve spěchu přepisovalo, zatímco statistiky odinstalací raketově rostly. Pentagon přitom tlačí na technologické firmy, aby mu otevřely co nejvíce dveří, zatímco některé z nich staví pevné etické zdi.
Odborníci z Center for American Progress upozorňují, že soukromé korporace by neměly samy sobě vymezovat etické limity pro vojenské využití AI – to je příliš velká zodpovědnost bez dostatečné kontroly. Výzkumníci z Oxfordské univerzity pak varují, že vyřazením nejobezřetnějších hráčů, jako je Anthropic, se oslabuje bezpečnost celého ekosystému. Tahle kauza odhalila, jak snadno se důvěra uživatelů rozpadne ve chvíli, kdy se technologická firma setká s vojenskou strukturou.
Pro běžného uživatele jde o klíčový moment: ukáže se, zda firmy stojící za ChatGPT, Claudem nebo jinými asistenty volí transparentnost, nebo ustupují tlaku obranných zakázek. Rozhodnutí přijatá dnes ve Washingtonu a Silicon Valley přímo určí, co budou aplikace v našich telefonech umět za několik let.
Jak Anthropic odmítl Pentagon a skončil na černé listině
Příběh začíná u firmy Anthropic, tvůrce modelu Claude. Pentagon jí předložil nabídku spolupráce velmi podobnou té, kterou dostalo OpenAI. Ministerstvo obrany chtělo zapojit jejich AI do systémů zpracovávajících obrovská množství dat v reálném čase – od satelitních snímků po zpravodajské hlášení – s cílem urychlit rozhodování přímo na bojišti.
Anthropic však stanovil dvě nepřekročitelné hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy těch, kde stroj sám rozhoduje o použití smrtící síly. Za druhé, model se nesmí podílet na masovém sledování civilního obyvatelstva na americkém území.
Z pohledu armády byly tyto podmínky nepřijatelné. Podle mediálních informací Trumpova administrativa zařadila Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma si vybudovala pověst principiální a neústupné – ale zaplatila za to ztrátou potenciálně velmi lukrativního trhu.
Situaci dále komplikuje skutečnost, že Claude se podle mediálních zdrojů přesto příležitostně objevuje v operacích spojených s napětím mezi USA, Izraelem a Íránem, a to navzdory formálnímu vyloučení firmy z výběrových řízení. Pentagon tyto informace odmítá komentovat, čímž zanechává řadu nepříjemných otázek bez odpovědi.
OpenAI podepsalo to, co Anthropic odmítl
Jakmile Anthropic řekl ne, přišlo na řadu OpenAI. V pátek padl podpis smlouvy, která v praxi zaplnila mezeru po odmítavém konkurentovi. ChatGPT měl zamířit do obranných aplikací a podrobnosti kontraktu zůstaly z části utajené.
Sam Altman, šéf OpenAI, následující den vydal prohlášení s tvrzením, že vyjednaná ochranná opatření jsou přísnější, než na jaká byl ochoten přistoupit Anthropic. Jenže tento komunikát místo obhajoby firmy vyvolal dojem, že se OpenAI snaží těžit z „zásadovosti“ soupeře.
Reakce uživatelů byla okamžitá a razantní. Data analytické firmy Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné hodnotě. Sociální sítě se zaplnily obviněními ze zrady deklarovaných hodnot a prodání se vojenským zájmům.
- Anthropic odmítl spolupráci na plně autonomních zbraňových systémech
- Pentagon vyřadil Anthropic z vládních tendrů
- OpenAI podepsalo smlouvu s ministerstvem obrany v pátek
- Sam Altman tvrdil, že ochranná opatření jsou přísnější než u Anthropic
- Odinstalace ChatGPT vzrostly o 295 procent
- Na sociálních sítích se rozšířila kampaň pod hashtagem CancelChatGPT
- Aplikace Claude vyskočila na první místo v App Store
- OpenAI přislíbilo úpravy smlouvy v pondělí
Během několika málo dní se ChatGPT v očích mnoha lidí proměnil ze symbolu „zodpovědné AI“ na nástroj spojený s vojenským aparátem. Altman v pondělí veřejně přijal roli viníka, který se přiznává – otevřeně přiznal, že komunikace byla uspěchaná, nepromyšlená a celá věc působila čistě oportunisticky. Zároveň oznámil revizi smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbilo změnit
Pod tlakem rostoucího bojkotu a pobouřené veřejnosti OpenAI vložilo do kontraktu několik velmi konkrétních ustanovení. Klíčové změny se týkají dvou citlivých oblastí: sledování amerických občanů a přístupu zpravodajských služeb k modelům.
Jednou z hlavních úprav je výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států. Firma také zablokovala automatický přístup zpravodajských agentur, jako je NSA, bez samostatně a transparentně dohodnuté změny smlouvy. Deklaruje rovněž, že AI má sloužit analytikům jako nástroj podpory – nikoli nahrazovat člověka v rozhodování o použití síly.
Jde o částečné přiblížení k přístupu Anthropic, ale rozdíl zůstává zásadní. Anthropic raději rezignoval na zakázky, než aby slevil ze svých požadavků. OpenAI zvolilo cestu přidání omezení při zachování spolupráce.
Výzkumníci z Oxfordské univerzity upozorňují, že vytlačením nejobezřetnějšího hráče – Anthropic – z jednání se oslabuje bezpečnost celého odvětví. Mariarosaria Taddeo z téže instituce zdůrazňuje, že soukromé firmy by etické hranice neměly vymezovat jednotlivě, protože budou vždy pod tlakem zisků a tržního podílu.
Proč armádě na umělé inteligenci tolik záleží
Za celým příběhem stojí širší ambice moderních ozbrojených sil. Platformy jako ty od firmy Palantir už dnes propojují data z nejrůznějších zdrojů – senzorů, dronů, satelitů, zpravodajských zpráv – a předkládají velitelům hotová doporučení.
Podle zástupců obranného průmyslu umožňují takové systémy výrazně rychlejší analýzu satelitních snímků, automatické třídění zpravodajských hlášení podle naléhavosti a včasné varování před hrozbami ještě dříve, než dojde k přímému útoku. Vojenští důstojníci zodpovědní za projekty AI v rámci NATO ujišťují, že člověk v rozhodovací smyčce formálně vždy zůstává.
Tady však vyvstává klíčové napětí. Generativní AI dělá chyby – má halucinace a dokáže falešné informace prezentovat s naprostou jistotou. V civilním prostředí to znamená přinejhorším trapnou odpověď v chatu. Na bojišti by to mohlo znamenat smrt nevinných lidí.
Čím je AI pokročilejší a čím jistěji působí, tím obtížnější je psychologicky zpochybňovat její doporučení – zvláště ve stresu a pod tlakem času. Odborníci z Center for American Progress varují, že bez pevného právního rámce budou firmy vždy volit finanční jistotu před etickými zárukami.
Claude roste, ChatGPT ztrácí uživatele
Mediální bouře přinesla okamžité tržní přesuny. Uživatelé mazající ChatGPT hledali alternativu – a přirozenou volbou se ukázal Claude, jehož tvůrce šel s Pentagonem do přímého střetu.
Data z App Store ukazují, že aplikace Anthropic v sobotu vyskočila na první příčku žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média informovala, že Claude předstihl ChatGPT v počtu nových instalací – což ještě před několika týdny vypadalo jako velmi nepravděpodobný scénář.
Na internetu mezitím běžela organizovaná kampaň. Hashtagy CancelChatGPT a QuitGPT vyzývaly k trvalému odchodu od produktů OpenAI po dobu, dokud firma spolupracuje s ministerstvem obrany. Některé aktivistické skupiny to vnímaly jako test toho, zda uživatelský tlak dokáže skutečně změnit chování gigantů v oblasti AI.
Krize image OpenAI v praxi poskytla Anthropic bezplatnou marketingovou kampaň postavenou na jediném sloganu: „my jsme neustoupili.“ Sociální sítě se zaplnily příběhy lidí přecházejících od ChatGPT ke Claudovi. Výzkumníci sledují, jak rychle může etické rozhodnutí jedné firmy přeskupit celý trh.
Proč by tato kauza měla zajímat i běžné uživatele
Pro každodenního uživatele ChatGPT nebo Claudu může tahle vojenská záležitost znít jako vzdálená zákulisní hra mocných. Ve skutečnosti ale rozhodnutí přijatá dnes ve Washingtonu a Silicon Valley přímo ovlivní, co budou aplikace v našich telefonech umět a jak se budou chovat za pár let.
Pokud se jazykové modely „vychovají“ na datech z vojenských operací, mohou být lepší ve strategických analýzách – ale zároveň přebrat předsudky typické pro toto prostředí. A pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snadněji zvolí finanční bezpečnost místo etických omezení.
Pro uživatele v Česku je to dobrá příležitost podívat se, jaké podmínky si do svých zásad zapisují firmy nabízející AI i na našem trhu. Definují jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tlak trhu zákon nenahradí – ale korporacím ukazuje, že pověst se stala skutečnou měnou.
Stále zřetelněji vidíme napětí mezi rychlostí inovací na jedné straně a potřebou stability a bezpečnosti na straně druhé. Generativní modely se vyvíjejí závratným tempem, ale jejich sklon k halucinacím ve vojenských, lékařských nebo finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem“ a „spolurozhodujícím“ se začíná stírat – a právě teď probíhá zásadní spor o to, na které straně této linie by se AI měla zastavit.
