Na jaře došlo podle zjištění CNN k vážné bezpečnostní situaci, při níž chybný report vygenerovaný s pomocí umělé inteligence téměř vyústil v ozbrojený zásah proti čínskému plavidlu. Zpráva amerických zpravodajských služeb uváděla, že loď na Blízkém východě převáží komponenty pro jaderné technologie. Ozbrojené síly USA připravovaly zastavení plavidla a provedení výsadku; podle dvou informovaných zdrojů CNN už letadla byla ve vzduchu, když se někdo reportu podrobněji věnoval a akci zastavil.
Jak k omylu došlo
Podle zdrojů redakce měl analytik rozvědky k dispozici data, která „nakrmil“ některému z chatbotů a výstup pak použil jako základ klasické zpravodajské zprávy. Výsledný report obsahoval nepravdivé tvrzení o přítomnosti materiálu pro jaderné zbraně na palubě lodi. Jeden ze zdrojů shrnul situaci slovy, že
„Naprosto chybný report téměř rozpoutal válku.“
Kontext rychlého nasazování AI v armádě
Událost přichází v době, kdy administrativa prezidenta Donalda Trumpa i vedení Pentagonu tlačí na rychlé zavádění umělé inteligence do zpracování obrovských objemů dat, včetně satelitních pozorování. V lednovém projevu ministr obrany Pete Hegseth označil za nutné „podpořit experimentování, odstranit byrokratické překážky“ a cílit investice tak, aby si Spojené státy zajistily vedoucí postavení v oblasti vojenské AI. Pentagon zároveň uvádí, že používá specializované AI chatboty k interním účelům.
Odborníci citovaní CNN varují, že interní nástroje jsou často jen mírně upravené verze komerčních systémů. V takovém prostředí může tlak na rychlé analýzy zvýšit riziko, že se chybný či neověřený výstup dostane do rozhodovacího řetězce bez dostatečné lidské kontroly.
- Událost: Zpravodajský report uváděl, že čínská loď veze komponenty pro jaderné zbraně.
- Důsledek: Plánována vojenská akce včetně výsadku; letadla byla ve vzduchu.
- Zastavení akce: Některý z aktérů report revidoval, zjistil chybu a intervenci zastavil.
Dopady a otázky odpovědnosti
Případ znovu otevírá otázky odpovědnosti a prověřování výstupů systémů umělé inteligence v situacích, kde jsou sázky extrémně vysoké. Z dostupných informací není jasné, zda šlo o nedbalost jednotlivého analytika, tlak na rychlou práci, či systémový problém při integraci AI do zpravodajských procesů. Zdroje CNN neuvedly, že by šlo o úmyslné zavádění.
| Fáze | Co se stalo |
|---|---|
| Jaro | Vydán zpravodajský report o údajném nákladu jaderných komponent |
| Bezprostřední reakce | Připravován zásah, letadla ve vzduchu |
| Intervence | Report přehodnocen, akce zastavena |
Bezpečnostní komunita nyní čelí dvěma úkolům: zajistit, aby automatizované nástroje byly robustně ověřeny, a současně posílit lidský dohled v kritických rozhodovacích bodech. Jak ukazuje tento incident, chyba v původním vstupu nebo špatná interpretace výstupu AI může mít následky na úrovni mezinárodních vztahů a vést k eskalaci s rizikem ozbrojeného konfliktu.
Pro provozovatele i zadavatele zpravodajských analýz to znamená mimo jiné jasné protokoly ověřování, auditovatelnou stopu rozhodnutí a trénink personálu v chápání omezení modelů. Pentagon deklaruje snahu o inovace, ale současně musí zajistit, aby tlak na rychlost nevyřadil kritické kontrolní mechanismy.
Tento případ potvrzuje, že technologický pokrok bez adekvátní governance a lidského dohledu může přenést chyby z laboratorního prostředí přímo do reálného, potenciálně nebezpečného světa mezinárodních operací.
