Proč je nutné zamezit tomu, aby vojenská AI měla možnost samostatného autonomního rozhodování?
Článek pro noviny Asia Times autorů Karla Blasia, Axela Fersena a Klause Moeglinga tvrdí, že největší riziko vojenského využití umělé inteligence není technické, ale že je politické. Autoři totiž upozorňují, že AI dokáže zpracovávat informace a navrhovat reakce mnohem rychleji než lidé, ale rychlost sama o sobě nezaručuje správná rozhodnutí. Naopak může vést k rychlejšímu šíření chyb a mylných vyhodnocení.
Pravděpodobnost versus jistota
Jak článek vysvětluje, moderní AI funguje na základě statistických pravděpodobností, nikoli jistoty. Ve vojenském prostředí, kde jsou data neúplná, zkreslená nebo záměrně maskovaná protivníkem, může systém zaměnit civilisty za bojovníky nebo nesprávně vyhodnotit hrozbu. Čím větší množství dat zpracovává, tím více absolutních chyb může vznikat, i když je procentuální přesnost vysoká.
Vedle toho autoři argumentují, že AI ztěžuje tradiční kontrolu zbrojení. Na rozdíl od tanků nebo raket nelze software jednoduše spočítat, ověřit ani sledovat pomocí mezinárodních smluv. Schopnosti kybernetických a autonomních systémů mohou být vyvíjeny tajně a rychle kopírovány. To podle jejich mínění zvyšuje nejistotu mezi státy a riziko neúmyslné eskalace.
Lidský dohled jen formální pojistka?
Významná část článku se dále věnuje otázce „člověka v rozhodovací smyčce“. Autoři argumentují, že v rychlých bojových situacích lidé mají stále méně času na skutečné ověření doporučení AI. Navíc vzniká takzvaný automatizační bias, tedy tendence důvěřovat systému, pokud se v minulosti osvědčil. Lidský dohled se tak může stát jen formální pojistkou.
Jako řešení článek navrhuje posílit komunikační kanály mezi velmocemi, zavést nové formy kontroly zbrojení zaměřené na vojenskou AI a zakázat plně autonomní zbraňové systémy, které by mohly samostatně rozhodovat o zabíjení bez lidského souhlasu. Autoři rovněž vyzývají Evropskou unii, aby sehrála aktivnější roli
Bezpečnost v éře umělé inteligence nebude zajištěna lepšími algoritmy, ale diplomacií, transparentností, důvěrou a politickými pravidly, která určují, o čem stroje smějí a nesmějí rozhodovat.
Články zveřejněné v rubrice Trendy nemusejí vyjadřovat názor redakce.