Adam Votruba se zamýšlí nad umělou inteligencí a jejími důsledky a riziky. Proč by v budoucnu strategické využití UI mohlo být důležitější než jaderné zbraně?
Řada lidí chápe umělou inteligenci jako vítaného pomocníka. Lze v ní však rozpoznat i potenciál k tragickému dramatu připomínající v něčem Čapkovo R. U. R. Je zde samozřejmě jeden důležitý rozdíl. V Čapkově divadelní hře lidé intelektuálně převyšovali roboty. Autor si je představoval jako antropomorfní bytosti, kterým byla dána jen taková inteligence, aby mohly komunikovat s člověkem a zvládaly fyzickou práci – tedy novodobí umělí otroci. Umělá inteligence se ovšem vyznačuje tím, že začíná v konkrétně definovaných oblastech lidské intelektuální schopnosti převyšovat.
Chci ve svém článku nabídnout kritický pohled na tento fenomén. Pokud domyslíme do důsledku možnosti, které se nám s rozvojem počítačové inteligence nabízejí, pak je možné, že směřujeme ke světu, který bude jen velmi málo lidský.
To, o čem se médiích nehovoří a co je při tom nasnadě, je využití umělé inteligence při plánování vojenských operací. Domnívám se, že je jen otázka času, kdy se taková praxe stane realitou. Ve všech strategických hrách je již počítač lepší než ti nejzdatnější z lidí (šachy, go apod.). To nutně vyvolává otázku: Může být počítač lepším stratégem než generálové? Válečná realita je samozřejmě složitější než strategické hry, ale pokud najdou lidé způsob, jak poskytnout umělé inteligenci potřebná data z terénu, pak již strategickému využití nic nebrání. A spojit počítač s daty z terénu není neřešitelný problém. Příkladem budiž nedávný výzkum, který dospěl k závěru, že umělá inteligence již předpovídá počasí lépe než meteorologové.
Nabízí se námitka, že generálové si sice nechají od počítače poradit, ale rozhodnutí bude na nich. To je však iluze. Od jisté úrovně není člověk schopen kontrolovat myšlenkové operace počítače. Můžete vyhrát šachovou partii, pokud budete umělé „myslidlo“ slepě poslouchat. Nemá význam nad navrhovanými tahy přemýšlet, neboť ani šachoví mistři nejsou schopni rozluštit jejich význam. Za pár desetiletí mohou stát politici před otázkou: Budeme poslouchat slepě umělou inteligenci, přestože jí nerozumíme, abychom vyhráli válku, nebo budeme riskovat porážku? A co když už nepřítel využívá umělou inteligenci? – Pak její nevyužití znamená jistou porážku, zatímco řídit se jejími radami nám dává v boji šanci.
Průlom umělé inteligence do rozhodovacích procesů se může stát významným mezníkem ve vývoji lidstva. Jak přijmeme to, že ve válce bude počítač rozhodovat o životě a smrti lidí? Velící důstojníci se neodváží neuposlechnout, neboť šance, že by v něčem dokázali umělou inteligenci opravit se bude s jejím dalším vývojem snižovat (1:10, 1:100, 1:1000…).
Rozviňme tuto myšlenku ještě trochu dále. Pokud se najde způsob, jak využít samomyslící počítač k válečnému plánování, pak je možná jeho aplikace i na další politické problémy. Dovolíme počítačům obchodovat na burze? Dovolíme jim činit strategická ekonomická rozhodnutí, plánovat předvolební kampaně, vymýšlet propagandu? Pokud zapřáhneme počítače k těmto úkolům, pak podobně jako u hry v šachy hrozí, že přijde okamžik, kdy slepá poslušnost vůči umělé inteligenci bude pro politiky jedinou možností, jak se udržet u moci. Kdo nám pak bude reálně vládnout?
Za padesát let bude relevantním politickým argumentem tvrzení, že něco doporučuje umělá inteligence. Politik řekne: „Ano, vy jste nás volili kvůli tomuhle programu, ale je mi líto, umělá inteligence doporučuje něco jiného.“ Politici a korporátní manažeři budou mít exkluzivní přístup ke kvalitnějším počítačům s umělým myšlením. Můžeme si položit otázku, na co se jich budou nejčastěji ptát: Co mají udělat ve prospěch lidí nebo jak posílit svoji moc?
Manipulativní techniky na ovlivňování veřejného mínění jsou už dnes mimořádně propracované. Stále ale musí pracovat s velkými sociálními skupinami. Propagandisté dovedou posunout mínění lidí žádoucím směrem. Liberálně-kapitalistický systém dokáže usměrňovat politicky revoltující mládež tak, aby se nikdy neobrátila proti podstatě systému, ale spíše ho svým „revolučním“ snažením podpořila. (Mládež dnes nejčastěji demonstruje za požadavky, které vyhlašuje globální oligarchie ve svém mocenském boji proti národním vládám!)
Pořád je ale na druhé straně propagandistické mašinérie člověk – resp. tým lidí. Díky tomu se stále ještě najdou jednotlivci, kteří dokáží tuto hru kriticky prohlédnout. Jak se nám ale bude líbit svět, kde nejen názorová skupina, ale každý člověk může mít nevěda proti sobě umělou inteligenci, která cíleně využije jeho kritičnost a jeho osobní preference, aby usměrnila jeho postoje do žádoucích kolejí? Pomůže vám na internetu najít ty správné články, nebo je i sama vytvoří, aby se trefila přesně do vašich předsudků, vytvoří vám na Facebooku fiktivní přátele, kteří si získají vaši důvěru… (Mimochodem jiné zajímavé téma by bylo zneužití umělé inteligence při seznamování přes internet. Dokázala by pro vás umělá inteligence svádět vybraný protějšek?) Některé postupy budou patrně příští legislativou zakázané, ale nikoliv nemožné.
„Myslící“ počítače dávají vládám nebo korporacím možnost vytvořit kapacitu, jakou žádný totalitní stát v minulosti neměl. Je to, jako by vláda mohla na každého svého občana nasadit „fízla“ na plný úvazek. Ten bude monitorovat vaše aktivity na internetu, možná se s vámi pokusí komunikovat, vydávaje se třeba i za dávného přítele, s ním se už nestýkáte. Váš pohyb bude možné zjistit přes mobil nebo pouliční kamery. A budete-li se kvůli tomu raději vyhýbat technologiím, pak už vás rovnou povedou v kolonce „podezřelých z antisystémové činnosti“. Jak to nazvat? „Estébákův“ sen na dosah ruky?
Pokud jde o vliv umělé inteligence na lidské rozhodování, myslím si, že řada lidí tomu půjde naproti. Nechá si poradit s jídelníčkem, s pohybovými aktivitami, pak třeba i s volbou povolání a možná i partnera. Je možné, že jim umělá inteligence poradí fakticky dobře. Pokud je však smyslem života rozvoj vlastní osobnosti, učení se z chyb, dozrávání, pak takové možnosti budou jen podporovat infantilizaci populace. Vše, co činilo lidský život smysluplným, se může stát člověku budoucnosti nedostupné. Jedinou životní chybou, kterou bude ještě možno učinit, bude „neposlušnost“ vůči vševědoucímu počítači.
Myšlenky, které zde uvádím, napadají v současnosti tisíce lidí, z nichž mnozí by si přáli toto vše vyzkoušet v praxi. Zároveň si žádný stát netroufne vývoj umělé inteligence zastavit, protože zaostat v boji o moc je neodpustitelné. Pokud bychom si přáli posílit nezávislost České republiky, možná by bylo naopak žádoucí, aby vláda usilovně začala plánovat strategické využití umělé inteligence ve prospěch českého národního zájmu. Jednou to může být důležitější než vlastnit jadernou zbraň.
Právě v tuto chvíli mnoho lidí využívá umělou inteligenci na internetu – někdo jako hračku, někdo jako nástroj, někdo jen zkouší ze zvědavosti chatovat s robotem. Tímto způsobem stamiliony lidí dobrovolně podporují její další rozvoj. Rozhovory mezi člověkem a umělou inteligencí, které jsou nám zdarma nabízeny, slouží ke sběru obrovského množství údajů o lidských reakcích. Tyto údaje budou později využity k sofistikované manipulaci jednotlivci i skupinami – natolik sofistikované, že se nám o tom dosud nezdálo.
P.S.: Během psaní tohoto článku jsem zjistil, že s kritickou úvahou na adresu umělé inteligence mě předešel Marian Kechlibar. Všímá si trochu jiného typu rizika a myslím si, že jeho článek stojí za přečtení.