Politolog Petr Drulák píše o současném strachu z umělé inteligence, kterou šíří velcí hráči na trhu. Proč se najednou bojí dopadů této rychle se rozvíjející technologie?
Není obvyklé, aby firmy tlačily na vládu, že je má přísněji regulovat a už vůbec ne, aby technologické firmy volaly po zpomalování výzkumu. Ještě neobvyklejší je, když vláda takové výzvy odmítá. Přesně to se poslední týdny odehrává v americkém odvětví umělé inteligence. Zatímco lídři nejvýznamnějších firem se shodují, že je třeba regulovat a zpomalovat výzkum, prezident USA Donald Trump to odmítá. Firmy tvrdí, že výzkum postoupil tak daleko, že ohrožuje přežití lidstva, Trump se domnívá, že jakékoliv překážky vývoji v USA zvýhodní Čínu a umožní jí ovládnout svět. Oba argumenty jsou pochybné, ale prudký rozvoj umělé inteligence otevírá nové otázky.
Tři výrazní podnikatelé, kteří se osobně upřímně nesnášejí a jejichž firmy si jdou po krku, se v září shodli, že vývoj AI je třeba regulovat. Šéf firmy Anthropic Dario Amodei přišel s návrhem, aby firmy pustily do svých vývojových oddělení odborníky zvenku, kteří by dokázali zhodnotit rizika připravovaných modelů. Také chce, aby americká vláda podpořila bezpečnostní standardy, které si firmy dohodnou, prosadila je v „demokratických“ zemích, tedy u vazalů, a pokusila se je prosadit u „autoritářských“ vlád, tedy v Číně. Návrh obratem podpořil Amodeiho velký rival Sam Altman z OpenAI, líbí se Elonu Muskovi a podporuje ho také šéf googlovského projektu DeepMind Demis Hassabis.
Tito lídři se dosud vyznačovali představami o budoucnosti lidstva, které samy o sobě byly dost hrozivé. Altman sní o superinteligentních bytostech s těly propojenými se stroji, Musk vidí budoucnost lidstva na Marsu a Amodei je vyznavačem „efektivního altruismu“, což je sekta dehumanizujících a kalkulujících prospěchářů. Jejich náhlé obavy o lidstvo budí otázky. Stejně jako je budí mediální kampaň, která se v amerických médiích na toto téma už několik měsíců vede. Není zvláštní, že lidé, kteří AI vyvíjejí a léta nadšeně vysvětlují, jak v každém ohledu přesáhne lidské schopnosti, najednou kolektivně propadnou hrůze z toho, co dělají, a důsledně tuto hrůzu šíří médii?
Jejich menší konkurenti to vidí jednoznačně. Hlavní hráči straší, neboť chtějí ostatním předepsat pravidla, která jim umožní zachovat si dominanci na trhu. Nejen ti menší. Totéž už nějakou dobu tvrdí Yann Le Cun, nositel Turingovy ceny, který donedávna vedl výzkum AI u Mety. Souhlasí s ním i šéf Mety Mark Zuckerberg. Je sice přesvědčeným technooptimistou a věří v zářnou budoucnost lidstva podporovaného umělou superinteligencí. Ale podstatnější je to, že Meta staví své moduly AI na otevřených zdrojích. Svůj software dává veřejně k dispozici, doufá, že veřejnou dostupností nastaví budoucí standard. Její konkurenti konstrukci svých modelů utajují a standard si chtějí prosadit skrze vládu ve Washingtonu. Mediální panikou ji dostávají pod tlak.
Prezidenta Trumpa až tak nezajímá, zda AI ovládne Zuckerberg nebo Amodei s Altmanem. Především nechce prohrát s Čínou, což je dnes jediná země, která umí v této oblasti to, co Američané; a podle všeho podstatně efektivněji. Trump je přesvědčen, že kdo ovládne AI povládne světu. Proto nechce výzkum nijak brzdit.
Připomíná to americkou mobilizaci ve studené válce potom, co Sověti vyslali na oběžnou dráhu první družici a krátce na to prvního kosmonauta. O vládu nad světem se tehdy soutěžilo ve vesmíru. Jejich soutěž přinesla řadu inovací, bez nichž si dnes neumíme běžný život představit. Ale při pohledu zpět se také ukazuje, že tehdejší představitelé se bez ohledu na reálné technické možnosti nechávali unášet buď technooptimismem nebo temnými dystopiemi a podstatně přeceňovali dopad dobývání vesmíru na naše pozemské vztahy. Tento trend vyvrcholil počátkem osmdesátých let v Reaganově technoutopii hvězdných válek.
Na utopičnost dnešních úvah o možnostech AI upozorňuje například zmiňovaný Yann Le Cun. Vysvětluje, že AI, jak ji dnes známe, stojí na poměrně jednoduchém algoritmu, který dovedně vyhodnocuje obrovské množství textu. Klíčové je slovo „text“, neboť AI zatím není schopna pokroku v datech vizuálních. Pokud bychom ji porovnávali s lidskými schopnostmi, nemá vůbec nic z lidských smyslů, které nám umožňují poznávat a přetvářet svět. Sice dnes umí kvalitně překládat, napsat odborné i populární texty či řešit složité matematické problémy, ale nezvládne ani jednoduchý pohyb mezi lidmi. A z textů se to ani nenaučí, k tomu bude třeba průlomu v jiných oblastech. Proto také například efektivní nasazení vojenských dronů stále vyžaduje lidské řízení.
To však na pozadí politické mobilizace zaniká. Trumpova administrativa jde tak daleko, že překážky rozvoji AI považuje za hrozbu národní bezpečnosti. V posledních týdnech se Trump opřel do protestujících proti výstavbě datových center, bez nichž se AI neobejde. Obvinil je z konspirace a prosazování čínských zájmů proti americkým. Ministerstvo spravedlnosti vydalo v půlce září varování, v němž občanům připomíná zákon FARA: pokud veřejně jednají jako zástupci cizí vlády, musí to hlásit, jinak jim hrozí trestní řízení.
Protesty proti datovým centrům přitom většinou nemají nic společného s Čínou a primárně ani s umělou inteligencí. Lidem vadí, že zdražují elektřinu, omezují dostupnost vody a zatěžují hlukem. Datové centrum spotřebuje tolik energie co několika set tisícové město, navíc v suchých a teplých oblastech, kde se často staví, potřebuje chladit: pak ubývá zásob podzemní vody a vzdušné chlazení vytváří permanentní hlukovou zátěž.
Dodejme, že jejich automatický provoz nevytváří nová pracovní místa, přičemž samotná AI dost pracovních míst nejspíše zruší. Úspory pracovních míst mohou mít podstatné politické dopady. Zatímco dosavadní kombinace globalizace a technického pokroku připravovala o místa či přinejmenším o slušnou mzdu příslušníky nižších tříd v dělnických profesích, AI bude kosit v kancelářích. Na základě toho, co dnes už umí a zítra umět bude, je zřejmé, že bude potřeba méně úředníků, překladatelů, novinářů, programátorů, analytiků či různých „kreativců“. Jinými slovy, začne se hroutit společenské zázemí liberálního progresivismu. Progresivisté nejspíše přijdou o voliče.
Skutečný přelom přijde, pokud se objeví superinteligence, tedy programy, které se nespokojí s tím, že si po svém vyloží a plní zadané instrukce, jak je tomu dnes, nýbrž dokáží samy sebe vylepšovat do podob přesahující lidské možnosti i představy. Vůbec není zřejmé, zda je něco takového možné. Ale v takovém případě bychom čelili potenciálnímu protivníkovi, který by nás mohl ohrožovat skrze digitální závislost, a tudíž i zranitelnost, kterou jsme si vytvořili a která do budoucna nepochybně ještě vzroste.
Ale také by nás ohrožoval v reálném, nedigitálním světě, lidmi, které by si pro své cíle uměl při své inteligenci získat. Už dnešní chatboty dokáží u pětiny Američanů vyvolávat pocity intimity a náklonosti. Vzhledem k tomu, jaká část politické komunikace se odehrává na internetu, je celkem snadno představitelné, že superinteligence by si zajistila své politiky. Naopak běžní politici by přicházeli o voliče a lidé by se stávali figuranty v soubojích různých sebezdokonalujících se softwarů. Ale to naštěstí zatím nehrozí. AI zůstává nástrojem v lidských rukách. Co z toho vyplývá? Užívat s rozumem a nenechat se strašit.
Článek vyšel původně v časopise Štandard. Publikujeme se svolením. Text není určen k publikování na jiné weby.
