Známý historik a autor bestselleru Sapiens. Stručné dějiny lidstva popsal možné dopady umělé inteligence a biotechnologií na budoucnost lidí a celé společnosti.
Historik Yuval Noah Harari varoval ne své přednášce na davoském Mezinárodním ekonomickém fóru před třemi existenciálními významy současnosti – nukleární válkou, ekologickým kolapsem a technologickým narušením či disrupcí.
Harari se zvláště zaměřil právě na problém narušení či společenských dopadů technologií. Vedle pozitiv, která technologie přinášejí, je tu také skutečnost, že mohou narušit lidské společnosti, a dokonce samotný smysl lidského života – a to nejrůznějšími způsoby, počínaje vytvořením globální třídy nepotřebných a konče vzestupem datového kolonialismu a digitálního diktátorství.
Globální třída nepotřebných
Automatizace zruší miliony a miliony pracovních míst, zatímco budou vznikat nová. Otázkou je, zda se lidé budou schopni naučit nové potřebné dovednosti dost rychle. Dovede se 55letý řidič dodávky přeškolit na počítačového inženýra nebo učitele jógy? Podle Harariho bude 21. století představovat především boj proti irelevantnosti. V minulosti se jednalo především o boj proti vykořisťování. Být „zbytečný“ je mnohem horší než být vykořisťovaný, míní dále historik. Ti, kteří boj s irelevantností prohrají, stanou se pro ekonomický a sociální systém globální třídou nepotřebných a tato třída bude oddělena od stále mocnější elity stále se prohlubujícím příkopem.
Datový kolonialismus
Velká Británie nebo Japonsko byly v 19. století zeměmi, které se jako první industrializovaly a posléze vydaly na cestu dobývání a vykořisťování celého světa. V době umělé inteligence hrozí, pokud nebudeme opatrní, totéž, říká Harari.
Svět se nyní ocitá v éře závodu mezi USA a Čínou v oblasti umělé inteligence, většina ostatních zemí zaostává. Pokud dnes nedojde k přerozdělení pozitiv a moci umělé inteligence mezi všechny lidi, dojde k tomu, že umělá inteligence nejspíš přinese obrovské bohatství pár centrům, zatímco ostatní země buď zkrachují, nebo se stanou datovými koloniemi.
Umělá inteligence může značně narušit globální rovnováhu. Co se stane s rozvojovými zeměmi, když bude najednou levnější vyrobit textil v Kalifornii než v Mexiku, ptá se Harari. A co se stane s politikou, když někdo v San Franciscu nebo v Pekingu bude mít všechna osobní a lékařská data o každém politikovi, soudci a novináři? A to včetně jejich duševních slabostí, sexuálních eskapád nebo korupčního jednání. Bude taková země ještě nezávislá, nebo bude datovou kolonií?
Harari říká otevřeně: pokud máte data, nepotřebujete nikam posílat vojáky, abyste zemi ovládli.
Digitální diktátorství a hackování lidských bytostí
Kromě nerovností, míní Harari, je zde i hrozba digitální diktatury, která bude všechno a všechny neustále monitorovat.
Tento problém vyjadřuje jednoduchá rovnice: B x C x D = AHH. Jedná se o anglické zkratky. B je biologická znalost, C je výpočetní výkon (počítače) a D jsou data. Výsledným násobkem je AHH, neboli schopnost hackovat lidské bytosti.
Podle Harariho to znamená, že pokud víme dost o biologii a máme dostatek výpočetního výkonu a dat, můžeme hackovat mozek a život každého člověka. Člověku je pak možné rozumět lépe, než rozumí on sám sobě. Takový systém dovede předvídat pocity a rozhodnutí lidí, může jimi manipulovat, a nakonec za lidi i rozhodovat, varuje Harari, který připomíná, že o něco takového se již v minulosti snažili diktátoři i tyrani.
Podle Harariho je v zájmu lidstva, aby vzniku podobných digitálních diktatur a „stalinů“ 21. století zabránilo.
Ovšem možnost hackovat lidské bytosti znamená podle Harariho porušení významu lidské svobody. Spoléhání se v rozhodování na umělou inteligenci může vést k tomu, že za nás budou rozhodovat algoritmy. V budoucnu by to mohlo znamenat, že algoritmus rozhodne o tom, kde budeme pracovat, koho si vezmeme nebo zda dostaneme od banky půjčku. Rozhodovat bude počítač, zatímco lidský mozek nebude mít dost potenciálu (podle shora zmíněné rovnice) jeho rozhodnutí porozumět. Takže i v zemích považovaných za svobodné by lidé mohli ztratit kontrolu nad svými životy či porozumění politice.
Harari dále říká, že dnes jen jedno procento lidí rozumí tomu, jak funguje finanční systém. Za pár dekád mu z lidí nebude rozumět nikdo.
Otázkou podle historika také je, jaký bude mít lidský život smysl, když za lidi budou rozhodovat algoritmy.
Biotechnologie a člověk
Ve své dvacetiminutové přednášce Harari ještě hovořil o tom, že poznatky v biotechnologii mohou vést k narušení lidské biologie. Po miliardách let organického života, říká, kdy probíhal přírodní výběr, stojíme před prahem nové éry anorganického života vytvořeného inteligentním designem. Může to vést k chybám kosmického rozsahu. Zejména vlády, korporace a armády se budou zajímat o technologie zlepšující lidské dovednosti jako inteligence nebo disciplína. Jiné, jako soucit, umělecká citlivost a duchovnost, je zajímat nebudou.
Technologie není deterministická, takže Harari svoje myšlenky nepovažuje za proroctví, jen za možnosti.
V 21. století bude platit, že umělá inteligence a biotechnologie promění svět a vytvoří velmi odlišné společnosti. Doba, kdy bychom se měli snažit zabránit tomu, aby se některé z možností, které Harari načrtnul, staly skutečností, je právě teď.
Celou přenášku v angličtině si můžete přečíst zde.
Články zveřejněné v rubrice Trendy nemusejí vyjadřovat názor redakce.