Peter Fleissner míní, že volně disponibilní čas, který kapitalismus objektivně produkuje prostřednictvím konkurenčních procesů a stále nových technologií, se v kapitalistickém hávu stává nezaměstnaností a/nebo ztrátou kvalifikace, kterou neprovází svoboda, ale chudnutí.

Dne 14. června Evropský parlament následoval Radu EU a Komisi a přijal návrh zákona o regulaci umělé inteligence. Akt o umělé inteligenci, který má EU vyhlásit na konci roku 2023, nicméně neposkytuje dostatečné odpovědi na zásadní otázky, které tato nová technologie vyvolává.

Předmluva autora:

ChatGPT (Generative Pre-trained Transformer) je software, který využívá umělou inteligenci pro písemnou komunikaci s uživateli. Využívá nejnovější technologii digitálního učení. Je vycvičen na velkém množství textu a generuje odpovědi, které znějí přirozeně a mají být relevantní pro danou konverzaci. Chatbota vyvinula americká společnost OpenAI se sídlem v Kalifornii a vydala ho v listopadu 2022.

Tento článek vychází z dlouhé patnáctistránkové verze, kterou na mou žádost zkrátil ChatGPT. To umožnilo zahrnout novější informace po září 2021, které by ChatGPT neznal.

(Peter Fleissner, Vídeň, 7. července 2023)

***

V posledních desetiletích jsme zažili staccato tragických událostí, které se rozšířily i do celého světa: finanční a hospodářská krize, krize státního dluhu, pandemie, migrační pohyby, podkopávání demokracie, válka na Ukrajině, fašizace a zbrojení. Zároveň jsme svědky rostoucího chaosu ve vedení států a velkých stran, nerozhodnosti v Evropském parlamentu a nejednotnosti národních vlád v prostoru EU. To vede k rostoucí potřebě přijmout opatření a k nahromadění nezbytných reforem. Na druhé straně jsme svědky stále rychlejších vědeckých a technologických objevů, které mají přímý dopad na život lidí v práci i ve volném čase a samozřejmě i na podniky a jejich ekonomickou situaci.

ChatGPT – software s úžasnými funkcemi

K poslednímu průlomu došlo před několika měsíci v oblasti umělé inteligence (AI). Přestože se o umělé inteligenci začalo v USA uvažovat již krátce po druhé světové válce, trvalo půl století, než se průkopnický počin v tomto odvětví stal prodejným. Před několika měsíci se společnosti OpenAI podařilo vydat třetí verzi jazykového modelu GPT (Generative Pre-Trained Transformer) pod názvem ChatGPT, umělou inteligenci s úžasnými schopnostmi, kterou může (v současné době stále ještě) bezplatně používat kdokoli s přístupem k internetu prostřednictvím počítače nebo mobilního telefonu. Software využívá verzi jazykového modelu GPT3 vyvinutou společností OpenAI (vylepšená verze čtyři je již na trhu). Tento model, který vychází z formální hypotézy o fungování přirozeného jazyka, je na úrovni softwaru propojen s mechanismem učení. Nejprve se prostřednictvím „samoučícího se tréninku“ učí předpovídat další slovo z náhodných kusů textu (online fóra, sociální média, novinové nebo knižní články z internetu atd.), porovnává je s původním textem a opravuje svou předpověď. Poté se pomocí „učení pod dohledem“ přiměje k tomu, aby poskytoval odpovědi na dříve položené otázky, vylepšené o předem připravené odpovědi („dolaďování“). V posledním kroku je model dále optimalizován prostřednictvím „posilování učení“ kvalitativním vyhodnocením svých odpovědí. Po několika mezikrocích, které slouží k odstranění nežádoucích částí textu, zůstane nejlepší výsledek.

ChatGPT umí vytvářet texty, editovat, psát programové kódy a komunikovat na základě pokynů. Rozpozná vlastní chyby, upozorní na chyby ostatních a odmítne odpovídat na nevhodné požadavky. Automatizace prostřednictvím umělé inteligence stále více zachycuje rutinní duševní činnosti a již zanechává první stopy v nejrůznějších oblastech, jako jsou služby a kancelářská oddělení výrobních podniků.

Abyste se vyhnuli diskriminačním, rasistickým nebo sexistickým výsledkům nebo zobrazení z hlediska politických ideologií, má ChatGPT zabudované digitální filtry, které takovým výrokům zabraňují nebo je upravují. Na přímý dotaz ChatGPT odpověděl: „Jako umělá inteligence nejsem morální aktér a nemám žádné osobní přesvědčení ani názory. Mým cílem je odpovídat uživatelům objektivním a informativním způsobem a nevyjadřovat politické přesvědčení.“

ChatGPT je nejnovější verzí „stroje na zpracování informací“ (IVM – Informationsverarbeitenden Maschinerie), což je termín, který v roce 1978 zavedl berlínský sociolog Frank Adler [1]. IVM se skládá ze senzorové technologie, vlastního mechanismu zpracování informací a aktuátoru/efektoru. Technický pokrok v posledních desetiletích, a to jak v oblasti hardwaru, tak v oblasti programovacích technologií, umožnil dosáhnout obrovského zvýšení výpočetní rychlosti, miniaturizace a spolehlivosti. Noví chatboti ztělesňují to, co je v současnosti nejlepším nízkoprahovým přístupem k „obecnému intelektu“ (Marx), tedy písemně objektivizované znalosti světa.

Vývoj umělé inteligence byl zahájen v roce 1966 programem ELIZA na Massachusettském technologickém institutu (MIT). ELIZA byl raným příkladem počítačového systému určeného k simulaci psychoanalytického terapeuta, který vytvořil Joe Weizenbaum. Používal jednoduché rozpoznávání a generování textu, ale žádnou umělou inteligenci. ELIZA položil základy pro vývoj moderních chatbotů a virtuálních asistentů.

Umělá inteligence však s sebou přináší i některé vnitřní problémy. Objem investic je obrovský. Například Microsoft investoval do OpenAI 10 miliard dolarů. Trénink AI vyžaduje obrovské množství dat (která mohou být chráněna autorskými právy) a využívání lidí, kteří pracují za velmi nízké mzdy, často z globálního Jihu. Spotřeba energie při tréninku a používání je značná. Chatboti navíc nejsou bezchybní a mohou poskytovat nepravdivé informace, pokud jim chybí validní empirická data. Často chybí reference.

Mezinárodní regulační úsilí

Po náhlém úspěchu ChatGPT v loňském roce odborníci a zákonodárci v různých zemích usilovně pracují na přípravě pravidel a návrhů zákonů pro umělou inteligenci.

V USA probíhají snahy o regulaci umělé inteligence. Na státní a místní úrovni již bylo přijato nebo navrženo několik zákonů. Federální vláda v současné době pořádá slyšení a fóra s cílem stanovit priority regulace AI. Politici na nejvyšších úrovních se pravidelně setkávají s odborníky na umělou inteligenci a výzkumnými pracovníky. Bílý dům zveřejnil návrh zákona o umělé inteligenci. Národní institut pro standardy a technologie (NIST) zveřejnil rámec pro důvěryhodnou AI. Bidenova administrativa rovněž plánuje veřejné hodnocení generativních systémů AI.

Čína zveřejnila první etické pokyny pro umělou inteligenci v dubnu 2023. Ty zdůrazňují právo lidí na vlastní rozhodování o využívání služeb umělé inteligence. Čínská správa kyberprostoru (CAC – Cyberspace Administration of China) navrhla nová pravidla pro generativní AI, včetně pravdivosti, nediskriminace a prevence potenciálně škodlivých výstupů.

Výzvy a příležitosti spojené s umělou inteligencí řeší také latinskoamerické země. V chilském hlavním městě se konal summit autorit v oblasti etiky, který se zaměřil na ochranu lidských práv a rozvoj inkluzivních technologií. UNESCO již vydalo doporučení o etice AI, na němž pracuje řada členských států. Latinskoamerická občanská společnost je znepokojena represivním využíváním nástrojů umělé inteligence a možným porušováním soukromí. Brazílie zvažuje regulační projekt, který klade důraz na ochranu osob, zejména v oblasti zdravotnictví. V Argentině má být AI využita v provinčních volbách, aby se urychlil jejich průběh. Kostarika pracuje na právním rámci ve spolupráci s UNESCO.

Celkově tento vývoj ukazuje, že regulační úsilí v oblasti umělé inteligence celosvětově postupuje s cílem zajistit etické standardy, minimalizovat potenciální rizika a maximalizovat přínosy používání umělé inteligence.

Návrh EU

V červnu 2023 se Evropský parlament stal po Radě Evropské unie a Evropské komisi třetím ze tří hlavních orgánů EU, který přijal návrh zákona o regulaci AI [2]. Tento zákon, nazvaný Akt o umělé inteligenci, vyžaduje transparentnost vysoce rizikových systémů AI a po dokončení legislativního procesu vytváří první pravidla pro AI na světě. Návrh zákona získal většinovou podporu. V další fázi, tzv. trialogu, budou zákonodárci EU a členské státy jednat o konečných detailech zákona. Do konce roku 2023 by měl být zákon schválen – jedná se o celosvětově první regulaci umělé inteligence.

Podstatná zlepšení ze strany Parlamentu

Parlament kromě návrhu Komise vyzval k zákazu biometrického sledování, rozpoznávání emocí a prediktivního policejního dohledu pomocí systémů umělé inteligence. Byly požadovány na míru šité předpisy pro AI pro obecné účely a základní modely, jako je ChatGPT. Kromě toho by mělo být možné podávat právní stížnosti na systémy AI. Regulace umělé inteligence se řídí přístupem založeným na riziku a zakazuje praktiky AI, které by mohly ohrozit nebo diskriminovat lidi. Každá umělá inteligence, která komunikuje s lidmi, musí komunikujícím bez vyzvání sdělit, že výstup chatbota byl vytvořen robotem. Pravidla pro řízení rizik se vztahují i na systémy AI.

Poslanci rozšířili návrh Komise o některé vysoce rizikové oblasti. Navrhli také, aby systémy umělé inteligence používané k ovlivňování voličů v politických kampaních a návrhové aplikace používané platformami sociálních médií s více než 45 miliony lidí (podle zákona o digitálních službách) byly klasifikovány jako vysoce rizikové.

Hlasování levicové frakce

Skupina levice v Evropském parlamentu GUE/NGL (Konfederativní skupina Evropské sjednocené levice – Severská zelená levice), nejmenší ze sedmi europarlamentních skupin, předložila celkem 16 pozměňovacích návrhů. Požadovala, aby byly jasně vymezeny rizikové oblasti a aby nebyly zmírňovány nebo relativizovány. Kromě toho by měly být zahrnuty vysoce rizikové systémy definované v příloze III Aktu o umělé inteligenci. Patří mezi ně například biometrická identifikace a kategorizace osob, správa a provoz kritické infrastruktury a systémy, které rozhodují o přidělování nebo hodnocení osob ve vzdělávacích institucích, zaměstnání, řízení lidských zdrojů, přístupu k samostatné výdělečné činnosti a obecněji využívání veřejných služeb a dávek, vymáhání práva, migrace, azylová a hraniční kontrola, výkon spravedlnosti a demokratické procesy.

Pokud by byly přijaty jejich pozměňovací návrhy, levicová skupina by pravděpodobně hlasovala pro zákon. Takto jí zbývalo pouze zamítnutí nebo zdržení se hlasování. Jelikož levicová skupina souhlasila s výzvou pléna k zákazu rozpoznávání obličejů, nakonec se zdržela hlasování.

Co zůstává v rámci zákona o umělé inteligenci otevřené?

Ačkoli je snaha o regulaci umělé inteligence v celé EU chvályhodná a pozitivní, akt EU o umělé inteligenci neposkytuje dostatečné odpovědi na základní otázky, které tato nová technologie vyvolává. V kapitalismu představuje umělá inteligence další oblast, kde převažuje mrtvá práce nad živou. To je v rozporu se společným cílem komunistických stran, jak jej formuloval Marx, a sice dosáhnout „emancipace práce“ [3].

Nejen z ideologických důvodů, ale i z geopolitických důvodů, aby se postavila technologickým gigantům z USA, by však bylo nutné vytvořit nezávislou umělou inteligenci v rámci EU na bázi veřejné služby. Takový projekt by měl být doprovázen celoevropským demokratickým diskurzem, který by definoval, kde lze umělou inteligenci legálně používat a jaká data lze použít k jejímu tréninku.

Podobný přístup se již v EU osvědčil. Zkušenosti s budováním mezinárodního centra jaderného výzkumu CERN ukazují výhody komunitní infrastruktury, která přinesla převratné vědecké úspěchy po celém světě. CERN úspěšně a transparentně spolupracoval a nadále spolupracuje s příslušnými výzkumnými institucemi po celém světě. Dalším příkladem iniciativy založené na spolupráci je zavedení prvního standardu pro mobilní telefony na světě, 2G, které umožnilo konkurenčním společnostem začít vyrábět kompatibilní telefony, což vedlo k rychlému rozšíření mobilních telefonů v EU.

Vzhledem k rostoucím ekologickým problémům nemá smysl zanedbávat energetické nároky při vývoji, aplikaci a tréninku umělé inteligence. Namísto toho by měl být podporován výzkum alternativních projektů AI, které nevyžadují velkou spotřebu energie ani složitý trénink s velkým množstvím dat (například LIVE AI, která vyžaduje pouze malý software a může se průběžně učit).

Je naléhavě nutné zvážit dlouhodobý kulturní dopad umělé inteligence. Stále není jasné, jak chatboti ovlivní učební chování mladých lidí a dospělých a jak to ovlivní inovační sílu firem. Bude zachována kreativita lidí, když přímou a bezprostřední interakci s okolím nahradí odpovědi umělé inteligence? Tyto otázky se mi zdají významnější než podle mého názoru neopodstatněná očekávání transhumanistů ohledně svržení lidstva a převzetí moci umělou inteligencí.

Je velmi negativní a významné, že návrh EU ignoruje otázky dopadu na svět práce. Automatizace vedla k masivnímu úbytku pracovních míst, zejména v průmyslových zemích, což bylo doprovázeno zhoršením sociálních systémů. Varování před ztrátou pracovních míst by bylo vhodné, aby se zavádění umělé inteligence ve zvláště těžce postižených odvětvích zpomalilo nebo dokonce zastavilo. Na rozdíl od marxistické utopie 19. století neznamenal pozdější rychlý „vědeckotechnický pokrok“, že by odcizená a vykořisťovaná práce byla nahrazena svobodnou prací v „disponibilním čase“ [4]. Tento volně disponibilní čas, který kapitalismus objektivně produkuje prostřednictvím konkurenčních procesů a stále nových technologií, se v kapitalistickém hávu stává nezaměstnaností a/nebo ztrátou kvalifikace, kterou neprovází svoboda, ale chudnutí.

V souladu s neoliberální orientací EU se návrh Evropského parlamentu zaměřuje na tržní regulace, které mají být naplňovány ze strany umělé inteligence. Často jsou zmiňovány oblasti, jako jsou lidská práva, ale jejich konkrétní dodržování zůstává otevřené. A nakonec zdůrazňuji: stejně jako u mnoha jiných zákonů je z regulace vyloučen vojenský sektor a zpravodajské služby, ačkoli právě tam je potřeba transparentnosti a kontroly obzvlášť vysoká.

Poznámky:

1. Adler, Frank (1978) Zu einigen Grundmerkmalen der wissenschaftlich-technischen Revolution, Arbeitskreis wissenschaftlich-technische Intelligenz, Wien, S.41
2. Vorschlag für eine VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES ZUR FESTLEGUNG HARMONISIERTER VORSCHRIFTEN FÜR KÜNSTLICHE INTELLIGENZ (GESETZ ÜBER KÜNSTLICHE INTELLIGENZ) UND ZUR ÄNDERUNG BESTIMMTER RECHTSAKTE DER UNION (COM/2021/206 final)
3. Interview mit Karl Marx für die Chicago »Tribune« vom 5. Jänner 1879 – MEW, Bd. 34, S. 510/511.
4. Grundrisse der Kritik der Politischen Ökonomie, in MEW, Bd. 42, S. 604.

Článek vydáváme ve spolupráci s Transform !europe.