Michal Ševčík se zamyslel nad schopností umělé inteligence skutečně nahradit lidské myšlení.
Je pozoruhodné, s jakou lehkostí se v současnosti zaměňuje forma za podstatu. Zdá-li se nám věta smysluplná, pak v ní spatřujeme smysl. Je-li text stylisticky uhlazený, pak předpokládáme, že je i myšlenkově přesvědčivý. Právě na této klamné rovnici stojí velká část důvěry v jazykové modely tzv. umělé inteligence nebo výstižněji strojového učení (LLM – Large Language Models). Vidíme syntakticky správný výstup, a proto v něm tušíme inteligenci. Jenže v tom není nic než reflex zpětné projekce: do jazykového chování stroje vkládáme výsledky naše vlastního porozumění, nikoli že by ono porozumění bylo na jeho straně. Tento omyl je hluboký a filosoficky závažný. Pokud má totiž mít technologie nějaký normativní rámec, musíme si nejprve ujasnit, co vůbec znamená „rozumět“. A právě zde se začíná rozpadat celý narativ o tom, že LLM tvoří nové poznatky, nové nápady nebo dokonce vykazují známky vědomí, tak jak je to dramaticky vyjádřeno v dystopické sérii filmů o terminátorech a Skynetu – neurální umělé síti, která si „uvědomí sama sebe“ a během mžiku vyhodnotí lidstvo jako hrozbu hodnou eliminace.
Porozumění totiž není zpracování dat. Není to výpočetní operace. Porozumění není něco, co lze vyvodit z korelací nebo optimalizovat skrze pravděpodobnostní interpretace. Porozumění je způsob bytí. Je to situovanost subjektu ve světě, jeho zakotvení v kontextu, jeho tělesnost, jeho paměť, jeho emocionální vztah ke skutečnosti. V porozumění není kladena jen otázka, co něco znamená, ale především: pro koho to něco znamená a za jakých podmínek. Smysl se nerodí ve vzduchoprázdnu, nýbrž ve vztahu – mezi mluvčím a posluchačem, mezi znakem a člověkem, mezi světem a tím, kdo jej obývá. Jazykový model žádný svět neobývá. Neexistuje v čase, nemá minulost, netrpí, nezapomíná, nevrací se, nedoufá. Je to stroj na syntaxi, nikoli subjekt schopný sémantické angažovanosti, proto často zdůrazňuji, že LLM je velice sofistikovaný pazourek.
Když tedy mluvíme o tom, že LLM „rozumí“ otázce, je to jen a jen metafora. Přesnější by bylo říci, že se model chová tak, jako by otázce rozuměl – protože byl trénován na milionech situací, jejichž porozumění a konečný produkt dodali právě lidé a nikdo jiný. Ale právě tento rozdíl – mezi porozuměním jako vnitřní zkušeností a prožitkem a porozuměním jako vnějším napodobujícím chováním – je klíčový. Simulace není totožná s prožitkem. Model může parafrázovat myšlenku, aniž by ji kdy uchopil. Může použít pojem, aniž by jej zakusil. Může napsat „láska je bolest“, aniž by kdy poznal, co to znamená někoho ztratit. Představme si třeba dítě, které poprvé vidí, jak je z jablka upečen štrúdl. Pro něj to není jen změna stavu surovin v jídlo, ale malý zázrak: jablko se promění v něco hřejivého, sladkého, voňavého, co voní domovem. Dítě si nevytváří pouze lexikální asociaci „štrúdl = jablko + těsto“. Tato zkušenost se mu vryje do paměti jako součást emoční mapy dětství. Když po letech ucítí stejnou vůni, neřekne: „pravděpodobnostně očekávám těsto s jablky“. Zasáhne ho vzpomínka, živé emoce a kontext. V tom je další obrovský rozdíl přece a že ho někteří přehlíží není problém celistvosti lidského bytí.
Tato mezera mezi strukturou a zkušeností je ontologická, ne pouze technická. Nejde o to, že bychom modely jednou vylepšili natolik, že tuto mezeru překlenou. Nejde o to, že by LLM ještě „nedosáhly“ porozumění. Jde o to, že způsob jejich existence vůbec k porozumění nesměřuje. LLM je výpočetní stroj – byť extrémně sofistikovaný – jehož vztah k jazyku je vnějškový, algoritmický, bez intence. Naproti tomu lidské porozumění je vždycky tělesné, nějak lokalizované a hlavně zranitelné. Chápat něco znamená být tím zasažen ve více rovinách. Rozumět textu znamená dovolit mu, aby mě proměnil.
A právě proto může být lidské porozumění podnětem k novému nápadu – k takovému, který není pouhou rekombinací předchozího, ale který mění samotné rámce, v nichž myslíme.
A zde se dostáváme k otázce originality. Co znamená „nový nápad“? Není to prostě věta, která dosud nepadla, nebo obraz, který dosud nebyl nakreslen. Je to kvalita, která přichází jako přerušení stávající rutiny, jako průlom, jako něco, co nebylo možné v rámci dosavadního diskurzu ani vyslovit. Nový nápad je ontologická událost: narušení předchozího horizontu, které zpětně mění i naše chápání minulosti. Ve filozofii bychom řekli, že jde o emergenci nové modality bytí – o první výskyt určité kvality, která dosud neměla místo v síti významu. Tento druh originality není výpočtem, ale zkušeností. Není produktem statistiky, ale událostí a sledů různých kvalit porozumění.
Kdo se setkal s opravdovým nápadem, ví, že se nedá naplánovat. Je to spíš vnuknutí než cokoliv jiného. Spíš osvícení než iterace. Přichází z hloubky, nikoli z matérie dat. A je-li v něm nějaký algoritmus, pak je vpleten do látky života – do traumatu, intuice, paradoxu. LLM žádné trauma nemá. Nečelí žádnému dilematu. Nevstupuje do vztahu s budoucností jako s otevřenou nejistotou. Nemá co riskovat. Modely tedy mohou imitovat nápady, ale nemohou je mít. Mohou vytvářet iluzi novosti, ale nikdy nepřekročí rámec daný tréninkovými daty. Vše, co generují, už v nějaké podobě bylo. Originální se může jevit jen tomu, kdo nerozpozná genealogii vzorců, které model replikoval. A právě zde je třeba být obezřetný: abychom si nespletli novost formy s novostí významu. Ne každá dobře napsaná věta je myšlenkou. Ne každý výstup je výstupem z dosavadního rámce.
Porozumění je víc než funkce. Je to vztah ke světu, který mě zavazuje, činí zranitelným, vyžaduje zodpovědnost. A právě proto nemůže být porozumění nikdy plně automatizováno. Můžeme automatizovat syntézu, sumarizaci, překlad. Ale ne porozumění. Stejně jako nelze automatizovat smutek nebo víru, nelze zautomatizovat chvění, které doprovází skutečné poznání.
Když tedy někdo tvrdí, že LLM mají potenciál nahradit lidské myšlení, měl by nejprve objasnit, co to myšlení je. A pokud to udělá poctivě, zjistí, že myšlení není jen produkce vět, ale způsob, jak být ve světě. A to, co je ve světě, nese za něj odpovědnost. Papoušek má pravdu, ale to je tak všechno.