Neschopnost rozlišit umělé tváře od skutečných má vliv na naše chování na internetu.

Výzkumy ukazují, že mnoho lidí nedokáže spolehlivě rozlišit mezi fotografiemi skutečných obličejů a snímky vytvořenými počítačem. To je obzvláště problematické v současné době, kdy počítačové systémy dokáží vytvořit realisticky vypadající fotografie neexistujících lidí, upozorňuje Manos Tsakiris v článku pro The Conversation.

Podvrhy se stávají běžnou součástí každodenní kultury, což znamená, že by si lidé měli více všímat toho, jak se používají v marketingu, reklamě a sociálních médiích. Obrázky se také používají ke škodlivým účelům, jako je politická propaganda, špionáž a informační válka. Jejich tvorba zahrnuje tzv. hlubokou neuronovou síť, počítačový systém, který napodobuje způsob, jakým se učí mozek. Ten je „trénován“ tím, že je vystaven stále větším souborům dat skutečných tváří.

Ve skutečnosti proti sobě stojí dvě hluboké neuronové sítě, které soutěží o to, kdo vytvoří co nejrealističtější obraz. Výsledkem je, že výsledným produktům se přezdívá obrázky GAN, kde GAN znamená Generative Adversarial Networks. Proces generuje nové obrazy, které jsou statisticky nerozlišitelné od tréninkových obrazů.

V naší studii publikované v časopise iScience jsme ukázali, že neschopnost rozlišit tyto umělé tváře od skutečných má vliv na naše chování na internetu. Náš výzkum naznačuje, že falešné obrázky mohou narušit naši důvěru v ostatní a zásadně změnit způsob, jakým komunikujeme online.

S kolegy jsme zjistili, že lidé vnímají obličeje z GAN jako ještě reálnější než skutečné fotografie obličejů skutečných lidí. I když zatím není jasné, proč tomu tak je, toto zjištění poukazuje na nedávný pokrok v technologii používané k vytváření umělých obrazů.

Zjistili jsme také zajímavou souvislost s atraktivitou: tváře, které byly hodnoceny jako méně atraktivní, byly také hodnoceny jako reálnější. Méně atraktivní tváře mohou být považovány za typičtější a typická tvář může být používána jako reference, podle které jsou hodnoceny všechny tváře. Proto by tyto tváře GAN vypadaly reálnější, protože se více podobají mentálním šablonám, které si lidé vytvořili z každodenního života.

Vnímání těchto umělých tváří jako autentických však může mít také důsledky pro obecnou úroveň důvěry, kterou chováme k okruhu neznámých lidí – koncept známý jako „sociální důvěra“.

Často si příliš zakládáme na tvářích, které vidíme, a první dojmy, které si vytvoříme, určují naše sociální interakce. V druhém experimentu, který byl součástí naší poslední studie, jsme zjistili, že lidé častěji důvěřují informacím, které jim zprostředkovávají tváře, jež předtím považovali za skutečné, i když byly uměle vytvořené.

Není divu, že lidé více důvěřují tvářím, které považují za skutečné. Zjistili jsme však, že důvěra se snížila, jakmile byli lidé informováni o možné přítomnosti umělých tváří v online interakcích. Poté vykazovali celkově nižší míru důvěry – nezávisle na tom, zda byly tváře skutečné, či nikoli.

Tento výsledek lze v jistém smyslu považovat za užitečný, protože zvýšil podezřívavost lidí v prostředí, kde mohou působit falešní uživatelé. Z jiného pohledu však může postupně narušit samotnou podstatu způsobu komunikace.

Obecně máme tendenci vycházet z předpokladu, že ostatní lidé jsou v zásadě pravdomluvní a důvěryhodní. Nárůst falešných profilů a dalšího umělého online obsahu vyvolává otázku, nakolik může jejich přítomnost a naše znalosti o nich tento „výchozí stav pravdy“ změnit a nakonec narušit sociální důvěru.

Změna našich výchozích nastavení

Přechod do světa, kde je to, co je skutečné, nerozeznatelné od toho, co skutečné není, by také mohl změnit kulturní krajinu z primárně pravdivé na primárně umělou a klamavou. Rozšířené používání vysoce realistického, avšak umělého online obsahu by od nás mohlo vyžadovat jiné myšlení. Pokrok technologií, které dokážou vytvářet falešné, avšak velmi realistické obličeje, obrazy a videohovory, znamená, že sledování reality musí být založeno na jiných informacích než na našem vlastním úsudku. Vyžaduje to také širší diskusi o tom, zda si lidstvo ještě může dovolit výchozí pravdu.

Je důležité, aby lidé byli při hodnocení digitálních tváří kritičtější. To může zahrnovat použití zpětného vyhledávání obrázků ke kontrole, zda jsou fotografie pravé, obezřetnost vůči profilům na sociálních sítích s malým množstvím osobních informací nebo velkým počtem sledujících a uvědomění si možnosti využití technologie deepfake k nekalým účelům.

Další oblastí v této oblasti by mělo být zdokonalení algoritmů pro detekci falešných digitálních tváří. Ty by pak mohly být zabudovány do platforem sociálních médií, aby nám pomohly rozlišit skutečné tváře od falešných.

Celý článek najdete zde v angličtině.

Články zveřejněné v rubrice Trendy nemusejí vyjadřovat názor redakce.