Když se AI mýlí, následky mohou být ničivé, jak ukázal například nedávný skandál v Nizozemsku.
Vládní instituce po celém světě se snaží rychle nasadit umělou inteligenci do veřejných služeb s příslibem vyšší efektivity – od odhalování daňových podvodů až po zdravotnické třídění pacientů, napsal v článku o využití umělé inteligence pro vládnutí odborník na managment Akhil Bhardwaj. Autor však upozorňuje, že tato víra v algoritmickou přesnost je nebezpečně přehnaná. Když se AI mýlí, následky mohou být ničivé, jak ukázal skandál v Nizozemsku, kde chybný model označil tisíce rodin za podvodníky a uvrhl je do finanční i sociální katastrofy.
Podle článku je zásadní problém v tom, že lidské životy nelze redukovat na datové body a že při selhání algoritmů mizí jasná odpovědnost. Navíc současná generace AI (umělé inteligence) stále trpí zásadními nedostatky – od „halucinací“ (tj. situace, když AI generuje věrohodný, ale nepravdivý obsah) až po přehnaná očekávání, která se nenaplňují ani přes obrovské investice. Přesto se tyto systémy rychle zabydlují v klíčových oblastech, jako je právo, žurnalistika či vzdělávání, což může vést k erozi lidské expertizy a kritického myšlení.
Rostoucí integrace AI je zároveň velmi výhodná pro technologické firmy, které se stávají téměř nepostradatelnými – zejména pokud proniknou do obranného sektoru. Tím se prohlubuje závislost států i občanů na těchto společnostech, což připomíná vývoj sociálních sítí: původně slibovaly propojení lidí, ale nakonec přinesly problémy s manipulací, dezinformacemi a polarizací.
Bhardwaj proto klade otázku, zda je skutečně rozumné předávat stále více oblastí života algoritmům jen kvůli efektivitě. Technologie sama o sobě nedokáže vyřešit sociální či morální problémy – stejně jako automatizace v 19. století nebyla pro luddity problémem. Ti neodmítali techniku per se, ale její bezhlavé nasazení. Dnes bychom podle článku měli požadovat totéž: promyšlené, kritické zvažování o tom, jak AI mění společnost.
Články zveřejněné v rubrice Trendy nemusejí vyjadřovat názor redakce.