Evropská unie se dohodla na přelomových pravidlech pro umělou inteligenci, která se pravděpodobně stanou první významnou regulací této nově vznikající technologie v západním světě.

V pátek dosáhli vyjednavači Parlamentu a Rady předběžné dohody o Aktu o umělé inteligenci. Cílem tohoto předpisu je zajistit, aby základní práva, demokracie, právní stát a udržitelnost životního prostředí byly chráněny před vysoce rizikovou umělou inteligencí, a zároveň podpořit inovace a učinit z Evropy lídra v této oblasti. Pravidla stanoví povinnosti pro AI na základě jejích potenciálních rizik a míry dopadu, informoval 9. prosince Evropský parlament.

Vzhledem k tomu, že si zákonodárci uvědomují potenciální hrozbu, kterou mohou některé aplikace umělé inteligence představovat pro práva občanů a demokracii, dohodli se na zákazu:

• biometrických kategorizačních systémů, které využívají citlivé charakteristiky (např. politické, náboženské a filozofické přesvědčení, sexuální orientace, rasa);
• necíleného získávání obrazů obličejů z internetu nebo záznamů z kamerových systémů za účelem vytváření databází pro rozpoznávání obličejů;
• rozpoznávání emocí na pracovišti a ve vzdělávacích institucích;
• sociálního skórování na základě sociálního chování nebo osobních charakteristik;
• systémů umělé inteligence, které manipulují s lidským chováním, aby obešly jeho svobodnou vůli;
• AI používanou ke zneužívání zranitelnosti lidí (z důvodu jejich věku, postižení, sociální nebo ekonomické situace).

Výjimky pro orgány činné v trestním řízení

Vyjednavači se dohodli na řadě ochranných opatření a úzkých výjimek pro používání biometrických identifikačních systémů (RBI) ve veřejně přístupných prostorách pro účely vymáhání práva, a to na základě předchozího soudního povolení a pro přesně vymezené seznamy trestných činů. „Post-remote“ RBI by se používaly výhradně při cíleném vyhledávání osob odsouzených nebo podezřelých ze spáchání závažného trestného činu.

RBI „v reálném čase“ by splňovala přísné podmínky a její použití by bylo časově a místně omezeno, a to pro účely:

• cílené vyhledávání obětí (únos, obchodování s lidmi, sexuální vykořisťování),
• prevence konkrétní a aktuální teroristické hrozby nebo
• lokalizace nebo identifikace osoby podezřelé ze spáchání některého z konkrétních trestných činů uvedených v nařízení (např. terorismus, obchodování s lidmi, sexuální vykořisťování, vražda, únos, znásilnění, ozbrojená loupež, účast ve zločinecké organizaci, trestná činnost proti životnímu prostředí).

Povinnosti pro vysoce rizikové systémy

Pro systémy AI klasifikované jako vysoce rizikové (z důvodu jejich významného potenciálního poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu) byly dohodnuty jasné povinnosti. Poslancům Evropského parlamentu se podařilo zařadit povinné posouzení dopadů na základní práva, které se kromě jiných požadavků vztahuje i na pojišťovnictví a bankovnictví. Systémy umělé inteligence, které se používají k ovlivňování výsledků voleb a chování voličů, jsou rovněž klasifikovány jako vysoce rizikové. Občané budou mít právo podávat stížnosti na systémy AI a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech AI, která mají dopad na jejich práva.

Opatření na podporu inovací a malých a středních podniků

Poslanci chtěli zajistit, aby podniky, zejména malé a střední podniky, mohly vyvíjet řešení umělé inteligence bez zbytečného tlaku průmyslových gigantů, kteří kontrolují hodnotový řetězec. Za tímto účelem dohoda podporuje tzv. regulační pískoviště (regulatory sandboxes) a testování v reálném prostředí, které zřizují vnitrostátní orgány za účelem vývoje a tréninku inovativních AI před jejich uvedením na trh.

Další informace najdete v tiskové zprávě Evropského parlamentu.