Evropský parlament schválil zákon o umělé inteligenci

VSa Zprávy

Parlament EU se dohodl na zákoně o regulaci umělé inteligence. Zakazuje aplikace, které jsou spojeny s vysokými bezpečnostními riziky – například rozpoznávání obličejů.

Nová pravidla mají podporovat důvěryhodnou umělou inteligenci zaměřenou na člověka a chránit zdraví, bezpečnost, základní práva a demokracii před jejími škodlivými účinky, informoval portál EP.

Evropský parlament přijal ve středu svůj vyjednávací postoj k aktu o umělé inteligenci, o jehož konečné podobě bude jednat s členskými státy EU. Nová pravidla mají zaručit, že umělá inteligence vyvinutá a používaná v Evropě bude plně v souladu s právy a hodnotami EU. Mají zajišťovat mimo jiné lidský dohled, bezpečnost, soukromí, transparentnost, nediskriminaci a sociální a environmentální blahobyt.

Zakázané postupy v oblasti umělé inteligence

Pravidla stanoví povinnosti poskytovatelů a provozovatelů umělé inteligence v závislosti na rizicích, která s sebou umělá inteligence může nést. Systémy umělé inteligence s nepřijatelnou mírou rizika pro bezpečnost lidí, jako jsou systémy používané pro bodování občanů (klasifikace lidí na základě jejich sociálního chování nebo osobních vlastností), by byly zakázány.

Počítají s tím, že systémy umělé inteligence, u nichž je úroveň rizika pro bezpečnost lidí nepřijatelná, budou zakázané. Poslanci rozšířili seznam zakázaných systémů i na umělou inteligenci, která je diskriminační nebo zasahuje do soukromí, například:

  • systémy biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech;
  • systémy biometrické identifikace na dálku „zpětně“, s výjimkou orgánů činných v trestním řízení pro stíhání závažných trestných činů a pouze po soudním povolení;
  • systémy biometrické kategorizace, které využívají citlivé údaje (jako je např. pohlaví, rasa, etnický původ, občanství, náboženství, politická orientace);
  • prediktivní policejní systémy (založené na profilování, lokalizaci nebo dřívější trestné činnosti);
  • systémy rozpoznávání emocí v oblasti prosazování práva, správy hranic, na pracovišti a ve vzdělávacích institucích; a
  • necílené shromažďování zobrazení obličeje z internetu nebo kamerových systémů za účelem tvorby databází pro rozpoznávání obličeje (což porušuje lidská práva a právo na soukromí).

Vysoce riziková umělá inteligence

Poslanci požadují, aby klasifikace vysoce rizikových aplikací zahrnovala systémy umělé inteligence, které významně poškozují zdraví, bezpečnost, základní práva nebo životní prostředí. Na seznam vysoce rizikových systémů byly přidány systémy umělé inteligence, které se využívají k ovlivňování voličů a výsledků voleb a v doporučovacích systémech používaných platformami sociálních médií (s více než 45 miliony uživatelů).

Povinnosti týkající se obecných systémů umělé inteligence

Poskytovatelé základních modelů – nového a rychle se vyvíjejícího trendu v oblasti umělé inteligence – budou muset před jejich uvedením na evropský trh posoudit a zmírnit jejich možná rizika (pro zdraví, bezpečnost, základní práva, životní prostředí, demokracii a právní stát) a zaregistrovat je do databáze EU. Generativní systémy umělé inteligence založené na těchto modelech, jako je ChatGPT, budou podle nových pravidel muset být transparentní (informovat o tom, že obsah byl vytvořen umělou inteligencí a pomáhat rozlišit tzv. deep-fake snímky od skutečných) a zabránit generování nezákonného obsahu. Poskytovatelé budou také muset zveřejnit podrobný souhrn dat chráněných autorským právem, na kterých se jejich systémy učily.

Celou tiskovou zprávu najdete zde v češtině.

Psali jsme:

Dočetli jste jeden z našich článků? Nezapomínejte, prosíme, na dobrovolné předplatné, které je příspěvkem k další nezávislosti a na fungování !Argumentu a také investicí do jeho budoucnosti. Více o financování zdola se dozvíte zde.