První požadavky podle zákona EU o umělé inteligenci vstoupí v platnost 2. února 2025. Zákon má zajišťovat bezpečnost a dodržování základních práv o oblasti AI, má však řadu kritiků.
Evropská unie od 2. února zakazuje některá „nepřijatelná“ použití umělé inteligence, čímž poprvé na světě omezuje tuto nově vznikající technologii. Zákon EU o umělé inteligenci zakazuje některá „nepřijatelná“ použití této technologie. Zákon Evropské unie o umělé inteligenci již neumožňuje používat umělou inteligenci k profilování toho, zda někdo spáchá trestný čin. Takzvaná „prediktivní policejní činnost“ je jednou ze sedmi kategorií použití umělé inteligence, které jsou nyní zakázány. Zakázáno je také použití obrázků z internetu za účelem vytvoření databáze pro rozpoznávání obličejů nebo odvozování emocí člověka z biometrických údajů. Kritici však tvrdí, že zákazy mají příliš mnoho mezer v podobě bezpečnostních výjimek, které umožňují evropským policejním a migračním orgánům umělou inteligenci využívat, a to včetně technologie, která dokáže rychle identifikovat obličeje na bezpečnostních kamerách – k pomoci při sledování pachatelů závažných trestných činů, jako jsou teroristické útoky.
Tento evropský zákon o umělé inteligenci je celosvětově prvním dokumentem, který stanoví pravidla pro používání nové technologie. Vytvoření ochranných opatření pro vznikající technologii je považováno za zásadní pro umožnění jejího širokého využití. Brando Benifei, italský zákonodárce, který se podílel na vyjednávání pravidel, tvrdí, že cílem zákazů je zabránit tomu, aby umělá inteligence mohla být využívána k „ovládání společnosti“ nebo „utlačování našich svobod“. Šéfka Evropské komise pro technologie Henna Virkkunenová návrh zákona uvedla jako zákon, který „ochrání naše občany“. EU se v tomto považuje za průkopníka, kdy tvrdí, že její pravidla odlišují Evropu od jiných částí světa, kde existuje jen málo podobných pravidel upravujících tuto technologii. Kupříkladu americký prezident Donald Trump se vydal opačným směrem, když „rozcupoval“ exekutivní příkaz o bezpečnosti umělé inteligence od svého předchůdce, prezidenta Joea Bidena. Přestože zákazy EU v oblasti AI vstoupí v platnost již nyní, jejich prosazování je teprve na svém počátku. Vlády zemí EU musí do srpna jmenovat orgány, které opatření budou prosazovat.