Šéfové firem OpenAI a Anthropic, Sam Altman a Dario Amodei, varovali Radu bezpečnosti OSN před rychlým a potenciálně nebezpečným vývojem umělé inteligence.
Altman připomněl, že během pouhých tří let se schopnosti AI dramaticky zlepšily – od úrovně základní školy až po řešení nejprestižnějších matematických úloh a dokonce miléniových problémů. Obává se, že AI může postupovat tak rychle, že lidé nebudou schopni zasahovat ani kontrolovat její vývoj, a upozorňuje také na riziko koncentrace moci v rukou několika firem či států.
Amodei sdílí tyto obavy a navíc varuje před možností, že teroristé využijí AI k výrobě biologických zbraní. Podle něj může být AI při nesprávném zacházení hrozbou pro celé lidstvo. Expert Tom Ford oceňuje, že technologické firmy samy upozorňují na rizika, ale zároveň upozorňuje, že tím mohou chtít ovlivnit budoucí regulaci ve svůj prospěch.
Oba šéfové firem navrhují vytvoření mezinárodních standardů pro testování rizik AI a systém hlášení incidentů, které by mohly ohrozit globální bezpečnost. Jsou připraveni spolupracovat s vládami na přísnější regulaci a případně i zpomalit vývoj AI.
Americký prezident Donald Trump však tato varování odmítá jako falešné zprávy a zdůrazňuje, že USA musí vyhrát globální závod v oblasti AI. Většina členských států OSN ale volání po globální regulaci podporuje.