Systémy umělé inteligence mohou pro lidstvo představovat vážné riziko a musí se vyvíjet uvážlivě, nikoliv na bázi současného závodu o vývoj a využití nových technologií.
Zakladatel firmy Tesla Elon Musk, spoluzakladatel firmy Apple Steve Wozniak a více než 1 000 vědců vyzvali k půlročnímu zastavení vývoje systémů umělé inteligence výkonnějších než GPT-4, aby se zjistilo, jak je ovládat. Podepsali otevřený dopis zveřejněný na internetových stránkách neziskové organizace Future of Life.
V otevřeném dopise se uvádí, že systémy umělé inteligence mohou pro lidstvo představovat vážné riziko, a proto je třeba je vyvíjet a řídit s rozvahou. Místo toho se však laboratoře zabývající se umělou inteligencí ocitly v pasti závodu o vývoj a nasazení stále novějších technologií, uvádí se v dokumentu.
„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a rizika zvládnutelná,“ upřesňuje dopis. Odborníci se rovněž obávají automatizace všech pracovních míst. Pokud se nepodaří rychle pozastavit výzkum inteligence, „musí zasáhnout vlády a zavést moratorium“, uvádí se ve výzvě.
Petice dále uvádí: „Laboratoře umělé inteligence a nezávislí odborníci by měli tuto pauzu využít ke společnému vypracování a zavedení souboru sdílených bezpečnostních protokolů pro návrh a vývoj pokročilé umělé inteligence, které by byly přísně kontrolovány a dozorovány nezávislými externími odborníky. Tyto protokoly by měly zajistit, že systémy, které se jimi řídí, jsou nade vší pochybnost bezpečné. To neznamená pauzu ve vývoji umělé inteligence obecně, pouze ústup od nebezpečného závodu za stále většími nepředvídatelnými modely typu black-box s pohotovostními schopnostmi.“