Na návrhu nařízení, jíž by se eliminovala rizika umělé inteligence (AI) zejména v oblasti lidských práv, pracuje Evropská unie již dva roky. Ozývají se hlasy, že se vyjednávání možná nestihnou do konce současného mandátu Parlamentu a Komise v polovině roku 2024, což může čekání na finální znění nařízení značně prodloužit. Pro snahy Evropy nastavit světový standard regulace AI by to bylo velkým selháním, které už poté možná nestihne napravit.

Jednou z oblastí, kde může umělá inteligence zásadně ublížit, je doména soukromí. Téměř každá interakce AI s člověkem hraničí s útokem jeho na soukromí. Už jen proto, že AI systémy zpravidla vyžadují velké množství osobních dat, aby mohly správně fungovat. Tato data se do systému dostanou nejprve během vývojové fáze, kdy se na nich program cvičí. Algoritmus ale sbírá data i v průběhu užívání. Firmy pak tato data přeprodávají dále, především pro marketingové účely.

Umělá inteligence je rovněž hrozbou v oblasti rovnosti a diskriminace. Algoritmické systémy mnohdy pouze kopírují zaběhlé společenské vzorce, které často znevýhodňují některé části společnosti. Algoritmus tak často reprodukuje stereotypy a prohlubuje jejich negativní dopady na celé skupiny obyvatel.