Téměř před půl rokem, v červnu 2023, odhlasoval Evropský parlament bezprecentní zásadní zákaz technologií rozpoznávání obličejů „v reálném čase“ na veřejných místech.

Zákon o umělé inteligenci by měl znemožnit úřadům i firmám v Evropské unii, aby nakládaly s našimi obličeji jako s chodícími čárovými kódy. Nyní však po tlaku ze strany evropských vlád hrozí, že nás konečná podoba zákona nasměruje do noční můry na způsob děl George Orwella.

Dohody na finální podobě zákona se vlády a evropští poslanci snaží dosáhnout už od konce letošního léta. Přelomový zákon mohl z Evropské unie udělat světovou jedničku v nelehkém vyvažování mezi inovacemi a ochranou soukromí — realita však nakonec nabízí mnohem méně důvodů k radosti.

Evropští zákonodárci v průběhu listopadu jednali o tom, jak velkou pravomoc získá při automatickém rozpoznávání obličejů policie.

Přestože jsou podobné systémy spojovány po celém světě s porušováním lidských práv a Amnesty International je nedávno odsoudila za to, že usnadňují izraelský útlak Palestinců, první krok k jejich přísnému zákazu, který učinil Evropský parlament, je nyní ohrožen.

Naše citlivé údaje jsou zneužívány a zpeněžovány

V průběhu posledních deseti let se z tváří, otisků prstů či očí prakticky všech lidí na světě stalo platidlo. Všechny tyto — takzvané biometrické — údaje jsou matematickým vyjádřením našich nejniternějších charakteristik, které tvoří naši osobnost. Živoucí lidská rozmanitost je tímto matematickým přepisem redukována na pouhý řetězec jedniček a nul.

Biometrické údaje byly v posledních letech využívány k rozsáhlému sledování a monitorování lidí: s jejich pomocí státní moc potlačovala a zastrašovala prodemokratické demonstranty v Hongkongu nebo Rusku, ale sloužily i k pronásledování afroamerických komunit ve Spojených státech.

Dokonce i zdánlivě všední využití dat, jako například v osobních dokladech, se nakonec ukázalo být skvělým pomocníkem systémů, které plošně skenují obličeje a těla lidí bez jakéhokoli zákonného důvodu — tedy pro systémy masového biometrického sledování.

Jakkoli se Evropská unie ráda prezentuje jako maják demokracie a lidských práv, vůči praktikám biometrického masového sledování bohužel není nijak imunní. Dopravní uzly v Německu a Belgii, demonstranti v Rakousku, lidé, kteří jdou do zaměstnání v České republice, lidé, kteří spí na ulici v Itálii — a našli bychom mnoho dalších případů v evropských zemích —, ti všichni jsou podrobeni masovému biometrickému dohledu.

Patrně nejvýrazněji dala nedávno zelenou podobnému dohledu Francie, když přijala zákon, který umožňuje zavést automatizované sledovací systémy během blížících se olympijských a paralympijských her.

Vlk v rouše beránčím

Obhájci lidských práv již dlouho opakují, že biometrické sledování v masovém rozsahu je v rozporu s evropským právem v oblasti lidských práv a ochrany osobních údajů. Je přitom jedno, zda se bavíme o reálném čase či o zpětném využití. Rozpoznávání obličejů na veřejnosti je nespolehlivé, diskriminační a zasahuje do našich lidských práv a důstojnosti. Bohužel je využití těchto dohledových systémů, často pod záminkou takzvané „veřejné bezpečnosti“, velmi rozšířené a možnost právní ochrany je nejednotná a uplatňovaná nedůsledně.

Zástupci průmyslu automatizovaného dohledu o sobě a sledovacích systémech prozradili vše, když zákonodárcům řekli: „S ohledem na národní bezpečnost vám sice nemůžeme ukázat žádné důkazy, že tyto systémy fungují, jak mají, ale máte naše slovo.“ A zákonodárci jim to zřejmě skutečně uvěřili.

Bojovníci za občanská práva a ochranu soukromí dlouhodobě volají po plošném zákazu biometrického dohledu. Některým evropským zákonodárcům se nyní naskytla příležitost tvrdit, že bojují za stejnou věc a přitom při přijetí zákona o umělé inteligenci učinit pravý opak.

Podle zpráv z médií nyní Evropský parlament — navzdory předchozím závazkům zakázat masové biometrické sledování — zvažuje „drobné“ výjimky ze zákazu rozpoznávání obličejů a dalších lidských vlastností.

Úplný zákaz, nebo masový dohled

Problém je v tom, že nic jako „drobné“ výjimky ze zákazu masového biometrického dohledu neexistuje. Povolení výjimek otevírá dveře masovému dohledu jako takovému. Nejde o plané obavy: srbská vláda se s odvoláním na „drobné“ výjimky již dvakrát pokusila legalizovat v zemi tisíce kamer Huawei s funkcí rozpoznávání tváří.

Bude-li evropský zákon o umělé inteligenci obsahovat výjimky, které jednotlivým zemím umožní plošně a automatizovaně rozpoznávat obličeje ve veřejném prostoru, bude jen otázkou času, kdy ve všech sedmadvaceti zemích Evropské unie budeme bojovat proti zákonům o masovém biometrickém dohledu.

Při zvažování výjimek se opakovaně objevuje argument, že jsou nutné při pátrání po osobách podezřelých či odsouzených za závažné trestné činy. To lze ale jen stěží provést bez plošného skenování všech osob ve veřejném prostoru, jehož důsledkem je takzvaný chilling effect — stručně řečeno nechuť občanů a občanek účastnit se například demonstrací či jinak uplatňovat občanská práva ve veřejném prostoru.

Existují však také další závažné otázky: pokud se skutečně jedná o naléhavou situaci, může pomoct tak riskantní a nespolehlivá technologie, jakou je rozpoznávání obličejů? Ačkoli slyšíme, že Evropský parlament chce do zákona přidat řadu pojistek proti zneužití, tato opatření jen stěží zabrání tomu, abychom byli vždy a všude sledováni a naše základní lidská práva byla porušována.

Evropská unie stojí jen krůček před historickým úspěchem — schválením zákona o umělé inteligenci. Může však jít zároveň o historickou prohru, pokud dá Evropská unie nakonec přednost sledovacímu průmyslu před lidmi a společenstvím.

Úřady budou moci využít výjimky z veřejného rozpoznávání obličejů k ospravedlnění téměř trvalého používání těchto systémů. Infrastruktura pro masový dohled, tedy síť kamer, senzorů a výkonných procesorů, bude připravena a bude jen čekat, až ji někdo uvede do provozu.

Už se nebudete muset usmívat do kamery — zachytí vás, ať se vám to líbí, nebo ne.

Z anglického originálu The EU wants to make facial recognition history — but it must be done for the right reasons publikovaného na serveru EuroNews přeložila česká organizace Iuridicum Remedium (IuRe), součásť sítě EDRi.