Druhá polovina ledna přinesla hned několik událostí, které rozviřují debatu o využívání kamerových systémů s technologiemi rozpoznávání tváří (face recognition). Do této debaty vstoupily jak evropské instituce, když nejprve Evropský parlament schválil zprávu o využití umělé inteligence pro vojenské a civilní účely a následně i Rada Evropy vydala svá doporučení pro zákonodárce k přijetí přísné regulace metod rozpoznávání tváře.

Zároveň byla v polovině ledna zaregistrována tzv. evropská občanská iniciativa (ECI) pod názvem Reclaim Your Face, která požaduje zákaz plošného sledování veřejných prostor spojeného s využívání face recognition a obecně větší transparentnost a přísnou regulaci využívání metod rozpoznávání obličeje i v dalších oblastech. Cílem iniciativy je sebrat jeden milion podpisů Evropanů a donutit Evropskou komisi, aby se zákazem zabývala.

V České republice sbírá podpisy k podpoře evropská občanská iniciativa organizace Iuridicum Remedium. V čem se sledování veřejného prostoru proměňuje, že to vyvolává takový zájem?

Proměny kamerového sledování?

Kamerové sledování veřejného prostoru je něco, s čím se většina lidí smířila. Pokud nám vadí kamery, jde obvykle o kamery v místech, které pociťujeme jako něco více intimního, než je ulice, třeba chodba domu, pracoviště, škola.

Stranou zájmu veřejné debaty ale dlouho stála proměna, kterou postupně kamerové systémy procházejí. Nejprve šlo o zlepšení jejich rozlišení. Přestává být důležité kolik kamer ve městě je, když mnohem lepší výsledky dodá jedna kamera s vysokým rozlišením zabírající třeba celé náměstí než dvacet kamer, které poskytnou nekvalitní obraz zachycující ve výsledku podstatně menší prostor.

Na to navázaly kamery s pokročilejšími funkcemi, ať už jde o kontrolu pohybu, opuštěných věcí, konfliktních situací, jako jsou rvačky, nebo třeba i detekci „zbytečného postávání“, což je funkce, kterou „umí“ třeba kamery Prahy 1. Na uvedené druhy detekce navazují možnosti rozpoznávání a identifikace či autentizace.

První vlaštovkou je rozpoznávání SPZ automobilů. Dnes už je tato metoda běžná na mnoha různých místech, počínaje systémy na kontrolu parkování ve zpoplatněných zónách měst, přes kontrolu doby parkování v obchodních centrech až po plošný monitoring průjezdů automobilů prováděný Policií ČR, jehož cílem je vytvářet databázi průjezdů všech automobilů — bez ohledu na porušení jakýchkoli předpisů — pro možné budoucí využití, v nichž lze automatizovaně podle rozpoznaných SPZ vyhledávat.

Jakýmsi pomyslným vrcholem je pak rozpoznávání lidí. Ty lze rozpoznávat podle různých biometrických vlastností od duhovky, přes chůzi až po rysy obličeje. Systémy, které umožňují rozpoznávat biometriku obličeje postupně odbouraly problémy, které je na počátku předurčovaly zejména k využití v místech, na nichž je obličej snímán v určité standardizované poloze.

Dnes už dané systémy fungují i při sledování člověka z různých úhlů, v davu či za různých světelných podmínek. Propojování informací z takového sledování s dalšími informacemi umožňuje neuvěřitelné věci, které mohou končit až naplněním dystopické vize, jak je už dnes realitou v Číně.

Fakt, že je váš obličej například rozpoznán, když jdete na červenou, může vést v rámci systému sociálního kreditu k řadě nepříjemných důsledků ve zcela nečekaných a nesouvisejících oblastech všeho života — třeba si nekoupíte jízdenku na vlak nebo nedostanete úvěr. Snad právě zprávám o čínské realitě můžeme poděkovat, že si stále více lidí uvědomuje rizika spočívající v biometrické identifikaci, která posouvá sledování veřejného prostoru na zcela novou kvalitativní úroveň.

Přitom systémy na rozpoznávání obličejů nejsou ani v českých zemích novinkou. Nejznámějším systémem rozpoznávání tváří je 145 kamer na Letišti Václava Havla v Praze. Jak dle nedávno vydané studie Využití biometriky při sledování veřejného prostoru v České republice přiznala Policie ČR, tak instalaci ani následnému doplňování systému o další kamery nepředcházelo žádné hodnocení dopadů do soukromí, jak je to vyžadováno stávající platnou legislativou.

Policie se pokoušela kamery určené k rozpoznávání obličeje rozšiřovat také o kamerový systém v Praze. Hlavní město to ale odmítlo s tím, že Policie ČR nepředložila právě zmíněné zhodnocení dopadů, což neučinila ani následně. Nicméně je třeba zdůraznit, že zavedení rozpoznávání obličeje je stále součástí pražské koncepce rozvoje městského kamerového systému z roku 2016, na níž se ostatně policie ve svém požadavku odvolávala.

Nebezpečí biometriky

A v čem že je rozpoznávání tváří kamerovými systémy ve veřejném prostoru vlastně tak nebezpečné, že se jeho regulací zabývá Evropský parlament, Rada Evropy a že digitálněprávním spolkům stojí za to pustit se do náročné snahy o získání milionu podpisů spoluobčanů nesouhlasících s jejich rozšiřováním? Se zaváděním biometriky, zejména pokud se dočkáme jejího rozšiřování například na území měst, nastane zásadní proměna možností vyhledávání konkrétních osob pohybujících se po městě. To samozřejmě může přinést vyšší efektivitu při vyhledávání osob hledaných, zároveň to ale otvírá obrovský prostor pro zneužití dat.

Je třeba zdůraznit, že obličej na rozdíl třeba od hesla si nelze vyměnit, máme ho napořád. Stejně jako otisky prstu. Únik dat tak může mít mnohem vážnější a těžko napravitelné důsledky, než je tomu například u hesel. Rizika se zvětšují zejména v případech, kdy budou například biometrická data obličeje sloužit jako přístupové údaje do více systémů. V případě úniku dat může být mnohem obtížnější vyřešit problém, který bychom dnes řešili změnou hesla.

Pocit neustálého sledování spojeného s efektivním nástrojem, jako je automatizované rozpoznávání obličeje, pak samozřejmě vedle zásahu do soukromí znamená i zásah do dalších práv. Takové zásahy souvisí i s přirozenou snahou člověka vyhýbat se problémům, a tedy s autoregulací chování.

Pokud budu vědět nebo třeba jen předpokládat, že moje tvář se ocitne v databázi účastníků nějaké demonstrace, spíše se rozhodnu ji nenavštívit. Pokud se budu obávat, že se dostanu do hledáčku kvůli jakémukoli neobvyklému chování, ke kterému se ve veřejném prostoru uchýlím, prostě se mu budu vyhýbat. Taková autoregulace pak omezuje nejen jedince, ale ve svém důsledku celou společnost a její demokratické fungování.

Dalším problémem je chybovost algoritmů. Systémy na rozpoznávání obličeje vykazují například více falešně pozitivních, či naopak negativních výsledků, u některých etnických skupin. Algoritmy, které mají stanovovat „rizikovost“ konkrétních osob pak často dále prohlubují jejich strukturální diskriminaci.

Otázkou pak je, jaké důsledky budou mít rozhodnutí algoritmů o shodě pro ztotožněné osoby. Obecně by vždy měl za algoritmem stát člověk, rizikem ovšem je, že obsluha upřednostní úsudek umělé inteligence a fakticky se za jeho „rozhodnutí“ schová. Své by o tom mohl říci například Afroameričan Robert Williams, který byl minulý rok zadržen v Detroitu pro údajnou krádež hodinek právě na základě chybných důkazů dodaných technologií rozpoznávání obličejů.

Na první pohled schopnost systému určit správně shodu v až devětadevadesáti procentech případů vypadá zajímavě. Pokud si ale vezmeme třeba letiště, kterým projde za rok 17 milionů cestujících, jako je tomu v případě Letiště Václava Havla, může takový systém identifikovat nesprávně každého stého, celkem tedy za rok 170 tisíc osob.

Samozřejmě ne u všech z nich to bude mít nějaké závažné negativní dopady. Ale na část nepochybně ano. Policie bohužel žádné statistiky o falešných výsledcích kamerových systémů dle svého vyjádření nevede.

Už dnes navíc putují do výzkumu sledovacích biometrických technologií značné veřejné prostředky, v čemž nezaostává ani Česká republika. Kdo bude mít pak chuť nebo sílu zastavovat rozjetý vlak?

V České republice chybí legislativa upravující využívání biometrických kamer ve veřejném prostoru, a tak transparentnost zavádění těchto technologií či hodnocení jejich dopadů je minimální. Přístup Policie ČR, která zjevně na kamery využívající metody face recognition pohlíží stejně, jako na jakékoli jiné kamery, vede k zásadním pochybnostem, zda si je vůbec vědoma citlivosti dat, s nimiž pracuje.

O důvod víc se nebezpečnému trendu postavil. Když ničím jiným tak třeba právě připojením svého podpisu k výše zmíněné evropské občanské iniciativě.

Článek vznikl v rámci projektu Digitální watchdog organizace Iuridicum Remedium. Projekt podpořila Nadace OSF v rámci programu Active Citizens Fund, jehož cílem je podpora občanské společnosti a posílení kapacit občanských organizací. Program je financován z Fondů EHP a Norska.