Identifikace lidí pomocí umělé inteligence zůstane hrozbou

Václav Mach

Evropské nařízení o umělé inteligenci je prvním opatřením regulujícím AI na světě. Postrádá však adekvátní regulaci použití automatického rozpoznávání obličejů. V České republice tak hrozí, že metodu bude nadále zneužívat například policie.

Ačkoliv evropské nařízení o umělé inteligenci dává zdání přísných limitů, opak je pravdou. Zákaz biometrické identifikace v reálném čase není prakticky zákazem, ale jen velmi volným omezením. Foto pixabay

Články o zatčení uprchlého italského zločince žijícího skrytě ve španělském městečku se snažily budit senzaci. Zprávy o jeho nalezení na mapách Googlu doprovázel popisek, že za úspěch mohla „neuvěřitelná náhoda“. Doživotně odsouzený člen mafie byl totiž před svým zeleninovým krámkem vyfocen projíždějícím vozidlem Googlu. Na policii ho pak měl nahlásit náhodný svědek, který v rozmazané postavě na Google Street View rozpoznal roky uprchlého mafiána.

Jedná se ale skutečně o neuvěřitelnou náhodu? Zcela určitě ne. Policie a další bezpečnostní složky dnes mají přístup k neanonymizovaným záběrům z Google Street View v dostatečném rozlišení a prohledávají je prostřednictvím technologií biometrické identifikace obličejů.

Pomocí biometrické identifikace obličeje byla také nedávno dopadena levicová teroristka Daniela Kletteová ze skupiny Frakce Rudé armády. Ta žila roky pod novým jménem v berlínské čtvrti Kreuzberg. K odhalení její pravé totožnosti navedly její fotografie umístěné na sociálních sítích, které jsou dnes plošně analyzovány biometrickými identifikačními nástroji. Zadržet bývalou teroristku v důchodovém věku pak bylo pro německou policii snadné.

Takovéto případy mohou snadno posloužit jako argumenty k zavádění nových šmírovacích technologií. Nicméně realita není tak růžová, jak se na první pohled zdá. Pokud máte své fotky na sociální síti a podobáte se hledanému zločinci, mohlo by vám to způsobit trápení. Své by o tom mohl vyprávět muž, který byl spektakulárně zadržen letos v srpnu v Berlíně. Byl vytipovaný jako desetiletí unikající terorista Frakce Rudé armády a kolega Daniely Klettové, nakonec však vyšlo najevo, že se jedná o omyl.

Ač jsou podobné omyly pro konkrétní jedince hořkým soustem, z pohledu celé společnosti mohou být zanedbatelné. V zájmu vyššího dobra — dopadení násilných zločinců — se můžeme občas dopustit omylu a podrobit nevinného občana nepříjemnostem v podobě policejních úkonů.

Rozšíření aplikací biometrické identifikace nicméně představuje rizika mnohem zásadnější než jen občasný politováníhodný omyl. Nejzávažnějším a velmi aktuálním rizikem je postupné rozlézání orwellovské technologie k mnohem širšímu využití ve jménu hesla: ospravedlnění se vždycky najde.

Co všechno technologie biometrické identifikace obličeje dokáže se mohl přesvědčit ruský aktivista Glukhin, který se svou stížností proti Rusku nakonec uspěl před Evropským soudem pro lidská práva ve Štrasburku. Nikolaj Sergejevič Glukhin protestoval v roce 2019 na podporu jiného stíhaného aktivisty. Osudné pro něj bylo, že umístil na síť Telegram svou fotografii, na které pózoval při protestu.

Ruská protiextremistická policie při pročesávání internetu fotografii protestujícího Glukhina nalezla a identifikovala ho. Využila při tom takzvanou zpětnou biometrickou identifikaci obličeje spočívající v tom, že je zájmová osoba pomocí algoritmů porovnávána s delším časovým odstupem od pořízení fotografie. V případě Glukhina došlo k porovnání s databází fotografií z civilního registru obyvatel.

Když následně ruská policie nezastihla Glukhina v místě bydliště, nasadila takzvanou biometrickou identifikaci obličeje v reálném čase. Tato metoda identifikuje osoby okamžitě. Tisíce moskevských kamer nalezly Glukhina velice rychle, což vedlo k jeho zatčení přímo na ulici.

Podobných případů, kdy je moderní biometrická technologie zneužita k politické perzekuci, mohou být v Rusku tisíce. Případů, kdy biometrická identifikace neslouží pouze k chytání teroristů a mafiánů, nicméně nalezneme spoustu také v demokratických zemích.

×