„Nůž lze použít ke krájení cibule, ale také k úkladné vraždě. Je to snad důvod k zákazu jejich nošení či prodeje?“ Tímto rádoby argumentem se často ohánějí zastánci vývoje a volného prodeje technologických nástrojů určených ke sledování. Následuje obvykle sofistika o tom, že samozřejmě nevraždí nože, ale lidé, kteří je drží, a žádná regulace proto nemá smysl. Nakolik je však takové srovnání přiléhavé?

Zavádějící srovnání

Vezměme si systémy na rozpoznávání obličeje. Na první pohled jde o klasický kamerový systém, který je ovšem doplněn softwarem umožňujícím v reálném čase nebo i s odstupem porovnávat tváře zachycené kamerami s tvářemi v referenční databázi — v databázi hledaných osob, ale třeba i v databázi všech občanů daného státu.

Databáze může být legální, ale i nelegální, příkladem budiž obří databáze společnosti Clearview AI plná fotografií posbíraných zejména z internetových zdrojů. Firma, jíž za využití databáze s miliardami tváří platily i bezpečnostní složky evropských států, dostala v nedávné době v Řecku či v Itálii obří pokutu za porušení povinností stanovených Obecným nařízením o ochraně osobních údajů, známým pod zkratkou GDPR.

Jestliže je nůž skutečně jen pouhým nástrojem, pak sledovací technologie mají stále větší vliv na rozhodování a přímo ovlivňují jednání lidí. Zjistit, jak došel systém k určitému výsledku, je přitom prakticky nemožné, neboť rozhodnutí činí použitá umělá inteligence často autonomně bez možnosti kontroly jejího „myšlenkového“ postupu.

Přiměřenější než srovnání sledovacích technologií s nožem se jeví spíše srovnání s autonomními zbraňovými systémy. Klíčové hledisko představuje v tomto případě způsob použití a míra podrobení výsledků lidské kontrole: zda je rozpoznání tváře systémem pouze vstupní informací pro rozhodnutí člověka; zda jde o rozhodování, které člověk pouze ve větší či menší míře koriguje; nebo zda lidská kontrola zcela chybí.

Zásah do lidských práv

Může použití kamerového systému ve veřejném prostoru sloužit k něčemu obdobně bezelstnému, jako je použití nože ke krájení cibule? Nikoli. Kamerový systém ve veřejném prostoru je vždy použit k zefektivnění sledování lidí a znamená zásah do jejich soukromí.

K ničemu jinému se použít nedá — podobně jako je tomu u střelných zbraní určených k vojenskému užití. Použití střelné zbraně za jiným účelem než k zabití či zranění protivníka je také stěží představitelné. V prvním případě jde o zásah do práva na soukromí, v druhém o zásah do práva na život — dvou zaručených práv, která najdeme v sousedních článcích 6 a 7 Listiny základních práv a svobod.

Podobně jako kamery na rozpoznávání tváří můžeme jistě i použití zbraní vnímat za určitých okolností jako legitimní a žádoucí. Zatímco však u zbraní je přísně regulována jejich výroba, držení, použití a distribuce (včetně vývozu), pořízení a používání kamerového systému na rozpoznávání tváří je dnes v podstatě regulováno pouze legislativou určenou k ochraně osobních údajů.

Podobá se to situaci, jako bychom nechali oblast střelných zbraní zcela neregulovanou a trestali pouze jednotlivá zastřelení nebo postřelení. Kameru s funkcí rozpoznávání tváří si přitom dnes může pořídit kdokoli, prokazovat, zda a jakým způsobem ji využívá a neporušuje-li přitom platnou legislativu, je — zejména pokud nedojde k úniku dat — velmi obtížné.

Velkým problémem představuje také vývoz technologií. Jestliže v Evropě i částečně v USA se přeci jen lze setkat se zvýšenou mírou senzitivity k zavádění invazivních sledovacích systémů — která se odráží například ve snaze Evropské unie přijmout regulaci využívání umělé inteligence (takzvaný AI Act) a ve s ní spojené celoevropské kampani žádající zákaz biometrických systémů ve veřejném prostoru Reclaim Your Face — jsou zejména asijské země k takovým systémům mnohem otevřenější a nepokrytě je používají k zásahům do lidských práv a k upevňování moci.

Využívání biometrických kamer v Číně ke sledování obyvatelstva ve vazbě na počítání sociálního kreditu asi není třeba připomínat, za zmínku ale stojí i další státy. Irán chce začít využívat kamery k rozpoznávání tváří pro kontrolu žen při nošení hidžábů. Indie zase vytváří obří biometrické databáze celé populace. Už předválečné Rusko se zase elegantně díky „facial recognition“ technologiím vyhýbalo zatýkání demonstrantů přímo na náměstích a bezpečnostní složky si pro ně přišly až další den ráno k nim domů.

Naléhavá nutnost regulace

V současné době tvoří vývoj metod rozpoznávání tváří neregulovanou oblast, jíž se věnuje řada výzkumných pracovišť nebo technologických společností, často podporovaných z veřejných prostředků na výzkum a inovace. Ve státech — zakládajících si na respektu k lidským právům — se tímto způsobem vytvářejí nástroje určené primárně k zásahům do lidských práv. Protože často nemohou být v zemi, která do jejich vývoje investuje, legálně použitelné, jsou dodávány autokratickým režimům, které si s ochranou soukromí hlavu nelámou.

Jeden příklad za všechny: česká firma Cogniware, která za dodávání sledovacích technologií autoritářským režimům dostala před rokem jednu z anticen Big Brother Awards. Ředitel společnosti Jan Račko zhodnotil dodávky systémů na rozpoznávání tváří do autokratických států lapidárně: „Vzhledem k tomu, že tyto státy mají volnější pravidla, co se ochrany osobních údajů týče, využívají schopnosti systému i pro běžné úkony.“

Bylo by proto na místě — podobně jako v případě zbraní — začít mnohem více regulovat nejen užití mimořádně invazivní sledovací technologie, ale i celý její produkční a distribuční cyklus. Zatím to nevypadá, že by navrhovaný Akt o umělé inteligenci (AI Act), představený Evropskou komisí, dokázal potřebnou regulaci zajistit.

Text vznikl v rámci projektu Digitální watchdog organizace Iuridicum Remedium. Projekt podpořila Nadace OSF v rámci programu Active Citizens Fund, jehož cílem je podpora občanské společnosti a posílení kapacit občanských organizací. Program je financován z Fondů EHP a Norska.