↗

Naše obličeje či hlas totiž nelze využít jen k identifikaci — mohou být také podkladem pro generování nových fotek a nových hlasových záznamů, které však díky pokročilé umělé inteligenci budou vypadat a působit jako my. Foto Geralt, Pixabay

Změnit si můžete jméno i adresu. Sociální sítě či platební karty používat nemusíte, jakkoli vám to může ztížit život. Hlavu si z krku ale nesundáte — a jak se přesvědčil třeba Podvodník z Tinderu ve stejnojmenném dokumentu z loňského roku, podstoupit plastickou operaci a nechat si změnit tvář není jen tak.

Před biometrickým dohledem, který zahrnuje nejen rozpoznávání tváře, ale i chůze či hlasu, se už prakticky neschováte. Za významného strašáka považuje biometrický dohled i Edward Snowden, který před deseti lety odhalil masivní plošné sledování telefonů a elektronické komunikace v USA. Pro nedávný článek v časopise Atlantic uvedl, že oproti současným systémům rozpoznávání tváří a špionážním softwarům typu Pegasus vypadá někdejší sledování jako dětská hra.

Právě systémem, který po vložení fotografie určitého obličeje „vyplivne“ třeba občanský průkaz s příslušnými údaji, nyní disponuje česká policie. Ač se její nová „hračka“ dočkala mediálního zájmu i za hranicemi České republiky, o nic překvapivého nejde.

Již v roce 2019 požádalo vedení pražské policie magistrát o aktivaci automatizovaného rozpoznávání obličejů na šesti místech kamerového systému. Pražská koalice v čele s tehdejším primátorem Zdeňkem Hřibem nápad vedení policie neboli „otevření tohoto tématu k diskusi“, jak to pojmenoval mluvčí policie, odmítla.

Hned o rok později se však objevily zprávy, že policie systém, který během vteřiny rozpozná konkrétního člověka z databáze čítající až 40 milionů osob, zakoupila od firmy Cogniware. Již tehdy policie v mediálních vyjádřeních ani nepopřela, že v rámci testu zkoušela využít i fotografie z veřejně dostupných zdrojů, jako jsou například sociální sítě.

V médiích se v uplynulých letech objevovaly i zprávy o tom, že kamery rozpoznávající tváře jsou v provozu třeba v Karviné. Podle Úřadu pro ochranu osobních údajů, který systém na základě informací z médií kontroloval v druhé polovině loňského roku, však tato funkce není zapnutá.

Analytický nástroj v pravém slova smyslu?

Nyní však policie poprvé přiznává, že softwarem na rozpoznávání tváří nejenom disponuje, ale že jej i aktivně využívá. Vedle Letiště Václava Havla se potvrzuje další využití této doslova dystopické technologie v České republice. Policie se brání, že se „nejedná o analytický nástroj v pravém slova smyslu“. Její informační systém Digitálních podob osob neslouží prý k identifikaci lidí v reálném čase a je využíván „pouze“ ke zpětnému porovnávání obličejů.

Policie zde jenom slovíčkaří: na rozsáhlých možnostech zneužití technologie v praxi to nic nemění. Aktuálně máme k dispozici jen interní, zčásti začerněný pokyn policejního prezidenta, a neznáme základní parametry systému. Nevíme, jak funguje referenční databáze, jak se naplňuje daty, jak se aktualizují, likvidují, kdo má k systému přístup, jakým způsobem a za jakých podmínek ho může získat…

Poslední vyjádření policie ze středy 26. července, aktualizované patrně pod tlakem médií, je spíše parodií: v článku stylizovaném jako rozhovor, se policie sama sebe ptá, jestli něco netají, a sama si odpovídá, že ne. Policie zároveň píše, že bylo již vyřízeno přes tisíc žádostí a úspěšnost rozpoznání se pohybuje okolo 40 až 45 procent. To je překvapivě nízké číslo v porovnání s hodnotou, kterou se v médiích chlubí zástupci zmiňované firmy Cogniware — v roce 2020 mluvili o úspěšnosti rozpoznání tváře v 99,4 procentech.

Bohužel, mlžení a nejasnosti jsou pro využívání systémů rozpoznávání tváří typické. Česká televize například v dubnové reportáži uvedla, že o nákupu biometrického kamerového systému uvažuje i Pražský hrad. Na naši žádost jsme se od Správy Pražského hradu dozvěděli, že informace v médiích se prý nezakládá na pravdě a žádný kamerový systém s biometrickým rozpoznáním obličejů se na Hradě nepřipravuje.

Houština rozporných informací se v souvislosti s technologií pro rozpoznávání tváře ovšem netýká jen bezpečnostních složek, ale i marketingových společností, pro které jsou naše obličeje vítaným zdrojem dat.

Vítejte v Minority Report

Ve slavné scéně z filmu Minority Report prochází Tom Cruise kolem digitální reklamní plochy, která rozpozná jeho tvář a na základě analýzy mu servíruje reklamu na míru. Jediné, co zrealizování tohoto „sci-fi“ nápadu brání dnes, je pravděpodobně legislativa týkající se ochrany osobních údajů. Po přímo personalizovaném řešení by marketéři skočili hned. V rámci zákona tak alespoň sledují pohyb celých skupin, jimž se pak reklamy či produkty cíleně přizpůsobují.

Již před pěti lety říkal Tomáš Tiefenbach z firmy Lurity ve videu: „Každá naše reklamní plocha má kameru, která dokáže detekovat tvář. Umí rozpoznat věk a pohlaví člověka. A umělá inteligence se učí, kde se takoví lidé nejvíce vyskytují a podle toho jim ty reklamy zobrazuje.“

Obdobně funguje i cílení reklamy podle lokalizačních dat: pokud pořádáte třeba v Olomouci koncert, můžete z dat například vyčíst, odkud k vám lidé zavítali, zda z větších, nebo spíše menších měst či vesnic. Dnes již společnost Lurity nicméně kamerový systém na svých reklamních plochách — údajně — nevyužívá. Do slušně rozjetého byznysu prý „hodila vidle“ covidová pandemie — z lidí v rouškách se zkrátka těžila biometrická data hůře.

Služby, které vám umožní „lépe porozumět zákazníkům“, ale nadále nabízí společnost VIVIDI. Její systém umožňuje automatizované počítání lidí dle věku a pohlaví a vytváření map, podle toho, před jakým zbožím lidé postávají a co si prohlíží, a na jejich základě pak přizpůsobuje prodej produktů. V referencích na webu je uvedena například Alza. V e-mailové konverzaci nicméně tiskové oddělení Alzy tvrdí, že podobné technologie již delší dobu neužívá.

Alza je přitom zmíněna již v článku z roku 2019 Velký nákupní bratr. Kamery v obchodech poznají váš věk i náladu na iDnes.cz. V souvislosti s využíváním nástrojů na rozpoznání pohlaví a věku pomocí kamer je v článku zmíněn i řetězec Penny. Jeho tiskový mluvčí Tomáš Kubík to však také odmítá: „O existenci vámi zaslaného článku jsem nevěděl a informace uvedené v něm bohužel nejsou pravdivé. Jak jste si jistě všiml, v rozporu s novinářskou etikou není informace týkající se PENNY v článku ověřena a potvrzena z naší strany,“ píše v e-mailové odpovědi.

Vzorec je stále velmi podobný. Firmy pracující s biometrickým softwarem se poměrně otevřeně chlubí možnostmi jeho využití v marketingu, dopátrat se praktické podoby nasazení či ji ověřit je však složité. Chuť těžit data z našich obličejů v marketingovém světě však evidentně je.

Dokazuje to třeba nedávný rozhovor s odbornicí na měření pozornosti Karen Nelson-Fieldovou pro časopis MAM: „Pozornost měříme s pomocí kamer s rozpoznáváním obličejů. (…) Pro to se dají využít například už existující pouliční kamerové systémy nebo kamery umístěné na venkovní vybavení. Je docela fascinující, jak se lidé na venkovní reklamu dívají, když třeba znuděně čekají na autobus nebo na vlak,“ popisuje s až voyerským zaujetím univerzitní profesorka analytické procesy odehrávající se ve veřejném prostoru, o kterých veřejnost nemá ani tušení.

Přesvědčte se, jak se dětem daří!

Vidíme, že o systematické rozpoznávání našich tváří mají enormní zájem jak bezpečnostní složky, tak marketingoví čarodějové a obecně soukromý sektor. Je třeba tyto dva světy vnímat jako spojené nádoby, protože se vzájemně doplňují a ovlivňují.

„Dovolíme start-upům z Kalifornie, aby pracovaly s našimi otisky prstů, identifikovaly náš obličej nebo měly přístup do našeho soukromí přes připojené reproduktory, a odmítli bychom, aby nás stát chránil ve veřejném prostoru?“ rozčiloval se v červnu francouzský senátor Stéphane Le Rudulier ve snaze obhájit používání rozpoznávání obličejů na ulici. Ve Francii se má spustit příští rok v souvislosti s Olympijskými hrami.

Paradoxně je to však právě soukromý sektor, který na riziko analýzy našich tváří v současnosti nejvíce upozorňuje. Naše obličeje či hlas totiž nelze využít jen k identifikaci — mohou být také podkladem pro generování nových fotek a nových hlasových záznamů, které však díky pokročilé umělé inteligenci budou vypadat a působit jako my.

Prakticky to znamená, že na základě několika našich fotek či záběrů může vytvořit fotky, na kterých budeme třeba nazí či hajlovat. Zneužití falešného hlasu pak může sloužit třeba k vylákání peněz od příbuzných. Před takovým zneužitím varuje nová kampaň německého telefonního operátora Telekom, která se stala virálním hitem.

Na videu jsou rodiče devítileté Elly v kině konfrontováni s falešným audiovizuálním obsahem, na kterém vidí svou dceru. Obsah přitom vznikl bezhlavým sdílením fotek, kterého se v minulosti dopouštěli. Fenomén sdílení fotek dětí bez jejich souhlasu je známý jako sharenting.

Jakkoli je video součástí snahy velkých firem získat si společenskou přízeň, jak ji popisují zkratky CSR (corporate social responsibility) či ESG (environmental, social and corporate governance), nelze firmě Deutsche Telekom nicméně upřít, že se jí v krátkém čase povedlo efektivně předat poselství o vzrůstajícím významu ochrany soukromí — poselství, které v občanském sektoru nemá významné zastoupení a v politické rozpravě chybí úplně.

Jsme tak svědky podobného paradoxu jako před několika lety, kdy širokou veřejnost o škodlivosti algoritmů sociálních sítí musel poučit dokument Social Dilemma vyprodukovaný Netflixem, jehož byznysový model do jisté míry právě na doporučovacích algoritmech stojí.

Uvidíme, zda se poselství německého operátora, dle kterého bychom měli minimalizovat šíření foto, video i audio materiálů obsahujících biometrické informace nás či našich bližních, skutečně rozšíří a bude mít patřičný efekt. V době, kdy jsou kamerové systémy už i v některých českých školkách, kde úzkostným rodičům umožňují v přímém přenosu sledovat, zda jejich dítě dojedlo oběd — „Podívejte se kdykoliv do školky a přesvědčte se, jak se dětem daří!“ láká jedna z nich —, je už možná pozdě.

Autor pracuje v organizaci Iuridicum Remedium, které jako první zveřejnila dokumenty potvrzující, že česká policie využívá software na rozpoznávání tváří.