Operace Fénix: Co přinese rozvoj umělé inteligence v policejních metodách
Tomáš ZelenýFénix I a II pro policii zatím znamenaly více ostudy než úspěchu — a to i za hranicemi naší země. Autor se zamýšlí nad tím, jak by mohl probíhat případný Fénix III a další za použití umělé inteligence ve vyšetřování.
Zatím nepravomocně zprostil mostecký okresní soud v případu Fénix II skupinu „levicových extremistů“ obviněných za údajnou propagaci Sítě revolučních buněk. Několik let trvající proces dopadl podobně neslavně jako jeho předchůdce Fénix I, ve kterém dva policejní agenti infiltrovali skupinu anarchistů, kterou podněcovali k přípravě „teroristického útoku“. K radosti ovšem není důvod, na Fénix III nebo Fénix IV může dojít prakticky kdykoliv.
Důvody pro to jsou dva. Zaprvé je v zájmu bezpečnostních složek státu udržovat „extremistickou scénu“ ve strachu. Dlouhé vyšetřovací a soudní oplétačky fungují jako spolehlivý nástroj k zastrašení nekonvenčních politických názorů. Hrozba vyšetřování dokáže rozložit fungující skupiny, rozhádat kamarády a odstrašit příliv nových sympatizantů. Politika zastrašování je prostě základním stavebním kamenem „boje proti extremismu“ v jakémkoliv režimu.
Zadruhé někdo v letech 2014 až 2016 skutečně zapálil snad tucet — nejen — policejních vozidel a dálniční mýtnou bránu. Pachatelé těchto činů zatím nebyli dopadeni. Bylo by naivní se domnívat, že se policie přestala neobjasněnými činy zabývat.
Právě proto, že policie v prvních dvou Fénixech neskončila ověnčená vavříny, může se nyní snažit svou reputaci napravit.
Průběh prvních dvou politických procesů s „levicovými extrémisty“ ukázal, jak moc může horlivé počínání policie zasáhnout do života nevinných lidí: zbavit je na mnoho měsíců svobody, způsobit psychické problémy, zničit partnerské a přátelské vztahy nebo zkomplikovat profesní rozvoj.
Z naprosto banálních situací jsou paranoidně uvažující vyšetřovatelé schopni vytvořit v úředním záznamu fantaskní hypotézy. Policejní výmysl nebo třeba lež vymyšlená účelově s cílem odůvodnit žádost o povolení odposlechu se v průběhu času, kopírováním do dalších a dalších úředních záznamů, stává ostatními státními orgány uznávanou pravdou.
Předpoklad správnosti policejních záznamů a absence přiznávání vlastních chyb je u policisty zhoubná kombinace. Právě kvůli tomu se z nevinné osoby může postupem času stát doslova lovná zvěř. Nezáleží na tom, že nic nenasvědčuje tomu, že by podezřelý něco spáchal. Pokud nebylo nic usvědčujícího zjištěno, je to jen důkaz jeho dobré konspirace. Jakmile se dá takové policejní soukolí jednou do pohybu, nešťastník neunikne. Jediné, co mu zbývá, je nespolupracovat a vyšetřování řádně „švejkovat“.
Policejní provokace v USA
Průběh prvních dvou Fénixů nepřinesl nic originálního. Modus operandi Sítě revolučních buněk jen kopíruje taktiku různých povstaleckých hnutí po celém světě — ideologicky motivované skupiny či jednotlivci skrytě provádějí záškodnické akce proti státním nebo jiným aktérům. K provedeným akcím následně šíří různými kanály svá prohlášení, kterými se snaží inspirovat své potenciální následovníky.
Pro celou řadu regionálních nebo globalizovaných povstaleckých hnutí je právě prohlášení o provedené akci jediným komunikačním prostředkem, který současně umožňuje chránit anonymitu strůjců.
Skutečnost, že tuto taktiku mezi sebou jednotlivá povstalecká hnutí přejímají, dokládá diskurzivní a jazyková analýza, kterou zpracoval Michael Loadenthal z George Mason University v americkém Fairfaxu. V několika stech analyzovaných prohlášení z desítek zemí světa jsou mimochodem zahrnuta také dvě prohlášení k útokům na policejní vozidla v u nás v roce 2015.
S ničím novým nepřišel ani tehdejší Útvar odhalování organizovaného zločinu, který Síť revolučních buněk vyšetřoval. Ostatně bezpečnostní složky mají na mezinárodní úrovni dobře vedenou spolupráci a vzájemně si své zkušenosti předávají. Vyšetřovatelé nasazením agentů provokatérů mezi anarchisty jen zkopírovali protiteroristickou taktiku, která se hojně používá ve Spojených státech.
Po teroristických útocích v září 2001 v USA díky policejní infiltraci narostl počet odhalených plánovaných teroristických útoků.
Na druhou stranu, nařknout z přípravy terorismu, je možné prakticky kohokoliv, kdo nevhodně vypráví o svých touhách zničit cizí majetek z ideologických důvodů. Pokud infiltrovaný provokatér svým obětem trochu dopomůže, lze vytvořit důkazy, které pošlou nešťastníka na dlouhé roky do vězení.
Svědčí o tom například příběh amerického eko-aktivisty Erica McDavida, který byl v roce 2004 infiltrován provokatérkou FBI a následně odsouzen ke dvaceti letům ve vězení za přípravu bombového útoku na přehradu. Po osmi letech a 360 dnech se však dostal v lednu 2015 na svobodu, když vyšlo najevo, že obžaloba zatajovala tisíce stran důkazů svědčících v jeho prospěch. Provokace se tak v jeho případě provalila.
Infiltracemi a provokacemi teroristických skupin se dlouhodobě zabývá profesor kriminálního práva Jesse J. Norris ze Státní univerzity v New Yorku. Ve studii věnující se mezinárodnímu srovnání analyzoval přibližně 150 infiltrací „teroristických“ skupin ve Spojených státech a zhruba padesát infiltrací v dalších dvaceti zemích světa.
Z výsledků vyplývá, že v zemích mimo USA dochází ke zproštění infiltrovaných z důvodu prokázání provokace daleko častěji — a to především z důvodu odlišnosti amerického právního systému. Jako policejní exces vyčnívající i v mezinárodním srovnání je v uvedené práci popsán také český případ útoku na vlak.
Možné taktiky
Méně se ví o tom, že se v případu Fénix I pokoušeli policisté ještě o jeden klasický trik. Když byl Martin Ignačák — obviněný z přípravy teroristického útoku v dubnu 2015 — umístěn do vazby, měl na počátku spoluvězně, který rád nahlas předčítal své dopisy o vlacích s vojenským materiálem. Přesně o takových vlacích, na které měl dle obvinění Martin Ignačák připravovat útok. Náhoda?
Je pravděpodobné, že vyšetřovatelé Ignačákovi do cely nastrčili někoho, kdo se měl stát pozdějším svědkem u soudního líčení. Ani tato policejní praktika při vytváření „důkazů“ není ničím neobvyklým. Svědectví spoluvězně bylo použito například v kauzách Lukáše Nečesaného a Jaroslava Bartáka. Martin Ignačák po svém zadržení během policejních výslechů nevypovídal a odmítl se bavit i se svým spoluvězněm. V obou případech udělal to nejlepší.
V dosavadním vyšetřování žhářských útoků nemá policie příliš mnoho sesbíraných stop, ale ve spisech spekuluje o mnoha podezřelých. Pokud bychom se chtěli pustit do spekulací, jaké triky pro konstruování důkazů by mohli vyšetřovatelé Fénixů — Zlata Pálfiová, Martin Janků, Petr Nagy a Lukáš Kořínek — vytáhnout příště?
Nejčastější jsou sociální metody. Podezřelý se rozpovídá před osobou, které důvěřuje, způsobem, který je pak vykládán jako doznání nebo „svěření se“ o svém účastenství na trestné činnosti. Důvěrník je většinou policií nastrčeným agentem nebo jinak spolupracující osobou.
Nutno dodat, že v této kategorii zpětné infiltrace jsou známé zahraniční případy, které vedly k odsouzení především skutečných útočníků. Ovšem ani při takovém zpětném vyrábění důkazů nelze vyloučit obvinění nevinných lidí kvůli možnému zkreslení či falešnému svědectví nasazeného špeha. Ten může mít pro svou spolupráci s policií i dosti nečestné motivace, které mohou záviset na výsledku.
V jednom z nejznámějším z nich policie vyšetřila žhářské útoky dvacetičlenné skupiny environmentálních aktivistů z Earth Liberation Front z let 1996 až 2001. FBI většinu z nich identifikovala až několik let poté, co s útoky přestali. Chyběly však usvědčující důkazy. Vytipovala si proto jednoho z bývalých členů skupiny, který měl v té době problémy s drogami. Ten po nátlaku výměnou za nižší trest pomohl pořídit nahrávky a spustit v roce 2004 Operaci Backfire. Většina členů skupiny skončila s mnohaletými tresty odnětí svobody.
V jiném případě — v kauze Waltera Bonda, osamělého vlka Animal Liberation Front, odsouzeného na dvanáct let — pořídil usvědčující nahrávky jeho vlastní bratr.
Vyšetřovatelé mohou teoreticky zorchestrovat i zátah na podezřelého těsně před uplynutím promlčecí lhůty. Takto se policie neúspěšně pokusila usvědčit Pavla Šrytra, kterého podezírala z vraždy jednoho z bossů podsvětí devadesátých let minulého století. V roce 2016 jej umístili do vazby a obvinili ho na poslední možnou chvíli, než uplynula dvacetiletá promlčecí lhůta. U soudu byl ale zproštěn. Policisté zřejmě věřili svému přesvědčení natolik, že chtěli alespoň zkusit, zda by to náhodou u soudu vyšlo. Neměli však dostatečné důkazy.
Nové metody umělé inteligence
Některé taktiky používané povstaleckými hnutími nebo aktivisty v minulosti jsou dnes naprosto nepoužitelné, protože míra sekuritizace společnosti výrazně narostla. Zatímco v sedmdesátých letech minulého století se členové různých revolučních a separatistických hnutí skrývali na území západoevropských zemí i několik let, hon na současné teroristy je přenášen médii prakticky v reálném čase.
Pokud někdo v osmdesátých letech udělil políček příslušníku veřejné bezpečnosti a vzápětí prchnul nepoznán do tmy, nemusel se obávat, že na něj bude při návratu čekat před bytem komando zásahové jednotky — jako by tomu bylo s trochou nadsázky dnes. Lze očekávat, že trend všudypřítomné kontroly se bude prohlubovat a prostor pro jakékoliv vybočující chování zužovat.
Další z prostředků, k nimž může policie sáhnout, aby získala důkazy pro obvinění podezřelých, se nabízejí v oblasti technologií a digitalizace dat. Například počítačová síť TOR, která slouží k anonymnímu přístupu na web a byla používána také některými anarchisty v kauze Fénix II, může být prolomena novými prostředky.
Nedávno schválená novela zákona o Vojenském zpravodajství, která má za cíl bojovat proti kybernetickým útokům, umožňuje monitoring kyberprostoru „in-line“ sondami zapojenými u provozovatelů síťových služeb. Pokud by došlo k rozmístění takových sond globálně v návaznosti na uzlové body sítě TOR, mohlo by dojít až k prolomení anonymity uživatelů této služby.
Uvedená novela zákona zavedla navíc další pravomoc — aktivní zásah —, což je zákonem blíže nedefinovaná kybernetická operace, o jejíž provedení může požádat vojenské zpravodajce také policie. Tudíž by se teoreticky mohlo stát i to, že se v rámci vzniklé kybernetické hrozby vloží do počítače domnělého útočníka podvržený datový obsah.
Překotný rozvoj zažívá také identifikace pomocí biometrického zpracování tělesných charakteristik, zejména obličeje. Ještě v dubnu 2015 u výslechů při samotné razii Fénix se policie dotazovala na totožnost různých neznámých osob na fotografiích. Jednalo se pravděpodobně o osoby, které na kožešinových farmách získávaly materiály o životních podmínkách norků a lišek pro kampaň Obránců zvířat. Dnes už by se na ně díky rozvoji biometriky nejspíš neptala.
V roce 2019 vešla v účinnost novela zákona o Policii České republiky, která policii umožňuje za účelem identifikace osob zpracovávat digitální fotografie z informačních systémů evidence občanských průkazů a cestovních dokladů. Novela má především umožnit identifikaci osob neznámé totožnosti na základě biometrických údajů z fotografie.
Funkčnost biometrické identifikace si ovšem dnes díky službám jako PimEyes nebo Clearview AI může vyzkoušet kdejaký „domácí detektiv“. Uvedené služby umožňují vyhledání lustrované osoby na základě nahrání fotografie obličeje a následného porovnání jeho biometrických charakteristik s fotografiemi v obsahu internetu. Technologický vývoj se však může paradoxně obrátit proti samotným vyšetřovatelům — i je lze v uvedených aplikacích dohledat.
Na poli biometrického rozpoznávání je šokující především databáze fotografií společnosti Clearview AI, která obsahuje miliardy fotografií nashromážděných z různých veřejných zdrojů a sociálních sítí včetně Facebooku nebo Twitteru. Uvedená společnost přitom deklaruje, že v blízké budoucnosti bude schopná rozpoznat téměř všechny obyvatele planety jen na základě fotografie nebo kamerového záznamu. Její služby zatím využívaly především bezpečnostní složky různých států. Společnost se ale snaží rozšířit své služby i privátním subjektům.
Kontroverzní evropská superdatabáze
Evropský parlament ve svém usnesení v říjnu 2020 označil databázi fotografií společnosti Clearview AI za ilegální a apeloval na členské státy, aby zakázaly svým bezpečnostním složkám tyto databáze při vyšetřování využívat.
Policejní prezidium České republiky na dotaz na základě zákona o svobodném přístupu k informacím sdělilo, že česká policie služby společnosti Clearview ani jiné podobné soukromé databáze nepoužívá, přesto ale buduje svou vlastní biometrickou databázi. Centrální biometrický informační systém za stovky milionů korun by měl integrovat celou řadu různých způsobů biometrické identifikace. Do budoucna pak počítá s identifikací dle oční duhovky či sítnice, ale také dle hlasového záznamu. Nicméně s rozvojem technologie lze předpokládat, že v budoucnu bude možné identifikovat fyzické osoby jen na základě způsobu chůze nebo jiných behaviorálních znaků zachycených kamerovým systémem.
S biometrikou úzce souvisí také forenzní využívání umělé inteligence, která na základě obrazového záznamu rozeznává emoce nebo různé nestandardní chování. Ovšem nemusí jít jenom o obrazový záznam, umělou inteligenci lze využívat při „prevenci kriminality“ na základě přístupu k sociálním sítím, geolokačním datům nebo databázím státních institucí.
Na základě typických charakteristik, které se opakují u již trestaných osob, mohou algoritmy umělé inteligence vytipovat ty, na které se následně zaměří pozornost policie. Různé „pre-crime“ programy připomínající známé scifi Minority Report, se ve světě používají již několik let.
V českých zemích po zapojení umělé inteligence do trestního řízení volá ve svých výročních zprávách také Nejvyšší státní zastupitelství. Lze si představit, že jednou bude autonomní algoritmus hodnotit veřejně dostupná data o každém z nás a třídit nás do různě rizikových kategorií občanů, které budou podrobeny různě přísnému dohledu donucovacích orgánů.
Nedávné zjištění zveřejněné v britském Guardianu popisuje, jak se něco podobného připravuje také v Evropské unii. Europol nashromáždil trestní spisy z členských států, data získaná z veřejně dostupných databází, z kompromitovaných komunikací celých on-line platforem a řady dalších zdrojů. Celkem se jedná o neuvěřitelné čtyři petabajty informací, které obsahují nejen data o konkrétních podezřelých, ale také osobní údaje získané necíleně na osoby bez jakéhokoliv podezření na protiprávní jednání.
Databáze by měla obsahovat informace o minimálně čtvrt milionu osobách, tudíž lze očekávat, že se v ní nachází tisíce, možná i desetitisíce Čechů. Pravděpodobně se budou v této databázi nacházet také spisy Fénix I a II. Databáze má do budoucna sloužit k rozkrývání trestné činnosti s mezinárodním prvkem, přičemž právě ve Fénixu byly použity instituty mezinárodní justiční spolupráce mnohokrát. V databázi ale může zřejmě objevit kdokoliv, například účastníci klimakempů či jiných protestních akcí.
Zhruba tisíc zaměstnanců Europolu by všechny nashromážděné informace četlo několik století. Vyvíjejí proto umělou inteligenci, která by byla schopná celý obrovský balík vytřídit. V roce 2020 za tyto plány dostal Europol veřejné napomenutí od Evropského inspektora na ochranu údajů, nově pak inspektor požaduje smazání všech dat starších šesti měsíců. Europol s tímto postupem nesouhlasí a navíc se snaží zlegalizovat získávání dat od všech evropských bankovních institucích o platbách a od leteckých dopravců o pasažérech.
I mistr počítač se někdy utne
Problém biometrického rozpoznávání a umělé inteligence spočívá v chybovosti, na kterou mohou opět — jako při Fénixech — doplácet neviní. Upozorňoval na to právě také Evropský inspektor ochrany údajů v rozhodnutí o veřejném napomenutí Europolu, kdy zmiňoval tři problematické okruhy takovéhoto zpracování dat: pravdivost údajů, spolehlivost analýzy a rozhodovací proces ze strany analytika.
Ve spisu Fénix, který je pravděpodobně uložen v archivu Europolu někde v Haagu, je základní problém již v prvním předpokladu, tedy pravdivosti údajů ve spisu. Vyšetřovatelé v úředních záznamech uvádějí řadu prokázaných i prokazatelných nesmyslů, spekulací a účelových lží, které se ve spisu opakují. U zcela náhodných osob jsou v tomto spisu vymyšleny popisky typu „vůdce Antifa“, „člen kolektivního orgánu Sítě revolučních buněk“ nebo „vůdce české pobočky ALF“. Na jiném místě se pak nacházejí seznamy lidí navštěvujících prostě jen „extremistické“ hudební koncerty. Spolehlivost analýzy takovýchto dat naráží na samotné limity umělé inteligence, kterými jsou například pochopení sarkasmu a ironie.
Až bude jednou umělá inteligence Europolu spuštěna, může způsobit bezprecedentní zásah do práv jednotlivců. Čistě hypoteticky si představme: Osoba zcela neprávem uvedená ve spisu Fénix pojede na dovolenou k moři do Řecka, kde zrovna někdo posprejuje věznici symbolem A v kroužku. Europol pak z dat od letecké společnosti nebo díky platbě kartou v obchodě zjistí, že obvyklý podezřelý se nachází v blízkosti místa činu. Dotyčný pak bude namísto procházky po antických památkách nebo válení na pláži podávat vysvětlení na policejní stanici o tom, kde se v době činu nacházel. Paranoidní představa? Snad…
Zatímco v případě lidské chyby můžeme zpětně hodnotit, proč k ní došlo, v případě chyby algoritmu strojového učení toho schopní jen tak nebudeme. Jaké důsledky může mít využití nových technologií pro budoucí vyšetřování „levicových extremistů“ si nejspíš dnes jen tak nepředstavíme. Nemělo by nás to však nechávat chladnými.
Spoléhat na to, že nové technologie budou sloužit jen proti závažné kriminalitě není na místě. Technické prostředky původně určené pro jeden konkrétní účel se typicky s postupem času využívají pro další a další. V anglicky psaných zdrojích — včetně některých orgánů Evropské unie — se pro to používá pojem function creep, tedy něco jako „funkční rozlézání“.
Získané pravomoci pro sledování teroristů nebo jiných závažných hrozeb budou jednou pravděpodobně použity k předcházení hrozeb méně závažných. Umělá inteligence nebo biometrický dohled by mohly — zvláště nedemokratickým režimům — dobře posloužit při sledování novinářů, opozičních politických skupin či lidskoprávních aktivistů. Pak si ještě se slzou v oku vzpomeneme na „staré dobré policejní provokace“.