↗

„Třeba to rozpoznávání obličejů, to může extrémně pomoct v tom, aby byly zabezpečený veřejný prostory.“ Ilustrace Pixabay

Expert na umělou inteligenci Tomáš Mikolov brojí proti regulacím umělé inteligence a relativizuje její zneužívání v Číně. Ta je přitom využívá k totalitním praktikám včetně genocidy ujgurské menšiny.

Současný boom umělé inteligence zavdal důvod k pořádání řady diskuzí snažících se rozlousknout palčivé otázky: které pracovní pozice, jestli vůbec nějaké, umělá inteligence nahradí? Přinese skutečně záplavu automaticky generovaného a matoucího obsahu? Nebo snad vyhubí lidstvo jako takové?

Jedním z častých hostů diskuzí je po právu Tomáš Mikolov, český vědec, který svým programem Word2Vec podstatně zlepšil výkonnost strojových překladačů. Z hlediska odbornosti bychom patrně skutečně jen stěží hledali někoho zkušenějšího, více v technické praxi zběhlého.

Jeho vyjádření, ve kterých zcela ignoruje dlouhodobé pošlapávání lidských práv v Číně, je však přinejmenším zarážející. Na debatě, kterou pořádal server Lupa 4. května, mimo jiné prohlásil (promluva začíná v čase 54:05): „Jestli ta Čína dokáže vytvořit úspěšnější společnost, která bude prosperovat, nakonec není to to, o co bychom měli usilovat?“

Pro kontext dodejme, že Mikolov svým prohlášením mezi řádky reaguje na dvě věci: jednak na fakt, že Čína bývá vzhledem ke svému systému sledování populace dlouhodobě dávána za odstrašující příklad využití moderních technologií. Jednak na chystaný evropský Akt o umělé inteligenci, který by měl její praktické použití zregulovat, což nejen u Mikolova, ale zejména u velkých byznysových aktérů vyvolává obavy, zda to nepřidusí trhy s nástroji umělé inteligence.

Jen pár dní po zmiňované debatě se europoslanci skutečně vyslovili za zákaz obávaného biometrického dohledu, tedy kamer ve veřejném prostoru, které umožňují rozpoznání jednotlivých tváří. Ignorování a zlehčování faktu, že se nástroje umělé inteligence zhusta využívají k totalitním praktikám, bohužel není nikterak výjimečné. Ani u Mikolova, ani u dalších propagátorů nových technologií.

Hurá, zabezpečme veřejné prostory

V podcastu FINMAG v loňském září se Mikolov pro změnu vyjádřil k systému sociálního kreditu. Ten na některých místech v Číně vede například k tomu, že pokud nejste příkladný občan, nemůžete jet vlakem. „Strašně se bráníme něčemu, čemu nerozumíme, já bych nechtěl soudit, jestli je ten social scoring v Číně dobrý nebo špatný, chci naznačit, že jsou různé pohledy na věc, k něčemu to může být dobré, k něčemu špatné,“ uvedl Mikolov za přizvukování další popularizátorky umělé inteligence, Sary Polak.

Ta s Mikolovovým náhledem evidentně souzní a v kritice „čínské kritiky“ jde ještě dál, když si v listopadu 2021 v dalším podcastu na obranu umělé inteligence vypomáhá tím patrně nejmarnějším argumentem: „Třeba to rozpoznávání obličejů, to může extrémně pomoct v tom, aby byly zabezpečený veřejný prostory.“

Ponechme teď stranou, že „zabezpečením veřejných prostor“ zpravidla začínají ty nejhorší společenská uspořádání a dejme na chvíli Mikolovovi — i Polak — v něčem za pravdu. Ano, evropský odsudek je často nefér, už jen proto, že leckdy jako společnost využíváme — a zneužíváme — technologie velmi podobné těm čínským. Platí to třeba u sociální sítě TikTok, jejíž používání nedávno nedoporučil český Národní úřad pro kybernetickou a informační bezpečnost.

Dosavadní tvrzení o TikToku by jistě šlo leckdy velmi jednoduše aplikovat i na „západní“ sociální sítě. Zdá se tak spíše, že varování před TikTokem, jenž se šíří západním světem, má spíše politické pozadí.

Podobné je to třeba se zjišťováním bonity klienta, v jehož rámci banky po celém světě shromažďují informace o schopnosti klientů splácet své dluhy — ano, za určitých okolností zde lze vidět určité paralely s čínským systémem sociálního skóre. A mohli bychom pokračovat: klidně kamerami podél českých silnic, jejichž data mohou pro kontrolu využít i finanční úřady, či se systémem data retention, v rámci kterého jsou zaznamenávány a půl roku uchovávány informace o pohybu a volání každého českého telefonu...

Každý odstavec začínající: „Hle, u nás je to vlastně trošku podobné, jako v té Číně,“ by však měl končit přesně tam, kde začínají dveře do čínského koncentráku. Jakkoli totiž i v Evropě můžeme vidět zárodky něčeho jako sociální skóre, zatím zde neusilujeme o organizované vymazání celých etnik, za asistence vyspělých technologií. Pojďme si tedy zopakovat, co se v Číně vlastně děje.

Kdybyste měli společenský kredit, neměli byste Hnutí žlutých vest

O čínských koncentračních táborech nejen pro ujgurskou menšinu víme už minimálně šest let. Přestože oproti očekávání vypadají jako designově neotřelá stavení obklopená parky, slouží k systematickému potlačování ujgurské menšiny vyznávající islám. Čínský přístup zahrnující nucené sterilizace, byl mnoha světovými vládami označen za genocidu.

Plastický vhled do toho, jakou roli při tom hrají digitální technologie, přináší třeba francouzský film Big Brother: A World Under Surveillance, který jsme před dvěma lety v rámci Big Brother Film Festivalu promítali v Praze a který je k dispozici on-line.

Film nabízí třeba unikátní rozhovor s architektem čínského systému sociálního kreditu (od času 54:15). Jaký je jeho návod a doporučení? „Nejprve je zapotřebí nastolit mír a stabilitu. Všichni se musí chovat slušně. Potom se můžeme bavit o lidských právech, chápete? Pokud se nedokážete chovat slušně, je vše ostatní zbytečné. Aplikovali jsme správnou technologickou metodu. A opravdu doufám, že ji budeme exportovat do kapitalistických zemí.“

Francouzskému režisérovi následně ironicky říká: „Francie by si měla systém společenského kreditu rychle osvojit, aby potlačila společenská hnutí. Kdybyste měli systém společenského kreditu, žádné Hnutí žlutých vest by nevzniklo. Přišli byste na ně dřív, než by stačili něco podniknout. Mohli byste to předvídat a událostem zabránit. To je velká výhoda společenského kreditu.“

Na dalších záběrech, které režisér propašoval z Číny na kartě v ponožce, se dále dozvíme o QR kódech, které jsou na dveřích ujgurských bytů. Slouží doslova jako čárové kódy pro monitorování jednotlivých rodin, policisté je skenují přes telefon několikrát denně. Umožňují poznat, kolik má rodina členů, jestli jsou doma, co dělají... Bez povolení totiž Ujgurové nesmí Sin-ťiang opustit.

A jak vypadá přímo příchod do táborů, ve kterých se následně potírá ujgurská identita? To ve filmu se slzami líčí jedna z žen, která táborem prošla: „Před příchodem do tábora musíte půl hodiny číst knihu. Před kamerou. Po četbě vás nutí udělat takhle... Pět různých výrazů... Všichni dělají to samé. A oni to natáčí. Potom natáčí pohyb očí, odeberou vzorek vlasů. Musíte jít pět kroků dopředu a pět nazpátek. Měřili nás, aby nás identifikovali. Předpokládám. Aby nás mohli sledovat i v zahraničí, nejrůznějšími způsoby.“

Je-li cestou k prosperitě koncentrák, pak jsem proti prosperitě

Právě podobná vyjádření jsou důvodem, proč z rozvoje pokročilé umělé inteligence část lidí v Evropě nejásá. Systematická identifikace našich biometrických znaků, kterou umělá inteligence umožňuje, je totiž aktuálně tou nejkratší cestou k totalitě. Je více než dobře, že si to poslanci Evropského parlamentu uvědomují.

IT odborníci a obchodníci by se neměli zaklínat „úspěšností“ a „prosperitou“, ale měli by si v první řadě zodpovědět základní otázku: k čemu jejich produkty mohou vést, koho mohou ohrozit a zda je skutečně nutné je vyvíjet a zaplavovat jimi svět. Jsou to často otázky etické až filosofické, ale nikterak obtížné.

Dobrým průvodcem může být třeba již i do češtiny přeložená kniha Etika budoucnosti od Cennydda Bowlese. Radí v ní mimo jiné, aby vývojáři přibrali již od začátku do diskuzí o možném produktu všechny ty, kterých se může dotknout a negativně je ovlivnit. Otázka za sto bodů pak podle něj zní: co by se vlastně stalo, kdybychom produkt nevyvinuli? Nezazní-li jiná odpověď než „nevydělali bychom“, pak je klidně možné produkt — představte si to! — nevyvíjet.

Etika je často povinnou vzdělávací oblastí pro řadu zaměstnání: možná se ocitáme v éře, kdy by měla být povinná i pro IT sektor. V opačném případě, pokud snad jde „prosperita společnosti“ skutečně ruku v ruce s koncentráky a masovým dohledem, pak se bez mučení přiznávám, že budu žít raději ve společnosti neprosperující.