Jak se Facebook stal opiem lidstva

František Vrabel

Sociální síť Facebook už dávno není komunikačním prostředkem, nýbrž platformou sloužící k formování i mapování postojů jednotlivců. Je institucí bezprostředně ohrožující demokracii. Dozrál čas, aby zveřejnil své algoritmy.

Facebook musí zpřístupnit své algoritmy demokratické kontrole a poskytnout k tomu know-how svých vlastních expertů. Dokud se to nestane, bude boj s dezinformacemi bezvýchodný a demokracie po celém světě budou nadále vydány na milost bezohlednému a zrádnému průmyslu. Grafika NajiHabib, pixabay

Není vždy snadné se v boji proti dezinformacím zorientovat v tom, kdo je vlastně náš protivník. S nařknutím, že na internetu šíří nepravdivé informace, se setkávají novináři, politici, vlády, a dokonce i naši vlastní prarodiče.

Přestože žádná z těchto skupin není zcela nevinná, odpověď na otázku, s kým že to vlastně zápolíme, je prostá. Jak totiž na sklonku loňského roku prohlásila facebooková whistleblowerka Frances Haugenová, vinu za všudypřítomnost dezinformací nesou samy algoritmy sociálních sítí.

Od svého spuštění v roce 2004 se Facebook ze sítě sloužící k propojování studentů rozrostl na monstrózní sledovací aparát, jenž ve všech koutech světa rozvrací společenskou soudržnost a demokracii. Hromadí demografická data o svých uživatelích — včetně důvěrných informací, jako je třeba tělesná váha nebo těhotenství — a z nich odvozuje jejich sociální DNA.

Data pro kohokoliv

Firma pak data prodává libovolnému kupci, výrobcem šamponů počínaje a ruskými či čínskými tajnými službami konče. Ti pak můžou pomocí takzvaného mikrotargetingu neboli sdělení šitých na míru oslovovat konkrétní skupiny z celkových 2,9 miliard uživatelů sociální sítě. Facebook tak třetím stranám umožňuje ovlivňovat smýšlení veřejnosti a obchodovat s „lidskou budoucností“ — tedy s prognózami rozhodnutí, jež jednotliví lidé v budoucnu učiní.

A tak je Facebook po celém světě využíván k zasévání nedůvěry v demokratické instituce. Jeho algoritmy vyústily v projevy násilí ve skutečném světě, a staly se rozbuškou genocidy v Myanmaru nebo posloužily náboru teroristů v Jižní Americe, Západní Africe či na Blízkém východě.

Lži o volebních podvodech ve Spojených státech, jež šířil bývalý prezident Donald Trump, zaplavily Facebook v období přímo předcházejícím násilným událostem 6. ledna loňského roku v americkém Kongresu. V Evropě zas Facebook pomohl běloruskému diktátorovi Alexandru Lukašenkovi v jeho zvrácených snahách zneužít uprchlíky coby zbraň proti Evropské unii.

Také v České republice se dezinformace pocházející z Ruska šířily právě přes Facebook. Zdejší kyberprostor zaplavily právě prostřednictvím jeho zákeřného kódu.

Má firma Semantic Visions provedla analýzu, podle níž je průměrný český občan vystaven pětadvacetinásobně většímu objemu dezinformací o vakcínách proti covidu-19 než průměrný Američan (viz graf). Situace je tak zoufalá a kroky vlády tak neobratné, že Čechům nezbývá než se spoléhat na to, že danou hrozbu bude monitorovat a bude jí čelit sama občanská společnost. Oporu tak tápající Češi nacházejí například u dobrovolníků známých jako Čeští elfové.

Graf Semantic visions

Snahy o zmírnění hrozby, již Facebook pro demokracii představuje, zatím selhávají. V České republice se za účelem identifikovat škodlivý obsah Facebook spojil s agenturou Agence France-Presse (AFP). Ovšem s jediným zaměstnancem na částečný úvazek a s minimální kvótou deseti vyvrácených pochybných příspěvků měsíčně jsou takové snahy jen kapkou v moři dezinformací. Takzvané „Facebook files“ zveřejněné deníkem Wall Street Journal ostatně potvrzují, že Facebook zasahuje „pouze u 3-5 % nenávistných projevů“.

Facebook svým uživatelům sice dává možnost nebýt vystaven cíleným a politickým reklamám, ale ani to není víc než pouhopouhé symbolické gesto. Některé organizace jako Ranking Digital Rights jej proto vyzvaly k tomu, aby cílené reklamy v základním nastavení deaktivovala úplně. Bez výslovného přání uživatelů by tedy zůstaly vypnuty.

Ani to by však nestačilo. Zmíněný mikrotargeting, který je v samém jádru obchodního modelu Facebooku, totiž využívá umělou inteligenci k tomu, aby jako droga uchvátila pozornost uživatelů, maximalizovala jejich reakce a oslabila jejich schopnost uvažovat kriticky.

Mikrotargeting je totiž v mnoha ohledech digitální obdobou nedávné opiátové krize v USA. V jejím případě se však americký Kongres rozhodl lidi před drogami razantně chránit prostřednictvím legislativy, jež má zlepšit přístup ke zdravotní péči, vzdělávání a alternativním formám léčby. Chceme-li obdobně vyléčili svět ze závislosti na fake news a lžích, zákonodárci si budou muset uvědomit realitu dezinformační krize a budou muset přijmout patřičná opatření, počínaje vhodnou regulací mikrotargetingu.

Jádro problému tkví v tom, že nikdo mimo sám Facebook neví, jak vlastně jeho složité algoritmy fungují. Mohlo by proto trvat celé měsíce, ne-li roky, než se je podaří rozklíčovat. To znamená, že regulátorům nezbyde nic jiného než spoléhat na to, že je fungováním své firmy provedou sami zaměstnanci Facebooku. Chce-li je ale Kongres k takové forme spolupráce přimět, bude muset zaměstnancům Facebooku poskytnout paušální občanskou i trestněprávní imunitu a finančně je odškodnit.

Deepfakes

Regulace algoritmů sociálních sítí bude jistě tvrdým oříškem. Ve srovnání s mnohem většími digitálními hrozbami, jež se rýsují na obzoru, to však ještě nic není. Takzvané deepfakes — tedy rozsáhlá manipulace s videi a obrázky pomocí umělé inteligence za účelem ovlivnit veřejné mínění — se v americkém Kongresu neřeší téměř vůbec. Zatímco zákonodárci přešlapují nad hrozbou, kterou představuje tradiční obsah, deepfakes představují pro soukromí, demokracii a národní bezpečnost ještě závažnější zkoušku.

A hrozba, kterou představuje korporace Facebook, soustavně narůstá. Nedávná investigace zveřejněná v magazínu MIT Technology Review odhalila, že Facebook přímo financuje dezinformace tím, že prostřednictvím své reklamní složky „vyplácí miliony dolarů z reklamy provozovatelům clickbaitových stránek“.

Úplně všem regulátorům by navíc měla naskakovat husí kůže z plánů výkonného ředitele společnosti Marka Zuckerberga vybudovat metaversum, tedy „propojení fyzické, rozšířené a virtuální reality“. Jen si představte, jaké škody by neregulované algoritmy řízené umělou inteligencí mohly způsobit, kdybychom jim umožnili stvořit zcela novou realitu, jež by si podmanila miliardy lidí.

Po nedávných slyšeních ve Washingtonu zopakoval Zuckerberg nabídku, kterou učinil už dříve: regulujte nás. „Nemyslím si, že by soukromé společnosti měly o všem rozhodovat samy za sebe,“ napsal na Facebook. „Jsme odhodláni odvádět co nejlepší práci, ale v určitém smyslu tím správným orgánem pro posouzení kompromisů mezi různými společenskými hodnotami je náš demokraticky zvolený Kongres.“

Zuckerberg má pravdu: Kongres má povinnost jednat. Stejně tak ale i Facebook. A může začít tím, že Kongresu objasní, jaké konkrétní společenské základy nadále podrývá a jakým přesně způsobem.

Jinak řečeno Facebook musí zpřístupnit své algoritmy demokratické kontrole a poskytnout k tomu know-how svých vlastních expertů. Dokud se to nestane, bude boj s dezinformacemi bezvýchodný. A demokracie po celém světě budou nadále vydány na milost a nemilost bezohlednému a nedůvěryhodnému odvětví.

Z anglického originálu How Facebook Became the Opium of the Masses publikovaného internetovým magazínem Project Syndicate přeložil DANIEL KOTECKÝ.