↗

Mohou být zpravodajství a informační infrastruktura — tedy živná míza jakékoliv demokracie — závislé na digitálních technologiích, které pro své obrovské obecenstvo vytváří možnosti celosvětové svobody vyjádření, zatímco algoritmičtí (tedy ne-lidští) aktéři se zasazují o dosud bezprecedentní šíření mylných zpráv a dezinformací? Foto Alexandre Dulaunoy, Flickr

Po celém světě se Evropská komise těší pověsti předního regulačního aparátu velkých technologických firem. V jejím čele stojí komisařka Margrethe Vestagerová, která zodpovídá za „Evropu digitálního věku“ a jejíž nejnovější zásluhou jsou návrhy Zákona o právu na digitální služby a Akt o digitálních trzích, oba navržené 15. prosince. Avšak už 6. ledna, kdy celý svět sledoval útok rozlíceného davu na americký Kapitol, se ukázalo, jak nedostačující tyto zákony jsou.

Útok na samotné srdce americké demokracie byl podnícen a naplánován přes Facebook, Twitter a další digitálně-mediální platformy, což je pro Evropu velké varování. Přístup komise je však bohužel nedostatečný, protože se nedovede vypořádat s toxicitou firemního modelu těchto digitálně-mediálních platforem.

Vestagerová staví na zprávách o hospodářské soutěži, kde jsou Zákon o právu na digitální služby a Akt o digitálních trzích pojímány v rámci jejich dopadů na soutěž a na koncového spotřebitele. Avšak většinu z těch nejhorších zvěrstev, které velké technologické firmy páchají, nelze nahlížet a řešit prizmatem soutěže a konkurence. Návrhu komise chybí nejen opravdová regulační moc, ale vůbec pochopení způsobů, jakým digitálně-mediálními platformy vlastně fungují — mí známí v Silicon Valley si teď upřímně klepou na čelo.

Frankensteinovo monstrum

Od momentu, kdy se na scéně před patnácti lety objevily „sociální sítě“, se demokracie po celém světě podílejí na obrovském experimentu. Mohou být zpravodajství a informační infrastruktura — tedy živná míza jakékoliv demokracie — závislé na digitálních technologiích, které pro své obrovské obecenstvo vytváří možnosti celosvětové svobody vyjádření, zatímco algoritmičtí (tedy ne-lidští) aktéři se zasazují o dosud bezprecedentní šíření mylných zpráv a dezinformací?

Všechno napovídá tomu, že tento experiment se vymyká z kontroly, podobně jako Frankensteinovo monstrum, které ničí a plení naše sociální prostředí. Facebook je momentálně největším mediálním gigantem v dějinách a své služby publikace a vysílání poskytuje 2,6 miliardám pravidelných uživatelů. Dalším miliardám lidí je prostředkuje přes své dceřiné společnosti WhatsApp a Instagram. Sto dezinformačních zpráv o covidu-19 bylo na Facebooku sdíleno 1,7 milionkrát, a těšilo se 117 milionům shlédnutí — to je mnohem větší veřejný zájem, než kterému se dohromady těší New York Times, Washington Post, Daily Mail, Le Monde, Süddeutsche Zeitung, ARD, BBC a CNN.

Ve více než 70 zemích se digitálně-mediální impéria podílela na dezinformačních kampaních za účelem změny výsledků voleb — na Filipínách dokonce napomáhala zvolení kvazi-diktátora — a umožnila šíření často živých nahrávek zneužívání dětí, pornografie či masové vraždy, jako v případě střelce z Christchurch. Jak pak můžeme očekávat, že dosáhneme jasných výsledků v otázce klimatických změn, když většina videí na YouTube, která si berou za téma klimatické změny, popírá vědecké poznatky a když sedmdesát procent z toho, co lidé na YouTube sledují, získalo publikum zásluhou senzacechtivého algoritmu, který jim stále doporučuje další podobná videa?

Tradiční média musí ctít zákony a regule a nesou jistou míru odpovědnosti za to, co vypustí do světa. Ačkoliv existuje hodně prostoru pro kritiku, aspoň víme, že k výběru zpráv využívají živé lidi, kteří řeší, co se do hlavního zpravodajství dostane a co ne. To s sebou nese jistou míru odpovědnosti, protože tato rozhodnutí mohou pak být korigována žalobami či jinými způsoby kontroly.

Ale algoritmy jedou na automat. To je v kontextu demokracie nebezpečné — jsou skoro jako zabijácké drony, z jejichž činů se nemusí zpovídat žádný člověk. Tyto firmy vnesly do společnosti rozkol a rozhořčení, a to do té míry, že takto rozklížená společnost už nesdílí základní pravdy ani nedává společným zkušenostem sdílený smysl. Mimolidské procesy selekce, které působí ruku v ruce se zásahem neomezeného množství příjemců a s jednoduchými možnostmi sdílení, nejsou schopny poskytnout jakýkoliv základ pro demokratickou infrastrukturu médií.

Vadný model

Zdá se, že Vestagerová a její komise si tedy neuvědomují, že v řešení těchto nebezpečných prohřešků paradigma soutěže naprosto selhává. Je pravda, že konkrétní návrhy pro Zákon o právu na digitální služby a Aktu o digitálních trzích mají svá opodstatnění. Pokud se stanou součástí platného práva, pak by digitální služby a trhy všech členských států Evropské Unie řídila jediná sada zákonů namísto současných sedmadvaceti. Firmy by nesly větší odpovědnost za odstranění velmi vágně definovaného „nelegálního obsahu“ (což je v jistém smyslu unijní verze německého zákona o Facebooku). Legislativa se v mnohém odkazuje na transparentnost platforem a algoritmů. Ale abych zde parafrázoval jedno přísloví Silicon Valley: „Lež je dávno přes půl světa dřív, než si transparentnost vůbec obuje boty.”

Spotřebitelé navíc mají právo odhlásit se z odebírání služeb algoritmického doporučení. Avšak to v podstatě staví odpovědnost naruby: normální stav by měl být, že bez uživatelova souhlasu se soukromá data nemohou sbírat. Proč tedy EU i nadále nechává fungovat tento vadný model i s jeho obtěžujícími procesy sledování, které k němu nedílně patří?

Dosavadní přístup komise prostě není dostatečně rázný, aby dovedl vzdorovat specifickým rysům velkých technologických firem, což si žádá nový přístup. Vzhledem k tomu, že Silicon Valley neúnavně inovuje, aby mohlo i nadále lépe porušovat či obcházet nastavená pravidla, je nejvyšší čas tento model resetovat — nejen proto, abychom zachránili naše demokracie, ale také abychom nastavili co možná nejlepší podmínky pro změnu těchto digitálně-mediálních technologií, která by nám umožnila znovu objevit jejich pozitivní možnosti a zároveň omezila jejich rizika.

Digitální infrastruktura

Velké technologické firmy vytváří veřejnou globální infrastrukturu digitálního věku. To znamená vyhledávače (Google), zpravodajské a mediální portály (Facebook, Twitter, Instagram, WhatsApp), film, hudbu a živý streaming (YouTube, Netflix, Spotify, Zoom), navigaci (Google, Apple), trhy (Amazon, Amazon, Amazon) a platformy pracovního trhu (Uber, Upwork, Amazon Mechanical Turk, Clickworker).

Tyto firmy nám velmi rády připomínají, že to vše poskytují zadarmo — že jediné, co musíme, je poskytnout jim neomezený přístup k našim soukromým datům. Ale to se ukázalo jako vysoká cena. Vestagerová sama zpochybňuje, že tyto služby jsou opravdu zadarmo, a mimo jiné prohlásila: „Já bych chtěla mít Facebook, kde bych platila každý měsíc jistou částku, ale bylo by to bez reklam, nebyla bych sledována a měla bych všechny výhody soukromí.“

Proč je tedy tak opatrná? EU by měla požadovat zcela nový tržní model, který by tyto firmy chápal jako služby vlastněné investory. Když se ohlédneme zpět do historie, zjistíme, že právě takto naložily Evropa a Spojené státy americké s telefonním, železničním a elektrickým průmyslem. Ostatně i Mark Zuckerberg sám takový přístup navrhl. Jako služby by spadaly pod digitální licenci — stejně jako tradiční kamenné obchody musí žádat o různé povolení a licence —, čímž by se definovala konkrétní pravidla a možnosti regulace tohoto tržního modelu.

EU by tedy měla svůj digitálně-mediální trh přenastavit na aktuálnější sadu hodnot, než je pouhá „soutěž“. Mimo zmíněného modelu služeb zahrnují další možné rámce koncepce „produktové odpovědnosti“ či důvěrnou „povinnost péče“, v níž které se firmy musí řídit takřka Hippokratovou přísahou a ctít princip opatrnosti, která si klade za cíl především „neškodit“. Britské orgány už tomuto přístupu začínají stavět základy; EU by se v tomto snažení měla stát jejich partnerem.

Kapitalismus dohledu

Tyto firmy se nikoho neptaly, zda mohou sbírat soukromá data či sledovat naši polohu, zda smějí z každého „lajku“, z každého sdílení či sledování vytvářet psychologické profily svých uživatelů, díky nimž na ně mohou lépe cílit a manipulovat jimi reklamní agentury a pochybní političtí hráči. Tuto krádež dat začaly digitální společnosti potají, čímž se podílely na utváření destruktivní dynamiky „kapitalismu dohledu“.

Ale když už o tom teď společnost ví, měla by to nechat jen tak být? Nemělo by být spíše normální, aby platformy v zásadě vždy musely žádat o uživatelův souhlas s přístupem k jeho informacím — takže uživatelé by spíše dávali souhlas se sběrem dat, než se dožadovali zpětně ochrany svého soukromí? Dokonce i chválené ustanovení General Data Protection Regulation (GDPR) má v sobě plno trhlin, kterými je možné platná nařízení obejít.

Nové chápání těchto platforem jako služeb by podpořilo opravdovou soutěž tím, že by současně omezilo obrovský počet uživatelů těchto mediálních nástrojů. Opravdu potřebuje běžný uživatel komunikovat s tisíci či miliony uživatelů? V celých dějinách lidstva k takovému počtu lidí nepromlouvala ani většina králů či premiérů.

Omezeno by také mělo být využívání konkrétních technologií, jako jsou cílené nabízení obsahu a reklam, automatická doporučení, podbízivé nabídky (automatické přehrávání videí, vyskakující okna), dark patterns a sociální bubliny, které usnadňují manipulaci.

Firemní model hráčů ze Silicon Valley nebyl seslán od Boha ani nevznikl důsledkem přírodních zákonů. Měl by proto podléhat procesům demokratické kontroly a vládním regulacím. Avšak EU, stejně jako Spojené státy, v tomto ohledu selhávají.

Vlády členských států Evropské unie by měly přinejmenším aktualizovat své současné zákony tak, aby se jasně vztahovaly také na on-line svět. Mnoho zemí má například zákony, které omezují násilí a reklamu v kreslených seriálech a dalších televizních programech pro děti. Avšak YouTube či YouTubeKids z dílny Google už dlouhá léta tato pravidla porušují.

Zombie kategorie

Vzhledem k tomu, kolik je v sázce, není jasné, proč se Evropská komise nadále pořád jen ohání chabou a omezenou koncepcí „volné soutěže“. Evropský důraz na soutěž začal již s prezidenstvím Josého Luise Barrosa (2004—2014), tedy v dobách, kdy hlavním cílem komise bylo udělat z EU „nejkonkurenceschopnější ekonomiku na světě“.

Tento záměr se rozpadl s celosvětovou krizí roku 2008, kterou rychle následovala krize eurozóny roku 2010, avšak jeho vliv přetrval v pozdější evropské posedlosti úspornými opatřeními. Dnes se ze „soutěže“ stala tak trochu zombie kategorie — ani mrtvá, ani živá. Tento fakt dokládají právě chabé snahy komise o vytvoření jakéhosi rámce pravidel pro velké technologické firmy.

Neefektivní regulace je dokonce horší než žádná, protože skýtá falešný pocit ochrany. Úkolem pro současnost je tedy zajistit rozumný rámec pro infrastrukturu 21. století, abychom byli schopni využívat to nejlepší, co tyto technologie nabízí, a omezit jejich nebezpečí na minimum. Podobně jako tomu bylo s příslibem samotného internetu, začínaly i digitálně-mediální platformy jako malé projekty, které se však neskutečným tempem rozrostly do monopolních gigantů a zavedly si vlastní, chamtivá pravidla, která ohrožují naši demokracii — stejně jako ostatně ohrožují i svobodnou soutěž.

Je načase skoncovat s érou seberegulace a zdá se, že komise tuto potřebu chápe. Je však zapotřebí ještě mocnějších demokratických rámců, než jaký dovede nabídnout dnes již zastaralý, technokratický důraz na svobodnou soutěž.