Když jsem v průběhu lockdownu sledovala z archivu ČT britskou minisérii Roky a roky z produkce BBC natočenou krátce před propuknutím pandemie covidu-19, netušila jsem, že seriál vykreslující blízkou dystopickou budoucnost lidstva bude tak trefný.

Kromě uprchlíků z Ukrajiny, kteří v seriálu přišli do celé Evropy, masivního propouštění v důsledku automatizace a nástupu umělé inteligence seriál dokonale vykresluje vzrůst politického populismu a manipulaci veřejného mínění v rámci volebních kampaní díky tzv. deep fakes, tedy falešných zpráv vytvořených umělou inteligencí.

V seriálu, kde populistickou političku bezvadně ztvárňuje Emma Thompsonová, sledujeme osud jedné rodiny v průběhu patnácti let a proměnu společnosti, která až mrazivým způsobem připomíná naši současnost.

Internet přestává být lidský

Letos v květnu jsme zaznamenali jeden z významných milníků historie internetu. Podle výzkumu společnosti Graphite poprvé v historii převážil obsah generovaný umělou inteligencí nad obsahem psaným lidmi. Na tento možný vývoj ostatně upozornila již v roce 2023 studie Evropského parlamentu, která předpovídala, že do roku 2026 by mohlo být synteticky generováno až 90 % veškerého online obsahu.

Tento stav globální reality digitálního prostoru vyvolává nové a zásadní otázky pro fungování naší společnosti, demokracie a lidských práv. Je jen otázkou, kolik lidí si dnes uvědomuje, jak mohou sociální sítě a informace online ovlivnit výsledky voleb a potenciálně celou naši na demokracii založenou společnost.

Cambridge Analytica — koordinovaná snaha o shromažďování a zneužití údajů uživatelů Facebooku za účelem cíleného oslovování a manipulace voličů v USA během prezidentských voleb v roce 2018 patří dnes již mezi historické milníky, dohledatelné v učebnicích politologie. Od té doby jsme každým rokem svědky nových a sofistikovanějších pokusů o ovlivňování voleb a veřejného mínění prostřednictvím online platforem a umělé inteligence.

Naše rostoucí závislost na online platformách jako primárních zdrojích informací — platformách, které často postrádají redakční dohled, moderaci nebo procesy ověřování faktů, jaké jsou obvykle spojovány s tradičními médii, tento trend jen umocňuje.

Severoatlantická aliance rámuje současné dění v online prostoru jako informační válku. Koordinované a záměrné útoky cílí na rozhodovací procesy demokratických společností. Jde o formu hybridního konfliktu, který využívá umělou inteligenci k automatizaci dezinformací a k vedení tzv. „kognitivní války“, cílící přímo na veřejné mínění a důvěru v instituce, na nichž demokracie stojí. Otevřenost, která je základním kamenem demokracie, je totiž zneužívána jako slabina sloužící k rozvrácení a k podkopání společenské odolnosti.

K jednomu z historických milníků došlo v Rumunsku, kde ústavní soud v roce 2024 anuloval první kolo prezidentských voleb. Důvodem bylo rozhodnutí soudu, že voliči byli v rámci kandidátovy kampaně na sociálních sítích systematicky dezinformováni a manipulováni, což dle soudců představovalo vážné ohrožení integrity celého volebního procesu.

Na Slovensku se pak v roce 2023 v klíčové fázi kampaně, kdy již pro politiky platilo zákonné moratorium na vystupování v médiích, šířilo deep fake audio tehdejšího lídra Progresivního Slovenska. Umělá inteligence jen dva dny před volbami nasimulovala hlasy předsedy PS Michala Šimečky a investigativní novinářky Denníku N Moniky Tódové. Případ se stal celosvětově citovaným jako exemplární zneužití umělé inteligence k ovlivnění demokratických voleb.

Fetišizace svobody projevu jako zbraň

Nutno poznamenat, že právě případ zrušení prvního kola voleb v Rumunsku je ze strany některých současných koaličních politiků dříve spojovaných se Společností pro obranu svobody projevu (SOSP) či předsedou antisystémové strany PRO Jindřicha Rajchla, vasvětlován jako cenzurní zásah.

Konkrétně Rajchl přitom vychází ze zprávy Výboru pro soudnictví Sněmovny reprezentantů USA, která démonizuje snahu EU regulovat online prostor prostřednictvím Nařízení o digitálních službách (DSA). V akademické literatuře se tento jev popisuje pojmem „fetišizace prvního dodatku“ (First Amendment Fetishism).

Jde o situace, kdy je svoboda projevu vykládána extrémně rigorózně a chrání jak škodlivé lži, cílené dezinformace a manipulace, tak šíření nenávistného projevu. Dostáváme se tak do absurdní situace, kdy pod zástěrkou svobody projevu chráníme a dáváme prostor k šíření dezinformací a manipulativního obsahu, který je čím dál častěji generován právě umělou inteligencí.

Regulace má přitom integritu skutečně svobodných a demokratických voleb garantovat, nikoli ničit. Systematická manipulace a AI kampaně mohou totiž vést k naprosté erozi samotné podstaty demokracie. Debata o tom, zda má zůstat digitální prostor a manipulativní obsah generovaný AI chráněn ústavními právy na svobodu projevu (tedy „fetišizací“ těchto práv v neprospěch lidí), tvoří jádro současného právního napětí v USA.

Mezitím, v kontextu zpráv o záplavě internetu umělým obsahem (tedy obsahem vygenerovaným umělou inteligencí či tzv. velkými jazykovými modely) dochází v oblasti organizované manipulace k transformaci tradičních trollích farem na výkonnější a sofistikovanější působení tzv. rojů umělé inteligence (AI swarms).

Jde o masivní systémy autonomních agentů schopných v online prostoru věrohodně napodobovat lidské chování. Tyto roje jsou navrženy k infiltraci online komunit a k efektivnímu vytváření tzv. „syntetického konsensu“ — tedy falešného dojmu, že určitý názor sdílí velké množství na sobě nezávislých lidí, ačkoli je ve skutečnosti koordinován jediným aktérem. Tato taktika zneužívá psychologický jev sociálního důkazu, kdy lidé mají tendenci snáze uvěřit něčemu, co zdánlivě říkají všichni ostatní.

Na rozdíl od dřívějších botů fungují tyto moderní farmy jako koordinované sociální systémy, které dokážou přizpůsobovat svou strategii reakcím diskutujících v reálném čase, čímž efektivně podkopávají mechanismy demokratické společenské diskuse a budování důvěry a konsensu.

Tato forma organizované sociální manipulace se již rozšířila do desítek zemí a její sofistikovanost neustále roste. A její nebezpečnost spočívá především v tom, že dokáže marginalizovat skutečné veřejné mínění opravdových lidí ve prospěch algoritmicky generované simulace.

Práva jsou lidská, ne algoritmická

Historik Yuval Noah Harari varuje, že AI není pouhým nástrojem, ale stává se svébytným „agentem“. Ten má potenciál pohltit lidskou kulturu a redukovat člověka na pouhý „doplněk“ v systému, kterému nerozumíme a který již nekontrolujeme.

V této souvislosti vyvstává jeden zásadní argument, před nímž fetišizace svobody projevu nemůže obstát. Práva jsou ze své podstaty lidská a náleží nám jako bytostem, nikoli botům, autonomním algoritmům a autonomní umělé inteligenci. Pokud v digitálním prostoru připustíme deregulaci, která pod rouškou „svobody projevu“ chrání na stejné úrovni člověka i uměle generovaný obsah a strojové operace, hrozí, že nás přehluší umělý dav a hlas skutečného člověka bude definitivně umlčen.

Svoboda projevu totiž ve svém demokratickém jádru neznamená jen možnost se vyjádřit, ale také právo být slyšen, což se stane v prostředí ovládaném „syntetickým davem botů“ prakticky nemožné. Skutečnost, že tři až čtyři roky po nástupu velkých jazykových modelů převýšil objem uměle generovaného obsahu v digitálním prostředí obsah lidský, činí z ochrany autentického lidského projevu před algoritmickým davem základní lidskoprávní imperativ naší doby.