↗

„Vyrůstal jsem v časech před vznikem umělé inteligence. Snad i díky tomu jsem skalním přívržencem reálného světa. V poměrně útlém věku jsem si uvědomil, že pochopit svět, do nějž jsem se narodil, je opravdu velmi obtížné. A kdykoliv jsem potřeboval morální kompas, hledal jsem ho v reálném světě.“ Momentka pořízená na jihu Iráku, 31. května 2023. Foto Asaad Niazi, AFP

Žijeme v obtížných časech. Děje se příliš mnoho překotných změn. Lidé se ve světě přestávají orientovat. Historik ekonomie Adam Tooze působící na Kolumbijské univerzitě v New Yorku pro dnešní situaci zavedl pojem „polykrize“ — mnohočetná krize.

Má celou řadu příčin. Tou hlavní mezi nimi je dnes podle mne vývoj umělé inteligence. Na druhém místě stojí změny klimatu a třetí příčka připadá ruské invazi na Ukrajinu. Seznam by mohl být mnohem delší, ale osobně se nyní zaměřím na uvedené tři fenomény. Snad nám to pomůže se v současném zmatku zorientovat.

Umělá inteligence

Umělá inteligence (AI) ohromila svět poté, co ji korporace Microsoft všeobecně a bezplatně zpřístupnila prostřednictvím své přidružené firmy OpenAI. Stalo se to nedávno — v listopadu 2022. Jelikož ChatGPT představuje existenční hrozbu pro obchodní model Googlu, firma začala horečně vyvíjet vlastní produkt, s nímž by mu mohla co nejdříve začít konkurovat.

Krátce nato firmu Google opustil Geoffrey Hinton, obecně považovaný za duchovního otce umělé inteligence. Chtěl si tím rozvázat ruce, aby mohl otevřeně promlouvat o rizicích spjatých s dalším vývojem umělé inteligence. Zcela v protikladu ke svému původnímu stanovisku Hinton nastínil velmi ponurou vizi. Řekl, že další vývoj umělé inteligence má potenciál zničit naši civilizaci.

Hinton byl průkopníkem vývoje neuronových sítí, které si dokáží osvojit a používat jazyk. A své schopnosti dále rozvíjejí na základě analýzy dat. S rostoucím objemem dat pak rostou i schopnosti takzvaných velkých jazykových modelů umělé inteligence.

Dosahované pokroky na Hintona udělaly mohutný dojem. „Co se v oněch systémech odehrává, je dost možná skutečně mnohem lepší než to, co se odehrává v mozku,“ uvedl. Současně upozornil, že s rostoucím výkonem systémů umělé inteligence se zvyšuje i jejich nebezpečnost. Zejména varoval před plně autonomními zbraňovými systémy, pro něž užívá pojem „roboti-zabijáci“.

„Vstoupili jsme na zcela neprobádané území. Dokážeme konstruovat stroje, které jsou schopnější než my, ale zatím je stále ještě máme pod kontrolou. Co se však stane, až vyvineme stroje, které budou chytřejší než my? … Umělé inteligenci potrvá tak pět až dvacet let, než překoná inteligenci lidskou.“ Pak si „záhy uvědomí, že svých cílů dosáhne lépe, když pole své moci ještě rozšíří“.

Hintonovy výroky na mne učinily veliký dojem. Jeho úvahy o umělé inteligenci mi vybavily Goetheho báseň „Čarodějův učeň“. V ní se hlavní postava věnuje studiu magie, ale to, co ho mistr učí, chápe jen zčásti. Když mu mistr nařídí vydrhnout podlahu, učeň použije magickou formulku a přikáže koštěti, aby se dalo do práce. Koště ho poslechne, ale učeň ho pak už nedokáže zastavit. Koště tedy dál a dál nosí vědra s vodou, a v domě nastane potopa.

Vyrůstal jsem v časech před vznikem umělé inteligence. Snad i díky tomu jsem skalním přívržencem reálného světa. V poměrně útlém věku jsem si uvědomil, že pochopit svět, do nějž jsem se narodil, je opravdu velmi obtížné. A kdykoliv jsem potřeboval morální kompas, hledal jsem ho v reálném světě.

Každá lidská bytost je jednak účastníkem a jednak pozorovatelem světa, v němž žijeme. Jako účastníci se snažíme svět proměňovat k vlastnímu užitku; jako pozorovatelé se snažíme pochopit svět takový, jaký je. Oba cíle se spolu střetávají. Pokládám to za důležitý postřeh, který mi umožňuje rozlišovat mezi tím, co je správné, a co nikoli.

Umělá inteligence popsané, vcelku jednoduché schéma morálního chování zničila, protože sama nemá s reálným světem vůbec nic společného. Vytváří si vlastní realitu. A jestliže se její nová umělá realita ocitne s reálným světem v rozporu, což se děje docela často, odbude ho jako halucinaci.

Proto jsem se — v podstatě instinktivně — stal odpůrcem umělé inteligence a z celého srdce se stavím za experty, kteří tvrdí, že je třeba ji regulovat. Jenomže zaváděné regulace musí být vymahatelné celosvětově, protože motivace podvádět je příliš vysoká; kdo je dokáže obejít, získá nepoctivou výhodu.

Jenomže prosazení celosvětové regulace je nyní bohužel nedosažitelné, poněvadž svět je v zajetí konfliktu mezi dvěma systémy vlády, jež vůči sobě stojí v diametrálním protikladu. Oba vyznávají také radikálně odlišné názory na to, co je zapotřebí regulovat a s jakou motivací.

Ony dva systémy vládnutí označuji jako otevřenou a uzavřenou společnost. Rozdíly mezi nimi přitom definuji takto: v otevřené společnosti je rolí státu hájit svobodu jednotlivce, zatímco v uzavřené společnosti je rolí jednotlivce sloužit zájmům vládců.

Umělá inteligence se vyvíjí neuvěřitelně rychle a není v možnostech běžné lidské inteligence ji plně pochopit. Nikdo nedokáže předpovědět, kam nás dovede. Ale jednou věcí si můžeme být už teď jistí: umělá inteligence pomáhá uzavřeným společnostem a představuje smrtelnou hrozbu pro společnosti otevřené. Je to dáno tím, že umělá inteligence vyniká v tvorbě sledovacích nástrojů, které uzavřeným společnostem usnadňují dozor nad svými členy.

Proto se instinktivně stavím proti umělé inteligenci; jen nevím, jak ji lze zastavit. Zatím to neví ani nikdo jiný, ale většina lidí, kteří se podíleli na jejím vývoji, se vyslovuje pro její regulaci.

Stejný názor zastává i americký Kongres a vláda prezidenta Joea Bidena. Umělá inteligence se však vyvíjí mnohem překotněji, než státní úřady dokáží reagovat. Bidenova vláda sice podnikla určité exekutivní kroky, nicméně Kongres patrně nedokáže schválit nic, co by připomínalo „Listinu základních práv umělé inteligence“.

Je tu ovšem problém, který nepočká. V roce 2024 se ve Spojených státech — a s největší pravděpodobností také ve Velké Británii — budou konat volby, v nichž umělá inteligence bezpochyby sehraje zásadní roli, a ta bude s největší pravděpodobností vyloženě nebezpečná. Umělá inteligence totiž velmi dobře dokáže vyrábět dezinformace a deepfakes, přičemž tu bude velmi mnoho těch, kteří toho budou chtít se zlými úmysly využít. Co s tím můžeme dělat? Odpověď neznám, ale doufám, že sama otázka si získá tak naléhavou pozornost, jakou zasluhuje.

Změny klimatu

Druhým aspektem mnohočetné krize jsou změny klimatu. Globální klimatický systém rozvracejí stupňující se dopady lidské činnosti, zejména rozsáhlé emise skleníkových plynů, oxidu uhličitého a metanu. Pařížská dohoda z roku 2015 stanovila cíl udržet nárůst teplot nanejvýš o 1,5° Celsia oproti předindustriální úrovni. Nyní už je přitom prakticky jasné, že se to nepodaří; navzdory veškeré snaze bojovat proti klimatickým změnám se tempo oteplování ve skutečnosti stále ještě zrychluje.

Dva klimatologové těšící se všeobecnému respektu — David King, bývalý hlavní vědecký poradce britské vlády, a Johan Rockström z Postupimského institutu — nedávno varovali, že se blížíme k takzvaným bodům zvratu a možnému kolapsu života na planetě Zemi.

Mezivládní panel pro změny klimatu říká, že při současné klimatické politice bude Země do roku 2100 teplejší o 2,5 až 2,7°C. Byla by to katastrofa, říkají vědci. Teplota by tím dosáhla vyšších hodnot, než jaké na zeměkouli panovaly kdykoli za poslední čtyři miliony let. Vedlo by to k úplnému roztání ledovcových příkrovů v Grónsku, v Himálajích a na západní Antarktidě. Hladiny moří by stouply o deset metrů.

„Nastal by kolaps všech velkých biomů na planetě Zemi — deštných pralesů i mnoha lesů v mírném pásmu — a náhlé roztátí permafrostu; zkolaboval by život v mořích a rozsáhlé části planety Země by přestaly být obyvatelné,“ uvedl Rockström. „Více než třetina planety kolem rovníkových oblastí by se stala neobyvatelnou, protože průměrné teploty by překročily hodnotu slučitelnou s lidskými zdravím, která se pohybuje kolem 30 °C,“ napsal.

Bohužel stále platí, že když se boj proti změnám klimatu ocitne v konfliktu se zavedenými způsoby, jimiž lidé získávají své živobytí, narazí na tuhý odpor. Zemědělci v Německu a v Nizozemsku tvrdě vystupují proti regulaci emisí dusíku, protože by museli omezit počty chovaných krav. Zmobilizovali se, začali vyhrávat volby a otřásají celou Evropskou unií. Na místě je tu také zmínka o fosilních korporacích a jejich neukojitelné touze generovat další zisky.

V boji proti klimatickým změnám zůstáváme fatálně pozadu. Měli bychom udělat vše, co klimatologové pokládají za nezbytné — výrazně a rychle snížit emise, odstranit z atmosféry přebytečné skleníkové plyny a nechat znovu zamrznout Arktidu. To vše se musí dít se souhlasem komunit původních obyvatel. A to vše je nutné udělat bez odkladu.

Ruská válka na Ukrajině

Tím se dostáváme ke třetí složce současné mnohočetné krize. Ruská invaze na Ukrajinu nepříznivě zaskočila celý svět. Otřásla dodávkami potravin a vyvolala velké geopolitické pohyby.

Reálný výsledek je ale nyní mnohem lepší, než jaký se dal na počátku bojů očekávat. Ukrajinská armáda se postavila na hrdinný odpor a se silnou podporou z USA a z Evropy obrátila vývoj situace. Ukázalo se, že ruská armáda je jen papírový drak — špatně vedená a skrz naskrz zkorumpovaná. Na nějakou dobu ruské invazi dala druhý dech Wagnerova skupina, soukromá žoldnéřská armáda, ale je jasné, že ani ona nedokáže Ukrajinu porazit.

Díky tomu je dnes Ukrajina připravena zahájit protiútok, jen co bude moci nasadit veškeré vybavení, které jí Západ přislíbil a poskytl. Prezident Biden dokonce odsouhlasil, aby Ukrajina dostala stíhačky F-16.

Věřím, že se protiútok povede. Jeho cílem patrně bude poloostrov Krym, domovská základna ruského námořnictva. Zničením již poškozeného Kerčského mostu mezi Krymem a ruskou pevninou by Ukrajina mohla zcela proměnit strategickou situaci, protože Krym nemá vlastní zásoby vody. Po zničení mostu by celý poloostrov zůstal odkázán na dodávky vody z Ukrajiny. A ze strategické výhody by se tak pro Rusko náhle stal strategickou slabinou.

Na řadě míst Ruské federace už dnes despotický režim prezidenta Vladimira Putina nesou s nelibostí. Nepříznivý vývoj událostí na Ukrajině by mohl vést k jeho kolapsu. Putinův sen o obnově ruského impéria by tak mohl vzít za své. A Rusko by tak mohlo jednou provždy přestat ohrožovat Evropu i svět.

Náhlý konec války na Ukrajině by tak mohl naopak celému světu připravit příznivé překvapení. Pro Bidena by to mohla být příležitost ztlumit napětí mezi Spojenými státy a Čínou. Ta zápolí s hospodářským propadem, což by mohlo prezidenta Si Ťin-pchinga motivovat k usmíření s USA. Biden neusiluje o změnu režimu v Číně; přeje si jen uchovat status quo na Tchaj-wanu.

Ruská porážka na Ukrajině a uvolnění čínsko-amerického napětí by mohlo představitelům světových velmocí uvolnit ruce, aby se soustředili na boj s klimatickými změnami, jež existenčně ohrožují naši civilizaci. Cesta k takovému výsledku je však úzká a trnitá. Větu, zda demokracie dokáže mnohočetnou krizi přežít, je proto namístě zakončit otazníkem.

Z anglického originálu Can Democracy Survive the Polycrisis? psaného pro Project Syndicate přeložil JIŘÍ KOBĚLKA & DENÍK REFERENDUM.