Civilizace je v ohrožení. Dokáže demokracie přežít mnohočetnou krizi?
George SorosProslulý stoupenec ideálu otevřené společnosti se v eseji, který dnes vychází v řadě světových médií, zamýšlí nad třemi aspekty „mnohočetné krize“ — vývojem umělé inteligence, rozvratem klimatu a válkou na Ukrajině. Je krize i příležitostí?
Žijeme v obtížných časech. Děje se příliš mnoho překotných změn. Lidé se ve světě přestávají orientovat. Historik ekonomie Adam Tooze působící na Kolumbijské univerzitě v New Yorku pro dnešní situaci zavedl pojem „polykrize“ — mnohočetná krize.
Má celou řadu příčin. Tou hlavní mezi nimi je dnes podle mne vývoj umělé inteligence. Na druhém místě stojí změny klimatu a třetí příčka připadá ruské invazi na Ukrajinu. Seznam by mohl být mnohem delší, ale osobně se nyní zaměřím na uvedené tři fenomény. Snad nám to pomůže se v současném zmatku zorientovat.
Umělá inteligence
Umělá inteligence (AI) ohromila svět poté, co ji korporace Microsoft všeobecně a bezplatně zpřístupnila prostřednictvím své přidružené firmy OpenAI. Stalo se to nedávno — v listopadu 2022. Jelikož ChatGPT představuje existenční hrozbu pro obchodní model Googlu, firma začala horečně vyvíjet vlastní produkt, s nímž by mu mohla co nejdříve začít konkurovat.
Krátce nato firmu Google opustil Geoffrey Hinton, obecně považovaný za duchovního otce umělé inteligence. Chtěl si tím rozvázat ruce, aby mohl otevřeně promlouvat o rizicích spjatých s dalším vývojem umělé inteligence. Zcela v protikladu ke svému původnímu stanovisku Hinton nastínil velmi ponurou vizi. Řekl, že další vývoj umělé inteligence má potenciál zničit naši civilizaci.
Hinton byl průkopníkem vývoje neuronových sítí, které si dokáží osvojit a používat jazyk. A své schopnosti dále rozvíjejí na základě analýzy dat. S rostoucím objemem dat pak rostou i schopnosti takzvaných velkých jazykových modelů umělé inteligence.
Dosahované pokroky na Hintona udělaly mohutný dojem. „Co se v oněch systémech odehrává, je dost možná skutečně mnohem lepší než to, co se odehrává v mozku,“ uvedl. Současně upozornil, že s rostoucím výkonem systémů umělé inteligence se zvyšuje i jejich nebezpečnost. Zejména varoval před plně autonomními zbraňovými systémy, pro něž užívá pojem „roboti-zabijáci“.
„Vstoupili jsme na zcela neprobádané území. Dokážeme konstruovat stroje, které jsou schopnější než my, ale zatím je stále ještě máme pod kontrolou. Co se však stane, až vyvineme stroje, které budou chytřejší než my? … Umělé inteligenci potrvá tak pět až dvacet let, než překoná inteligenci lidskou.“ Pak si „záhy uvědomí, že svých cílů dosáhne lépe, když pole své moci ještě rozšíří“.
Hintonovy výroky na mne učinily veliký dojem. Jeho úvahy o umělé inteligenci mi vybavily Goetheho báseň „Čarodějův učeň“. V ní se hlavní postava věnuje studiu magie, ale to, co ho mistr učí, chápe jen zčásti. Když mu mistr nařídí vydrhnout podlahu, učeň použije magickou formulku a přikáže koštěti, aby se dalo do práce. Koště ho poslechne, ale učeň ho pak už nedokáže zastavit. Koště tedy dál a dál nosí vědra s vodou, a v domě nastane potopa.
Vyrůstal jsem v časech před vznikem umělé inteligence. Snad i díky tomu jsem skalním přívržencem reálného světa. V poměrně útlém věku jsem si uvědomil, že pochopit svět, do nějž jsem se narodil, je opravdu velmi obtížné. A kdykoliv jsem potřeboval morální kompas, hledal jsem ho v reálném světě.
Každá lidská bytost je jednak účastníkem a jednak pozorovatelem světa, v němž žijeme. Jako účastníci se snažíme svět proměňovat k vlastnímu užitku; jako pozorovatelé se snažíme pochopit svět takový, jaký je. Oba cíle se spolu střetávají. Pokládám to za důležitý postřeh, který mi umožňuje rozlišovat mezi tím, co je správné, a co nikoli.
Co k tomu říci? - Slavné jméno autora, ale sotva nějaké převratné, nebo vůbec alespoň inspirující myšlenky. Spíše jenom standardní mainstream, byť i poctivě míněný.
Umělá inteligence? - Tvrdit že už během příštích desetiletí dohoní a předhoní inteligenci lidskou může jenom někdo, kdo nemá žádnou hlubší znalost lidského ducha. UI se vývojově fakticky stále ještě nachází na úrovni opice - to jest, opičí se po výtvorech člověka, lidské mysli. V tomto opičení se je ovšem obrovsky rychlá, a i velmi učenlivá; ale to je také všechno, stále je to jenom rej o sobě bezduchých algoritmů, tedy v zásadě pouze mechanické procesy.
Ostatně, v jenom bodě se Soros dost mýlí i ohledně lidské inteligence respektive lidského vědomí: "Umělá inteligence popsané, vcelku jednoduché schéma morálního chování zničila, protože sama nemá s reálným světem vůbec nic společného. Vytváří si vlastní realitu." - To samé ovšem platí prakticky i o lidském vědomí, to si také neustále vytváří svou vlastní "realitu". - Právě proto dochází k neustálým (nepřekonatelným) názorovým střetům mezi lidmi, protože se navzájem srážejí jejich soukromé, jimi samými fabulované "reality".
Demokracie? - Tady Soros vlastně odporuje sám sebe. Na jedné straně chce zachraňovat demokracii; ale na straně druhé sám přiznává, že němečtí a holandští zemědělci blokují opatření na záchranu klimatu - prostřednictvím demokratických voleb! Soros by tedy měl položit alespoň tu otázku, co je pro člověka, pro lidstvo nakonec esenciálnější: zda fyzické přežití, anebo určité politické uspořádání.
Další konceptuální deficit Sorose spočívá v tom, že svobodu nechápe nijak jinak (to jest, nijak komplexněji, nijak hlouběji) nežli jenom a pouze svobodu individua. Poté vytváří falešnou alternativu (což je ovšem zcela běžný krok apologetů liberalismu respektive liberální demokracie), tím že prý se jedná o to zda mají rozhodovat svobodní jednotlivci, anebo ale vlády. Co v jeho modelu naprosto absentuje, je zájem celku, zájem společnosti, jakožto protiváha - vždy přinejmenším latentně egoistického - individua.
Ještě jednou tedy: Soros sice vyslovuje závažná témata současného světa a současné doby, ale podle všeho on není tím, kdo by měl potenciál na tyto problémy dávat nějaké inovativní odpovědi respektive řešení.