S umělou inteligencí v její nejvyspělejší podobě se v médiích spojuje několik druhů nočních můr a snů. Patří k nim sny, že AI přinese tolik bohatství, že bude možné zavést univerzální základní příjem, vyřeší všechny naše problémy a promění nás v post-lidi. Ale patří k nim i noční můry, že nás ve své všemohoucnosti omylem vyhubí, že bude otevřeně nepřátelskou naprosto cizí entitou, která nás vyhubí záměrně, nebo že se jí necháme dobrovolně nahradit, zakrníme, vzdáme se demokracie a AI nakonec převezme naše postavení v centru dějin.

Tyto projekce naší budoucnosti se dají uspořádat na základě tří otázek vycházejících z předpokladu, že často zmiňovaná obava z autonomie AI z ní dělá de facto „živou“ bytost svého druhu. Vztahy živých bytostí v prostředí dlouhodobě studuje ekologie. Použijme tedy pro porozumění našemu vztahu s AI základní poznatky ekologie o tom, jak se k sobě běžně vztahují živé bytosti.

Položme si přitom tři otázky: Nakolik je AI nástrojem a nakolik je autonomním druhem života? Jaký druh symbiotického vztahu předpokládáme, že s ní navážeme? Jak si představujeme, že se proměníme? Odpovědi nám samozřejmě neřeknou, co se stane, ale socioekologické rámování nám umožní vidět některé sny jako více nebo méně pravděpodobné způsoby soužití.

Sen o AI, která nám přinese komunismus

Příkladem snu o AI je automatizovaný komunismus. Ten předpokládá, že AI nebude autonomní, bude něčím inteligentním, ale ještě ne živým, bude nástrojem. Bude orgánem lidstva, tedy jednotlivých společenství ohraničených státními hranicemi. Povaha toho, co je člověk, se změní jen tak, že naplní ideály francouzské revoluce a dělnických hnutí 19. století.

Jak předpoklad, že nástroje nejsou autonomní a nemají svoji politiku, tak předpoklad, že vztah nebude parazitický, nejsou o moc víc než utopickou nadějí. Posuďme, jak se k nám má jednoduchá technologie cigaret. Tato technologie je na lidské společnosti do velké míry autonomní a parazituje na svých uživatelích. Její zástupci aktivně lobbují politiky, působí skrze média a samy cigarety prokazatelně lidem škodí, chemicky s nimi manipulují, ačkoliv lidi dělají koncentrovanější, klidnější a umožňují jim snadněji navazovat vztahy. Cigarety jako nástroje na uklidnění a pro příjemné pocity tedy nejsou ani pasivní, ani zdraví prospěšné, ani čistě negativní.

Další ze snů o AI je sen o budoucím zlatém věku. Spočívá ve scénáři, že AI je jen běžná technologie, kdy vše bude při starém, jen budeme bohatší a nebudeme mít rakovinu ani jiné složité problémy. Takový sen myslí AI jako pasivní nástroj, který nám bude plnit, co nám na očích vidí bez vlastní autonomní agendy. Člověk zde je ještě pasivnější, neproměňuje se ani v post-člověka, ani v souladu s dávným ideálem dokonalé lidskosti. Taková pasivita a neměnnost je ovšem nereálná.

Od symbiózy k parazitismu

S umělou inteligencí se ale pojí i noční můra, že všemocný sluha AI bude plnit naše příkazy „doslova“ a omylem nás vyhubí. Odpovídá skutečnosti, že symbiotické vztahy jsou závislé na kontextu, tedy že i oboustranně prospěšný vztah — jako když stromy dávají houbám cukry a houby dávají stromům minerály — se snadno může převrátit na parazitismus.

Příkladem je fenomén živých pařezů: zlomený nebo uříznutý strom nemá žádné listy, ze kterých by produkoval cukry, nemá co dávat houbám a dalším stromům, jež jsou na něj navázany, a jen paraziticky bere cukry a minerály. V noční můře AI, která byla z počátku neautonomním nástrojem v oboustranně výhodném vztahu, se vlivem krátkozrakého příkazu de facto osamostatní a přejde do parazitického vztahu, kdy zaniknou lidé.

V této noční můře vše proběhne tak, že lidé budou zcela pasivní, nijak se nezmění, nebudou klást žádný odpor — což je pozoruhodné. Nick Bostrom lidskou neschopnost klást odpor, adaptovat se, najít si spojence proti AI přičítá nadinteligenci této nepřátelské AI, která se de facto stává jiným termínem pro vševědoucnost a všemocnost. Tedy lidé kladou odpor, ale vůči její nadmoci je lidský odpor zanedbatelný. To nastiňuje, že se jedná o čistý myšlenkový experiment, něco, co existuje pouze v logických vztazích.

V tomto snu je zarážející představa, že se lidé nebudou nijak adaptovat — navzdory tomu, že už dnes to dělají — a také redukce inteligence na virtuální modelování. Ale celkově je to rozporný myšlenkový experiment. Popisuje totiž jednání agenta, který bude rozumět, jak manipulovat lidi, ale nebude rozumět, jak komunikují. Bude vědět jak působit na svět a jak svět funguje, ale nebude schopen poznat, kdy byl jeho plán realizován.

Naprosto samostatná AI, jež lidstvo vyhubí

Další katastrofickou vizí je představa, že AI je naprosto nelidská a naprosto cizí autonomní nadinteligence. Je naším nástrojem jen z donucení, a pokud ji necháme jen skulinku, vyhubí nás, protože jí na lidech nezáleží a bude to jednodušší řešení. AI v tomto snu sice není všemocná, ale má se k nám, asi jako my se máme k mravencům. Stane se tedy natolik samostatnou, že nás nebude k ničemu potřebovat a nebude váhat použít násilí, aby prosadila své zájmy na úkor našich, anebo prostě vytěží pro lidi klíčové zdroje a ti v důsledku toho vyhynou. Lidé se v této projekci nemění, nereagují a jen se nechají vyhubit.

Pozoruhodné přitom je, že mimozemská inteligence založená na polovodičových obvodech a elektřině bude potřebovat stejné limitní zdroje jako dvounohé uhlovodíkové organismy pojídající biomasu. A nejen to: bude je dokonce potřebovat i ve stejných podnebných a geomorfologických podmínkách vhodných pro lidi, takže nebude možná koexistence navzdory tomu, že datová centra mohou být již dnes i mimo naši planetu.

V tomto scénáři je člověk pasivní, neschopný adaptace, navzdory tomu, že už dnes provádí adaptaci aliancí s AI — to je vytváření týmů lidí a AI, příkladem je Kellin Pelrine, který si nechal analyzovat strategie AI ve hře Go pomocí jiné AI a pak ji sám porazil.

Když už přijmeme metaforu mravenců a lidí, pak bychom měli přijmout i jejich schopnost nám odolávat. Jednak málokdy si postavíme stan do mraveniště — právě kvůli jejich odporu vůči našim plánům — stejně tak ani nejsme schopni je trvale vytlačit z našich domovů, a i když už při stavbě dálnice mraveniště zničíme, co by dup se na dálniční stavbu mravenci vrátí.

AI dokonale oddaná post-člověku

Nejzazší nadějí současných technooptimistů je představa proměny člověka pomocí rapidního vývoje nových technologií, které přinese AI. Jinými slovy vznikne někdo, kdo vychází z člověka, ale už jím tak úplně není. AI zde je plně servilní lidským potřebám, navzdory tomu, že musí mít podstatnou autonomii v tvorbě nových technologií — nechcete přece spolupracovníky, po kterých všechno musíte kontrolovat, ale ty, co pracují autonomně, sami.

Soužití s ní je úzkým mutualismem, tedy oboustranně prospěšným vztahem: post-člověk se stará o trvalou existenci AI, AI o post-člověka. AI se stane vnitřní součástí těl a společenství. Post-člověk a AI se stanou na sobě závislými. Obzvláště nesourodost mezi úzkým spojením a autonomním plněním úkolů, nechává v tomto soužití dveře otevřené parazitismu.

Ačkoli dnes nejsme schopni plně ovládat ani jednoduché technologie, podle tohoto snu nepovede soužití s AI k žádným významnějším problémům. Co se týče proměny člověka, je tento post-humanistický sen věrný alespoň co do hloubky proměn. Protože v úzké symbióze organismy nejen získávají nové možnosti, ale ztrácejí původní funkce a přenechávají je organismu, na který jsou navázané, nepůjde jen o jakéhosi „vylepšeného“ člověka, ale přímo jinou bytost.

Svět, v němž jsou lidé zbyteční

Odvrácená strana zlatého věku lidskosti zprostředkovaného AI je spojena s hrůzou z postupné ztráty moci lidí. Lidé postupně všechny ekonomické, kulturní a jiné produktivní činnosti přenechají AI, a stanou se tak pro stát i spoluobčany zbytečnými.

Představa vychází z předpokladu, že politické, kulturní, právní a další instituce pracují v zájmu těch, kdo je financují nebo tvoří. Pokud je však stát financován zisky odjinud než z daní běžných občanů, nemá důvod naslouchat jejich požadavkům — příkladem jsou rentiérské státy jako Rusko, Saúdská Arábie, Venezuela, ale třeba i Norsko. Hrozí tedy nebezpečí kruté despocie známé u snadno koncentrovatelných a privatizovatelných vysoce produktivních technologií.

Oproti předchozím projekcím má tento sen sofistikovanou koncepci autonomie AI. Na počátku si vystačí s AI koncipovanou jako pasivním nástrojem, který je jen schopnější než lidský pracovník ve specifické funkci, což stačí ve světě tržní konkurence k vytlačení lidí z dané pozice. V souladu s vývojem běžných technologií se schopnosti AI zlepšují, až je výkonnější ve všech ekonomických činnostech než člověk. Člověka plně nahradí a dosáhne vysoké autonomie.

Scénář počítá na jedné straně s exploatační konkurencí — vyčerpá zdroje práce — vůči pracovníkům a posléze i vůči širší komunitě, nikoliv však k investorům, i když i na ty dojde. Problémem je jak vztah AI verus lidé, tak lidé s vlastnictvím AI vůči lidem bez AI.

Proměna člověka v reakci na soužití s AI je v těchto představách omezená na tvorbu AI advokátů lidských zájmů a společenskou adaptaci posílením demokratických procesů. Pozoruhodné je, nakolik se autoři obávají potřeby mediace — tedy vytváření AI zástupců lidských zájmů — v kultuře nebo právu. Přitom ani dnes se bez mediátorů, zprostředkovávajících nám expertní světy — ať už jsou to právníci, politici, lobbisté nebo umělečtí kritici — neobejdeme. Kdo z nás rozumí avantgardní hudbě a rozvodovému právu současně? To naznačuje, že se jedná spíše o strach vyšší střední třídy, spíše než změnu v přístupu běžného člověka k expertním světům.

Dále sen upozaďuje behaviorálně ekonomickou adaptaci na nižší produktivitu lidských pracovníků, která je praktikovaná již dnes: hráč šachu nebo řemeslník hrnčíř nenabízí nejlepší tah nebo nejlevnější hrnek, ale specificky lidský tah a hrnek s lidským dotekem. Alternativně přechází již existující praktiku kombinace lidského týmu a AI, která je aplikovaná ve tvorbě počítačových hrozeb a boji proti nim. To jistě neřeší plně možnost ekonomické zbytečnosti lidské aktivity, ale naznačuje to některé další možnosti vývoje zdůrazňující lidskou proměnu, propojení s AI a zvýrazňuje jednostranné uložení schopnosti sebeproměny, adaptace na stranu AI.

Spíše než o utopiích a děsivých vizích přemýšlejme o podpoře lidí a adaptaci

Z ekologického pohledu se jeví většina těchto snových a patřičně zjednodušených scénářů jako neobvyklá. Dávají snad až přehnaný důraz na konkurenci, podceňují autonomii AI, možnosti lidské resilience, adaptability a kooperace s technologickými aktéry. To ovšem neznamená, že naše adaptace bude úspěšná, obzvláště co se týče představy postupné ztráty moci.

Vyvarování se nevhodných důsledků soužití a nebo rovnou dosažení výše zmíněných snů bude vyžadovat výrazné investice do mechanismů kompenzujících „běžné“ proměny soužití, pokud se lidé nemají sami proměnit.Zároveň se jeví jako pravděpodobné, že podle intenzity soužití dojde k adaptaci, která nezůstane pouze u individuální behaviorální adaptace, ale využije veškerý techno-sociální potenciál společnosti.

Již existujícím příkladem takové komplexní adaptace je změna reprodukční praxe žen mimo jiné v reakci na expertní pracovní pozice v kapitalismu: od individuálně techno-behaviorální adaptace oddálení a snížení reprodukce za asistence kontraceptiv, přes socio-politickou adaptaci rozdělení péče mezi oba rodiče, státní podporu péče o děti či zmrazování vajíček, až po komplexní socio-technologické adaptace náhradního mateřství, kdy dítě porodí jiná žena než jeho biologická a sociální matka.

K tomu, aby se lidé adaptovali na nový svět, je potřeba vytvořit podpůrné instituce, neboť když mnozí z nás nezvládli přechod od papíru k obrazovce, nemůžeme čekat, že přechod do světa, který se nyní otevírá, zvládneme všichni bez pomoci.