Až stroje povedou válku proti lidem
Jakub KoláčekŘada vědců věští budoucí autonomii strojů. Některé z těch vizí znějí nereálné. Možná však děláme chybu v tom, jak si takový zlom představujeme. Dostane se člověk přeci jen do války se stroji? Víkendová úvaha Jakuba Koláčka.
Vzbouří se umělá inteligence proti lidstvu? Pokusí se je zničit pomocí robotů terminátorů, nebo zotročit, jak to známe ze série Matrix? Toť otázka, která se zabydlela v západní společnosti. Příklady podobných popkulturních úvah jsou nesčetné. Mnozí věří, že je vznik umělé inteligence nevyhnutelný. I Stephen Hawking se nechal slyšet, že lidstvu hrozí zkáza ze strany strojů.
Nikdy jsem tomu nevěřil. Taková víra podle mě plyne z malého pochopení podstaty světa a jeho struktury. A také z nepochopení místa člověka a jeho vědomí či ducha (nazvěte si to, jak chcete) v něm. Nevěřím tomu, že stroje někdy budou schopny nezávislé existence, tj. že si budou schopny samy zajistit podmínky své existence.
Stroj je ze své podstaty hloupý. Toto hezké lidské slovo se ke stroji snad ani nehodí, ale obecně jej používáme pro to, co selhává, a proto jej snad použít lze. Stroj je hloupý nikoliv proto, že by mu chyběl výpočetní výkon, ale proto, že je mechanický. Chybí mu tvůrčí síla, schopnost přesáhnout sebe sama, totiž přesáhnout to, co je, ve prospěch toho, co ještě není.
Stroje jsou vytvořeny z materiálu, ze jsoucího, které podléhá zkáze (říká se tomu koroze), a každý stroj se proto časem rozpadne a rozbije. Rozdíl je ontologický. Nelze jej překonat tím, že se ke stroji přidá něco dalšího (jsoucího), že se zvýší jeho výpočetní výkon nebo výkon jeho baterie. Stroj sestává pouze z toho, co je, a chybí mu jakýkoliv element toho, co ještě není, snad kromě určité omezené sekvence či programu, který do něj vložil jeho pán a tvůrce, člověk.
Proto je stroj ze své povahy závislý na svém stvořiteli — člověku, a to podobně, jako je člověk sám závislý na čemsi okolo, na určitých podmínkách své existence, které si sám nezajišťuje a které netvoří, ať už je to slunce, které svítí, déšť, který padá k zemi, či běh života a smrti (opět, nazvěte si to, jak chcete). Takové je místo stroje v řádu světa a bytí a takový je důvod, proč umělá inteligence v jejím naivním pojetí není možná.
Spirála dronu
A je to v podstatě nevyhnutelný proces: člověk je totiž v podstatě veden svou pohodlností. Svou snahou usnadnit si svou existenci, jak je to jenom možné. Stroje tuto úlohu splňují, usnadňují mu jeho - vnější - život; ale za to jim člověk musí platit daň, tím že se jim sám přizpůsobí. Za jejich službu jim dává svou duši. Je to svým způsobem jako smlouva doktora Fausta s ďáblem.
Jediné východisko je v tom, opustit tuto cestu pohodlnosti, a vrátit se na - anticko-křesťanskou - cestu vlastního úsilí, nepřestávající péče o vlastní duši.
A lidé svoji inteligenci rozmělňují mezi stroje tak nějak od doby co vynalezli písmo.
Věda i filosofie se ale už ve svém chápání světa posunula mnohem dál. Podle Chomského dokonce i ten Newton, kterému je "mechanistické paradigma" mnohdy podsouváno, právě tento "kopernikánský" pohled na svět vyvrátil. I podle něj jsou totiž na světě záhady, které věda není s to rozluštit či pochopit. I podle Newtona jeho mechanika popisuje a vysvětluje pouze část fenoménů, zatímco jiné, včetně "podstaty" gravitace, jsou mimo naše chápání.
Byl to ale zejména Darwin a jeho idea evoluce, ze které se zrodil pohled nový, který zhruba od 60. let 20. století začaly rozvíjet vědy zabývající se zpětnými vazbami, složitými systémy, komplexitou a pojmy jako samo-organizace, autopoiesis a auto-reference. Tento pohled vidí vesmír jako neustále se vyvíjející, neukončený a otevřený do budoucna.
Pokud se opravdu současný vesmír do současného stavu dostal evolucí, stejně jako se evolucí vyvinul člověk a všechny ostatní organismy, proč by nebylo možné uvažovat o evoluci strojů? Základní podmínkou přitom je, aby takový stroj byl schopný replikovat (vytvořit) sám sebe: aby se mohl množit. Stanislaw Lem tuhle myšlenku rozvinul už v roce 1964 v románu "Nepřemožitelný", kde se na jedné planetě vyskytují hmyzu podobné roje strojů. Velice zajímavá kniha!
Je to schopnost produkce sebe sama, která je základním předpokladem evoluce, stejně jako schopnost učení ze zkušenosti. Když se nad tím zamyslíme, to, že stroje-programy jsou schopné se šířit a adaptovat, to vidíme na evoluci počítačových virů. Schopnost učení mají v té či oné míře různé počítačové programy vcelku běžně. No a když se dostatečně rozvine například technologie 3D tisku, už ani tvorba sebe sama (produkce hardwaru) nebude žádné sci-fi.
Kombinace s miniaturizací se v tomto jeví jako klíčová: proto i Lem nejprve uvažoval o strojích-hmyzu - protože jejich reprodukce a tedy i evoluce (rychlý sled nových generací) je rychlejší. No a když s k tomu přimyslíme urychlení evoluce v různých virtuálních prostředích, kdy k nalezení optimálního/funkčního řešení postačí simulace a teprve následné "testování v reálu", není žádný problém si inteligentní stroje představit. I když by měly spíše inteligenci rostliny či mravence (též četný námět mnoha sci-fi) než člověka.
Přijde mi, že i téma nadvlády, otroctví a kontroly bytostně k modernitě patří, a je jedno zda ve formě sociální kritiky alá Marx, jako náměr sci-fi, anebo třeba v formě konspiračních teorií. Připadá mi to hlavně jako strach ze sebe sama, strach "podívat se pravdě o nás samých do očí". Tak jako Dorian Gray, ani moderní lidstvo selhává v naplňování vlastních požadavků, maxim a pravidel, a pouze to nějak zakrývá. Otrocká práce se tak exportuje do třetího světa, stejně jako znečištění a stejně jako "horké" války (ale ono se to zase vrací, že?).
Spoutat většinu lidstva do nějaký okovů či vězení, podřídit si ostatní jako otroky, dělníky a sluhy, uzavřít ostatní do nevědomosti, jako by stále bylo vlhkým snem všech mocných či moci-chtivých tohoto světa. Proč si tedy tuto touhu nenaprojektovat i do strojů, které nám slouží? Jakoby se každý pán obával toho, že otroci povstanou, že dělníci se sjednotí a znárodní firmy, či že se podstatnější část lidí probudí, prohlédne různé sofistikované vzorce kontroly a disciplinace, přestane dělat to, "co se po nich žádá", a díky tomu se prostě systém založený na vykořisťování druhých rozpadne.
Stručně řečeno: žádný stroj, žádný vůdce, ani žádná umělá inteligence nás před naší vlastní blbostí, nevědomostí a neupřímností nezachrání. Jen proto se inteligentních strojů bojíme: protože by mohli být právě jako my. Bojíme se tedy především vlastního obrazu v zrcadle, pouze vlastního stínu.
Jenom bych doplnil k tomu Asimovovi-ten se tímto tématem vlastně nezabývá, vlastně svou vizí staví na jeho nemožnosti. Před formulací svých čtyř zákonů měl jen tuto naivní větu:
"Stroj nemůže být jiný, než hodný a laskavý. Je tak udělaný."
Z toho vychází, a v rámci těch předpokladů lze jen stěží dospět k něčemu jinému (samozřejmě zcela neřízený evoluční proces by mohl, ale toho strojům jen stěží bude dopřáno).
Jenže my jsme natolik hloupí, že děláme stroje, které nejsou dobré a laskavé, naopak. Tím se Asimovův předpoklad popírá. Ale není to jen navýšení vedlejších ztrát? Nebyla by válka proti strojům zase jen válkou proti lidem? Třeba i těm, kteří jsou sami dávno mrtví?
Stroji sice můžete zadat příkaz, aby zabíjel podle různých parametrů, které bude schopen vyhodnotit, ale bude se čistě řídit jenom tím kódem. To, co jej odlišuje od lidí, je absence amygdaly, části mozku, která zajišťuje emocionální projevy. My lidé můžeme mít z ubližování potěšení nebo hrůzu, řídíme své činy podle toho, jak se nám líbí nebo nelíbí nebo čeho chceme dosáhnout. Stroj ale takové ambice nemá - řídí se jenom tím kódem, který mu říká, kdy, co a jak má splnit.
Zároveň ono kdy, co a jak musí být převeditelné do formálního jazyka - nevím, jak by tam šlo převést "neměj nad nikým slitování" (to by bylo dost redundantní, poněvadž stroj sám o sobě žádným slitováním nedisponuje - takže ani můj notebook nemá nade mnou slitování :)).
Ale jestli se někomu podaří amygdalu naprogramovat, tak svůj názor přehodnotím - ale spíš doufám, že v tu dobu už budu pod kytičkami.
"technologie se "organicky buduje sama ze sebe" způsobem, který připomíná chemii nebo dokonce organický život. A z Arthurovy koncepce vyplývá, že inovace nejsou lineární, ale kombinatorické, to znamená, že jejich motorem je zároveň celá řada nejrůznějších věcí. A nejvýznamnější skutečností ohledně kombinatorních inovací je to, že vyvolávají radikální diskontinuitu, kterou nikdo neočekával."
Možná nás tedy nečeká válka se stroji, ale spíše souboje s vlastními auty a jejich naprogramováním.
Pokud jde o onu projekci zla do strojů jako do zrcadla, je to tak. Člověk ale asi vždy nějaké zrcadlo potřebuje, aby se v něm mohl spatřit. Většinou si projikujeme zlo do někoho, kdo v naší společnosti má moc - korporací, vlád, lidí, kteří je řídí. Tito lidé ale - alespoň z mého pohledu - opět spíše slouží určitému principu, dělají to, co se naučili a co je v daném systému nutné, vlastně nakonec to, co většina z nás, akorát v jiném měřítku. Vede mě to potom k otázce, co je pro tento princip asi nejvíce charakteristické. Zdá se mi, že kromě již dlouho známých negativních vzorců chování, které z člověka činí v té či oné míře bezohledné soutěživé individuum škodící přímo či nepřímo ostatním a páchajícím tak "zlo", je to právě spjatost se stroji a mechanizovaným způsobem života. Člověk nachází největší zálibu právě ve vlastnictví stroje a jeho ovládání a výměnou za to zcela podřizuje svůj život jeho rytmu. A to na individuální i kolektivní úrovni. Tím, že to dělá automaticky, vlastně neovládá, ale je v zajetí. Každé další inovace. Stroje jsou hlavním zpředmětněním bohatství, kapitálem, je to nakonec jejich množství a kvalita, která je předmětem soutěžení, určuje podmínky toho soutěžení skrze vývoj zbraní a přizpůsobení se společnosti určité formě. Z tohoto pohledu mi připadá charakteristické, že se podoba našeho světa nepřizpůsobila hromadné dopravě, ale automobilismu - aby každý mohl mít svůj vlastní kus a těch kusů bylo zároveň co nejvíce. Pokud jde o zemědělství (nevím, zda se dá řící, že jeho podíl na poškození biosféry je "drtivý", ale to záleží na tom, co vnímáme jako největší škody), též ono je mechanizované, což je patrně jednou z příčin jeho ničivosti a člověk díky tomu může trávit většinu svého času se stroji, ať již jako dělník v rozvojových zemích, nebo jako konzument v těch vyspělých. Odstřižení člověka od přírody mechanizací má též možná co do činění s naším postojem k životnímu prostředí a plýtvavým, poživačným způsobem života, který ničivost zemědělství dále umocňuje. Tyto trendy jako by se pak zhruba od příchodu environmentalismu obracely. Objevuje se snaha využívat je rozuměji a omezeně, jen tam, kde je to nutné a prospěšné. Příkladem je třeba bio-farmářství, nebo jízda do práce na kole. Ale to už jsou spíše spekulace a bylo by třeba tuhle otázku lépe prozkoumat.
Vina není rozhodně na straně strojů a nejde o to se jich zbavit. Myšlenka, že stroj je laskavý, mi připadá velmi dobrá. Problematický je asi vztah člověka k nim, zvláště jejich nereflektované používání a rozšiřování do všech oblastí života. Upřednostňování těch stále složitějších (zároveň i náročnějších na výrobu, která se koncetruje na několika málo místech, hůře opravitelných a s malou životností, takže zisk jejich výrobců je stále zajištěn) i tam, kde by stačily jednodušší nebo by jejich obměna mohla probíhat v daleko delším cyklu. Koneckonců mi též připadá, že s tím, jak strojů přibývá, obměňují se čím dál tím víc a rozumíme jim méně, přestáváme si jich cenit, ztrácíme k nim osobní vztah a činíme z nich, navzdory úvahám o tom, že by snad mohly jednou být jako my, jen náš další, stále odcizenější předmět využívání. Mizí zkrátka to - odpusťte mi poněkud sentimentální konec :-) -, co popsal Jiří Wolker ve své básni:
Miluji věci, mlčenlivé soudruhy,
protože všichni nakládají s nimi,
jako by nežily,
a ony zatím žijí a dívají se na nás
jak věrní psi pohledy soustředěnými
a trpí,
že žádný člověk k nim nepromluví.
Ostýchají se první dát do řeči,
mlčí, čekají, mlčí,
a přeci
tolik by chtěly trochu si porozprávět!