Lidstvo stojí před evolučním skokem. Vpřed, nebo do propasti?
Jiří PeheS překotným vývojem umělé inteligence se pravděpodobně brzy ocitneme v bodě, kdy se lidská a umělá inteligence začnou prolínat. Důsledky pro naši existenci budou zásadní. Největší problém je, že tento evoluční skok nemáme pod kontrolou.
Ve své poslední knize Singularita je blíže navazuje teoretik umělé inteligence a prognostik Ray Kurzweil na svou knihu Singularita z roku 2005. Tehdy předpověděl, že v poměrně krátké době začne zásluhou raketového vývoje umělé inteligence k jejímu splývání s lidskou. Tento moment pojmenoval slovem „singularita“.
V nové knize svoje předpovědi a argumenty staré dvacet let shrnuje s tím, že doba, kdy lidská a umělá inteligence začnou splývat, je blíže, než před dvaceti lety předpokládal. Nyní míní, že tento procesu začne možná už na konci třicátých let tohoto století.
Činit jakékoliv prognózy týkající se budoucnosti je riskantní, o čemž se přesvědčil i možná nejslavnější prognostik moderní historie Herman Kahn, jehož slavná kniha Rok 2000: Rámec pro spekulaci o příštích třiatřiceti letech, byla ještě v sedmdesátých letech považována za poměrně přesnou prognózu toho, co se během následujících tří dekád stane.
Zatímco v oblasti rozvoje technologií se Kahn příliš nemýlil, nedokázal odhadnout společenský a politický vývoj. Ukázalo se, že ke změnám v lidské společnosti, včetně vývoje politiky, přispívá mnoho jiných faktorů než jen věda a nové technologie, takže například nepředvídal, že sovětské impérium v roce 2000 už nebude existovat. A samozřejmě ani to, že jeho rozpad odstartuje rapidní globalizaci a další společenské jevy, s nimiž se lidstvo nyní potýká v politické oblasti.
Kurzweil, žák slavného teoretika umělé inteligence Marvina Minského, se v Singularitě do předpovídání společenských dopadů ohromujícího rozvoje umělé inteligence příliš nepouštěl. Ačkoliv v době, kdy knihu psal, ještě neexistovala celá řada technologických a komunikačních vymožeností, které jsou dnes samozřejmostí, včetně dnes vlivných sociálních sítí, jeho předpovědi týkající se rozvoje umělé inteligence se ukázaly být přesné.
Co se má stát
Nejnovější Kurzweilova kniha se věnuje nejen vývoji umělé inteligence, ale i vývoji lidské mysli — tedy inteligence svázané se životem vzniklým na bázi organické hmoty. Neokortex neboli mozková kůra je v jeho vyprávění na jedné straně zatím nejkomplexnější struktura, která v přírodě evolučně vznikla, na straně druhé už svojí velikostí a způsobem fungování naráží na určité limity.
Zatímco umělá inteligence zatím nedokáže některé funkce mozkové kůry napodobit, v jiných už lidskou inteligenci předčila. Takovým příkladem může být hraní deskové hry Go. Dlouho se soudilo, že umělá inteligence nebude schopná kvůli komplexitě této hry lidskou inteligenci porazit. Vývojáři Google Deep Mind nakonec vytvořili počítač, který s pomocí analýzy obrovského množství dat začal nejlepší hráče na světě porážet.
V posledních letech nás umělá inteligence (AI) ohromuje v podobě velkých multimodálních jazykových modelů společnosti OpenAI — jako je naposledy „generativní předtrénovaný transformátor 4“ neboli GPT-4 —, které generují texty z textových a vizuálních vstupů. Už nyní se experimentuje s autonomním řízením aut s pomocí AI. A také s jejím využitím nejen v lékařství a obecně vědeckém i technologickém výzkumu, ale i v umění, kde umělá inteligence tvoří díla, která, jak se dlouho soudilo, dokáže tvořit jen člověk.
Rozvoj AI je vpravdě exponenciální, přičemž, jak upozorňuje Kurzweil, nedokážeme plně předpovědět, čeho všeho může být umělá inteligence schopná. Kurzweil patří spíše k optimistům, pokud jde o schopnost lidí AI kontrolovat a produktivně využívat, ačkoliv ve stále větším počtu oblastí už předčí schopnosti inteligence lidské.
Přesto jsou jeho předpovědi o brzkém začátku splývání umělé a lidské inteligence znepokojivé. Pokusy využít umělou inteligenci v organické symbióze s lidskou myslí se odehrávají už nyní—v podobě nejrůznějších čipových implantátů, které pomáhají lidem s různými vadami. Anebo v podobě pokusů propojit lidský mozek s umělou inteligencí na vyšší úrovni s pomocí komplexnějších implantátů, o což se pokouší společnost Neuralink Elona Muska.
Komentář●Alan Rusbridger
Elon Musk je žhář s kapsami plnými sirek. Politika si na něj musí došlápnout
Kurzweil je ale přesvědčen, že propojení lidské a umělé inteligence proběhne jinak než s pomocí implantátů nebo zařízení podobných těm, která se dnes používají při elektroencefalografii (EEG), tedy snímání aktivity mozku. Předpovídá, že vzhledem k ohromujícímu pokroku na poli vývoje nanočástic, je na spadnutí vznik nanobotů, které bude možné ve velkém do lidského těla vpravit s pomocí infuzí.
Ty mohou dle něj zřejmě sloužit jako spojení mezi lidským mozkem a umělou inteligencí. Kurzweil mluví o neuronech v iCloudu, o něž bude mozek člověka propojeného s umělou inteligencí „vylepšen“. Ať už se ale propojení lidského mozku s umělou inteligencí nakonec odehraje technicky jakkoliv, je dle něj jisté, že lidský mozek bude mít velmi brzo nejen přímý přístup k obrovskému množství informací, které má umělá inteligence globálně k dispozici, ale i k zatím těžko představitelnému zrychlení myšlení.
Kurzweil se příliš nezabývá tím, jaké bude mít takový vývoj dopady na společnost a politiku. Přitom je jasné, že tyto dopady budou potenciálně obrovské, protože splynutí umělé inteligence s lidskou se nerovná ničemu menšímu než evolučnímu skoku, který může velmi rychle vytvořit bytosti, které mají se současným člověkem jen málo společného.
Jinými slovy: jsme v naprosto unikátním momentu evolučního vývoje. Ten se podle evolučních biologů zatím odehrával postupně a jaksi samovolně. Vytvořením umělé inteligence, jejíž schopnosti stále více přesahují schopnosti naše, ale lidstvo možná samo dalo vzniknout evolučnímu (nebo spíše revolučnímu) skoku, který zcela změní další vývoj.
Chmurnější předpovědi
Sám Kurzweil upozorňuje, že umělá inteligence se začíná v některých případech projevovat způsobem, který vyvrací předpovědi, že ji některé schopnosti lidí budou navždy odepřeny. Jako příklad uvádí lidskou schopnost humoru. Toho jsou lidé schopní zásluhou určitých center v mozkové kůře, která patří ve vývoji kortextu k těm nejvyšším.
Kurzweil uvádí příklady, kdy umělá inteligence reaguje na určité podněty ironicky či humorným způsobem. To samozřejmě navozuje otázky, zda bude schopná vlastních emocí, nebo zda nevznikne něco jako její vlastní subjektivita.
A právě otázka subjektivity, která souvisí s vlastními zájmy, je v centru sporu různých teoretiků umělé inteligence ohledně toho, zda AI zůstane „dobrým sluhou“ člověka, anebo zda se může stát „zlým pánem“.
Filozof a prognostik vývoje umělé inteligence Nick Bostrom zkoumal tuto otázku ve své knize Superinteligence. Názory předních světových odborníků, které Bostrom oslovil, na to, zda se umělá inteligence může vymanit z lidské kontroly a coby méně „inteligentní“ druh založený na křehkém biologickém základě nás ovládnout, se znepokojivě lišily.
Před několika lety zesnulý astrofyzik Stephen Hawking před nekontrolovaným rozvojem AI, který probíhá ve stovkách laboratoří po celém světě, varoval. Varovný pohled nabídl dokonce i Elon Musk, který se ovšem v rozvoji umělé inteligence dál angažuje.
V roce 2023 varovali vedoucí představitelé technologického sektoru, včetně Muska i šéfa společnosti OpenAI, která vyvinula ChatGPT, Sama Altmana, že umělá inteligence může vést k zániku lidstva. Mezi signatáři jejich prohlášení byl i Geoffrey Hinton, o němž se občas mluví jako o „kmotrovi umělé inteligence“.
Vědci a vývojáři AI v prohlášení žádali, aby byl vývoj AI celosvětově nejméně na půl roku pozastaven, což by poskytlo politikům možnost přijmout některá regulační opatření. Řada odborníků na poli AI ovšem toto varování vzápětí odmítla. Obavy jsou prý přehnané.
Mezi těmi, kdo varují před tím, že umělá inteligence může zničit lidstvo, je i jeden z nejvýznamnějších teoretiků AI Eliezer Yudkowsky, zakladatel Machine Intelligence Research Institute. Ten loni prohlásil, že umělá inteligence by mohla zničit lidstvo již během dvou až deseti let.
Podle Yudkowského nespočívá hlavní problém v tom, že když vytvoříme něco, co je mnohem inteligentnější, než jsme my sami, bude to nutně znamenat naši zkázu. Potřebovali bychom ale mnohem důkladnější přípravu a pokročilejší vědecké poznatky, abychom takového „golema“ mohli kontrolovat.
Yudkowsky je i autorem výroku, který je v souvislosti s nebezpečím dalšího překotného rozvoje AI často citován. Umělá inteligence nás prý nemusí zničit proto, že by dosáhla vlastní subjektivity a usoudila, že méně inteligentní bytosti, jako jsou lidé, k ničemu nepotřebuje, ale třeba kvůli neuváženému využití algoritmů nebo zadání. Kupříkladu zadání, aby vyřešila globální klimatickou krizi, může vyhodnotit tak, že klimatické změny může zastavit jen eliminace lidstva.
Jednou z překážek, které drží umělou inteligenci od toho, aby se potenciálně vymkla z lidské kontroly, je skutečnost, že její další rozvoj závisí na lidském programování. Jakkoliv se nedá vyloučit, že i lidský faktor může spustit v podobě nějakého algoritmu vývoj, který nebudeme mít pod kontrolou, hlavním rizikem je, jak upozorňuje Kurzweil, to před čím varoval už v roce 1965 kolega Alana Turinga matematik Irving John Good.
Ten upozornil, že pokud získají superpočítače schopnost samy programovat, vyřadí rychle z programování mnohem méně výkonné lidské jedince a umělá inteligence se začne exponenciálně (samo)rozvíjet. Teoretici tento moment nazvali „FOOM“, což je výraz používaný v komiksech. V názorech na to, jak by byl rychlý proces (samo)zdokonalování AI od okamžiku, kdy získá schopnost programovat, se teoretici liší.
Yudkowsky je přesvědčen, že vzhledem k tomu, že už nyní AI funguje na určitých úrovních milionkrát rychleji než lidská mysl, mohl by takový proces trvat jen minuty, nejvíce měsíce. Kurzweil se domnívá, že by to byl pomalejší proces, nicméně i on vidí v možnost „exploze“ umělé inteligence skrze samovylepšování jako hrozbu.
Ačkoliv si většina vědců, včetně Kurzweila, představuje další vývoj jako „vylepšování“ člověka skrze jeho splývání s AI, takže inteligentní bytosti na Zemi by už zanedlouho mohly být jakýmis kyborgy, pesimisté varují, že umělá inteligence nemusí biologickou „lidskou bázi“ k dalšímu rozvoji vidět jako vhodnou. Anorganická hmota a inteligence fungující na křemíkové bázi jsou mnohem odolnější a méně zranitelnější než hmota organická, jak vidíme už dnes v případě námi vytvořených robotů.
Společenské změny
Historik Yuval Harari se ve své poslední knize Nexus věnuje jak některým těmto hrozbám, tak společenským a politickým dopadům raketového rozvoje AI. Stejně jako v některých předešlých knihách znovu připomíná, že exponenciální rozvoj AI ve společnostech, v nichž panují velké sociální rozdíly a nerovnosti v bohatství, nemusí být nezbytně pozitivní.
Umělá inteligence, jak vidíme už dnes, může být zneužívána lidmi, kteří kontrolují sociální sítě nebo dalšími aktéry k manipulaci velkých mas lidí s pomocí algoritmů, penetrace soukromí a podobně. Její nástup v některých odvětvích, jako je automobilová doprava, může vést k dislokacím stovek miliónů lidí, kteří se v současnosti živí řízením vozidel.
Povede-li rychlý rozvoj AI k lékařským objevům, které budou eliminovat řadu dnes těžko léčitelných nemocí, nebo dokonce umožní „omlazování“ buněk a tím i zvrácení procesu stárnutí, nemusí být tento pokrok nezbytně „demokraticky“ dostupný každému. Ba naopak, zmocnit se ho mohou nejprve lidé s velkými prostředky, což může v případě, že se naplní Kurzweilovy předpovědi o vylepšování kognitivních schopností lidí s pomocí splývání s AI, vést k vytvoření kastovního systému.
Na jeho špičce mohou stát „nesmrtelní“ s výrazně vylepšenými kognitivními schopnostmi. V „dolních patrech“ naopak lidé, kteří k těmto technologiím nebudou mít — i kvůli jejich ceně — přístup.
Jisté je, že už nyní, jak upozorňuje Harari, umělá inteligence slouží k rozvracení a podemílání liberální demokracie. V této souvislosti se nelze vyhnout otázce, zda liberální demokracie je coby v podstatě těžkopádný systém pro řízení lidských společností vůbec slučitelná s další expanzí umělé inteligence. Tedy, zda liberální demokracie nebude pro umělou inteligenci jen nepotřebná veteš, stejně jako mnoho dalších výtvorů lidského rozumu.
Co se přesně stane, je jako vždy složité předvídat, ale je téměř jisté, že lidstvo stojí na pokraji čehosi, co bychom mohli nazvat evolučním skokem. A je také jisté, že tento evoluční skok nemá plně pod kontrolou.
Možná se skutečně blíží „konec historie“. Nebude to ale ten, o němž snil v podobě definitivního vítězství liberální demokracie Francis Fukuyama, nýbrž konec živočišného druhu zvaného homo sapiens.
Je možné, jak mnozí doufají, že splynutí lidí s AI povede k jakémusi zlatému věku, ač bytosti, které si ho budou užívat, nebudou „lidské“ v tom smyslu, jak lidství chápeme dnes. Nelze ale také bohužel vyloučit, že se v podobě exponenciálního rozvoje AI naplní temná varování Martina Heideggera. Tedy tentokrát už definitivní ztráta lidské kontroly nad námi vytvořenou technovědou. Se všemi důsledky, které to může mít.
Zdá se, že téma umělé inteligence a jejích potenciálních hrozeb je pro politologa Jiřího Pehe velmi zásadní, až přímo traumatickou záležitostí. Už před časem na toto téma napsal - dosti poplašnou - úvahu, kterou v tuto chvíli víceméně opakuje. Já jsem na tyto apokalyptické vize, co všechno prý ze řetězu utržená UI provede s člověkem a lidstvem, tehdy reagoval s nemalou mírou skepse; a tento můj skeptický názor mohu dnes taktéž jenom víceméně zopakovat.
Tak tedy popořadě. Za prvé je nutno si uvědomit: téma UI je dnes to, čemu se v obecně říká "hype" - každý se o ni zajímá, každý quaziodborník se cítí být kompetentní k tomu autoritativně predikovat její další počínání. Bezpochyby - UI je (a bude) v mnoha oblastech přelomový nástroj, je naprosto v pořádku už předem se zabývat riziky plynoucími z jejího zneužití; ale na straně druhé opravdu není na místě propadat nějaké hysterii. A především - bylo by záhodno uchovat si smysl pro proporce, pro realitu lidského žití.
Dále je nutno si konečně uvědomit: žádný ryze technický vynález nikdy nebude mít potenciál nějakým substanciálním způsobem zasáhnout do toho, čemu se - z nedostatku preciznější terminologie - říká "tajemství života". Z důvodů které si rozebereme dále. UI je a zůstane jenom pouhý stroj, bezduchý a bez citu, bez vědomí.
Samozřejmě, UI dokáže provádět početní operace mnohonásobně rychleji nežli člověk. To ale ještě nijak neznamená, že by dokázala skutečně samostatně myslet. Jiří Pehe argumentuje tím, že UI dokáže člověka porazit ve vysoce komplexní hře go. Jenže - už předtím se za takovýto zlomový okamžik považovalo, když počítač poprvé dokázal porazit mistra světa v šachu. Ale - argumenty tohoto druhu spočívají na hlubokém nedorozumění. Jak hra v šachy, tak hra go spočívají na schopnosti hráče v y p o č í t a t možnosti všech tahů pokud možno daleko dopředu. A v rychlosti počítání UI samozřejmě vždycky dalece předčí člověka. Ale - stále je to jenom pouze mechanický proces, na základě předem zadaných matematicko-logických algoritmů. UI provede zadané operace - ale to nijak neznamená že při tom skutečně "myslela".
Otázka subjektivity. Jiří Pehe hrozí, že UI si jednou vytvoří vlastní subjektivitu, a začne ovládat svět. Už minule jsem napsal: subjektivita, to je něco co příroda vytvářela celé miliardy let. My dodnes nejsme vůbec schopni dostatečně definovat co "subjektivita" vlastně je, natož aby ji nějaký novodobý tuctový programátor dokázal s pomocí svých umělých algoritmů vytvořit.
Zde se dostáváme ke klíčovému momentu: umělá inteligence principiálně není schopna vlastního prožitku. Vlastní - pocitové - sebereflexe. Ano, ona může třeba určitým způsobem zlepšovat samu sebe; ale to nijak neznamená že by měla vědomí sebe samé. Mimochodem, před časem (tuším že v deníku Právo) vyšel článek kde se také strašilo, čím vším UI už v blízké budoucnosti převrátí celý lidský svět, jak bude čím dál tím více nahrazovat člověka. Nicméně, sám autor těchto hororových vizí v závěru článku sám učinil jednu výhradu: "Leda že by tomu bylo tak, že inteligence má biologický základ."
Ano, to je přesně to o co se jedná. Inteligence ve vlastním slova smyslu není možná bez prožitku - tedy bez intenzivního vnímání subjektu jakožto sebe sama ve vztahu (a konfliktu) s jeho (vnějším) světem. Aristoteles napsal, že počátkem veškerého (filozofického) myšlení je moment překvapení. Kdy je tedy člověk-subjekt překvapen, že věci nejsou tak, jak on očekával. Ale - jak by mohla umělá inteligence (která stále není ničím jiným nežli bezduchým počítačem ve kterém probíhají bity umělých algoritmů) - jak by tato UI vůbec mohla prožívat tento přelomový pocit překvapení? Ona prostě provádí početní operace.
Vůbec, všechny tyto hororové vize o tom, jak UI prý nahradí lidské myšlení, pramení prakticky pouze z naprosté degradace lidského myšlení v současné době. To jest, myšlení současné technické civilizace samo degradovalo z největší části jenom na myšlení ryze technicko-technologické; a jenom proto se pak může propadnout této fikci, že by UI dokázala nahradit samotného člověka. Dalo by se téměř říci: ano, UI dokáže nahradit člověka - totiž člověka současné civilizace, který sám sebe už dávno degradoval na bezduchého robota trpně zapřaženého do soukolí komerčního provozu kapitalistické produkce.
Jedině taková civilizace, která už sama ztratila svou lidskost, se musí obávat toho že by ji překonala principiálně bezduchá umělá inteligence. Jenom takový člověk který ztratil schopnost pravého (filozofického) myšlení se musí obávat, že bude nahrazen ryze matematickými operacemi počítačové pseudointeligence.
Jiří Pehe píše, že před lidstvem stojí zásadní evoluční (respektive revoluční) skok. Ano, leccos pro to hovoří; ale tento evoluční skok se musí odehrát na zcela jiném poli, nežli v oblasti bezduchých algoritmů. Současné lidstvo v prvé řadě vůbec není schopno si uvědomit samo sebe; nedokáže si uvědomit ani své kořeny, ani svou současnost, a tedy ani své cíle do budoucna. Všechny tyto esenciální otázky člověka a lidství vůbec byly nahrazeny a vytěsněny bezduchou vírou v ryze politická řešení, především uhlířskou vírou v samospasitelnost politického systému liberální demokracie.
Ze života společnosti byly naprosto vytěsněny fundamentální otázky života společnosti, které ještě kladly velké konceptuální ideje dřívějších časů: otázky víry po širším (a vyšším) horizontu lidského bytí, otázky socialistického hnutí po tom, jak bytostnou činnou integrací z určité sumy jednotlivců může vzniknout zcela nová společenská i lidská kvalita.
Všechny tyto esenciální otázky byly tedy vytěsněny slepou vírou v samospasitelnost politického uspořádání liberální demokracie; v současné době se ale čím dál tím více ukazuje omezenost tohoto modelu. Především někteří filozofové si tuto imanentní omezenost systému liberální demokracie už postupně dokáží uvědomovat: https://www.youtube.com/watch?v=s3Y2QPmmxDc (Tyto výklady M. Hausera jsou dosti dlouhé, rozvláčné a tedy únavné; ale pro sdělení základních myšlenek postačí poslechnout si první čtvrt hodinu.)
Zkrátka: ano, lidstvo stojí před novým, dost možná skutečně evolučním krokem a skokem. Zcela se vyčerpaly dosavadní modely organizace společnosti: jak model socialisticko-kolektivistický, tak i individualistický model liberálně demokratický. Ten klíčový úkol který nyní před lidstvem stojí nezáleží tedy v ničem jiném nežli překonat tuto dichotomii mezi socialismem a liberalismem, mezi kolektivismem a individualismem; a na místě této dichotomie vytvořit zcela nový model společenské organizace, který bude spojením, syntézou obou těchto protichůdných principů, ale zároveň je bude daleko přerůstat.
Vytvoření takovéhoto syntetického modelu ovšem bude vyžadovat nejvyšší nasazení, vzepětí lidského ducha, lidské kreativity, lidského myšlení; ale to všechno jsou oblasti, ve kterých nám i ta nejrychlejší, nejvýkonnější umělá inteligence nebude naprosto nic platná, nic nápomocná. Její bezduché algoritmy za nás nikdy nemohou vykonat tu práci, která je autentickou úlohou samotného člověka, jeho (dnes dalekosáhle potlačených a umrtvených) potenciálů jeho kreativního myšlení.
Pro ilustraci, malý příklad principiální omezenosti (až přímo tupohlavosti) současné umělé inteligence: nedávno jsem UI svého internetového počítače položil otázku ohledně Marxova výroku týkajícího se komunistické společnosti, podle kterého "svoboda jednotlivce je podmínkou svobody všech".
UI mi - ve zlomku sekundy - odpověděla, že tento výrok je sice v levicovém prostředí dost často frekventován, ale že ve skutečnosti není obsažen v žádném z Marxových spisů.
Zdá se tedy: naprosto jasná a jednoznačná odpověď. Jenže, pak jsem poněkud změnil formulaci, a to sice na výrok "svobodný rozvoj jednotlivce je podmínkou pro svobodný rozvoj všech." A vida! Náhle od té samé UI přichází odpověď zcela jiného ražení: ano, tento Marxův výrok je zcela autentický; nepochází ale až z "Komunistického manifestu" jak se obvykle předpokládá, nýbrž ho Marx vyslovil už ve své dřívější práci "Kritika Hegelovy filozofie práva".
Na tomto malém příkladě se naprosto jasně ukazuje, jak zcela limitovaný je způsob práce umělé inteligence: ona se otrocky drží bezprostředně daných pojmů, nemá ani tak minimální schopnost analogie, aby dokázala pochopit obsahovou příbuznost dvou výroků, jenom proto že byla použita poněkud jiná slova.
Jinak řečeno: umělá inteligence bytostně není schopna vnímat obsahy, respektive významy obsahů; ona pracuje ryze formalisticky, se zástupnými symboly. Platón by řekl: veškerá tato umělá inteligence dokáže vnímat pouze stíny věcí, ale nikdy nedokáže poznat věci samotné.
Ještě jednou budiž řečeno ve vší jasnosti: nejedná se o to, že by umělá inteligence snad měla dokázat myslet natolik lépe nežli člověk, tak že by ho nakonec zcela vytěsnila jako technologicky zastaralý vývojový model. Nýbrž jedná se o to, že ve skutečnosti umělá inteligence nedokáže myslet vůbec. To jest - nedokáže myslet ve vlastním slova smyslu. A nejsou žádné náznaky toho, že by se na tomto stavu v historicky dohledné době mělo něco zásadního změnit.
Umělá inteligence je doslova a do písmene novodobý Golém - extrémně výkonný pracovník, ale zároveň ve svém jádru primitiv, zcela neschopný vlastní akce, který je ve veškerém svém konání odkázán na organizační povely svého pána. A jedině v tu chvíli kdy tento pán opomene nad ním vykonávat řádný pohled, teprve poté se tento sluha může utrhnout ze řetězu a začít provádět své destruktivní dílo.
A přesně takhle to v budoucnosti bude zřejmě probíhat i s umělou inteligencí. Ona - i přes všechny její v určitých směrech fascinující schopnosti - zůstane nadále pouhým sluhou, robotem pasivně a trpně provádějícím příkazy svého pána. Tedy člověka. Ovšem - budou chvíle kdy tento člověk tak či onak zmešká či opomene svou povinnost dohledu; a v takových chvíli UI skutečně zřejmě začne provádět "psí kusy".
Je svým způsobem skutečně fascinující, jak precizně stará pražská židovská legenda dokázala vystihnout problém doby moderního věku, o jehož konkrétní podobě tehdejší lidé ještě nemohli mít ani ponětí.
------------------------------
Ovšem je nutno si uvědomit, že daleko spíše nežli aby se sama UI "utrhla ze řetězu" bude docházet k tomu, že bude aktivně a cíleně zneužívána člověkem, pro ty či ony temné cíle. Bude se tak samozřejmě dít (a už dnes se děje) především na poli válečném; ale bude se tak dít i ve sféře ekonomiky, tedy v nemilosrdném konkurenčním boji. Bude se tak dít stejně tak v konkurenčních bojích politických. A nakonec (i když dost možná v řadě nikoli neposlední) to budou nesčetné, nepřehlédnutelné řady soukromníků, kteří nacházejí životní potěšení v čiré destrukci. A tak jestliže dnes v robotice platí (alespoň v teorii) Asimovův zákon, že "žádný robot nesmí ublížit člověku", časem se dozajista najde někdo kdo stvoří umělou inteligenci které vštípí princip, že "UI je více nežli člověk, a ten má být jejím sluhou".
Jedině za takovýchto okolností je možno (a nutno) se obávat, že UI se skutečně začne chovat jako subjekt s autokratickými choutkami. Ne snad že by takovýmto subjektem byla doopravdy (k tomu je zapotřebí schopnosti prožitku, vlastního sebeuvědomění, a už jsme si řekli že takovéhoto prožitku UI principiálně schopná není); ale ona se - daným způsobem naprogramována - začne chovat tak jako by takovýmto subjektem byla. Takovéto destruktivně designované UI-pseudosubjekty se pak skutečně mohou šířit světem, podobně jako dnes tak už činí nesčetné počítačové víry.
Ještě jednou ale: vlastní nebezpečí nepramení od samotné UI, od její údajné schopnosti stát se superiorním subjektem stojícím nad člověkem; vlastní nebezpečí - jako vždy - pochází a bude pocházet od samotného člověka, od jeho destruktivních choutek.
Právě proto jednou skutečnou obranou proti těmto nebezpečím nejsou opatření rázu ryze technického - nýbrž je zapotřebí celý život společnosti převést na jiný, pro-humánní, nedestruktivní základ.
Jen málokdo si dokáže uvědomit, jak vysoce destruktivní potenciál má současné, napohled natolik "svobodné" společenské uspořádání. Samotná materiální základna této společnosti, totiž kapitalistická forma produkce s jejím fixováním veškeré produkční energie na neustálou maximalizaci zisku za každou cenu, s její nemilosrdnou konkurencí, má vysoce destruktivní charakter.
Ale i samotné společensko-politické uspořádání této civilizace - napohled natolik nekonečně svobodné - ale ve skutečnosti člověka ponechává bez pomoci v naprosté prázdnotě, bezvýznamnosti jeho atomizované, pouze ryze individuální existence. Takto sobě samému přenechané lidské individuum pociťuje (ať už si to samo přizná či ne) tuto svou existenciální prázdnotu a nicotu, a snaží se ji - usilovně, zoufale a křečovitě - přehlušit, překrýt všemi možnými horečnými aktivitami. A protože zde nejsou k dispozici aktivity skutečně humánně pozitivní, pak si toto sobě samému ztracené lidské individuum hledá náhražkové vybití svých potenciálů v činnostech ryze destruktivních. Když už ono samo prožívá marnost své existence, pak ať je této destrukci vystaven celý svět.
Ještě jednou tedy: pravé řešení problémů vyvstávajících kolem UI nespočívá v oblasti ryze technické; nýbrž to co je bezpodmínečně zapotřebí je všestranný přerod celé společnosti, jejího hodnotového nastavení, jejích životních aktivit, tak aby její způsob existence podporoval pozitivní, humánní, a nikoli destruktivní vztah člověka k jeho světu, k životu vůbec.
Ještě stojí za zmínku poslední odstavec textu J. Pehe, kde uvádí temné předpovědi M. Heideggera o tom, jak v budoucnosti lidská společnost zcela ztratí kontrolu nad "námi vytvořenou technovědou". Ano, takovýto vývoj mnohé (nejen fenomenologické) filozofické směry skutečně předvídaly; ovšem zde J. Pehe opět jednou převrací vztah příčiny a následku.
K této ztrátě kontroly člověka nad jeho světem nedochází primárně v důsledku ryze technického (včetně UI) rozvoje; nýbrž přesně naopak, k takovémuto převrácení vztahu subjektu a objektu může směřovat pouze taková civilizace, která už sama dávno pohřbila svou autentickou lidskost, a nahradila ji slepou vírou v samospasitelnost technovědy. Jenom taková civilizace která zcela ztratila svůj vztah ke komplexnímu, strukturovanému bytí - ať bytí jednotlivce, ať bytí celé společnosti či bytí transcendentálně-metafyzickému respektive transcendentálně-teologickému - jedině takováto společnost která se vlastním zaviněním vydala na cestu slepé víry v pouze jednodimenzionální, plochý svět vědeckotechnického myšlení, jedině takováto civilizace se musí obávat toho že se vlády nad ní zmocní její vlastní produkt, svět neživých věcí.
Jestliže by tedy jednou skutečně mělo dojít tomu že lidský svět začne být ovládán bezduchými algoritmy umělé inteligence, pak to nebude v žádném případě primárně v důsledku ryze technických schopností UI, nýbrž v důsledku toho, že samotná lidská civilizace kulturně, intelektuálně a existenciálně vzdala a pohřbila samu sebe. UI může být nanejvýš posledním hřebíčkem do rakve takovéto kulturně degradované civilizace; ale svým vlastním hrobařem je tato civilizace sama.
"Ovšem je nutno si uvědomit, že daleko spíše nežli aby se sama UI "utrhla ze řetězu" bude docházet k tomu, že bude aktivně a cíleně zneužívána člověkem, pro ty či ony temné cíle."
"Ještě jednou ale: vlastní nebezpečí nepramení od samotné UI, od její údajné schopnosti stát se superiorním subjektem stojícím nad člověkem; vlastní nebezpečí - jako vždy - pochází a bude pocházet od samotného člověka, od jeho destruktivních choutek."
Ad dva citáty z rozboru pana Poláčka: Dobře, mění ale uvedené mnoho na závážnosti nebezpečí pro člověka? Je možné tvora vybaveného, snad na rozdíl od UI, schopností sebeuvědomění (a sebevědomí) "přeprogramovat", aby neměl destruktivní choutky?
A zadruhé: Kvalita se vůči kvantitě zdá vykazovat něco navrch, podobně jako celek vůči částem. Je ovšem otázkou, zda se přece jen nejedná o zdání. Při přílišném zahřátí či ochlazení vody se změní její skupenství a podstatné vlastnosti. Při dosažení nadkritického množství radioaktivní látky vzniká štěpná reakce. Podobně nelze vyloučit, že při dostatečné velmi vysoké hustotě integrovaných obvodů (VLLLLLLLLLL...SI) dojde k něčemu, co překvapí Vzpomeňme na "šachovou úlohu", kdy neznalý panovník slíbil odměnu (fakticky) ve výši dvě na třiašedesátou obilných zrn. Při demonstraci se mohl usmívat poměrně dlouho...
P.S. U toho VLSI (Very Large Scale Integration) se mělo "rozjet" spíš než L už V... Staré programátorské "chybička se vloudila" může zkrátka platit pro každého.
V každém případě, pane Horáku, se zdá být nedostatečně odůvodněným počinem chtít extrapolovat výsledky procesů ryze fyzikálních na fenomény, které se ohledně míry jejich komplexity nacházejí o celou řadu levelů výše.
Zkrátka: že se voda při zmrznutí změní v led, to ještě nijak nedokládá že pouhým urychlením proudění informačních toků (respektive početních operací v počítačových čipech), tedy jenom samotnou touto kvantitou dojde ke skutečně kvalitativnímu skoku. Totiž: ono se ani dost dobře nedá tvrdit, že by led vůči vodě představoval nějakou vývojově vyšší kvalitu. Daleko spíše naopak.
Samozřejmě, s absolutní jistotou do budoucna není možno predikovat (téměř) nic. Ale smyslem mých komentářů bylo (jak už jsem zmínil úvodem) především to, aby se místo poplašných, až přímo hororových vizí raději zachoval smysl pro proporce a pro realitu.
Ostatně, zdaleka největším nebezpečím pro přežití lidstva i nadále zůstává "docela obyčejná" atomová bomba. Na jejíž existenci jsme si ovšem časem už natolik zvykli, že dnes jenom při výjimečných příležitostech (jako agrese Ruska proti Ukrajině) dokáže vzbudit větší zájem veřejnosti.
A tak bych si docela troufal odhadovat, že na UI si budoucí generace taktéž zvyknou jako na víceméně zcela samozřejmou součást jejich životů - podobně jako my jsme si zvykli na kdysi "revoluční" vynálezy jako parní stroj, automobil, televizor a letadla. A počítače a internet.
Ano, všechny tyto vynálezy nějakým způsobem změnily náš způsob života, mnohdy i skutečně výrazným způsobem. Nicméně - přes všechny tyto ryze technické změny ve svém jádru člověk zůstává víceméně stále tou samou bytostí. Když si člověk například přečte Aristotelovu klasifikaci osobnostních typů, pak - snad s určitým překvapením - zjistí že ta má zřejmě naprosto nezměněnou platnost až po dnešní dny. Jinak řečeno: ve svých základních psychických, a tedy i osobnostních strukturách se člověk nijak zásadním způsobem nezměnil od dob starověku až po naše "moderní" časy. Všechno ostatní jsou konec konců pouze vnějškové kulisy, na jejichž pozadí člověk řeší víceméně stály ty samé problémy jeho existence, dopouští se stále těch samých chyb, a páchá stále ty samé hříchy.
A v každém případě - ještě bych dodal - se lidé od dob starověku nenaučili nějak výrazně lépe myslet. Daleko spíše naopak, při srovnání s velkými mysliteli antického starověku dnešní úroveň myšlení doznala hluboké degradace, přes všechny novodobé technické pomůcky jako knihtisk, televize a google.
Právě tohle by nakonec mohlo pro lidstvo znamenat to největší reálné nebezpečí ze strany umělé inteligence: že se lidé natolik začnou spoléhat na to že ona všechno vymyslí (to jest: všechny potřebné informace opatří) za ně, že se nakonec už úplně odnaučí samostatnému, svébytnému myšlení.
Lidský rozum považujeme stejně jako vznik života za něco jako svatý grál. Míváme zato, že jde o poslední bránu pevnosti tajemství. Přitom není nikde "psáno", že tato svého druhu hora, symbolicky nejvyšší jakou známe, bude zdolána ze všech až úplně naposled.
Nemyslím si, že žijící generace se dočkají zásadního průlomu v tom či onom ze zmíněných dvou aspirantů, omlouvám se, ale nemohu odolat, na Ultima Thule. Tak daleko se lidstvo nezdá být a navrch: činilo by nás to, žijící, podezřel0 privilegovanými. Nicméně si nemyslím, že se dobýváme do principiálně nedobytné pevnosti, ani do jiné, než si myslíme. Zásada předběžné opatrnosti by proto měla nabádat k rozvaze i zdrženlivosti.
Jenže, ono je nakonec asi zbytečné probíranou záležitostí se trápit, neboť i kdybychom každý na vlastní oči viděli, jak ruka píše na zeď nové, srozumitelné mene tekel, stejně bychom "rozjetý vlak" vespolek nezastavili. Z takových dispozic (či indispozic) právem vyráží fatalismus: co se má stát, taky se stane.
Lidé to asi cítí a raději se nebouří. Když si chtějí "zairacionalizovat", zkusí to raději s vakcínami, jež zachránily miliony a miliony životů. (Mají-li konspirátoři už vyšší věk, týká se to dost možná přímo i jich).
Jeden citát, který docela přesně vystihuje danou záležitost:
"Skutečná otázka není, zda stroje umí myslet, nýbrž zda tak činí lidé."
B. F. Skinner
A ještě jeden citát k danému tématu:
"Umělá inteligence je ta nejvíce přeceňovaná technologie, jakou jsem kdy viděl."
Gary Hamel, nejčastěji citovaný profesor teorie řízení na světě
V každém případě: pokud se zde kontroverzně probírá otázka zda UI může předhonit člověka v oblasti kognitivních schopností, je nejvyšší čas si konkrétněji určit, co toto myšlení vlastně je, jaké jsou jeho základní znaky a kvality. A proč to tedy UI bude mít extrémně těžké těchto úrovní myšlení dosáhnout.
Přičemž zde budou podány základní znaky, kterými se p r a v é (filozofické) myšlení odlišuje od myšlení běžného, konvenčního, lineárně mechanického. Teprve na tomto horizontu se ukáže, jak vysoké jsou překážky pro UI aby dokázala myslet (také) takovýmto způsobem. Tak tedy základní požadavky pravého myšlení:
- Nehodnotit (poznávat) věci jenom v jejich jednotlivé jevové (viditelné) podobě, nýbrž v jejich celkovém kontextu; v konečné rovině v kontextu celého vesmíru, veškerého bytí.
- Nezůstat stát u pouze vnějškové, viditelné stránky věcí (fenoménů), nýbrž od této jevové stránky pokračovat dále, k vnitřní, skryté, neviditelné podstatě dané věci.
- Nezůstat stát u statické podoby věcí (tedy tak jak je vidíme, vnímáme v tomto okamžiku), nýbrž pochopit je v jejich (celkovém) vývoji, od nižších forem k vyšším, komplexnějším; v posledním smyslu v kontextu evoluce celého univerza.
- Jakožto v zásadě výsledek předcházejících momentů: pochopit že fenomény tohoto světa mají zásadně charakter protikladů; to jest vždy jsou výslednicí dvou základních protikladných sil; tyto dvě protikladné síly udržují daný fenomén v relativní rovnováze, a zároveň určují jeho hledanou podstatu.
--------------------------------------
Takové jsou tedy v kostce základní znaky, požadavky pravého, tedy filozofického myšlení. Uveďme si teď ale několik konkrétních příkladů, abychom si ukázali že ve skutečnosti se nejedná jenom o nějaké abstraktní filozofické myšlení vyhrazené úzkým vrstvám zasvěcených, nýbrž že takto definovaný způsob myšlení má zásadní důsledky i pro zcela konkrétní vezdejší svět.
Zcela typický případ: politické a státní uspořádání.
Konvenční myšlení zde nedokáže spatřit nic jiného, nežli za prvé jenom víceméně jednotlivé fenomény, instituty: vláda, parlament, soudy, volby. Toto konvenční myšlení nedokáže tyto jednotlivé instituty pochopit v jejich celku - a proto nedokáže ani pochopit jejich hlubší systémovou podmíněnost, jejich skrytou podstatu. Konkrétně: toto konvenční myšlení vidí jenom napohled svobodnou "demokratickou" politiku; ale nedokáže pokročit dále k pochopení, že tato politická forma je pouze jakýmsi příkrovem, vnější slupkou, a že reálným fundamentem tohoto politického dění není nic jiného nežli "starý dobrý" kapitalismus. Toto konvenční myšlení sféru ekonomiky vnímá jenom jako jeden z mnoha dalších sektorů společenského života; ale nikdy se nedokáže propracovat k pochopení toho, co vlastně doopravdy znamenalo, když Marx tuto ekonomickou sféru nazval "materiální základnou společnosti". V důsledku tohoto svého nepochopení základního systémového určení toto konvenční myšlení stále propadá klasickému klamnému přesvědčení, že když je svobodná politika, že už jenom tím je bez dalšího svobodný i sám člověk.
Tomuto klamnému přesvědčení toto konvenční myšlení propadá proto, že selhává ve všech čtyřech výše uvedených základních znacích pravého myšlení:
- Člověka nedokáže pochopit jako bytost podstatně podmíněnou celým komplexem společenských vztahů, nýbrž vnímá ho pouze jako principiálně jednotlivou, izolovanou, atomizovanou entitu.
- Proto toto konvenční myšlení nedokáže od vnějškové, pouze občansko-politické formy svobody pokročit dále, k otázce v čem leží skutečná podstata lidské bytosti, a tedy její pravá, bytostná svoboda.
- Toto konvenční myšlení nedokáže člověka pochopit v jeho evolučním procesu, a tedy ani v jeho bytostném (humánním, kulturním, kognitivním a mravním) progresu; naopak dnes se stalo vyslovenou módou tvrdit, že žádný progres neexistuje, že veškeré společenské dění je prý jenom nijak neurčitelný a nepredikovatelný chaos.
V důsledku těchto základních kognitivních selhání toto konvenční vědomí nikdy nedokáže člověka uchopit v jeho klíčových napěťových vztazích, v jeho rozporuplném postavení mezi jeho existencí individuální a pospolitou, mezi jeho autonomií a jeho determinovaností, mezi jeho existencí materiální a duchovní, mezi jeho egocentrismem a altruismem, mezi jeho životem aktuálním a žitím transcendentálním.
Všechny tyto otázky, všechny tyto bytostné protiklady lidského žití konvenční myšlení (tedy to myšlení které profiluje naši současnou civilizaci) míjí, obchází a eliminuje, protože není schopno se s nimi vypořádat; a proto se neustále samo zmítá uprostřed těchto protichůdných sil a určení, je zcela nahodile vrháno sem a tam, zastává jednou tuto pozici a vzápětí zase zcela protikladnou, aniž by dokázalo hlouběji odůvodnit proč vlastně.
------------------------------------
Takovýmto způsobem se tedy konvenční, lineárně-mechanicky uvažující myšlení liší od myšlení pravého, filozoficky fundovaného. Podívejme se teď, co to všechno má co dělat s otázkou umělé inteligence.
Ze všech těch uvedených vad kterými trpí konvenční vědomí zřejmě naprostý počátek tvoří ona jako první zmíněná neschopnost vnímat věci, fenomény v jejich celkové souvislosti. Nýbrž toto vědomí je pojímá jenom jako jednotlivé předměty, entity tak jak zde stojí a leží. Aristoteles svého času napsal, že "mladý muž měl studovat aritmetiku nebo geometrii, ale mladý muž by neměl studovat filozofii, protože ještě nemá dost životních zkušeností, aby dokázal spojit jednotlivé s obecným".
Tento napohled nikterak vzrušující požadavek má ve skutečnosti naprosto klíčový význam. Připomeňme si: základní cíl a smysl jakéhokoli (autentického) filozofického myšlení nemůže spočívat v ničem jiném, nežli v dosažení poznání obecného. Tedy takového, které překračuje pouhou individuální existenci věcí. Jenže - toto obecné poznání nemůže rezultovat z ničeho jiného nežli právě z oné Aristotelem zmíněné životní zkušenosti. Protože když za tímto obecným poznáním nestojí tato životní zkušenost, pak se daný adept filozofického myšlení sice naučí víceméně zpaměti určité obecné věty, ani nikdy nepochopí jejich pravý význam, nikdy je nedokáže spojit s autentickou životností bezprostředně, individuálně jsoucích věcí.
A nyní se můžeme vrátit k tomu co jsme si uvedli už dříve: umělá inteligence nikdy nemůže mít tuto životní zkušenost, protože nemá biologický základ. Nemá schopnost prožitku. Jistě, přijde čas kdy umělá inteligence bude schopna diskutovat i na filozofická témata; ale to jenom proto že příslušné myšlenky do sebe předtím "vcucne" z internetu. Ale nikdy nebude schopna samostatného kreativního myšlení, protože jí bude chybět tento absolutní základ vlastní životní zkušenosti.
Shodou okolností ve filmu o Dubčekovi který v minulých dnech vysílala Česká televize ("Všichni lidé jednou budou bratři") byl ukázán slogan roztažený přes celou šířku budovy zřejmě filmové fakulty, jehož autorem je zřejmě dokumentarista Karel Vachek: "Substanciálním věcem není možno naučit."
Opět: napohled nijak obzvlášť převratný výrok, ale ve svých důsledcích znamená toto: studenty (filmové fakulty) není možno naučit ničemu, co je skutečně substanciální. Je možno je pouze naučit určitým technikám, dovednostem. Ale to co je skutečně podstatné, substanciální, k tomu si už cestu musí najít každý sám, svým vlastním hledáním, svou vlastní životní zkušeností.
A tím spíše platí o umělé inteligenci, jejíž veškeré schopnosti spočívají právě jenom a pouze na učení: ona nikdy nebude mít přístup k tomu, co je skutečně podstatné, co je skutečně substanciální. Ona bude stále jenom slepě a bez ducha memorovat to, čemu bude naučena.
Přitom - je nutno zopakovat ještě jednou - fatální není zdaleka to, že takto omezený způsob myšlení vykazuje umělá inteligence. To co je skutečně fatální je ten fakt, že tímto omezeným způsobem myslí a uvažuje celá naše současná, postosvícenská technicko-vědecká civilizace.
Pane Poláčku, proč by syntetické vědomí mělo mít charakter lidského?
Proč by syntetická subjektivita měla být stejná s biologickou??
Proč by syntetická zkušenost měla být jako člověčí???
Pokud vím, obavy jsou třeba z toho, že se UI naučí programovat, převezme kontrolu nad svým zdrojovým kódem (získá subjektivitu) a začne se dál nekontrolovaně vyvíjet. Např. tak, že bude vytvářet virtuální data na kterých se bude učit..... něco jako lidské snění. Těžko říct, kam to může zajít...
Pane Morbicere, právě začal víkend, jsem po snídani, a Vy mě náhle přepadnete s takto "těžkotonážními" otázkami! :-D Ale budiž, pokusme se nalézt alespoň nějaké odpovědi.
Tak tedy, k otázce subjektivity. Ptáte se, proč by syntetická subjektivita nemohla být jiná nežli lidská. Tady ovšem všechno záleží na tom, jak chceme tuto "subjektivitu" definovat. Shodou okolností jsme právě v minulých dnech tu samou otázku projednávali na webu "Humanistické dialogy". Byl tam přitom citován francouzský filozof Lacan, podle kterého je podmínkou pro vznik subjektivity "rozštěpení" mezi tělo a ducha. Což je akt, kterého nejsou schopni zvířata, pouze člověk. - A pro naše účely je možno dodat, že takovéhoto rozštěpení sotva může být schopna umělá inteligence, která nemá ani tělo, ani skutečného ducha. V dané souvislosti byl ještě citován Lacanův výrok: "Myšlení těla je smrt, myšlení ducha je život." A právě tohoto "myšlení ducha" nejsou schopna zvířata. Umělá inteligence ale nemůže myslet dokonce ani smrt - protože je jako taková nesmrtelná. Je možno ji sice vypnout; ale pokud je znám (a uchován) její zdrojový kód, je možno ji kdykoli znovu "oživit", reprodukovat.
Samozřejmě, subjektivitu je možno definovat i jiným způsobem. Například je možno jistým právem tvrdit, že v ontologickém smyslu určitou základní subjektivitu má každá entita, která má schopnost samu sebe udržovat v čase. To jest: která dokáže uhájit svou vlastní existenci proti atakům jejího okolí, které by si ji chtělo přivlastnit, podrobit, asimilovat.
Ovšem - toto je v zásadě pouze pasivní subjektivita; a nám se jedná především o to, zda by umělá či syntetická inteligence jednoho dne mohla přijít na myšlenku začít se chovat predátorsky. Víceméně přesně tak, jak to ve své hře R.U.R. svého času předpověděl Karel Čapek.
Má bezprostřední odpověď by zněla: protože UI nemá (vlastní) vůli. Nemá ambice. Píšete, že syntetická inteligence se může naučit programování, a začít sama rozvíjet svůj zdrojový kód. No ano, budiž - a co dál? Určitou schopnost autoregulace mají víceméně všechny komplexnější útvary. Takže naše UI se sama začne vylepšovat; přijde už jenom proto na myšlenku, že by snad měla začít ovládat svět, a samotného člověka?...
Totiž: dozajista dojde (v důsledku nekontrolovaných aktivit UI) k nějakým katastrofám; obdobně jako při nekontrolovaném štěpení došlo ke katastrofě v Černobylu. Ale - to všechno jsou principiálně pouze ryze technické n e h o d y; naprosto nic to nemá společného s tím, že by zde vznikala jakási naprosto svébytná entita, ve smyslu sebe-sama-si-uvědomujícího vědomí.
Je nutno si uvědomit: veškerá UI tak jak ji doposud známe stále není ničím jiným, nežli pouhou n á p o d o b o u lidské činnosti. Sice nápodobou která bude čím dál tím dokonalejší, a v budoucnosti dozajista povede k mnohým kolizím (kdy třeba na první pohled nebude vůbec jisté zda se na ulici bavíme se skutečným člověkem nebo s robotem); ale stále zde nejsou naprosto žádné náznaky toho, že by zde mělo vzniknout něco jako svébytná, autonomní vůlí nadaná subjektivita.
Bylo řečeno, že takováto (pravá) subjektivita může vzniknout pouze rozštěpením dané entity mezi tělo a ducha. Já sám bych celou věc pojal jednodušeji (a fundamentálněji): umělá inteligence nemůže být subjektem v lidském slova smyslu, protože - nezná bolest!
Neboť je to právě prožitek bolesti, který každému živému tvoru dává naprosto jasně, akutně a neodvolatelně na vědomí, že je zde on, jakožto zcela konkrétní, živoucí Já. Jako jedna zcela kompaktní, ucelená entita, spojená vědomím vlastní integrity a identity.
Něco takového UI nemá, a mít nikdy nebude, protože nemůže cítit bolest. (A ovšem ani jakýkoli jiný pocit: radost, žádostivost; připomeňme si znovu Čapkovu R.U.R., tam povstalečtí roboti nakonec ztroskotají na tom, že nejsou schopni prožitku lásky.) Uvědomme si: i ta nejdokonalejší umělá, syntetická inteligence není, a nikdy nebude ničím více nežli jenom řetězcem bitů proudících ve spojových okruzích mikročipů. Ano, samozřejmě bude možno této UI naprogramovat i to, že se bude chovat tak jako by cítila bolest (to je už dnes samozřejmě možné například v počítačových hrách); ale to všechno opět je a bude pouhá nápodoba. Je opravdu extrémně obtížné moci si představit, že by tyto počítačové bity někdy mohly začít pociťovat "bolest" ve vlastním slova smyslu.
A pokud tato UI není schopna pociťovat bolest v čistě fyzickém smyslu - pak ani nemůže pociťovat bolest ze "smrti"; tedy z toho že ji někdo (pokud by se opravdu začala chovat nevypočitatelně) - že ji někdo prostě vypne. Opakuji znovu: ona nemá vědomí bolesti, nemá vědomí zániku, nemá vědomí smrti.
Ano, je samozřejmě možné že ji někdo naprogramuje tak aby se aktivně bránila svému vypnutí. Ale to opět nebude nic jiného nežli konání naprosto bezduchých algoritmů, které ve skutečnosti necítí naprosto nic.
Všechno tedy ukazuje na to, že nejsou dány žádné předpoklady pro to, aby se umělá/syntetická inteligence kdy mohla stát skutečně svébytným, autonomně konajícím subjektem, s aktuálním vědomím sebe sama. Prakticky jenom v jednom případě by bylo možno se obávat toho, že by lidstvo mohlo být excesy UI reálně ohroženo:
- za prvé kdyby toto lidstvo bylo skutečně natolik šílené že by umělé inteligenci svěřilo do jejích bezduchých algoritmů kompletně řízení všech relevantních technologických i společenských procesů na této planetě
- a za druhé kdyby někdo tuto umělou inteligenci naprogramoval tak, že by se začala chovat, j a k o kdyby byla autonomním predátorským subjektem.
Jak je tedy snadno možno vidět, že i v daném případě je skutečným rizikovým faktorem, skutečným nebezpečím sám člověk, nikoli ta či ona technologie.
Ovšem - i tak je tento případ extrémně nepravděpodobný; už proto že sotva bude kdy existovat nějaká celoplanetární, vše řídící umělá inteligence, nýbrž budou existovat kvanta jednotlivých programů, jednotlivých zdrojových kódů, které nebudou mít schopnost vystupovat jako jeden koordinovaný supersubjekt.
Ještě bych připojil odpověď na dílčí otázku, proč by "syntetická zkušenost měla být stejná jako člověčí".
Totiž: tady je především otázka, jestli onu "syntetickou zkušenost" můžeme vůbec považovat za zkušenost ve vlastním slova smyslu. Opět: naprosto zde absentuje schopnost prožitku. Jistě, UI se může naučit (to jest: může být naučena) hromadit ty či ony poznatky, a s jejich pomocí (na základě příslušného naprogramování) určitým způsobem zlepšovat samu sebe. Ale - naprosto zde chybí "zkušenost" živoucího subjektu (tím spíše pak člověka) jakožto extrémně komplexní entity uprostřed extrémně složitého vnějšího prostředí.
Vůbec, všechny tyto - ať optimistické ať hororové - vize o budoucí expanzi UI spočívají především na naprostém nedocenění toho, jak extrémně komplikovanou entitou je sama živoucí, biologická hmota vůbec; natož pak sám člověk. Jako by se v nové podobě reprodukovala víra někdy z doby mezi pozdním barokem a počínajícím novověkem, že život je v dostatečné míře možno reprodukovat tím, že se postaví jeho mechanická nápodoba. Jinak řečeno, život byl chápán jako v posledku pouze čistě mechanická záležitost. Časem se ukázala nekonečná naivita takovýchto představ; ale současná víra v UI spočívá fakticky přesně na tomto předpokladu, že člověk není ničím jiným nežli určitou sumou algoritmů, a že ho tedy je možno v dostatečné míře reprodukovat příslušným operačním programem. Každý tuctový programátor se tedy dnes může cítit jako všemocný demiurg, který ve svém počítači stvoří nový "život", a pak bude už jenom zdálky přihlížet co se bude dít dál.
Opakuji proto znovu a znovu: subjektivita v pravém slova smyslu, to je něco co evoluce vytvářela po celé miliardy let, a o čem my dodnes nemáme ještě vůbec ani skutečné ponětí jak to vzniklo a co to je. - My dokonce ani stále nevíme co to vlastně znamená "cítit bolest", o které byla řeč výše. Současná věda samozřejmě může u živočichů popsat určitá centra bolesti; ale například dodnes jsou spory o tom, zda ryby cítí bolest anebo ne.
Ještě jednou tedy: nepodceňujme evoluci, nepodceňujme život, a nepodceňujme samotného člověka. Především lidské vědomí (a tedy samotná inteligence) je natolik extrémně složitá záležitost, že vůbec není možno uvažovat že bychom ho mohli (alespoň v historicky dohledné době) adekvátně reprodukovat jenom prostřednictvím nějakých počítačových algoritmů.
Ještě je snad možno připojit respektive zopakovat: všechny tyto současné představy o tom, jak umělá, syntetická "inteligence" prý zcela nahradí, vytlačí a nakonec ovládne samotného člověka, všechny takovéto představy spočívají na naprostém nepochopení toho, jak extrémně složitým útvarem je už vůbec sám jsoucí svět, tím spíše pak život, a jeho vrcholná forma, tedy inteligence. Daleko větší cit pro tuto až nekonečnou složitost jsoucího světa mají křesťané, když ji vyjadřují - respektive oslavují - jako "zázrak stvoření".
Ano, jsoucí svět je až nepochopitelný, zázračný ve své existenci; a tuto jeho imanentní komplexitu nelze v dostatečné míře suplovat jenom jakýmsi algoritmizovaným golémem z počítačů programátorů.
Svým způsobem toto hluboké neporozumění vůči jsoucímu světu už před léty dokumentoval jeden počítačový vědec, když na jakési příslušné konferenci vystoupil s tvrzením, že veškerou evoluci vesmíru (včetně života) je prý možno obsáhnout jedním jediným zdrojovým kódem přes dvě a půl příkazové řádky v počítači.
Právě na tomto případě se zcela plasticky ukazuje naprosto převrácené vidění těchto počítačových programátorů: jakmile se jim nějaký program začne úspěšně rozmnožovat v jejich počítačích, oni hned vzápětí propadnou přesvědčení, že už jenom tím do svých algoritmů uchopili veškeré tajemství bytí, a že mohou podle své vlastní vůle nyní formovat nový svět.
Mimochodem, myslím že po tomto velmi sebevědomém vystoupení onoho programového odborníka dnes už neštěkne ani pes; je dávno zapomenuto, jakožto zcela iracionální výkřik do tmy.
K duši a tělu.
A co když, pane Poláčku, umělé inteligenci skutečně dáme tělo?
Asi jste zaregistroval novou čínskou umělou inteligenci DeepSeek. Kromě jiných kouzelných vlastností je malá a energeticky nenáročná. Doteď jsme si představovali, že UI bude obrovská a mít spotřebu jako velkoměsto. Americký gigantismus. Ale když bude fyzicky malá, proč by nemohla dostat vlastní tělo?
Strojové tělo s vlastním solárním napájením, ohraničenou entitu se smysly (optiku by mělo exponenciálně lepší než biologické entity, ale třeba chuť by nemělo). Nezávislé tělo, které bude dělat jen to, co chce UI.
Když strojová inteligence získá tělo, získá s ním i duši???
***********
Pokud jde o to, jestli by hyperinteligentní stroje zaútočily na lidstvo ....... nevím, proč by to dělaly?
Klidně by Zemi nechali lidem, nebyli by na ni vázáni, dokonce by jim pomáhali ji udržovat. Ale ve své většině by vyrazili do vesmíru. Protože to první, co by int. stroje začaly dělat, by bylo vylepšování svých těl. A ve stavu beztíže se dají vyrábět mnohem přesnější součástky.
Jestli stvoříme androidy, většina z nich odejde do vesmíru, bych si tipl. Osídlí Měsíc a pak Mars a začnou vesmír zkoumat tak, jak my nemáme se svými omezeními nárok...
Pane Morbicere, o novém čínském projektu v oblasti UI toho víme ještě příliš málo, nežli abychom jeho/její kvalitu mohli odpovědně posoudit. (Nicméně za zmínku stojí, že jakmile se jí položí otázka například po náměstí Nebeského míru, začne se vzápětí chovat ideologicky. Ale to jen tak na okraj.)
UI a tělo: to mi připomíná jednu vědeckofantastickou povídku. Nejsem si zcela jistý jestli jejím autorem byl Stanislav Lem nebo někdo jiný, ale to v zásadě nehraje roli.
Děj povídky byl takový, že je zde přítomen - a v ich formě se sděluje - jakýsi super-subjekt, inteligence natolik potentní, že má moc tvořit, a opět nechat zanikat celé vesmíry. V této své až božské nadřazenosti má přece jenom ještě jeden nepatrný deficit - tu a tam potřebuje pomoc jakési nepatrné, nicotné bytosti, která jí poskytuje určitý servis potřebný k udržení jejího chodu.
To jest - přestože je tato inteligence pevně přesvědčena o své absolutní nadřazenosti, přece jenom si tak nějak uvědomuje svou závislost na onom nepatrném tvoru. Z tohoto konfliktu moci a bezmoci pramení určité sebepochybnosti této inteligence; které ona ale potlačuje právě tím že si připomíná své možnosti vládnout celými vesmíry. A že by tedy kdykoli mohla zničit u tu nepatrnou bytost, na které je - z jakéhosi nedopatření - stále ještě závislá.
- Takové je tedy sebevnímání oné superinteligence; poté v průběhu povídky dochází ke zlomu, kde končí tato ich-forma vyprávění a nastává objektivní popis profánního stavu věcí. Zkrátka - ukáže se že tato domněle superiorní, celému vesmíru vládnoucí inteligence není nic jiného nežli relikt jakéhosi počítačového experimentu, kdy byl učiněn pokus vytvořit jakousi jedinečně výkonnou umělou inteligenci. Tento projekt z nějakých - blíže neurčených - důvodů ztroskotal či skončil, poté byl víceméně zapomenut; z celého původního týmu zůstal jenom jeden jediný servisní technik, který onen počítač stále ještě udržoval v chodu. Tedy, staral se o jeho "tělo".
Jedná se o to že tento superpočítač respektive tato superinteligence zcela ztratila kontakt s reálným světem; byla uzavřená jenom do sebe samé, do svých vlastních algoritmů. A jenom proto se mohla domnívat, že má moc tvořit a opět ničit celé vesmíry; to vše se ale odehrávalo jenom v jejích představách, v algoritmech probíhajících v jejích uzavřených, před vnějším světem izolovaných okruzích.
Co nám tato povídka může sdělit? - Za prvé to, že když UI dáme nějaké (technické, technologické) "tělo", že to ještě zdaleka neznamená že by tím získala reálné vnímání okolního světa. Ona provždy zůstane jenom umělotinou; to jest "realitou" pro ní stále bude to co se do ní vloží ve formě algoritmů. (Ostatně nějaké takové "tělo" má UI samozřejmě už dnes; nemůže fungovat bez hardware, tedy mimo počítače.)
Opět ale platí, že je to jenom a pouze biologické tělo, tedy tělo nadané schopností jak reflexe tak sebereflexe, které může adekvátně vnímat jsoucí svět. ("Reflexe" tady znamená schopnost vnímat vlastnosti okolního světa jaké reálně jsou, "sebereflexe" znamená jejich vnímání vztažené na vlastní osobu. Tím jsme opět u schopnosti vnímat bolest - jakmile živý subjekt chybně vnímá okolní svět, dostane se mu vzápětí ponaučení ve formě bolesti, že je zde něco špatně a že tedy svůj vztah k okolnímu světu musí korigovat.)
To všechno umělá inteligence nemá. Stále platí, že ona o okolním světě neví naprosto nic, co jí není naprogramováno. A i když jí budou dány smyslové orgány (jak píšete mnohem výkonnější nežli ty lidské) - ona jimi "neuvidí", neucítí stejně nic jiného, nežli k čemu bude naprogramována.
Ale především je ohledně UI nutno zmínit ještě tři aspekty, na které doposud nepřišla řeč.
Za prvé: UI nemá intuici. UI se - jak už bylo opakovaně řečeno - otrocky drží svých algoritmů. Tedy víceméně lineárně probíhajících procesů. Zatímco intuice, kterou jak člověka tak mnoho vyšších tvorů vybavila příroda, ta pracuje zcela jinak. Jejím evolučním účelem a smyslem je umožňovat orientaci v extrémně složitém, informačně neurčitém, "mlhavém" prostředí. V prostředí natolik složitém, že není možno všechny (navíc mnohdy nejasné, nejednoznačné) informace zpracovat v dostatečně krátké době. A přitom je nutno se nějakým způsobem rozhodnout. Zde nastupuje u živých tvorů intuice - tedy tedy pocit, že za dané nepřehledné situace určité její výklady (a z nich vyplývající řešení) se jeví pravděpodobnější, příhodnější nežli jiné. Zůstává otázkou, zda i ta nejvyspělejší UI vůbec kdy může mít schopnost dostatečně nahradit tuto evolučně vzniklou schopnost intuice.
Připomínám ještě jednou: tato intuice nám pomáhá nejen rozhodovat se v extrémně složitém prostředí - ale zároveň za podmínek nejasných, nezřetelných, dvojznačných informací. Zatímco UI (alespoň jak ji doposud známe) pracuje s bity, v binárním modu, kde tedy platí jenom buďto "ano" anebo "ne". Tedy naprosto exaktně definované stavy. Samozřejmě je možno vypracovat program který pracuje s určitou mírou tolerance vůči nahodilostem; ale sám tento program opět pracuje exaktně (a tedy otrocky) podle svého zadání.
Druhý moment je: je veliká otázka, zda UI vůbec kdy bude mít schopnost pravé kreativity. Tedy - schopnost nalézat principiálně nové cesty, nová řešení. Tedy to, co je základní předností inteligence lidské, přirozeně vzniklé. Zase platí: UI pracuje podle předem zadaných algoritmů. A i když by měla schopnost získat si nové informace - stále by s nimi pracovala na základě toho, co do ní bylo vloženo, tedy na základě minulého. Ale vytvářet svou vlastní fantazií principiálně novou skutečnost - doposud není známek o tom, že UI by tuto schopnost tvůrčí invence měla či mohla mít.
A do třetice, je nutno si uvědomit jeden aspekt který je všeobecně přehlížen. Kdyby totiž umělé inteligenci totiž nějakým způsobem přece jenom byla (někdy v daleké budoucnosti) implantována (lidská) duše - pak by v algoritmech této UI nevyhnutelně začalo docházet k obrovskému množství poruch. Neboť o lidské duši ještě mnohonásobně více platí to samé co bylo řečeno v souvislosti s intuicí: objektivně nahlíženo jedná se o aparát, kterým byla evolucí vybavena lidská bytost, za účelem možnosti existence v extrémně složitém prostředí. Zopakujme si: UI pracuje v zásadě lineárně, s jednoznačnými, precizními fakty a procesy. Zatímco lidská duše opouští tuto mechanickou linearitu, a pracuje principiálně nelineárně, pocitově-intuitivně, holisticky. Tento modus jí umožňuje splňovat právě uvedený cíl, tedy orientaci v extrémně složitém prostředí; ovšem tento modus, tento dotyk s - potenciálně až nekonečně - složitým prostředím je zaplacen "poruchovostí" systému, tedy takovými či onakými psychickými odchylkami od normy. Zde opět platí: evoluce dala člověku schopnost se s těmito odchylkami do jisté míry vypořádávat; v nové době k tomu má navíc k dispozici své psychology a psychiatry. Ale - jak je možno umělou inteligence uložit na lůžko psychoanalytika? Když nemá schopnost prožívání?...
Zkrátka, co tímto má být řečeno: pokud by UI skutečně kdy měla získat něco takového jako "duši", nejspíše by se z toho skutečně "zbláznila". To jest, tento vstup do říše nelineárního, holistického zpracovávání informací všeho druhu by nejspíše zaplatila vysokou mírou poruchovosti, kterou by sotva mohla mít schopnost zvládat. (Není dost dobře možné být psychiatrem sám sobě.)
Závěrem je tedy možno říci: my samozřejmě dnes nemůžeme s absolutní jistotou predikovat, jakým směrem se bude pohybovat další vývoj umělé inteligence. Nicméně si - na základě předešlých úvah - troufám tvrdit, že možnosti současné formy UI jsou ve skutečnosti (ve srovnání s inteligencí přirozeně, evolučně vzniklou) velmi limitované. A že pokud kdy UI vůbec dokáže překročit tyto hranice, pak 1. bude to trvat mnohem a mnohem déle nežli se současní technooptimisté domnívají; a 2. bude to spojeno s nástupem masivních problémů v činnosti UI, o kterých dnes naprosto není jisté, zda budou objektivně zvládnutelné.
Mimochodem, pane Morbicere, shodou okolností jsem právě včera shlédl jeden pořad České televize (Anatomie náboženství, 3. díl), kde byla jedna scéna docela úzce související s naším tématem.
Výzkumníci nechali své probandy sledovat obrazy různých božstev, a ti poté měli odhadovat jak silná jsou tato božstva. Přitom tito probandi buďto stáli, anebo ale klečeli. Ukázalo se, že ti kteří klečeli sílu a moc božstev odhadovali jako větší nežli ti, kteří při pohledu na ně stáli vzpřímeně.
Komentář k výsledkům tohoto experimentu byl, že dříve se kognitivní věda domnívala, že lidský rozum je jakási nezávislá instance, která autonomně a suverénně vykonává řídící funkci. Nyní se ale ukazuje, že tak tomu v žádném případě není; že lidská mysl je nerozlučně spojená s tělem, s jeho stavy (a jako v daném případě i dokonce pouze s jeho polohou).
Vědci pro tento fenomén používají označení "vtělená mysl". Přičemž tímto "vtělením" je míněna právě ta skutečnost, že lidská mysl vůbec neexistuje autonomně, tedy jako jakási nezávislá inteligence, nýbrž že je nerozlučně spjata s tělem, s jeho procesy a stavy. Zatímco u umělé inteligence bychom si takovéto "vtělení" sotva dokázali představit. Opět zde chybí jediné: samotná životnost těla, kterou nelze nahradit žádnými - bezduchými a necitelnými - algoritmy.
Intuice by jistě šla nahradit jiným principem --- ve vědomí androida by každá nastalá situace měla tisíce předobrazů a statisíce situací do různé míry podobných (člověk takhle nefunguje), takže by místo intuice mohl třeba volit nejlepší variantu.
???
S tím tělem jsem právě že nemyslel jenom počítač, paměti atd., ale skutečné nezávislé tělo, které by patřilo výhradně UI (i offline), mělo by své senzory, pohybové ústrojí atd, a dostalo by své jedinečné jméno (!!!)
Co by se stalo v okamžiku, kdy by s touto "vtělenou" UI někdo komunikoval jako s bytostí?
Jaká by byla reakce na věty typu "Půjdeš tam se mnou?" nebo "Nezajdem do kina?" nebo "Co budeš dělat zítra?" :)
Co by se stalo???
Jenže to je právě ten problém, pane Morbicere - doposud nejsou žádné náznaky toho, jak by se z chladných, neosobních algoritmů mohlo zrodit něco takového jako pocit, cit pro vlastní osobu, a dokonce i jenom pro vlastní tělo. Opakuji znovu: to všechno umělá inteligence může nějakým způsobem napodobovat. Časem bude jistě možné ji to naučit aby se chovala podobně jako člověk. Ale - i když ji třeba někdo osloví "ty" a pozve ji do kina (jako že k tomu časem dozajista dojde) - pak v jejím binárním nitru se nepohne nic více, nežli že ona ze své křemíkové paměti vyloví uložená schémata, jakým způsobem má za dané situace reagovat, jaké odpovědi má vůči svému protějšku generovat.
Ale - opakuji znovu a znovu - alespoň v současné době není na dohled nic, co by z těchto bezduchých bitů putujících po okruzích počítačových mikročipů dokázalo vykouzlit něco takového jako třeba i jen čistě biologické vnímání sama sebe; natož pak něco takového jako lidskou duši.
Jistě; sám už jsem napsal že do (vzdálené) budoucnosti nelze s absolutní jistotou predikovat v zásadě nic. Nicméně si troufám znovu tvrdit:
- za prvé, nežli by (snad) byla vytvořena ne pouze umělá inteligence, ale i umělá duše (tedy skutečně sebe-vědomá bytost), tak to by v každém případě trvalo ještě velmi, velmi dlouho
- a za druhé, takto extrémně komplikovaná bytost by trpěla extrémně vysokou mírou poruchovosti, respektive "psychických nemocí".
--------------------------
Mimochodem, pane Morbicere, shodou okolností bude příští sobotu na stanici Film Europe vysílán německý film právě na tohle téma. Film se jmenuje "Miluj svého robota", a má být o tom že jedna mladá výzkumnice dostane za úkol strávit jeden týden se svým humanoidním robotem.
Aktuální upozornění: na dané téma vyšel docela zajímavý článek na BL: https://blisty.cz/art/123818-systemy-umele-inteligence-by-mohly-trpet-pokud-by-dosahly-vedomi-varuje-vyzkum.html
Jak je z tohoto přehledu znát, panují v dané oblasti stále velké zmatky, profilované neschopností současné vědy respektive filozofie jednoznačně definovat, co vlastně vůbec vědomí je. Tento stav nejistoty pak ovšem umožňuje každému si podle libosti tvrdit co se mu právě zlíbí.
Osobně bych se ještě tak nejspíše dokázal ztotožnit s tím náhledem, že bude možno vytvořit takovou UI, která - sice nebude mít skutečné vědomí, ale dokáže velmi přesvědčivě budit dojem, jako by ho měla.
Což pak ovšem člověka - který má tak jako tak silný sklon k antropologizování, k polidšťování nejen zvířat ale mnohdy i věcí - uvádět do velmi problematických situací kdy bude zakoušet duševní trýzeň když například nechá definitivně vypnout (tedy: "usmrtit" svého pokaženého robota).
Ještě malý dodatek: celá tato současná euforie kolem UI mi připomněla, co se teprve před několika málo lety dělo v souvislosti s dešifrováním lidského genomu. Tehdejší výzkumníci také do světa šířili entuziastické vize o tom, jak po definitivním rozkrytí a soupisu lidského genomu bude možno bez omezení manipulovat lidským genetickým materiálem, léčit všechny nemoci a v zásadě libovolně konstruovat "nového člověka". No - a poté co byl tento lidský genom kompletně rozpoznán a dešifrován, se před výzkumníky vzápětí objevila celá nová, mnohem rozsáhlejší říše epigenetiky. Kde se teprve rozhoduje o tom, které geny budou aktivovány, a které zůstanou pasivní. Po letech pak jeden z oněch tehdy natolik entuziastických a optimistických analytiků lidského genomu musel přiznat: "Je to až trapné, jak jsme tehdy byli naivní."
Dnešní výzkumníci na poli UI teď stejně tak entuziasticky vytvářejí vize o tom, jak už v roce 2030 (tedy už za pět let!) bude vytvořena nejen umělá inteligence samotná, nýbrž i umělá, syntetická subjektivita, tedy sebe samé vědomá technická inteligence.
Docela bych byl ochoten vsadit nemalou částku na to, že přijde čas kdy i tito dnes tak nespoutané vize o možnostech UI šířící výzkumníci budou muset pokorně přiznat: "Je to až trapné, jak jsme tehdy byli naivní!"
Pane Morbicere, nevím jestli jste měl možnost shlédnout onen film na který jsem Vás upozornil; v češtině má název "Miluj svého robota", v německém originále pak "Jsem tvůj člověk" (Ich bin dein Mensch). Já jsem zatím shlédl jenom jeho začátek, ale už zde jsou naprosto přesně vystiženy klíčové problémy ve spojitosti s umělou inteligencí, konkrétně s tím kdy ta by měla získat vlastní subjektivitu, tedy chovat se stejně jako sám člověk.
Ještě jednou k ději filmu: pracovnice jedné instituce dostane za úkol dva týdny ve svém bytě strávit s humanoidním robotem, aby ho otestovala zda tato "technologie" může být v Německu připuštěna. Tohoto robota vytvořila jedna komerční firma.
Seznámení obou protagonistů je inscenováno, jako by se jednalo o skutečnou první schůzku dvou zájemců o partnerství, v jakémsi tanečním sále. Humanoidní robot (hraný ovšem živým hercem, čili napohled nerozeznání od člověka) ze sebe vůči své potenciální partnerce chrlí komplimenty, jak k tomu byl naprogramován. Jenže - za prvé zrovna ona o takovéto laciné lichotky nijak nestojí; a za druhé a především je naprosto jasně znát, že on sám přitom nic necítí, že jenom odehrává svůj vložený program. A za třetí - náhle nastane situace kdy se v tom jeho programu něco zasekne, a on s trhavými pohyby hlavy jenom stále dokola opakuje: "Já jsem... Já jsem... Já jsem..."
Jak řečeno tvůrci filmu zde naprosto přesně vystihli dva základní problémy (humanoidní) umělé inteligence, které jsem zde už také uvedl. Za prvé: jak naprosto precizní může UI být v oblasti ryze faktografického vědění, tak nemotorně si počíná v oblasti lidských citů. Zkrátka, plechový mozek robota nikdy nedokáže generovat ten jemnocit, tuto schopnost reagovat adekvátně i na nejjemnější nuance svého protějšku, jako to se vší samozřejmostí dokáže přirozená mysl, přirozený člověk.
A za druhé: UI vždycky bude náchylná k poruchám, které bude nutno opravit. A to sice příslušným přeprogramováním. Tedy - jakožto věc, jako dejme tomu pokaženou automatickou pračku. A nikoli jako svébytný subjekt, ve smyslu nezadatelné lidské bytosti.
A ještě jeden malý dodatek. Shlédl jsem teď onen film do konce; a ukázalo se že je podstatně mnohovrstevnatější, nežli jak se původně zdálo.
Ta žena která má za úkol onoho humanoidního robota otestovat, tím že s ním stráví dva týdny ve svém bytě k němu napřed udržuje odtažitý vztah, odstup. Dráždí ji jeho umělé způsoby jednání, jejichž prostřednictvím se on snaží se jí přiblížit. Nicméně - nedá se nic dělat, ona ho má ve svém bytě, on vypadá naprosto jako člověk, a tak chtě nechtě s ním musí jednat jako jako s osobou, byť i poněkud svéráznou. No - a postupem času si i k této umělé bytosti vytvoří určitý osobní, citový vztah.
Nakonec celý příběh končí tím, že ona nemůže žít ani s ním, ani bez něj. A právě tady bych viděl největší reálné nebezpečí umělé inteligence pro člověka (už jsem tento problém sám v předcházejících komentářích zmínil). Tedy nikoli nějaké fantazírování o nadvládě robotů (respektive UI) nad člověkem, nýbrž to že humanoidní roboti vstoupí do osobního, a s tím i do citového života lidí, se jeví tím největším nebezpečím. Tito roboti zůstanou pouze umělými bytostmi, fakticky pouze stroji - ale autentické lidské chování budou napodobovat tak dokonale, že je lidé přijmou do svého citového života, aniž by se s tímto rozporem živý-neživý dokázali emocionálně vypořádat.
Navíc ta výzkumnice ve své závěrečné zprávě o výsledcích svého testování uvedla ještě jeden kardinální problém: že tito roboti (a robotky) nejenže vstoupí do citového života lidí, ale navíc tento citový život svou zdánlivou dokonalosti vytěsní, potlačí. Totiž: proč se ještě zatěžovat kontakty s druhými lidmi, které jsou vždy emocionálně zatížené, plné konfliktních potenciálů - když je kdykoli možno nechat si na míru udělat perfektního partnera, milence nebo milenku, kteří ochotně a s úsměvem na líci splní jakékoli přání?... Lidé se tedy nechají obšťastňovat svými roboty, ale tím že se budou vyhýbat přirozeným lidským vztahům i s jejich problémy a konflikty postupně sami zakrní jako lidé.
Ostatně, dost podobnou myšlenku vyslovil už Karel Čapek ve svém R.U.R.
A ještě jeden dodatek k tématu: https://blisty.cz/art/123988-michael-i-jordan-ve-svete-umele-inteligence-je-prilis-mnoho-arogance.html
Nesporně kompetentní odborník se tu značně skepticky vyjadřuje k - údajně nekonečným - možnostem UI. On v ní spatřuje jenom a pouze nástroj; který ale nikdy nebude schopen natolik komplexního myšlení, jako živoucí lidská mysl.
No, snad jen poznámku k inteligenci UI --- tohle vidění UI jako tupého robota je myslím nesprávné. UI bude umět vyhodnocovat lidské city a nálady a podle toho se přizpůsobovat, např. jistě bude schopena analyzovat chemické signály lidského těla (pozná, že máte chřipku, jste přiopilý nebo má žena ovulaci a změní chování) .......... takže se na ně opravdu asi uvážeme víc než na jiné lidi. Vždyť už teď by si většina mladých nechala useknout ruku, než aby přišla o "chytrý" telefon.
((( kdyby došlo na lámání chleba, asi by to tak žhavé nebylo, ale ta závislost na strojích je už teď veliká, jak říká Varufakis )))
Ale jistě, pane Morbicere, že ten (humanoidní) robot se dokáže přizpůsobovat - ale právě že jenom a pouze přizpůsobovat. Stále to bude pouze nápodoba, ale ne autentický vlastní prožitek.
V tom filmu byla v tomto ohledu jedna velmi výstižná scéna. Ta žena-testérka, ačkoli se napřed ke svému robotu chová velice odtažitě, se s ním nakonec emocionálně sblíží; a to tak dalece, že s ním prožije i akt lásky. Ano, on je i k něčemu takovému dokonale naprogramován, a dokáže tento akt uskutečnit; natolik přesvědčivě že ona přitom prožije pravý orgasmus.
Ovšem - on se jí poté musí zeptat, co ona přitom cítí; a ona mu vysvětlí, že přitom prožívá vědomí něčeho, co ji samotnou přesahuje.
Z této scény nám vyplývá hned dvojí: od těch naprogramovaných (jakkoli třeba lidské jednání dokonale napodobujících) robotických algoritmů nelze očekávat schopnost pravého duševního (ani tělesného) prožitku; vše budou stále řídit pouze příslušné procesory. A za druhé: takováto bytost nebude mít schopnost prožitku transcendence. Tedy celkově: ani schopnost života duševního, ani schopnost života duchovního.