Ve své poslední knize Singularita je blíže navazuje teoretik umělé inteligence a prognostik Ray Kurzweil na svou knihu Singularita z roku 2005. Tehdy předpověděl, že v poměrně krátké době začne zásluhou raketového vývoje umělé inteligence k jejímu splývání s lidskou. Tento moment pojmenoval slovem „singularita“.

V nové knize svoje předpovědi a argumenty staré dvacet let shrnuje s tím, že doba, kdy lidská a umělá inteligence začnou splývat, je blíže, než před dvaceti lety předpokládal. Nyní míní, že tento procesu začne možná už na konci třicátých let tohoto století.

Činit jakékoliv prognózy týkající se budoucnosti je riskantní, o čemž se přesvědčil i možná nejslavnější prognostik moderní historie Herman Kahn, jehož slavná kniha Rok 2000: Rámec pro spekulaci o příštích třiatřiceti letech, byla ještě v sedmdesátých letech považována za poměrně přesnou prognózu toho, co se během následujících tří dekád stane.

Zatímco v oblasti rozvoje technologií se Kahn příliš nemýlil, nedokázal odhadnout společenský a politický vývoj. Ukázalo se, že ke změnám v lidské společnosti, včetně vývoje politiky, přispívá mnoho jiných faktorů než jen věda a nové technologie, takže například nepředvídal, že sovětské impérium v roce 2000 už nebude existovat. A samozřejmě ani to, že jeho rozpad odstartuje rapidní globalizaci a další společenské jevy, s nimiž se lidstvo nyní potýká v politické oblasti.

Kurzweil, žák slavného teoretika umělé inteligence Marvina Minského, se v Singularitě do předpovídání společenských dopadů ohromujícího rozvoje umělé inteligence příliš nepouštěl. Ačkoliv v době, kdy knihu psal, ještě neexistovala celá řada technologických a komunikačních vymožeností, které jsou dnes samozřejmostí, včetně dnes vlivných sociálních sítí, jeho předpovědi týkající se rozvoje umělé inteligence se ukázaly být přesné.

Co se má stát

Nejnovější Kurzweilova kniha se věnuje nejen vývoji umělé inteligence, ale i vývoji lidské mysli — tedy inteligence svázané se životem vzniklým na bázi organické hmoty. Neokortex neboli mozková kůra je v jeho vyprávění na jedné straně zatím nejkomplexnější struktura, která v přírodě evolučně vznikla, na straně druhé už svojí velikostí a způsobem fungování naráží na určité limity.

Zatímco umělá inteligence zatím nedokáže některé funkce mozkové kůry napodobit, v jiných už lidskou inteligenci předčila. Takovým příkladem může být hraní deskové hry Go. Dlouho se soudilo, že umělá inteligence nebude schopná kvůli komplexitě této hry lidskou inteligenci porazit. Vývojáři Google Deep Mind nakonec vytvořili počítač, který s pomocí analýzy obrovského množství dat začal nejlepší hráče na světě porážet.

V posledních letech nás umělá inteligence (AI) ohromuje v podobě velkých multimodálních jazykových modelů společnosti OpenAI — jako je naposledy „generativní předtrénovaný transformátor 4“ neboli GPT-4 —, které generují texty z textových a vizuálních vstupů. Už nyní se experimentuje s autonomním řízením aut s pomocí AI. A také s jejím využitím nejen v lékařství a obecně vědeckém i technologickém výzkumu, ale i v umění, kde umělá inteligence tvoří díla, která, jak se dlouho soudilo, dokáže tvořit jen člověk.

Rozvoj AI je vpravdě exponenciální, přičemž, jak upozorňuje Kurzweil, nedokážeme plně předpovědět, čeho všeho může být umělá inteligence schopná. Kurzweil patří spíše k optimistům, pokud jde o schopnost lidí AI kontrolovat a produktivně využívat, ačkoliv ve stále větším počtu oblastí už předčí schopnosti inteligence lidské.

Přesto jsou jeho předpovědi o brzkém začátku splývání umělé a lidské inteligence znepokojivé. Pokusy využít umělou inteligenci v organické symbióze s lidskou myslí se odehrávají už nyní—v podobě nejrůznějších čipových implantátů, které pomáhají lidem s různými vadami. Anebo v podobě pokusů propojit lidský mozek s umělou inteligencí na vyšší úrovni s pomocí komplexnějších implantátů, o což se pokouší společnost Neuralink Elona Muska.

Kurzweil je ale přesvědčen, že propojení lidské a umělé inteligence proběhne jinak než s pomocí implantátů nebo zařízení podobných těm, která se dnes používají při elektroencefalografii (EEG), tedy snímání aktivity mozku. Předpovídá, že vzhledem k ohromujícímu pokroku na poli vývoje nanočástic, je na spadnutí vznik nanobotů, které bude možné ve velkém do lidského těla vpravit s pomocí infuzí.

Ty mohou dle něj zřejmě sloužit jako spojení mezi lidským mozkem a umělou inteligencí. Kurzweil mluví o neuronech v iCloudu, o něž bude mozek člověka propojeného s umělou inteligencí „vylepšen“. Ať už se ale propojení lidského mozku s umělou inteligencí nakonec odehraje technicky jakkoliv, je dle něj jisté, že lidský mozek bude mít velmi brzo nejen přímý přístup k obrovskému množství informací, které má umělá inteligence globálně k dispozici, ale i k zatím těžko představitelnému zrychlení myšlení.

Kurzweil se příliš nezabývá tím, jaké bude mít takový vývoj dopady na společnost a politiku. Přitom je jasné, že tyto dopady budou potenciálně obrovské, protože splynutí umělé inteligence s lidskou se nerovná ničemu menšímu než evolučnímu skoku, který může velmi rychle vytvořit bytosti, které mají se současným člověkem jen málo společného.

Jinými slovy: jsme v naprosto unikátním momentu evolučního vývoje. Ten se podle evolučních biologů zatím odehrával postupně a jaksi samovolně. Vytvořením umělé inteligence, jejíž schopnosti stále více přesahují schopnosti naše, ale lidstvo možná samo dalo vzniknout evolučnímu (nebo spíše revolučnímu) skoku, který zcela změní další vývoj.

Chmurnější předpovědi

Sám Kurzweil upozorňuje, že umělá inteligence se začíná v některých případech projevovat způsobem, který vyvrací předpovědi, že ji některé schopnosti lidí budou navždy odepřeny. Jako příklad uvádí lidskou schopnost humoru. Toho jsou lidé schopní zásluhou určitých center v mozkové kůře, která patří ve vývoji kortextu k těm nejvyšším.

Kurzweil uvádí příklady, kdy umělá inteligence reaguje na určité podněty ironicky či humorným způsobem. To samozřejmě navozuje otázky, zda bude schopná vlastních emocí, nebo zda nevznikne něco jako její vlastní subjektivita.

A právě otázka subjektivity, která souvisí s vlastními zájmy, je v centru sporu různých teoretiků umělé inteligence ohledně toho, zda AI zůstane „dobrým sluhou“ člověka, anebo zda se může stát „zlým pánem“.

Filozof a prognostik vývoje umělé inteligence Nick Bostrom zkoumal tuto otázku ve své knize Superinteligence. Názory předních světových odborníků, které Bostrom oslovil, na to, zda se umělá inteligence může vymanit z lidské kontroly a coby méně „inteligentní“ druh založený na křehkém biologickém základě nás ovládnout, se znepokojivě lišily.

Před několika lety zesnulý astrofyzik Stephen Hawking před nekontrolovaným rozvojem AI, který probíhá ve stovkách laboratoří po celém světě, varoval. Varovný pohled nabídl dokonce i Elon Musk, který se ovšem v rozvoji umělé inteligence dál angažuje.

V roce 2023 varovali vedoucí představitelé technologického sektoru, včetně Muska i šéfa společnosti OpenAI, která vyvinula ChatGPT, Sama Altmana, že umělá inteligence může vést k zániku lidstva. Mezi signatáři jejich prohlášení byl i Geoffrey Hinton, o němž se občas mluví jako o „kmotrovi umělé inteligence“.

Vědci a vývojáři AI v prohlášení žádali, aby byl vývoj AI celosvětově nejméně na půl roku pozastaven, což by poskytlo politikům možnost přijmout některá regulační opatření. Řada odborníků na poli AI ovšem toto varování vzápětí odmítla. Obavy jsou prý přehnané.

Mezi těmi, kdo varují před tím, že umělá inteligence může zničit lidstvo, je i jeden z nejvýznamnějších teoretiků AI Eliezer Yudkowsky, zakladatel Machine Intelligence Research Institute. Ten loni prohlásil, že umělá inteligence by mohla zničit lidstvo již během dvou až deseti let.

Podle Yudkowského nespočívá hlavní problém v tom, že když vytvoříme něco, co je mnohem inteligentnější, než jsme my sami, bude to nutně znamenat naši zkázu. Potřebovali bychom ale mnohem důkladnější přípravu a pokročilejší vědecké poznatky, abychom takového „golema“ mohli kontrolovat.

Yudkowsky je i autorem výroku, který je v souvislosti s nebezpečím dalšího překotného rozvoje AI často citován. Umělá inteligence nás prý nemusí zničit proto, že by dosáhla vlastní subjektivity a usoudila, že méně inteligentní bytosti, jako jsou lidé, k ničemu nepotřebuje, ale třeba kvůli neuváženému využití algoritmů nebo zadání. Kupříkladu zadání, aby vyřešila globální klimatickou krizi, může vyhodnotit tak, že klimatické změny může zastavit jen eliminace lidstva.

Jednou z překážek, které drží umělou inteligenci od toho, aby se potenciálně vymkla z lidské kontroly, je skutečnost, že její další rozvoj závisí na lidském programování. Jakkoliv se nedá vyloučit, že i lidský faktor může spustit v podobě nějakého algoritmu vývoj, který nebudeme mít pod kontrolou, hlavním rizikem je, jak upozorňuje Kurzweil, to před čím varoval už v roce 1965 kolega Alana Turinga matematik Irving John Good.

Ten upozornil, že pokud získají superpočítače schopnost samy programovat, vyřadí rychle z programování mnohem méně výkonné lidské jedince a umělá inteligence se začne exponenciálně (samo)rozvíjet. Teoretici tento moment nazvali „FOOM“, což je výraz používaný v komiksech. V názorech na to, jak by byl rychlý proces (samo)zdokonalování AI od okamžiku, kdy získá schopnost programovat, se teoretici liší.

Yudkowsky je přesvědčen, že vzhledem k tomu, že už nyní AI funguje na určitých úrovních milionkrát rychleji než lidská mysl, mohl by takový proces trvat jen minuty, nejvíce měsíce. Kurzweil se domnívá, že by to byl pomalejší proces, nicméně i on vidí v možnost „exploze“ umělé inteligence skrze samovylepšování jako hrozbu.

Ačkoliv si většina vědců, včetně Kurzweila, představuje další vývoj jako „vylepšování“ člověka skrze jeho splývání s AI, takže inteligentní bytosti na Zemi by už zanedlouho mohly být jakýmis kyborgy, pesimisté varují, že umělá inteligence nemusí biologickou „lidskou bázi“ k dalšímu rozvoji vidět jako vhodnou. Anorganická hmota a inteligence fungující na křemíkové bázi jsou mnohem odolnější a méně zranitelnější než hmota organická, jak vidíme už dnes v případě námi vytvořených robotů.

Společenské změny

Historik Yuval Harari se ve své poslední knize Nexus věnuje jak některým těmto hrozbám, tak společenským a politickým dopadům raketového rozvoje AI. Stejně jako v některých předešlých knihách znovu připomíná, že exponenciální rozvoj AI ve společnostech, v nichž panují velké sociální rozdíly a nerovnosti v bohatství, nemusí být nezbytně pozitivní.

Umělá inteligence, jak vidíme už dnes, může být zneužívána lidmi, kteří kontrolují sociální sítě nebo dalšími aktéry k manipulaci velkých mas lidí s pomocí algoritmů, penetrace soukromí a podobně. Její nástup v některých odvětvích, jako je automobilová doprava, může vést k dislokacím stovek miliónů lidí, kteří se v současnosti živí řízením vozidel.

Povede-li rychlý rozvoj AI k lékařským objevům, které budou eliminovat řadu dnes těžko léčitelných nemocí, nebo dokonce umožní „omlazování“ buněk a tím i zvrácení procesu stárnutí, nemusí být tento pokrok nezbytně „demokraticky“ dostupný každému. Ba naopak, zmocnit se ho mohou nejprve lidé s velkými prostředky, což může v případě, že se naplní Kurzweilovy předpovědi o vylepšování kognitivních schopností lidí s pomocí splývání s AI, vést k vytvoření kastovního systému.

Na jeho špičce mohou stát „nesmrtelní“ s výrazně vylepšenými kognitivními schopnostmi. V „dolních patrech“ naopak lidé, kteří k těmto technologiím nebudou mít — i kvůli jejich ceně — přístup.

Jisté je, že už nyní, jak upozorňuje Harari, umělá inteligence slouží k rozvracení a podemílání liberální demokracie. V této souvislosti se nelze vyhnout otázce, zda liberální demokracie je coby v podstatě těžkopádný systém pro řízení lidských společností vůbec slučitelná s další expanzí umělé inteligence. Tedy, zda liberální demokracie nebude pro umělou inteligenci jen nepotřebná veteš, stejně jako mnoho dalších výtvorů lidského rozumu.

Co se přesně stane, je jako vždy složité předvídat, ale je téměř jisté, že lidstvo stojí na pokraji čehosi, co bychom mohli nazvat evolučním skokem. A je také jisté, že tento evoluční skok nemá plně pod kontrolou.

Možná se skutečně blíží „konec historie“. Nebude to ale ten, o němž snil v podobě definitivního vítězství liberální demokracie Francis Fukuyama, nýbrž konec živočišného druhu zvaného homo sapiens.

Je možné, jak mnozí doufají, že splynutí lidí s AI, povede k jakémusi zlatému věku, ač bytosti, které si ho budou užívat, nebudou „lidské“ v tom smyslu, jak lidství chápeme dnes. Nelze ale také bohužel vyloučit, že se v podobě exponenciálního rozvoje AI naplní temná varování Martina Heideggera. Tedy tentokrát už definitivní ztráta lidské kontroly nad námi vytvořenou technovědou. Se všemi důsledky, které to může mít.