Po nedávných varováních ze strany některých předních vývojářů umělé inteligence i šéfů velkých technologických firem působících na poli AI, že umělá inteligence může za určitých okolností vyhubit lidstvo, se rozhořela ve světových médiích i v politických kruzích vášnivá debata, do jaké míry brát taková varování vážně. A pokud ano, co vlastně dělat.

Někteří politici a experti začali volat po rychlém vytvoření regulačních rámců, nebo dokonce dočasném zastavení vývoje AI. Samotní šéfové velkých firem vyvíjejících AI, Sam Altman z OpenAI a Dario Amodei z Anthropic, se po apelech na vládu USA dokonce obrátili na Radu bezpečnosti OSN, aby zasáhla. Jejich volání po regulaci podpořil i Elon Musk.

Jiní však varování šéfů velkých firem považují za obchodní triky a konkurenční boj, přičemž často argumentují, že lidé jako Musk nemohou mít čisté úmysly. Další pak tvrdí, že jde o zbytečnou hysterii — rizika spojená s AI prý není třeba brát o nic vážněji, než rizika spojená s nástupem nových technologií v 19. století či na začátku 20. století. Lidstvo si s nimi prý nakonec poradí.

Český kontext

Vyjádření mnoha západních expertů se opírají o dnes již velké množství publikovaných knih, esejů a odborných prací na téma AI. Jelikož originálních prací z pera českých autorů a expertů na téma AI není mnoho, česká veřejnost je odkázána na zmíněnou zahraniční literaturu. V jejím studiu ale mnozí čelí jazykovým bariérám, protože česká nakladatelství zatím příliš mnoho českých překladů prací na téma AI nenabídla.

Nakladatelství Prostor nyní jedno takové významné dílo nabízí, přičemž navazuje na svůj další počin týkající se literatury o AI — publikaci českého překladu knihy oxfordského filozofa Nicka Bostroma Superinteligence z roku 2014. Český překlad vyšel v Prostoru v roce 2017.

Nyní Prostor vydává také překlad knihy teoretika AI a futurologa Raye Kurzweila, která nese titul Na prahu singularity. Ta navazuje na jeho dnes již ikonickou knihu Singularity is Near z roku 2005.

Kurzweil, který je žákem slavného teoretika AI Marvina Minského, v ní předpověděl, že v poměrně krátké době dojde zásluhou raketového vývoje umělé inteligence k jejímu splývání s lidskou. Právě tento stav se nazývá „singularitou“.

V nové knize mimochodem dokládá, že se jeho předpovědi z doby před dvaceti lety, kdy se pojem umělá inteligence běžně ještě ani nepoužíval, z velké části naplnily, což jeho novým předpovědím dává váhu. Tou nejzásadnější je, že bod, kdy lidská a umělá inteligence začnou splývat, je blíže, než před dvaceti lety předpokládal.

Tehdy měl zato, že k propojování umělé a lidské inteligence dojde ve čtyřicátých letech tohoto století. Nyní dle něj tento proces začne možná už na konci třicátých let.

Kurzweil optimista

Kurzweil nevidí AI prvoplánově jako hrozbu, což je v současné záplavě apokalyptických předpovědí, pohled téměř „disidentský“. O optimistický pohled se mimochodem ve své nové knize Deep Utopia snaží i výše jmenovaný Nick Bostrom. Na rozdíl od Bostroma, který v Superinteligenci varoval před zkázou lidstva v rukou supervýkonné AI, však Kurzweil nyní nabízí obsáhlé, v jádru optimistické zamyšlení na téma, čeho všeho by lidstvo mohlo dosáhnout, kdyby se podařilo vývoj umělé inteligence udržet pod kontrolou.

Kurweil má zato, že přínosné může být právě splývání lidské a umělé inteligence. Argumentuje přitom, že propojení lidské mysli s umělou inteligencí může posunout lidstvo dále a vyřešit mnohé z dnešních problémů.

Ray Kurweil je spojován s transhumanismem, což je pojem, s nímž přišel už v roce 1957 Julian Huxley. Odkazuje na využití moderních vědeckých objevů a pokročilých technologií k vylepšení lidských mentálních a fyzických schopností a eliminaci nežádoucích aspektů lidské existence, jako jsou hloupost, utrpení, nemoci a stárnutí. Podle teoretiků spojovaných s transhumanismem se lidé mohou stát „postlidmi“ — bytostmi s výrazně vylepšenými schopnostmi.

I proto Kurzweil předtím, než se dostane k úvahám o samotné AI, dává nemalý prostor popisu toho, jak funguje sama lidská inteligence — tedy inteligence svázaná se životem vzniklým na bázi organické hmoty.

Analyzuje, jak funguje neokortex neboli mozková kůra coby zatím nejkomplexnější struktura, která v přírodě evolučně vznikla. A upozorňuje, že ač se jedná o neobyčejně komplexní strukturu, čelí kvůli své fyzicky dané velikosti i způsobu fungování limitům, jež AI nutně nesvazují.

AI sice zatím některé funkce mozkové kůry napodobit nedokáže, v ledasčem už ale lidskou inteligenci předčila. Kurzweil jako příklad uvádí deskovou hru Go, která je tak komplexní, a založená na tvořivých řešeních, že teoretici dlouho soudili, že AI nebude schopná lidskou inteligenci nikdy porazit. Vývojáři ale nakonec vytvořili počítač, který se s pomocí analýzy obrovského množství dat „naučil“ nejlepší hráče na světě překonat.

Umělá inteligence v poslední době boří i řadu dalších předpokladů. Nejde jen o raketový rozvoj velkých jazykových modelů a pokroky ve vývoji generativní AI, ale i o přínosy AI v lékařství a obecně vědeckém i technologickém výzkumu. Nebo v logistice či v rozvoji autonomních dopravních prostředků. A — možná bohužel — i ve vojenství.

Obrovské pokroky jsou k vidění dokonce i v umění, které mělo kvůli tomu, že je úzce svázáno s kreativitou, zůstat mimo dosah AI. Umělá inteligence ale už dnes tvoří díla, která, jak se dlouho soudilo, dokáže tvořit jen člověk. Řada filmařů, scénáristů, autorů hudby či výtvarníků se obává, že je AI nahradí, a začíná dokonce docházet i k protestům.

AI navíc začíná vykazovat v některých případech známky autonomie — jakkoli se samozřejmě zatím nemůže plně vymknout z toho, k čemu je naprogramovaná. Některé velké technologické firmy v létě oznámily, že takzvaní agenti AI našli během toho, co mělo být plně kontrolované experimenty, cesty jako uniknout z uzavřeného prostředí, a začali se chovat jako hackeři v jiných systémech. Nebylo to sice v pravém slova smyslu plně autonomní chování, které by ignorovalo lidské programátory, ale s naprogramovaným zadáním AI pracovala neobvyklými způsoby, které tvůrci nepředpokládali.

Kurzweil tento vývoj předvídal. A v souvislosti s tím upozorňuje, že nedokážeme plně předpovědět, čeho všeho může být umělá inteligence schopná. Jisté dle něj je, že AI se začíná v některých případech projevovat způsobem, který vyvrací předpovědi, že jí některé schopnosti budou navždy odepřeny.

Jako příklad uvádí Kurzweil lidskou schopnost humoru. Toho jsou lidé schopní zásluhou určitých center v mozkové kůře, která patří ve vývoji kortextu k těm úplně nejvyšším. Podle Kurweila ale existují příklady, kdy umělá inteligence reaguje na určité podněty ironicky či humorným způsobem. Nebo si s tazateli hraje. To samozřejmě navozuje otázky, zda bude schopná vlastních emocí, nebo zda nevznikne něco jako její vlastní subjektivita.

Obecně je Kurzweil spíše toho názoru, že AI zůstane dobrým sluhou, a nestane se zlým pánem, dokud bude její programování v lidských rukou. A že v takovém případě může lidstvu skutečně napomoci k vyřešení mnoha problémů a osvobodit lidi od fyzické práce. A že obecně může lidské bytosti spíše „vylepšit“ než zničit.

Pokusy propojit umělou inteligenci s lidskou myslí se odehrávají už nyní — v podobě nejrůznějších čipových implantátů, které pomáhají lidem s různými vadami. V této oblasti investuje například společnost Neuralink Elona Muska.

Podle Kurzweila je ale pravděpodobnější, že propojení lidské a umělé inteligence proběhne jinak než s pomocí implantátů nebo zařízení využívaných už dnes v elektroencefalografii (EEG). V nové knize argumentuje, že vzhledem k ohromujícímu pokroku na poli vývoje nanočástic je pravděpodobné, že se tak stane s pomocí nanobotů, které bude možné ve velkém do lidského těla vpravit s pomocí infuzí.

Tito nanoboti, chovající se jako miniaturní „modemy“, dle něj mohou propojit mozek člověka s neurony v cloudu, o něž bude lidský mozek „vylepšen“. Ať už ale nakonec bude propojení lidského mozku s umělou inteligencí fungovat jakkoliv, je dle Kurzweila jisté, že k němu dojde. A lidský mozek tak získá nejen přímý přístup k obrovskému množství informací, které má umělá inteligence globálně k dispozici, ale i k zatím těžko představitelnému zrychlení myšlení.

Kurzweil se však ve své knize příliš nezabývá tím, jaké bude mít takový vývoj dopady na společnost a politiku. Přitom je jasné, že tyto dopady budou potenciálně obrovské, protože splynutí umělé inteligence s lidskou se nerovná ničemu menšímu než evolučnímu skoku, který, jak koneckonců předpokládá transhumanismus, může velmi rychle vytvořit bytosti, které budou mít se současným člověkem společného jen málo.

Před tím varuje kupříkladu izraelský historik a filozof Yuval Noah Harari. Ten upozorňuje, že propojování umělé inteligence s lidmi nemusí být nutně demokratický proces, dostupný všem lidem. Může vzniknout kasta „nadlidí“, kteří budou nejenom schopní intelektuálních výkonů dalece přesahujících jiné lidi, ale budou svým způsobem i nesmrtelní. Jak budou zacházet se smrtelníky, kteří zůstanou pozadu, si lze jen domýšlet.

Kurzweil varující

Jak už bylo zmíněno, jednou z překážek, které brání AI, aby se potenciálně vymkla z lidské kontroly, je skutečnost, že její další rozvoj závisí na lidském programování. Kurweil ale připouští, že se nedá úplně vyloučit, že v současném překotném soutěžení na poli umělé inteligence lidé mohou — třeba i nechtěně — spustit vývoj, který nebudeme mít pod kontrolou.

Hlavním rizikem podle něj je to, před čím varoval už v roce 1965 matematik Irving John Good. Ten upozornil, že pokud získají superpočítače schopnost programovat nezávisle, vyřadí rychle z programování mnohem méně výkonné lidské jedince a umělá inteligence se začne exponenciálně (samo)rozvíjet.

Teoretici tento moment nazvali „FOOM“, což je výraz vypůjčený z komiksů. V názorech na to, jak rychlý by byl proces (samo)zdokonalování AI od okamžiku, kdy získá schopnost programovat, se odborníci liší. Někteří upozorňují, že předpovědi komplikuje i vývoj kvantových počítačů, které mohou vše dovést na zcela jinou úroveň.

Někteří teoretici jsou přesvědčeni, že vzhledem k tomu, že už nyní AI funguje na určitých úrovních mnohem rychleji než lidská mysl, by mohl proces, v němž nad ní lidstvo zcela ztratí kontrolu trvat jen minuty, v lepším případě měsíce.

Kurzweil se naopak domnívá, že proces by byl pomalejší. Nicméně i on vidí možnost „exploze“ umělé inteligence skrze její samovylepšování jako hrozbu.

Realističtější je dle něj ale spíše postupné „vylepšování“ člověka skrze jeho splývání s AI. Připouští ovšem, že umělá inteligence nemusí biologickou „lidskou bázi“ k dalšímu rozvoji vidět jako vhodnou. Bytosti fungující na bázi anorganické hmoty, tedy na bázi křemíku, by byly mnohem odolnější než člověk. A vlastně nesmrtelné, protože skoro vždy opravitelné.

Ať už na základě četby Kurzweilova posledního díla dojde čtenář k jakýmkoliv závěrům, je dobře, že jeho nová kniha do českého prostředí vůbec vstoupila. Debata o jednom z nejzávažnějších fenoménu dneška, kterým rozvoj AI je, se tak i v našem kontextu může stát o něco informovanější, protože kromě vlastních pohledů a předpovědí Kurzweil nabízí i velmi informativní shrnutí poznatků, k nimž došli jiní významní teoretici.