Magnifica humanitas: obrana důstojnosti člověka v době umělé inteligence
Tomáš PetráčekPrvní encyklika papeže Lva XIV., zveřejněná v květnu, hájí lidskou svobodu a odpovědnost v době překotného rozvoje umělé inteligence. Požaduje veřejnou kontrolu jejího vývoje a jasnou právní odpovědnost těch, kdo ji vytvářejí a využívají.
První encyklika nového papeže Lva XIV., vydaná 15. května, vzbudila značnou pozornost. Veřejná debata se soustředila především na fenomén umělé inteligence (AI), jádro dokumentu však mnohem lépe vystihuje jeho podtitul: „O ochraně lidské osoby ve věku umělé inteligence“. AI zde není jen samostatným tématem, ale také symbolem i nástrojem postupujícího odlidšťování světa, v němž stále větší moc získávají technologie a ekonomické a politické síly, které je ovládají.
Encyklika je vášnivou obranou lidské důstojnosti, kterou si člověk nemusí ničím zasloužit — nezávisí na jeho výkonu, majetku ani původu. Právě z tohoto důrazu na lidskou důstojnost vycházejí i důležité podněty k otázce, jak s umělou inteligencí zacházet, jak uznali i někteří z protagonistů jejího rozvoje.
Změna žánru a stylu
Encykliky jsou překvapivě moderním nástrojem. Ve větší míře je začal využívat až papež Lev XIII. (1878—1903), který se jejich prostřednictvím snažil ovlivňovat společenský vývoj: namísto dosavadní praxe odsudků a soupisů „omylů moderní doby“ předkládal pozitivně formulované církevní učení.
Encyklika je programový dokument, na jehož přípravě se podílí celý tým špičkových teologů a dalších odborníků. Dnes už samozřejmě neplatí naivní představa, že papež sám tajemně nahlédne pravý stav věcí, sestoupí mezi lidi a předá jim poselství. Za každou encyklikou, ať už v minulosti, nebo dnes, stojí konkrétní důvod jejího vzniku a týmy lidí, kteří na jejím znění pracují, připomínkují je, vznášejí námitky a někdy dokonce brání jejímu vydání.
Svébytné místo má vždy první encyklika každého papeže, neboť prozrazuje jeho priority, způsob myšlení i styl jednání. Původně šlo doslova o „oběžník“ určený pouze katolickým biskupům, později všem věřícím. Současná encyklika je určena všem lidem dobré vůle, protože výzvy spojené s novými technologiemi se týkají nás všech.
První, čeho si pozorný čtenář všimne, je dovršení proměny rétorického stylu, která započala na druhém vatikánském koncilu a výrazně se odráží už v názvu dokumentu. „Vznešené lidství“ dokládá přijetí bytostně humanistické perspektivy, která zdůrazňuje hodnotu člověka a lidské přirozenosti. Ta je sice křehká a ohrožená, nicméně nic z toho, co vnímáme jako „omezení“ — neschopnost, nemoc, stáří, utrpení či zranitelnost —, není vadou, kterou je třeba napravit. Je to realita, skrze niž naše lidství dozrává a otevírá se vztahům (MH 118).
Umělá inteligence naproti tomu žádnou takovou zkušeností neprochází: nemá tělo, neprožívá radost ani bolest a neuzrává ve vztazích.
V encyklice se neobjevují tradiční starověké a středověké prvky krajně pesimistického pojetí člověka, spojeného se skepsí vůči lidské přirozenosti, považované za porušenou či dokonce zcela zničenou. Domnívám se, že se zde projevuje také politický kontext: Lev XIV. se staví proti současné vlně autoritářských politiků a ideologů, kteří často využívají vybrané historické podoby křesťanství k prosazování přesvědčení, že lidská svoboda a autonomie zašly příliš daleko. Podle tohoto pohledu je lidská svoboda neudržitelná kvůli narušené schopnosti člověka rozumově uvažovat a svobodně se rozhodovat. Společnost se proto údajně musí vrátit k pevně hierarchicky a stavovsky uspořádanému předmodernímu řádu, v němž má každý své předem určené místo.
Encyklika naproti tomu zdůrazňuje právo každého člověka na integrální rozvoj a povinnost všech chránit „vznešenost lidství, která je nám dána jako dar“ (MH 90).
Od paternalismu k partnerství: změny perspektivy
Důležitým impulsem je zde výslovné odmítnutí politiky kulturních válek a ideologického vymezování vůči těm, kdo nesdílejí stejnou víru a pohled na svět. Církev si nenárokuje monopol na pravdu. Naopak: „nejdůležitější není obsazovat mocenské pozice nebo bránit kulturní pevnosti“, ale iniciovat dobré procesy a umožnit jim zrát. Skutečná pravda totiž vítá rozmanitost.
S tím úzce souvisí otázka pravdy a manipulace v politice. Papež konstatuje, že dezinformace nevznikly s umělou inteligencí, ta však může výrazně zesilovat jejich účinek. Pokud společnost rezignuje na hledání pravdy a podřídí se pragmatismu založenému pouze na užitečnosti a efektivitě, podkopává tím samotné základy demokracie. Ta totiž nespočívá pouze v pravidlech a postupech, ale především v pevném zakotvení ve faktech a v opravdovém závazku k dobru jednotlivců a společnosti jako celku. Jak encyklika varuje, „lhostejnost k pravdě vede pomalu, ale jistě k sestupu do totality“ (MH 25, 132, 34).
Encyklika zdůrazňuje otevřenost vůči druhým a výslovně považuje za spojence všechny, kdo „usilují o spravedlivější svět“. Nestačí pouze přihlížet a doufat, že všechno dobře dopadne. Všichni neseme odpovědnost za svět, v němž společně žijeme, a musíme ji aktivně přijmout. Úkolem politiky a společenských procesů je přispívat k budování spravedlivější a bratrštější společnosti. Do tohoto úsilí chce encyklika zapojit také humanitní a společenské vědy jako rovnocenné partnery.
Proto je třeba brát v úvahu také politické, společenské a ekonomické souvislosti: „nespravedlnosti nevznikají pouze ze špatných rozhodnutí jednotlivců, ale také ze struktur, mechanismů a ekonomických a kulturních systémů, které téměř automaticky produkují nerovnost“ (MH 79). Kvalita civilizace se totiž neměří silou jejích prostředků, ale péčí a schopností rozpoznat v druhém člověku tvář, nikoli pouze funkci (MH 114).
Důležitost veřejné kontroly a návrat politiky
Encyklika rozhodně nepředstavuje pesimistickou výpověď o technologiích. Naopak konstatuje, že technologie provázejí lidstvo od jeho počátků. Zároveň však upozorňuje, že mohou vytvářet nové formy rozdělení, nespravedlnosti a nerovnosti. Zásadní problém spatřuje v tom, že vývoj a kontrola umělé inteligence se nacházejí v rukou soukromých společností, mimo přímou veřejnou kontrolu.
Papež staví přístup k umělé inteligenci na roveň přístupu k základním materiálním dobrům Země — půdě, vodě, vzduchu a přírodním zdrojům. Ta jsou podle něj Bohem dána celé lidské rodině, aby sloužila k zachování života všech. Každý člověk má proto přirozené právo tato dobra užívat, a to i s ohledem na budoucí generace (MH 65).
Tato otázka se týká států, civilizací i jednotlivců. Umělá inteligence totiž může prohlubovat již existující majetkové a mocenské nerovnosti a přispívat k řadě krizových sociálních jevů a jejich důsledků: k nucené migraci, novým formám otroctví, sílícímu tlaku na výkon a užitečnost i k celkové dehumanizaci společnosti.
Proto je nutné, aby se politika znovu ujala své role a obnovila veřejnou kontrolu nad provozováním a využíváním AI, a to už od samého počátku jejího vývoje. Právě v této fázi totiž tvůrci do umělé inteligence promítají své myšlení a svůj pohled na svět, které následně ovlivňují její uživatele. Každý technický nástroj ztělesňuje určité volby a priority prostřednictvím toho, co měří, ignoruje a optimalizuje a jak klasifikuje lidi a situace (MH 104).
Mimořádně důležité je to ve vztahu k dětem a mladistvým. Je zapotřebí prozíravá veřejná politika, která se dokáže postavit bezprostředním zájmům platforem, soustředěným v rukou několika málo osob, když jsou v rozporu s dobrem nezletilých (MH 142).
Práce, bezpečnost, odpovědnost
Některé formy pokroku zhoršují nerovnosti. „V důsledku toho, zatímco někteří usilují o iluzi neomezeného sebeprosazení, mnozí jsou ochuzeni o základní potřeby. Církev nám pevným, ale pokorným hlasem připomíná, že pravého naplnění se nedosahuje odstraněním slabosti, ale harmonickým růstem. Nachází se tam, kde se svoboda a odpovědnost prolínají se vzájemnou péčí a opravdovou solidaritou a kde se pokrok měří důstojností každého člověka a dobrem všech národů“ (MH 12). K tomu patří také péče o to, aby měl každý zajištěnou práci. Je to požadavek vyplývající z lidské podstaty a přirozená cesta k zralosti, rozvoji a osobnímu naplnění (MH 149).
Zásadní je celková bezpečnost fungování AI a jasně stanovená, právně vymahatelná odpovědnost konkrétních osob za rozhodnutí, jejichž přijímání budou státy, armády či firmy v budoucnu delegovat na systémy umělé inteligence. Tento problém se netýká pouze vojenského využití AI, kde je samozřejmě nejvyhrocenější. Je třeba chránit primát lidské osoby, aby se zajistilo, že to „bude vždy lidská inteligence se svým svědomím a svobodou, která bude řídit technické inovace a zodpovědně určovat jejich využití a limity“ (MH 97).
Ve chvíli, kdy každá naše činnost — pohyb, nákup, vztah či vyjádřená preference — zanechává digitální stopu, vzniká nová forma moci: moc profilovat, předvídat a ovlivňovat chování. Proto svoboda v digitálním věku vyžaduje jasná pravidla, transparentnost, možnost odvolání a přiměřená omezení používání dotěrných technologií, aby technologie zůstaly ve službách lidské osoby a nestaly se formou kontroly nad svědomím (MH 171).
Papež zdůrazňuje roli institucí a mezinárodních dohod, které významně přispěly ke zlepšení situace ve světě a k omezení zneužívání moci. Vyzývá k obnovení respektu k nim a k úsilí o jejich vylepšení a posílení. Opět se objevují také témata, jako jsou rovnost mužů a žen či migrace (MH 57, 81). Velmi kriticky papež reflektuje vývoj posledních desetiletí, v nichž globalizace nenaplnila očekávání a namísto toho vyvolala fundamentalistické, identitní a nacionalistické reakce. Místo pozitivního multilateralismu se prosadil neuspořádaný a konfliktní multipolarismus, provázený převládajícím pocitem nedůvěry (MH 201, 202).
Encyklika tváří v tvář překotnému vývoji
Je vidět, že papež nechce opakovat chybu svého předchůdce Lva XIII., který se sociální a dělnickou otázkou ve své encyklice Rerum Novarum přišel až v roce 1891 — tedy příliš pozdě (Magnifica humanitas se k této encyklice hlásí i tím, že vyšla ve stejný den). I s rizikem výsměchu, který hrozí každému, kdo se pustí do úvah o překotně se vyvíjející technologii, jejíž dynamický rozvoj způsobuje, že každá výpověď rychle zastarává, nabídl papež promyšlenou a cennou reflexi, která nejen připomíná základní principy odpovědnosti a uvážlivosti, ale přináší také praktické podněty ke konkrétním krokům, které by měli podniknout politici, nadnárodní organizace, samotné firmy i jednotliví vývojáři a uživatelé.
Základní dilema formuluje takto: pro algoritmus je chyba vadou, kterou je třeba napravit; pro člověka však může být chyba katalyzátorem hluboké změny. Budoucnost člověka není vypočitatelná, ale závisí na jeho svobodě a na vztazích, které pěstuje (MH 128).
Encyklika je zároveň svědectvím o proměně papežství a celé katolické církve, která i s novým papežem opouští paternalistický, blahosklonný tón těch, kdo si osobují právo vlastnit pravdu, a solidárně se staví po bok všem, kdo chtějí riskovat a usilovat o lidštější budoucnost světa.
Církev, která si přiznává svá minulá selhání, chce naslouchat hlasu odborníků i lidí na okraji společnosti a už si nemyslí, že má na všechno hotové odpovědi. Církev, která jde s kůží na trh i v tak sledované a ožehavé otázce, jako je rozvoj AI. Právě proto, že přijímá odpovědnost, k níž vyzývá všechny ostatní. Lev XIV. se zde jednoznačně přihlásil k odkazu svého předchůdce Františka a ukázal, že chce ještě razantněji pokračovat v cestě radikální obnovy církve, radikálního humanismu a inkluzivního univerzalismu.
