Zakladatel společnosti Facebook Mark Zuckerberg má na svém kontě řadu skandálních výroků. V roce 2010 prohlásil, že éra soukromí skončila. Sociální normy se dle jeho tehdejšího vyjádření mění a lidé už zkrátka při sdílení citlivých informací nepociťují zábrany.

Šlo o klasickou fintu, jak skrýt vlastní cíle do hávu čehosi daného a neodvratitelného. Mezi řádky jsme však v Zuckerbergových slovech mohli číst: „Chci, aby lidé kašlali na své soukromí. Bude to tak totiž dobré pro můj byznys.“

Ve stejném duchu je potřeba chápat i jeho zamyšlení z letošního dubna. V podcastu Dwarkeshe Patela přišel s nápadem, jak vyřešit epidemii samoty. „Průměrný Američan má snad méně než tři přátele. Ale chtěl by jich mnohem více, třeba patnáct. Průměrný člověk zkrátka chce trávit více času s přáteli než nyní,” prohlásil Zuckerberg a záhy nabídl řešení — virtuální chatboti jeho firmy by mohli dostatek přátel výhledově zajistit.

Zuckerberg chce, aby se představa digitálních přátel znormalizovala, protože až se tak stane, bude to on, kdo na tom vydělá. Potvrzuje ostatně fakt, že se jeho společnost Meta vydala vstříc právním rizikům a začala v Evropě od května využívat k trénování modelů umělé inteligence data uživatelů. Meta chatboty, kteří by nás v budoucnu měli zachránit od drásavých pocitů samoty, tak již nyní prakticky vykrmujeme vlastními daty.

Řada komentátorů označila Zuckerbergův recept na zvládnutí samoty dle očekávání za skandální. Největší útok na lidskou empatii v dějinách, jak ohlášený nástup virtuálních společníků již před rokem označila socioložka a psychoterapeutka Sherry Turkleová, však již probíhá na mnoha frontách.

Chatbot školní, firemní i vyhledávací

O chatbotech se patrně nejčastěji píše v souvislosti s duševním zdravím. Zatímco zde se však rýsuje konsensus, dle něhož chatboti mohou sloužit jako určitý informační rozcestník, který však zdaleka nenahradí živé psychology ani terapeuty, bouřlivé změny již chatboti způsobují ve školství.

O takzvaných „AI tutorech“, tedy jakýchsi osobních učitelích, hovořila nedávno pro český Wired s nadšením třeba viceprezidentka pro informační technologie na Harvardově univerzitě Klára Jelínková. Mají podle ní „skutečně pozitivní dopady na výsledky studentů“. Podle Jelínkové se tradiční model „třída-učitel-žák“ proměňuje a je třeba, abychom k „AI přistupovali víc jako k člověku než jako ke stroji“.

Sam Altman, šéf společnosti OpenAI, zase ohlásil nástup „AI agentů“. Ti by již letos měli „způsobit revoluci“ hlavně na firemních pracovištích. Na rozdíl od chatbotů jen nekonzultují, ale přímo vykonávají úkoly. Pořídí zápis z porady a rozdají úkoly. Protřídí e-maily, seřadí je dle priorit, naplánují, co je třeba dělat.

Nikoliv pouze ohlášenou, ale již skutečně probíhající revoluci pak vidíme v on-line vyhledávání. Od letošního května se můžeme v České republice setkat se shrnutími od firmy Google. S vygenerovaným shrnutím experimentuje od ledna i český Seznam. Ač se to na první pohled nemusí zdát, i tato změna výrazně zredukuje „lidskost“, jak podotkla ve svém příspěvku odbornice na umělou inteligenci Luiza Jarovsky.

Ta připomíná dosavadní funkci vyhledávače: byl jen jakýmsi pátračem a následně seřazovačem webových stránek. Člověk sám se musel rozhodnout, na co následně klikne. Nadpis i obsah nalezené stránky byly zároveň zpravidla výtvorem člověka. „Byly to různorodé, heterogenní výsledky, psané lidmi pro lidi. Dodávaly internetu lidský nádech,“ připomíná Jarovsky.

Nyní bude výsledkem vyhledávání jednotný a centralizovaný výstup generovaný umělou inteligencí. Ruku v ruce s tím se zároveň dramaticky sníží počet živých lidí, kteří na stránky přes vyhledávač vůbec zabloudí.

Jako jít do posilovny a žádat robota, aby za vás zvedal činky

Příchod chatbotů, nastane-li skutečně v očekávané míře, bude náročný hlavně pro děti. Ty se totiž základním sociálním a komunikačním návykům teprve učí a možné důsledky komunikace s digitálním pomocníkem pro ně nebude snadné dohlédnout.

Podle organizace Common Sense Media by se tak děti měly virtuálním společníkům — konkrétně zmiňují ty od Character.ai, Replika či Snapchat — prostě vyhnout. Odborníci z Common Sense Media upozorňují zejména na to, že menší děti mohou mít při komunikaci s chatbotem potíž rozeznat fantazii od reality. Dospívající se pak mohou uchylovat k digitálním kamarádům ve snaze vyhnout se problémům, které nutně a přirozeně vznikají při budování „reálných“ vztahů.

Zásadní text o tom, jak komunikační nástroje umělé inteligence proměňují školství, pak přinesl před pár dny Jason Koebler z 404Media. Ten byl po své výzvě doslova zasypán reakcemi od učitelů z různých zemí, které shrnuje v textu Teachers Are Not OK.

Patrně nejnaléhavěji vyznívá komentář Roberta W. Gehla z Toronta: „My po studentech chceme, aby četli, přemýšleli, psali o myšlenkách, diskutovali o nich. Děláme to proto, abychom z nich vychovali kritické občany. Umělá inteligence ale dokáže všechny tyto kroky simulovat: shrne přečtenou literaturu, vytáhne klíčové pojmy, navrhne text a dokonce vygeneruje nápady pro diskusi. To je ale jako jít do posilovny a požádat robota, aby za vás zvedal činky,” neskrývá frustraci.

Gehl upozorňuje i na to, jak se technologické firmy se svými nástroji v oblasti školství prakticky prosazují. „Univerzity uzavírají smlouvy se společnostmi jako Microsoft, Adobe a Google. Student tak může od profesora slyšet ‚nepoužívejte generativní umělou inteligenci‘, ale pak se přihlásí do univerzitního balíku Microsoft, který mu vzápětí navrhne použití nástroje Copilot pro shrnutí četby nebo pomoc s přípravou textu.”

Nakonec Gehl reflektuje své vlastní působení ve školství. „Dvacet let jsem rozvíjel pedagogiku, která je o zápase s velkými myšlenkami prostřednictvím psaní a diskuse. A teď je to celé pryč kvůli korporacím, jejichž systém stojí na ukradené práci. Je to demoralizující.”

Živá voda pro sociální sítě

Nástup chatbotů či agentů, které nám technologické firmy vnucují, je neoddělitelný od krize sociálních sítí. Model, kdy platíme našimi osobními daty, sledujeme cílenou reklamu a na oplátku získáváme službu, která nám zdarma umožňuje síťovat se s našimi přáteli či rodinou, se totiž začal částečně hroutit. Široká společenská kritika sociálních sítí i chytrých telefonů měla zkrátka své dopady.

Myšlenky digitálního detoxu se staly mainstreamem. Vzniká bezpočet iniciativ zabývajících se regulací času, který na sítích trávíme. Lidé čím dál častěji experimentují s takzvanými hloupými telefony či vyvíjejí rozličné taktiky, jak chytré telefony používat co nejméně. Sílící rodičovské hnutí vymetá smartphony ze škol. Sociální síť BeReal pak například sama radí uživatelům, aby, pokud už scrollují dlouho, síť opustili a šli si s někým povídat v „reálném světě“.

Chatboti, agenti a umělá inteligence jsou však pro sítě živou vodou. Nahrazují díru po zábavném obsahu, který jsme na sítě přestali dávat, a znovu nás k nim vábí.

Proto je Zuckerberg z představy virtuálních kamarádů tak unesený. A proto se jako společnost musíme znovu bránit.

Zeptáme se umělé inteligence. Nebo taky ne

Jak by tato obrana měla vypadat? Předně bychom si neměli nechat nikým nabulíkovat, že využití chatbotů a nástrojů umělé inteligence je neodvratné, nevyhnutelné a že se týká každého.

Co se týče generování budoucnosti, tím hlavním hybatelem jsme stále my, lidé. Budoucnost se neuskuteční tak, že ji ohlásí parta technooptimistů. Bude výsledkem společenského střetu, kdy na jedné straně stojí nové možnosti technologických nástrojů a na druhé straně míra, do jaké se je rozhodneme nebo nerozhodneme využívat a začlenit do života.

Hnutí ludditů na začátku devatenáctého století nebylo uskupení bláznů odmítajících sveřepě pokrok a ničících stroje, jak je často rámováno. Byli to lidé, pro které byla probíhající technologická změna zkrátka nevýhodná, a cítili potřebu se ozvat.

Je v pořádku cítit se dnes podobně a mít nedůvěru k nástrojům, které jsou často natrénovány na našich datech, vlamují se agresivně do naší komunikace a slibují tu významné „zjednodušení“, tu ještě zásadnější „zlepšení“.

Pokud cítíme, že nám nyní žádné zjednodušení ani zlepšení nepřináší, není důvod je používat. Co je dnes vnímáno jako zpátečnictví a marné a směšné brždění pokroku, bude možná zítra oceňováno jako snaha zachovat si alespoň zbytky vlastní důstojnosti.

Podlehneme-li představě, že je nutné okamžitě a bleskurychle vpustit chatboty a další nástroje umělé inteligence do našich osobních či pracovních životů, naplní se možná slova herečky April Dotyové. Ta se s řadou dalších kolegů bouří: třeba proti tomu, aby pohádky dětem namlouvali chatboti. V nedávném článku prohlásila: „Jako zombie se pomalu suneme k podobě světa, ve kterém vlastně nikdo z nás nechce žít.“

Článek vznikl v rámci projektu Rodina a digisvět za přispění prostředků státního rozpočtu ČR z programu NDT Rodina Ministerstva práce a sociálních věcí.