Publikováno: 01.06.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI. Blog publikujeme paralelně i na stránkách FF.
Lev XIV. vydal svou vůbec první encykliku. Věnuje se v ní umělé inteligenci, respektive mnohým otázkám a problémům, před něž lidstvo prudký rozvoj této technologie staví.
Svůj dnešní blog budu věnovat kritice jednoho centrálního aspektu papežova chápání AI. Předtím bych ale chtěl opravdu ocenit, že si papež, na rozdíl od mnoha jiných významných postav dnešního světa, uvědomuje, že AI je centrální otázkou současnosti. AI nestojí mezi tématy, s nimiž se musíme vypořádávat, na druhém či třetím místě. Podle papeže je Tématem s velkým T, a proto svou první a zatím jedinou encykliku věnoval právě reflexi situace člověka v době AI.
Pokud by si více lídrů našeho světa bylo ochotno vytyčit reflexi světa s AI jako prioritu, hleděl bych do budoucna mnohem nadějněji. Na mnoha úrovních je ale daleko typičtější téma ignorovat, případně skutečnou reflexi nahradit slovníkem technologie budoucnosti. AI proměňuje mnohé – zásadně a nesmírně rychle. Bylo by potřeba mnohem víc těch, kteří pochopí, že reflexi světa s AI se musíme věnovat s daleko větším úsilím a naléhavostí. Papež je jeden z prvních, kdo si téma vytkl jako prioritu. Velmi bych si přál, aby ho další rychle následovali.
Necítí a nemyslí
Jakkoli na papežově zabývání se AI oceňuju mnohé, nemůžu se nepozastavit nad jedním klíčovým momentem. Podle Lva XIV. lze s jistotou tvrdit, že umělá inteligence neprožívá zkušenost, necítí radost ani bolest a nerozumí poslednímu smyslu situací. AI systémy podle papeže pouze imitují, nikoli skutečně chápou.
Vůbec netvrdím, že máme nějaký jasný důkaz, že AIčka tyhle věci dělají a papež se jednoznačně mýlí. Spíše je situace mnohem nejasnější a rázná prohlášení na jednu nebo druhou stranu předstírají jistotu tam, kde bychom z velmi dobrých důvodů měli být velmi zdrženliví.
Nelidský Anthropic
Na oficiálním představení encykliky promluvilo kromě papeže a dalších církevních představitelů i několik málo hostů. Jedním z nich byl Chris Olah, jeden ze zakladatelů firmy Anthropic (vytvářejí špičkový AI model Claude).
Chris Olah je jedním ze zakladatelů oboru tzv. mechanistické interpretovatelnosti. Vědci se v rámci tohoto přístupu snaží porozumět tomu, co se v AI systémech vlastně děje. Snaží se dívat do umělé neuronové sítě a hledat v ní vzorce, kterým člověk může rozumět.
Olah ve své krátké řeči před papežem poukázal na podivnost AI systémů. „Jsem vědec. Vedu výzkumný tým, který zkoumá vnitřní strukturu těchto modelů – to, co se v nich skutečně odehrává. Budu upřímný: stále přicházíme na záhadné, ba znepokojivé objevy. Nacházíme totiž struktury, které odpovídají tomu, s čím přichází neurověda. Nacházíme známky introspekce. Nacházíme vnitřní stavy, které funkčně odpovídají radosti, uspokojení, strachu, zármutku či neklidu. Nevím, co to znamená. Myslím si však, že je to třeba dále zkoumat.“
Kontrast mezi přístupem špičkového vědce, který zasvětil svůj odborný život zkoumání vnitřního fungování umělé inteligence, a přístupem obsaženým v encyklice je jasně patrný. Encyklika s jistotou upírá AI prožívání radosti a strachu i mnohé další aspekty vnitřního života. Výzkumy vedené Olahem a dalšími vědci ukazují, že si vnitřním životem AI opravdu nemůžeme být jistí, a nabádají k obezřetnosti a vyvarování se kategorických tvrzení.
Na čem záleží
V našem blogu jsme se různým aspektům výzkumu vnitřních stavů AI systémů věnovali opakovaně. Připomínám například výzkumy, které zkoumají tendence modelů mluvit o svém vědomí. Tyto tendence přitom nejsou jednoduchým důsledkem hraní rolí.
Nebo výzkum tzv. funkčních emocí, v němž se ukazuje, že AI modely nejen velmi dobře reprezentují jednotlivé emoce, ale že tyto emoce zároveň kauzálně ovlivňují, jak se modely chovají.
Modely jsou také schopné docela dobře poznat, pokud se jim někdo hrabe v jejich „mozku“, a umí rozlišit, kdy v nich nějaká myšlenka vznikla přirozeně a kdy vnějším zásahem. (např. Emoce a AI nebo Platón měl pravdu)
Co je nám ale potom, jestli AIčka něco prožívají, nebo nikoli? Stejně se to nedá nikdy definitivně rozseknout (tzv. těžký problém vědomí).
Jenže ono na tom záleží překvapivě hodně. Encyklika pojmenovává mnohé reálné problémy, které AI může lidstvu přinést. Jedna kategorie rizik ale chybí. Papež se vůbec nezmiňuje o možnosti, že by se nesmírně schopná AI mohla vymknout jakékoli lidské kontrole a v rámci sledování vlastních podivných cílů učinit ze světa velmi nehostinné místo (tzv. rogue AI).
Toto opomenutí rizika, před kterým hlasitě varují nobelisté, kmotři AI i výzkumníci věnující se bezpečnosti AI, není zřejmě nahodilé. Pokud totiž jistojistě víte, že AI nemá vnitřní cíle, ničemu ve skutečnosti nerozumí a neprožívá žádné emoce, riziko zlovolné AI, která jedná z vlastní vůle v neprospěch lidstva, působí o poznání méně naléhavě.
Jakkoli bych si přál, aby riziko AI utržené ze řetězu bylo jen výplodem bujné fantazie autorů sci-fi románů, sebevědomým odmítáním vnitřního života AI se tomuto riziku jen stěží skutečně vyhneme.
1. 6. 2026
