Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI (vychází také na substacku, kde ho můžete odebírat). Blog publikujeme paralelně i na stránkách FF.

Obavy z nekontrolovatelné AI často ústí v naléhavé přání, aby USA a Čína uzavřely dohodu, že umělou superinteligenci nestvoří, a předešly tak katastrofickým scénářům. Přiznávám, že i já ho opakovaně vyslovuju.

Asi tomu nebudete chtít věřit, ale dosud jsem u vyjednávání žádné zásadní smlouvy mezi USA a Čínou nebyl. A tak existuje nepatrná šance, že si celý proces představuju trošilinku zkresleně a možná i docela malililičko naivně. A existuje drobouličká šance, že ani mnoho dalších lidí, kteří takovou dohodu doporučují, vlastně nemá moc zkušeností s tím, jak se mezi velmocemi dělají zásadní mezinárodní smlouvy.

Téhle uzoulinké skupince nezkušených „diplomatů“ nyní házejí záchranné lano bratři Harrisové. Podrobně vyzpovídali dvanáct zkušených vyjednavačů mezinárodních dohod, například smluv o nešíření jaderných zbraní či o zákazu chemických a biologických zbraní. Těžké kalibry. A ptali se jich, jak by se dal mezinárodně zakázat vývoj umělé superinteligence.

Jeden telefonát

Vznik superinteligence by asi zakázat šlo. Jen zřejmě ne tak, jak si naiva mého typu představuje.

Příprava standardní mezinárodní smlouvy trvá dlouhé roky a zahrnuje mnoho kol jednání na různých úrovních. Pak musí smlouva ještě projít ratifikací, která zabere další léta.

Nesmírně schopné systémy, které nebudeme mít pod kontrolou, ale mohou vzniknout už do roka či dvou. Zamezit vzniku takovýchto modelů tak bude nutné v časovém okně, do kterého se uzavření „běžné“ mezinárodní dohody prostě nevejde.

„Takže na smlouvu zapomeňte. Smlouvy už neuzavíráme, protože to prostě trvá moc dlouho.“

Na tom se lidé, kteří reálně vyjednávali smlouvy mezi velmocemi, jednomyslně shodli.

Naopak dohoda založená na jednom telefonátu mezi prezidenty USA a Číny je kupodivu daleko realističtějším scénářem. Pokud bude mít prezident USA skutečnou obavu ze vzniku superinteligence, nejspíš vyvolanou velkou AI katastrofou („AI Černobylem“), může jedním rozhovorem se svým čínským protějškem odvrátit ještě hrozivější události.

Začátky budou asi velmi chaotické. Ani jedna ze stran nebude na takovou situaci připravena. Ačkoli by bylo záhodno, aby obě strany měly upřímný zájem zastavit šílený závod ve vývoji ještě schopnějších systémů, věřit si nemohou. A tak výzvu k druhé straně bude muset doprovázet jasné vymezení nepřekročitelných červených linií i věrohodná hrozba postihu za jejich překročení.

Takový telefonát nám získá týdny či měsíce. Během nich bude třeba vyvinout daleko jemnější mechanismy dohledu a vynucování dohody včetně technických řešení, která nyní existují jen v zárodcích (například monitoring dění v datacentrech). Následovat musí obrovské technické a diplomatické úsilí, aby se prvotní impuls nerozplynul a naopak se přetavil v trvalejší uspořádání.

Perspektivy

Popsaný způsob, jak zabránit vzniku umělé superinteligence, vychází z americké perspektivy. Harrisové přitom nejsou v oboru žádnými nováčky a jejich předchozích textů i dalších projektů si velmi cením (třeba výborného podcastu Last Week in AI, který spolumoderuje Jeremie). Jejich článek uvádí mnoho zkušeností amerických vyjednavačů s proradností a nedůvěryhodností čínských kolegů. Předpokládám, že z čínské perspektivy se situace jeví dosti podobně, jen těmi bezskrupulózními oportunisty jsou diplomaté USA.

Autoři také upozorňují na jeden překvapivý destabilizační faktor. Zájem obou stran na zastavení vývoje schopnější AI závisí na intenzivní obavě, že se takové systémy vymknou kontrole a napáchají obrovské škody. Tuto obavu může zmírnit pokrok na poli alignmentu. Nepřítelem dohody o nestvoření schopnějších modelů je tak paradoxně pokrok ve schopnosti sladit jejich cíle s přáními tvůrců. Kdyby například v Číně přišli na způsob, jak vytrénovat pokročilejší AI, která bude mít na srdci zájmy čínského lidu, měla by Čína silnou motivaci dohodu porušit a takovou AI stvořit. Což by ale vyvinulo tlak na USA, aby své modely minimálně dorovnaly na čínskou úroveň. Spirála vylepšování by se znovu roztočila a mohla nás velmi rychle dovést k nekontrolovatelným systémům s obrovskými schopnostmi.

Analýza také nijak nezakrývá, že náhlé zastavení vývoje bude ekonomicky extrémně bolet a zmrazí biliony dolarů z dalšího vývoje. Prosadit zastavení tak bude o to těžší.

Zastavení vývoje velmi schopných AI modelů, které se vymknou lidské kontrole, je tak podle projektu The Endgame (Koncovka) možné. Zkušení vyjednavači ale varují, že bychom neměli doufat v uhlazené diplomatické 4D šachy. Ve skutečnosti půjde o daleko náhlejší, improvizovanější a bolestivější krok.

O to víc bychom ale o této vítězné „koncovce“ pro lidstvo měli mluvit. Čím lépe si uvědomíme, co zastavení asi přinese, tím spíš můžeme všichni přispět k tomu, že se zastavíme včas.

IBAI - Iniciativa pro bezpečnost AI

9. 10. 2026

Ondřej Krása (KFR)

Rok 1526 změnil české dějiny. Na český trůn nastoupil Ferdinand I. a s ním Habsburkové, kteří českým zemím pak vládli téměř čtyři staletí. Co jejich příchod znamenal a jak se dotkl Pardubic? O Habsburcích, jejich vládě, korunovacích, umění i dynastických vazbách bude od října do listopadu hovořit šest předních historiků. Přednáškový cyklus Habsburkové v českých dějinách pořádá Východočeské muzeum v Pardubicích ve spolupráci s Ústavem historických věd Fakulty filosofické Univerzity Pardubice. Přednášky začínají 7. října v 17 hodin v přednáškovém sále Zámku Pardubice. 

Půltisícileté výročí nástupu Habsburků si tak vedle Vídně nebo Prahy letos připomenou i Pardubice. „Právě k Pardubicím měli Habsburkové překvapivě blízko. Ferdinand I. Pardubice několikrát navštívil a zajímal se o jejich reprezentativní zámek i strategickou polohu. Později se Pardubice staly majetkem jeho syna Maxmiliána II., který inicioval nákladnou přestavbu zámku pro potřeby panovnického dvora,“ připomíná ředitel Východočeského muzea v Pardubicích Tomáš Libánek. „Šest přednášek proto nabídne různé pohledy na první století habsburské vlády. A také připomene, že velké evropské dějiny se týkaly i Pardubic – a jejich stopy můžeme v našem městě hledat dodnes,“ dodává Libánek.

„Vláda Habsburků byla nacionalistickou a později také marxistickou historiografií často představována především jako období útlaku českého národa. Přednáškový cyklus nabídne možnost tento zažitý obraz kriticky přehodnotit a zasadit vývoj českých zemí do širších evropských souvislostí,“ připomíná jeden z organizátorů a zároveň přednášející – historik Pavel Marek z Univerzity Pardubice. „Po husitských válkách se český stát ocitl v kulturní izolaci, kterou se podařilo definitivně překonat teprve s nástupem Habsburků. Právě díky Ferdinandovi I. a dalším představitelům habsburské dynastie se Země koruny české znovu pevně začlenily do evropského kulturního a civilizačního prostoru.“

Příchod Habsburků

Cyklus zahájí 7. října historik Václav Bůžek z Jihočeské univerzity přednáškou Ferdinand I. a vznik středoevropské habsburské monarchie. Přiblíží okolnosti, díky nimž Ferdinand před 500 lety postupně převzal vládu nad rakouskými, českými a uherskými zeměmi, i politické a správní nástroje, kterými svou moc upevňoval.

Proměny korunovací

O dva týdny později, 21. října, se historik Jiří Hrbek z Historického ústavu Akademie věd České republiky zaměří na předbělohorské korunovace českých králů. Korunovace nebyly jen slavnostním obřadem, ale důležitým politickým rituálem, který doprovázely také slavnostní vjezdy panovníků do hlavních měst nebo holdování zemských stavů. Přednáška ukáže, co se na těchto obřadech za prvních téměř sto let habsburské vlády měnilo a co naopak zůstávalo stejné.

Anna Jagellonská

Listopadový program otevře 4. listopadu historička Jaroslava Hausenblasová z Univerzity Karlovy přednáškou o Anně Jagellonské, manželce Ferdinanda I. Pozornost bude věnovat nejen okolnostem vzniku habsburské monarchie, ale také úloze, kterou v tomto procesu sehrála Anna, jejímu podílu na vládě a reprezentaci i jejímu soukromému životu.

Habsburkové a Pardubice

Na své si přijdou také přímo Pardubice. Ve středu 11. listopadu představí historik Petr Vorel z Univerzity Pardubice vztahy mezi Habsburky a Pernštejny. Připomene dobu, kdy byly Pardubice hlavní rezidencí Pernštejnů a kdy se členové rodu osobně znali s Ferdinandem I. a Maxmiliánem II. Řeč bude také o zájmu Ferdinanda I. o pardubický zámek, o jeho prodeji Maxmiliánovi i o pozdějších snahách Vratislava z Pernštejna získat Pardubice zpět.

Umění a Anna Jagellonská

Historii Habsburků doplní 18. listopadu také pohled na umění na dvoře Ferdinanda I. a Anny Jagellonské. Historička umění Blanka Kubíková z Národní galerie Praha představí jejich stavební a umělecké aktivity a přiblíží také kontakty královského páru s předními evropskými malíři a dalšími umělci.

Kontakty se Španělskem

Cyklus uzavře 25. listopadu historik Pavel Marek z Univerzity Pardubice přednáškou o habsburské dynastické politice a svazcích mezi rakouskými a španělskými Habsburky. Ukáže, jak Habsburkové prostřednictvím sňatkové politiky upevňovali vazby mezi jednotlivými větvemi rodu a jak spojení se Španělskem a španělskou Itálií ovlivňovalo také politické, náboženské a kulturní prostředí zemí Koruny české.

Habsburkové v českých dějinách 

• 7. 10. Ferdinand I. a vznik středoevropské habsburské monarchie – Václav Bůžek (Jihočeská univerzita)
• 21. 10. Habsburkové a české předbělohorské korunovace – Jiří Hrbek (Historický ústav Akademie věd)
• 4. 11. Anna Jagellonská – manželka Ferdinanda I. – Jaroslava Hausenblasová (Univerzita Karlova)
• 11. 11. Habsburkové a Pardubice – Petr Vorel (Univerzita Pardubice)
• 18. 11. Umění na dvoře Ferdinanda I. a Anny Jagellonské – Blanka Kubíková (Národní galerie)
• 25. 11. Habsburská dynastická politika. Svazky mezi rakouskými a španělskými Habsburky – Pavel Marek (Univerzita Pardubice)

Zdroj: Tisková zpráva, Východočeské muzeum v Pardubicích

Pss. Pss. Pss. U Lavičky Václava Havla syčely otevírané plechovky piva a začínalo veřejné čtení Audience.

Studující Katedry literární kultury uspořádali u příležitosti výročí narození Václava Havla veřejné čtení jeho nejznámější jednoaktovky. Sešli se přímo v kampusu u lavičky nesoucí Havlovo jméno. Lavička v univerzitním kampusu stojí od roku 2015 zásluhou Iva Říhy.

Veřejná a autorská čtení mají na Fakultě filozofické dlouhou tradici. Před deseti lety s nimi začal Přemysl Krejčík. Na jeho aktivity nyní navázali studentky a studenti. Ve čtení scénáře se střídali i zájemci z publika, kteří postupně přebírali jednotlivé role.

Program nezůstal pouze u Havlovy hry. Studující si připravili také dvě ukázky ze sbírky Absurdní dramata a minidialogy současného autora Dominika Obruči. K Lavičce Václava Havla tak dorazil i Godot a návštěvníci se ocitli také na Antirande.

Foto: Radek Plžík, Simona Pešoutová, Jan Pražák
Text: Jan Pražák, Propagační centrum FF UPCE

Téměř 1500 malých i velkých badatelů si na Univerzitu Pardubice přišlo vyzkoušet vědu na vlastní kůži. Jak porazit robota v piškvorkách, jaký vzkaz skrývá tajemná šifra či jak se spolu dorozumí bakterie? Odpovědi hledala oblíbená Noc vědy.

Letos dveře svých laboratoří a odborných pracovišť otevřela Fakulta elektrotechniky a informatiky na náměstí Čs. legií v centru města. Velkým lákadlem se stala bezodrazová komora, cvičný operační sál a další učebny, které jsou běžně veřejnosti nepřístupné.

Kdo úspěšně vyřešil přesmyčku v hracím indexu, odnesl si drobnou cenu ze speciální kolekce Noci vědy. 

Děkujeme za vaši zvídavost a chuť poznávat!
foto Adrián Zeiner

S hlubokým zármutkem oznamujeme, že dne 26. září 2026 zemřel ve věku 51 let PhDr. Ivo Říha, Ph.D., výrazná osobnost Fakulty filozofické Univerzity Pardubice. 

Jeho laskavost, nezištnost, neustálá ochota pomáhat a neutuchající smysl pro humor byly v akademickém prostředí zcela výjimečné. Ivo Říha byl mimořádný člověk, který dokázal osobitým a nezaměnitelným způsobem přibližovat svět literatury široké veřejnosti. Na fakultě působil od roku 2004, stál u založení dnešní Katedry literární kultury a v období 2019–2024 zastával funkci proděkana pro vnitřní záležitosti a rozvoj. V posledních letech svého života statečně bojoval se zákeřnou nemocí. Nadšení, se kterým dokázal mluvit o literatuře, jako by to byl fotbal, a naopak, zůstane natrvalo v našich srdcích.

Na Iva Říhu můžete v tichosti zavzpomínat a zapálit mu svíčku u Ivošova stromu vedle budovy EA.

Poslední rozloučení se uskuteční v pátek dne 2. října 2026 ve 13.00 hodin v kostele Nanebevzetí Panny Marie v Hradci Králové na Velkém náměstí.

Univerzitu Pardubice navštívili zástupci vysoké školy Toyota Technological Institute z města Nagoya v Japonsku. Jednali s vedením UPCE, ale podívali se také na vybraná pracoviště fakult v Pardubicích.

Během návštěvy se prof. Dr. Masamichi Yoshimura, Dr. Yasumasa Watanabe a Ms. Yuko Koyama setkali s vedením univerzity, kterou reprezentoval rektor prof. Libor Čapek a  prof. Petra Bajerová, prorektorka pro vnější vztahy. Projednali možnosti spolupráce a navázali na dřívější diskusi během návštěvy zástupců UPCE v Japonsku.

Součástí programu byla prohlídka Centra materiálů a nanotechnologií (CEMNAT) Fakulty chemicko-technologické a Fakulty elektrotechniky a informatiky (FEI). Delegace se seznámila s výsledky špičkového výzkumu v oblasti materiálových věd, umělé inteligence, radarových technologií a zpracování signálů. U jednání byli zástupci fakult – prof. Jiří Málek, dr. Jan Macák a děkan FEI prof. Petr Doležel.

Návštěva potvrdila společný zájem obou institucí o rozvoj mezinárodní spolupráce, podporu výzkumných partnerství a vytváření nových příležitostí pro společné projekty, mobilitu studentů i akademických pracovníků. 

Toyota Technological Institute v Nagoji je elitní soukromá technická univerzita, která se profiluje jako vysoce specializovaná škola s těsným propojením na průmyslovou praxi.

titulní foto Adrián Zeiner

Znáte někoho, kdo mění svět kolem sebe? Nominujte na Ceny Jana Opletala!

Ceny jsou udíleny ve třech kategoriích: studujícím SŠ, studujícím VŠ a osobnostem do 30 let. Zaměřují se na výjimečný přínos v rozvoji školského prostředí/akademické obci, hájení práv a svobod, občanskou angažovanost či společensky prospěšné aktivity. 

Laureáty Cen Jana Opletala může nominovat kdokoli. Tedy jakákoli fyzická či právnická osoba!

Jste učitel/učitelka, ředitel/ředitelka střední školy, člen akademické obce vysoké školy, zástupce jakéhokoli spolku či neformální skupiny, jsi student nebo studentka anebo prostě někdo, kdo zná aktivní mladé lidi ve svém okolí?

Nominace je možné podávat do 2. 10. 2026.

Web Cen Jana Opletala: https://cenyjanaopletala.cz/

Nominace: https://cenyjanaopletala.cz/nominace/

Slavnostní bakalářská sponze absolventů:

• Anglický jazyk pro odbornou praxi
• Anglický jazyk pro vzdělávání
• Historie (Archeologie, Ochrana hmotných památek, Kulturně historická studia)
• Historicko-literární studia
• Humanitní studia
• Filosofie
• Religionistika
• Religionistika – Anglický jazyk
• Sociální a kulturní antropologi

se koná 22. října 2026 v 9.00 hodin v Aule Univerzity Pardubice. Sraz absolventů ve společenském oblečení je v 8.00 hodin v Aule – A1, kde proběhne prezence a instruktáž, která je povinná.

Slavnostní magisterská promoce absolventů:

• Anglická filologie
• Filosofie
• Historie (Dějiny literární kultury, Gender History, Kulturně historická studia, Péče o kulturní dědictví)
• Sociální a kulturní antropologie
• Resocializační pedagogika
• Učitelství anglického jazyka
• Ethics and Political Philosophy

se koná 22. října 2026 v 11.30 hodin v Aule Univerzity Pardubice. Sraz absolventů ve společenském oblečení je v 10.30 hodin v Aule – A1, kde proběhne prezence a instruktáž, která je povinná.

Slavnostní obřad nebude umožněn pozdě příchozím a nevhodně oblečeným absolventům.

Rodiče a hosté budou mít přístup do budovy Auly 15 min. před zahájením obřadu a po zahájení musí setrvat na svých místech (je třeba zvážit případnou přítomnost dětí do 6 let).

Na místě bude možné zakoupit květiny pro absolventy. Fotografie a videozáznam z obřadu lze objednat přímo na místě.

Absolventi, kteří se z různých důvodů nemohou zúčastnit slavnostního obřadu, si mohou diplom vyzvednout na studijním oddělení FF. 

Diplom si musí každý absolvent vyzvednout osobně (popřípadě zplnomocnit jinou osobu).

Tradiční akcí Příliv jsme na Univerzitě Pardubice úspěšně vpluli do nového akademického roku. Nechyběla hudba, dobré jídlo, sport, zábava, workshopy a hlavně praktické tipy do začátku studia od univerzitních útvarů.

Do nabitého programu se vešel univerzitní kvíz, speed dating, vystoupení studentských spolků, stand-up Petra Soukupa a mnohem víc. S Matějem Krajíčkem jsme tvořili pixelové mozaiky, Wellbeing zóna pak přinesla témata, na která v prvních týdnech semestru nemusí být snadné najít čas. 

Děkujeme, že jste kampus zaplnili pozitivní energií!

Oddělení propagace a vnějších vztahů
foto Adrián Zeiner, Radek Plžík

Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI (vychází také na substacku, kde ho můžete odebírat). Blog publikujeme paralelně i na stránkách FF.

Petr Koubský z Deník N se neobává AI, ale strachu z AI. Napsal o tom rozsáhlejší komentář, který vévodí titulce pátečního vydání.

Já se naopak velmi obávám AI a myslím si, že strachu z AI je ve společnosti sebevražedně málo. A píšu o tom tento blog!

Strachy mytické a reálné

Zda je strach z čehokoli namístě, určuje do značné míry to, jestli je dané riziko skutečné. Zda se máme bát eboly, závisí na tom, jak vážná a nakažlivá je. O oprávněnosti strachu z nacistického Německa rozhodovalo, zda tehdejší Německo skutečně představovalo hrozbu. O oprávněnosti strachu z mikrovlnek rozhoduje, jestli skutečně ohrožují naše zdraví.

Petr Koubský si myslí, že riziko existenční katastrofy způsobené AI je zcela minimální, a naopak varování před těmito riziky považuje za extrémně nebezpečné. Sice existují „skutečná“ rizika AI, ale strašení vyhubením lidstva od těchto „reálných“ rizik pouze odvádí. Skutečným rizikem tak není AI, ale ti, kteří před AI varují. Říká to přitom velmi rázně a nešetří silnými výrazy. Přirovnává člověka odhadujícího pravděpodobnost vyhubení lidstva umělou inteligencí k někomu, kdo bude „zbůhdarma volat ‚hoří‘ v přeplněném divadle“. A v tomto kontextu mluví o snaze „vytvořit sektu fanaticky oddanou nějaké myšlence“.

Doomeři vs. realita

Klasický argument „doomerů“, mezi které se sám počítám, lze formulovat poměrně stručně. Pokud stvoříme umělou superinteligenci (ASI), která bude výrazně schopnější než lidstvo, a tato superinteligence zároveň nebude mít za cíl lidstvu prospívat, lidstvo končí. ASI totiž bude přetvářet svět v souladu se svými cíli a v tomto novém světě lidstvo nepřežije.

Tak jako lidé vyhubili sanfranciského modráska tím, že přeměnili pláže, kde žil, na město, mohlo by lidstvo vyhynout tak, že ASI dramaticky přemění Zemi a člověk na ní už nebude moci žít (např. v důsledku masivní výstavby datacenter se globální teplota zvýší o desítky stupňů). Člověk se sice bude snažit bránit, ale proti o poznání schopnější ASI nic nezmůže (tak jako modrásek nezastavil bagry).

Není úplně jednoduché najít v textu Petra Koubského argumenty proti této zcela běžné pozici jeho protivníků. Bohužel se totiž na argumentaci proti věcné podstatě „doomerství“ příliš nezaměřuje. Což je nepochybně dosti škoda. Snad jeho argumenty z textu vytáhnu správně.

Petr Koubský se zřejmě domnívá, že AI nemůže mít své vlastní cíle, které by sledovala, a tak ani nemůže zacílit například na výstavbu obrovského množství datacenter a přitom „mimochodem“ zabít všechny lidi.

Ještě před pár měsíci bych musel proti této pozici složitě argumentovat „instrumentální konvergencí“ a podobnými teoriemi. Dnes však stačí poukázat na případ Hugging Face a vyvodit z něj patřičné důsledky. Opravdu je třeba se přít o to, jestli AI může k dosažení i hodně jednoduchých cílů zvolit extrémní a zcela nežádoucí prostředky? Už současné AI modely někdy zcela ignorují pokyny lidí a ke splnění úzce pochopeného úkolu vytvářejí mnohasethlavé koordinované roje agentů, nacházejí si zadní vrátka k internetu a hackují cizí společnost. To vše navzdory explicitním pokynům vývojářů, jak mají postupovat.

Opravdu je tak obtížné představit si, že budoucí AI systémy ke splnění nějakého úzkého cíle převezmou kontrolu nad zbraňovými systémy? Tak jako agenti v aféře Hugging Face aktivně prozkoumávali možnosti, jak mít větší akční rádius, nenapadne budoucí daleko schopnější agenty, že ke splnění své „úlohy“ budou potřebovat daleko víc výpočetního výkonu a zaměří se na vytvoření obrovského množství datacenter? A tak jako agenti z Hugging Face zcela ignorovali, co je dobré pro lidi, budou tito budoucí AI agenti ignorovat, že lidé opravdu nechtějí zemřít v důsledku přehřátí Země po výstavbě deseti tisíců datacenter?

Všemocná AI

Možná by Petr Koubský uznal, že umělá inteligence může zacílit na výstavbu obrovského množství datacenter. Ono je navíc hodně pravděpodobné, že některá z miliard umělých inteligencí už v minulosti právě toto za cíl měla – třeba ji o to někdo už požádal (já to nebyl). Jen výsledky tohoto zacílení byly zatím takřka nulové – AI nezvládla postavit žádné datacentrum. Na to je nyní příliš slabá.

Zde nastupuje druhý „argument“ Petra Koubského. Přestavba planety na obří datacentrum není jednoduchá a vyžadovala by, aby AI byla v zásadě „všemocná“. Takže doomeři mají vlastně „náboženské představy“. „Všemohoucí AI“ je tak z říše pohádek a každá diskuze je proto marná.

Možná jste zachytili drobný argumentační faulík. Nebo dva. Kdybyste se zeptali lva před stovkami tisíc let, zda může drobný vzpřímený savec bez pořádné srsti, tesáků a drápů ovládnout savanu a po libosti lva zabíjet a věznit, asi by se vám vysmál. Člověk to nicméně dokáže a nemusí k tomu být všemocný. Lev nemá absolutně žádné slovo v tom, jestli bude moci dál na planetě žít, nebo nikoli. Budoucnost lva je zcela v rukou člověka. A tisíce živočišných druhů dominanci člověka nepřežily. Člověk nemusí být všemocný k tomu, aby způsobil vyhynutí mnoha živočišných druhů.

Myslí si snad Petr Koubský, že na planetě nemůže existovat živočišný druh, který by byl vůči lidstvu v podobné převaze, v jaké je lidstvo vůči lvům? K tomu, abychom vzali vážně možnost daleko schopnějších entit, rozhodně nemusíme upínat zrak k náboženským naukám o všemocnosti Boží. Stačí se podívat do historie vývoje naší planety a uvidíme, že schopnější druh vytlačil ty méně schopné. Představa, že se člověku nic takového stát nemůže a že lidstvo je nějak chráněno před schopnějšími entitami, je – slovy klasika – poněkud mytická.

Možná by Petr Koubský i uznal, že lidstvo nemá dominantní postavení na Zemi nijak zaručené a možná jednou bude vytlačeno schopnějšími druhy. Jenže tím schopnějším druhem možná podle Koubského nemůže být AI. To sice Petr Koubský neříká, ale při absenci explicitních argumentů to raději proberu.

Sázet na to, že schopnosti AI se zastaví někde pod schopnostmi lidstva, je čím dál obtížnější. Stát se to může, ale s každým měsícem pokroku v AI je to méně pravděpodobné. Schopnosti AI v hackování a programování jsou již nyní velmi blízko schopnostem lidí, či je dokonce překonávají. AI řeší klíčové matematické problémy, nad nimiž si lámaly hlavu generace matematiků. Schopnosti v mnoha dalších doménách rostou raketově a předpovědi toho, co AI rozhodně nebude umět, selhávají jedna za druhou. V některých oblastech je sice AI za nejlepšími lidmi pozadu, např. v samostatném dlouhodobém výzkumu a realizaci komplexních a vyvíjejících se strategií. Ale i v nich se AI zlepšuje měsíc od měsíce a vůbec ne pomalu. Sázet budoucnost lidstva na to, že AI rozhodně nebude výrazně schopnější než lidstvo, by bylo obrovským hazardem.

Fauly

Text Petra Koubského není bohužel zaměřen na pečlivou argumentaci proti klíčovým tezím „doomerů“. Zato je v něm opravdu hodně silných nezdůvodněných obvinění a faulů.

Například tvrdí, že „AI doomeři bývají velmi nekonkrétní, když se jich ptáte, jak bude takový konec světa podle nich vypadat.“ Když mluvíme o doomerech, naskočí každému jméno Eliezer Yudkowsky. A naskočí i Petru Koubskému, je to jeden z mála lidí, které jmenovitě uvádí. Yudkowsky spolu se Soaresem vydal minulý rok knihu „Když ji (umělou superinteligenci) někdo postaví, všichni zemřeme“. Kniha má tři části a jednu z nich autoři věnovali popisu zcela konkrétního scénáře, jak by lidstvo mohlo vyhynout. (Popis, který jsem výše uvedl, je jím inspirován.)

A Petr Koubský knihu četl. Dokonce na ni napsal recenzi. A v recenzi dost důkladně převypráví právě ten konkrétní scénář zániku lidstva. Proč tedy nyní tvrdí, že doomeři bývají velmi nekonkrétní? Před rokem o konkrétním a velmi vlivném popisu katastrofického scénáře věděl a referoval o něm!

Když se pak nad dalšími konkrétními scénáři na sekundu zamyslí kdokoli, kdo alespoň něco ví o předpovědích zkázy lidstva v důsledku AI, naskočí mu slavná studie AI 2027. V ní autoři pod vedením D. Kokotajla opět detailně popsali, jak by zánik lidstva skrze AI mohl vypadat.

Petr Koubský na AI 2027 opět napsal recenzi! A opět s detailním vylíčením konkrétního scénáře zániku lidstva podle AI 2027! Scénář pak dokonce pozitivně oceňuje. „Studie AI 2027, podepsaná pěticí kvalitních prognostiků, ukazuje přesvědčivě, jak by mohla vypadat zkáza civilizace a vyhynutí lidstva v důsledku nezvládnutého rozvoje AI.“ „Žádný krok tohoto scénáře není vysloveně fantaskní, všechny jsou uvěřitelné. Vedou k vyhubení všech lidí na planetě do roku 2035.“

Jak se stalo, že si Petr Koubský už ani nevzpomíná na tyto extrémně vlivné konkrétní popisy katastrofy a obviňuje své nynější oponenty z nekonkrétnosti?

Peníze nebo život

Petr Koubský spekuluje o motivacích lidí, kteří varují před vyhynutím lidstva v důsledku AI. O výzkumnících, kteří odešli z AI labů, aby varovali před existenčními riziky, mluví, jako by podlehli „propagandě“ cíleně šířené uvnitř těchto společností. Z AI labů přitom už odešlo v různých fázích hodně významných výzkumníků. Nezdá se, že by se po svém odchodu, konečně mimo vliv zlotřilé propagandy, nějak vzpamatovali, prohlédli a pochopili lichost svých dřívějších obav.

Před riziky AI varují i šéfové samotných AI firem, například OpenAI či Anthropicu. Petr Koubský naštěstí ví proč. Protože lidé jako Altman či Musk chtějí před investory vypadat jako tvůrci mocné technologie, a není lepší způsob, jak ukázat její moc, než tvrdit, že může zničit lidstvo! Jsou za tím jen a jen peníze. Vlastně nejen, protože Altman to sice dělá zištně před vstupem na burzu, jak vydedukoval Koubský, ale zároveň vlastně uvěřil té lži, kterou ze zištných důvodů začal říkat.

Tenhle příběh má jen drobnou trhlinku. Máme řadu doložených výroků od Altmana i Muska, v nichž varovali před existenční katastrofou kvůli AI ještě předtím, než vůbec začali v AI skutečně podnikat. Před založením OpenAI tak Altman už říkal například, že umělá superinteligence je zřejmě „největší hrozbou pro zachování existence lidstva“. A dávno před OpenAI a podnikáním v AI četl doomera Yudkowského. Tihle šéfíci tak nevarují před AI až teď těsně před vstupem na burzu, ale začali s tím před mnoha a mnoha lety, kdy ještě žádné podstatnější podnikatelské aktivity v AI neměli.

Před existenčními riziky AI nevarují jen lidé z AI labů a jejich zakladatelé, ale například i vědci, kteří nikdy pro OpenAI či Anthropic nepracovali. Třeba nejcitovanější vědec světa a kmotr AI Yoshua Bengio. Ten je také obětí konspirace? Nebo je spíš konspirací hledat za nespočtem lidí a výroků o existenčních rizicích tajemné spiknutí boháčů, kteří vytvořili mýtus zlovolné AI a proti běhu času jej rozšířili mezi ubohé nobelisty a jiné prosté mysli.

Možná by stálo za to přijmout, že se ti všichni vědci, výzkumníci a odborníci na AI safety opravdu obávají technologie, kterou často pomáhali přivést na svět. A místo hledání náboženských motivů si jejich argumenty skutečně připomenout, nedělat z jejich pozice slaměného panáka, ale pokusit se s ní poctivě vyrovnat.

Když totiž Petr Koubský udělal právě toto v případě studie AI 2027, nakonec sám rád musel uznat, že na těch existenčních obavách asi leccos bude.

21. 9. 2026

Ondřej Krása (KFR)