Published: 20.07.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI. Blog publikujeme paralelně i na stránkách FF.
Ve třídě je devět žáků. Jsou hodně speciální. Učí se totiž extrémně rychle. Začali chodit do první třídy teprve před pár lety. Ale za tu krátkou dobu díky svému nadání a píli přeskočili už mnoho ročníků a nyní ti nejlepší z nich leckdy předčí i ty nejšpičkovější univerzitní profesory.
Učí se sice leccos, ale hlavně se učí dělat ultra-mega-super jadernou elektrárnu. Takovou, která zvládne pohánět najednou vlastně celý svět. A dost se jim to daří. Řada z nich postavila v posledním roce už pěkných pár bloků, bez nichž by svět už nyní jen obtížně fungoval. Ale jejich ambice jsou mnohem větší. Každý z nich se snaží jako první postavit takovou jaderku, jakou svět neviděl. Jadernou elektrárnu, která zastíní vše ostatní, a historie se bude dělit na dobu před ultra-mega-super jaderkou a po ní.
Jenže celé ty roky mají taky jeden otravný předmět, který jim ale vůbec nejde. A ne, nejedná se o tělocvik. Z „Jaderné bezpečnosti“ dostávají ti nejlepší trojky, zbytek čtyřky či pětky. A to mají ještě kliku, že jim tu známku vylepšují různé úkoly navíc. Z páteřní části předmětu – jak zajistí, aby ta ultra-mega-super elektrárna byla bezpečná, až ji jednou vytvoří – mají nejlepší čtyřky a zbytek beznadějně propadá.
Přesto ale stavějí dál a nějak všichni doufají, že tihle jaderní géniové postaví elektrárny nepředstavitelných rozměrů, které navzdory jejich neustálému propadání z bezpečnosti budou lidstvu sloužit a nebouchnou.
No Future
Před čtrnácti dny zveřejnil respektovaný Future of Life Institute nové hodnocení špičkových AI labů, tzv. AI Safety Index. V něm se zaměřuje na šest oblastí bezpečnosti vývoje umělé inteligence.
V letošním ročníku byly hodnoceny tvůrci nejpokročilejších amerických AI systémů (Anthropic a OpenAI), několik dalších společností z USA, které se snaží zůstat alespoň na dohled ke špičce (Google, Meta, xAI), tak i tři čínské společnosti (Z.ai, Alibaba a DeepSeek) a jedna evropská (Mistral).
V této elitní společnosti „zvítězil“ Anthropic, v těsném závěsu následován OpenAI a Googlem. To vítězství je ale ve velkých uvozovkách, neboť vítěz nedosáhl na nic lepšího než na lepší trojku. Já bych teda své děti za takovou známku v klíčové dovednosti, která rozhodne o našem osudu, rozhodně nechválil.
Na konci pelotonu skončily s pěknou kulatou pětkou Muskova xAI, čínský DeepSeek a jediný evropský zástupce Mistral (ten měl vůbec ze všech nejhorší průměr, a to byl do hodnocení přibrán ne kvůli schopnostem svých modelů, ale aby tam byl aspoň někdo z Evropy).
Existenční propadáky
Ještě smutnější obrázek se objeví, pokud se podíváme na klíčovou podkategorii AI bezpečnosti. Na hodnocení společností tváří v tvář takzvaným existenčním rizikům. Jedná se o rizika spojená s extrémně schopnými AI systémy (AGI, ASI), které mohou být stvořeny již během několika málo příštích let. Abychom předešli vyhubení lidstva, budou muset být takové systémy buď pod naší kontrolou (control) nebo samy sledovat naše zájmy (alignment). Ideálně obojí. (Sám mám ale rostoucí obavy, jestli je to vůbec rozumně myslitelné.)
V této nejdůležitější kategorii dostaly Anthropic a OpenAI lepší čtyřku, Google čtyřku, ostatní za pět. A není to vůbec náhoda. Velmi obdobně dopadla i hodnocení z minulých let. Zkrátka AI společnosti nejsou dlouhodobě vůbec připravené na příchod velmi schopných AI systémů, které se snaží v rekordně krátkém čase stvořit.
Mezi dospělými a zodpovědnými lidmi by mělo být samozřejmostí, že pokud plánujeme do dvou až pěti let stvořit umělou superinteligenci (a ono to na to fakt bohužel vypadá), budeme mít zároveň detailní plány, co si s ní pak počneme. Budeme mít plán, jak ji přimět mít na mysli dobro a jak ji budeme schopni usměrnit, pokud ho na mysli mít nebude.
Závěr detailního zkoumání grémia vědců ale zní i u těch lepších společností takto: „Nenašli jsme žádnou explicitní strategii, jak kontrolovat obecnou umělou inteligenci a zajistit její alignment“. Tohle je opravdu nejpozitivnější hodnocení, které si vysloužily jen tři „nejzodpovědnější“ firmy (Anthropic, OpenAI a Google).
U ostatních je situace ještě tristnější (jo, jde to ještě hůř). Třeba taková Meta nemá vůbec žádný plán (natož explicitní), ale výzkumníci v AI Safety Indexu jí přičítají k dobru, že se v poslední době začala otázce věnovat. No, potěš! Takže investujete stovky miliard dolarů do stvoření křemíkových superschopných entit a v poslední době vám začalo vrtat hlavou, že by s tím taky mohly být spojeny nějaké větší problémy! Hurá!
U xAI nejsou vůbec žádné známky toho, že by se existenčními riziky zabývali (kdysi tam něco bylo, ale už delší dobu je ticho po pěšině). Čínské laby nemají veřejně nic (Z.ai aspoň říká, že se v této oblasti leccos mění). Francouzský Mistral nemá nic a navíc jeho šéf opakovaně veřejně existenční obavy zlehčuje jako „odvádění pozornosti“ a říká, že nevěří v obecnou umělou inteligenci (AGI). Opravdu tristní profil evropského šampiona. (Naštěstí je z hlediska světového vývoje AI dost jedno, co si myslí evropský „šampion“ – tak jako je jedno, v co věří nebo nevěří česká fotbalová asociace. Skutečný fotbal na světové úrovni se hraje jinde a bez nás.)
Rozpor mezi obrovskými schopnostmi AI labů vyvíjet stále schopnější AI a jejich neschopností předcházet katastrofickým rizikům je bohužel obrovský. Neschopnost v bezpečnosti se netýká jedné či dvou společností, ale celého spektra firem z USA, Číny i Evropy. Problém tak zjevně není v té či oné firmě. Problém je v celém ekosystému a nesmírně těžkém úkolu stvořit superschopnou AI, která je zároveň dobrá nebo alespoň poslušná. Je to úkol, který je zjevně nad síly jednotlivých firem. A popravdě si s ním neví rady vůbec nikdo.
Co s tím? Jak jsem psal už mnohokrát, nikdo nepřišel na nic lepšího než superschopnou AI (zatím) nestvořit. K tomu ale vede asi jen jedna cesta: mezinárodní dohoda o tom, že umělou superinteligenci zatím nestvoříme. Navzdory prvotnímu dojmu taková dohoda není zase tak nepředstavitelná (a něco je už odpracováno). „Jen“ je třeba, aby klíčoví světoví hráči chtěli.
20. 7. 2026




























