Publikováno: 15.06.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI. Blog publikujeme paralelně i na stránkách FF.
Minulý týden Anthropic zpřístupnil nejvýkonnější AI model současnosti, Fable 5. Jedná se o zabezpečenou verzi slavného modelu Mythos, k němuž měl přístup jen úzký okruh firem zajišťujících bezpečnost.
Necelé čtyři dny od uvedení jsme však o přístup k tomuto modelu zase přišli. Bez jakéhokoli předchozího varování byl model pro všechny zákazníky vypnut.
Americké ministerstvo obchodu totiž nařídilo, že k Fablu nesmí mít přístup nikdo kromě amerických občanů. Jelikož je pro Anthropic prakticky nemožné rozlišit uživatele s americkým pasem od všech ostatních (Anthropic například poskytuje své modely mnoha firmám a pochopitelně nemá informace o tom, kdo ve firmě Fable používá), musel Fable znepřístupnit úplně všem uživatelům (nejspíš i svým vlastním výzkumníkům, z nichž mnozí také nejsou americkými občany, např. Andrej Karpathy).
Proč přesně vláda USA tento zákaz vydala, není jasné. Objevil se asi způsob (tzv. jailbreak), jak ze zabezpečeného Fablu dostat i schopnosti či informace, které rozhodně neměly být široce dostupné. To zřejmě vládu vyděsilo; nedokázala se s Anthropicem dohodnout a zareagovala po trumpovsku razantně. Mnohé detaily celé situace vyplují na povrch asi teprve s odstupem času.
AI a vlády
Současný spor Anthropicu s americkou administrativou není první. Před necelými čtyřmi měsíci chtělo americké ministerstvo války neomezený přístup k modelům od Anthropicu. Šéf Anthropicu to odmítl – nechtěl, aby se jeho AI používala pro plně autonomní zbraně a špehování amerických občanů. Je z toho vleklý spor, v němž není nouze o razantní prohlášení ani bezprecedentní státní zásahy.
Jak jsem psal již tehdy, končí doba, kdy stát a AI společnosti jednaly do značné míry nezávisle. Umělá inteligence se nesmírně rychle stává klíčovou strategickou oblastí – v ekonomice, kyberbezpečnosti i vojenství. Státy tak nemůžou připustit, aby AI společnosti nesledovaly státní cíle a zájmy. Tak jako státy regulují, kam firmy smějí a nesmějí vyvážet své nejcennější technologie a zboží, budou regulovat i to, kdo bude mít přístup k AI modelům a v jaké podobě.
Není na tom nic nečekaného a pravděpodobně uvidíme čím dál větší zásahy státu do dosud zdánlivě nezávisle fungujících AI společností. Buď budou AI společnosti sledovat zájmy státu dobrovolně, nebo k tomu budou donuceny. Zvykněme si na to!
AI a Evropa
Jedním z efektů současného sporu americké vlády s Anthropicem je, že celý svět názorně vidí, v jak závislé pozici na amerických AI firmách je. Pokud se americké firmy či vláda rozhodnou, že své modely světu neposkytnou, prostě to tak bude. (Nyní tedy o Fable přišli nakonec úplně všichni, ale příště může být omezení skutečně cílené.)
Čím dál více firem, ale i států a armád, integruje umělou inteligenci hluboko do svého fungování. Nemohou jinak – bez AI ztrácejí konkurenceschopnost. Americké AI jsou přitom zdaleka nejschopnější, a tak téměř všichni sázejí právě na špičkové americké modely (čínské modely jsou jednak horší, jednak zjevně geopoliticky také velmi rizikové).
Z různých stran tak nyní slyšíme, že Evropa/EU by měla v AI pořádně přidat. Investovat biliony do datacenter. Z francouzského Mistralu udělat skutečně konkurenceschopný AI lab.
Pokud to Evropa neudělá, do pár let bude čelit faktické irelevanci. Bez relevantního podílu na světovém výpočetním výkonu, případně bez skutečně špičkových AI modelů, nebudeme v přicházejícím AI světě znamenat téměř nic a nikdo se s námi nebude bavit. Nebudeme mít žádné karty!
Detailně a literárně zdařile popsala tento pád do bezvýznamnosti studie Europe 2031 – shodou okolností vyšla jen den před vypnutím Fable. Pokud by vás zajímalo, jak by mohl vypadat osud Evropy, pokud se nezmění současné trendy, studii doporučuju. Na příběhu Caroline, která pracuje v Evropské komisi, a Christiana, který z Evropy přesídlil do Silicon Valley a založil tam AI startup, můžeme v poutavé podobě sledovat strmý úpadek Evropy v důsledku zaostávání v AI. Pokud Evropa nezmění současný přístup k AI a umělá inteligence se skutečně stane klíčovou technologií blízké budoucnosti, Evropu nečeká vůbec nic dobrého.
Příběh začíná v lednu 2025 a popisuje tak i rok a půl skutečné historie. Při čtení tohoto ohlédnutí jsem se nemohl ubránit mnohým reminiscencím na vlastní zkušenosti. Caroline se snaží svým kolegům zprostředkovat, že AI je opravdu klíčovou technologií a bude mít obrovský a rychlý dopad na všechny aspekty fungování starého kontinentu. Kolegové však její pokusy odrážejí důstojným mlčením, radostí z každé zprávy o zdánlivém zadrhnutí vývoje AI, prasknutí AI bubliny či vynalézavou racionalizací nezájmu. S tímto přístupem pak ostře kontrastují konverzace Caroline s Christianem, který se přímo podílí na vzniku nové křemíkové budoucnosti, a ukazuje tak Caroline, kam se svět obrovskou rychlostí řítí.
Sám jsem bohužel absolvoval nespočet podobných konverzací jako Caroline se svými kolegy. I mé pokusy o zprostředkování toho, že AI velmi rychle změní téměř vše, narážely na rozličné překážky. Pokud tak také žijete ve světě, kde na jednu stranu vidíte zcela jasně, že se vše dramaticky mění, a na straně druhé také vidíte, jak málo lidí a institucí si situaci připouští k tělu, Europe 2031 doporučuju. Můžete díky ní zakusit, že v pokusech varovat před transformativní silou AI nejste zdaleka sami.
Suverenitu nebo život!
No teda vlastně ne! Europe 2031 doporučovat ve skutečnosti moc nechci. Jeden klíčový aspekt totiž opomíjí, a proto je vyznění celého příběhu nebezpečně zplošťující!
Název aktuální studie Europe 2031 vědomě odkazuje na studii AI 2027, která vyšla před více než rokem. V ní respektovaní autoři v čele s D. Kokotajlem vylíčili pravděpodobný další vývoj AI. Mnoha analýzami podepřený odhad budoucnosti vidí jako nejdůležitější riziko tzv. AI takeover. Tedy riziko, že ve zběsilém závodu ke stále schopnější umělé inteligenci nevyvineme super schopného sluhu, který bude dělat, co nám na očích vidí. Stvoříme spíše umělou superinteligenci, která nebude poslouchat nikoho a sama převezme otěže budoucnosti.
Scénář Europe 2031 riziko superschopné AI, která se vymkla z jakékoli lidské kontroly, bohužel neřeší. Dělá to záměrně. Autoři dokonce v dovětku ke svému scénáři přiznávají, že některá jiná rizika jsou možná ještě větší než ztráta evropské suverenity. Své výhradní zaměření právě na suverenitu EU nicméně zdůvodňují tím, že bez vyjednávací páky nebude mít EU možnost řešit ani jiné a možná ještě vážnější problémy spojené s AI.
Takovýto pohled je do jisté míry oprávněný. Bez nějaké vyjednávací páky může EU jen stěží pozitivně přispět k tomu, aby to s lidstvem nedopadlo opravdu tragicky.
V současnosti EU nějaké páky má. Hlavní je v Nizozemsku sídlící společnost ASML, která jako jediná na světě dokáže vyrábět ultrapřesné stroje, na nichž se tisknou nejpokročilejší čipy pro trénink a provoz AI. ASML má na tyto stroje prakticky monopol a nikde na světě není na obzoru konkurent, který by dokázal něco srovnatelného.
Jak přesvědčivě ukazuje příběh Europe 2031, různé další páky, které Evropa drží (např. ekonomická síla), budou časem slábnout. Nejsilnější karty tak má Evropa zřejmě nyní a časem to bude nejspíš jen horší.
Scénář Europe 2031 navrhuje, abychom své páky posílili tím, že budeme masivně investovat do datacenter v EU. A když autoři píší masivně, nemyslí směšně malé současné plány na tzv. evropské „gigafactories“. To jsou opravdu jen drobky oproti americkým investicím – 20 miliard eur v horizontu následujících cca tří let oproti 600 miliardám dolarů jen v roce 2026. Podle Europe 2031 bychom měli investovat biliony eur do datacenter a včera bylo pozdě.
Z hlediska páky Evropy při vyjednávání je to rozumný návrh. Kdyby se podařilo zhruba dorovnat nebo ještě lépe překonat USA v investicích do datacenter, mohli bychom mít místo u stolu, u něhož se o budoucnosti jedná.
Problém ale je, co by takovýto razantní obrat Evropy způsobil na jiném a ještě důležitějším bojišti. Umělá inteligence se už v současnosti vyvíjí absurdně rychle. V takto rychlém sprintu ke stále schopnějším modelům nejde rozumně zvládnout bezpečnost, ani garantovat, že AI bude sloužit lidem (alignment problem). Říkají to všichni, včetně velkých AI labů – Anthropic, OpenAI či Google, všichni volají po zpomalení z bezpečnostních důvodů.
Jakkoli šílená už rychlost vývoje je, pokud by i EU sáhla k bezprecedentním investicím do datacenter, tempo vývoje by se dále zrychlilo. Kdyby i stará a ospalá Evropa jednoznačně vsadila na AI, mobilizovaly by se další kapacity a do závodu k superschopné AI by se naplno připojili další významní hráči. Efektem by tak bylo další zrychlení. A zrychlení znamená ještě méně ohledů na bezpečnost.
S relativním růstem významu EU v umělé inteligenci by tak ruku v ruce šlo i zvyšování rizika, že to pro lidstvo jako celek neskončí vůbec dobře. Relativní výhra pro Evropu tak může dost pravděpodobně znamenat ještě větší šanci na prohru nás všech.
Zdá se tak, že jsme se už nyní ocitli mezi Skyllou a Charybdou. Na jedné straně hrozí zcela reálný propad EU do bezvýznamnosti kvůli tomu, že se závodu k superschopné AI neúčastníme. Na stranu druhou ale hrozí, že pokud se do závodu razantně zapojíme, jen urychlíme proces, který vede k záhubě nás všech. Je to dost šílené dilema. Nakonec ale není zase tak těžké si vybrat.
Autor zmiňované rok staré studie AI 2027 Daniel Kokotajlo kritizoval nově vydanou studii Europe 2031 právě kvůli opomíjení ještě závažnějších rizik než je ztráta evropského vlivu. Uvedl zároveň, co by měl starý kontinent dělat. Měl by si plně uvědomit, že americké firmy jsou velmi blízko vytvoření AI systémů, které budou autonomně vylepšovat samy sebe, což může vést k celoplanetární katastrofě. Evropa by tak měla využít svých současných pák k tomu, aby podnítila vznik mezinárodní dohody proti takovýmto samozlepšujícím se systémům.
Jak jsem psal v tomto blogu mnohokrát, právě mezinárodní dohoda zabraňující vzniku nekontrolovatelné umělé superinteligence je bohužel zřejmě jediným trochu funkčním řešením. Nenechme se tak zlákat vidinou větší relevance EU za cenu urychlení závodu ke dnu. Dostat se ke kormidlu Titaniku tím, že sami přiložíme pod kotel, není moc prozíravá pozice. Raději se snažme ze současné pozice zatáhnout za záchrannou brzdu.
15. 6. 2026
