Published: 09.11.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI (vychází také na substacku, kde ho můžete odebírat). Blog publikujeme paralelně i na stránkách FF.
O zkracujícím se čase, který lidstvu zbývá, jsem psal už v minulém blogu. Od té doby ale přibylo několik dalších smutných dokladů, že před sebou máme nejspíš jen měsíce, nikoli dlouhé roky.
R.I.P. – RSI
Aby umělá inteligence vyhubila lidstvo, musí být nesmírně schopná. Jak rychle se AI stane schopnější než lidstvo a bude tak s atomy manipulovat efektivněji než my?
Právě na tuto otázku se pokouší odpovědět čerstvá zpráva organizace METR. Respektovaná výzkumnice Ajeya Cotra, která v METR pracuje (na této zprávě se ale nepodílela), označuje zjištění za „nejdůležitější aktualizaci o rizicích AI za poslední roky – mnohem větší než útok na Hugging Face“. A přitom byla Cotra jednou ze tří výzkumníků, kteří přímo v OpenAI vyšetřovali bezprecedentní aféru kolem Hugging Face.
Zpráva má vpravdě bombastický název, který by jí mohl závidět leckterý hollywoodský trhák: „Nezávislé zhodnocení zrychlení výzkumu a vývoje AI v Anthropicu v říjnu 2026“.
Ta sedla! Kdo by neuronil slzu, že? Není co dodat! Ale přece jen mi snad větičku či dvě odpustíte.
Anthropic (tvůrce modelů Claude) poskytl společnosti METR velmi široký přístup k informacím o tom, jak trénuje své modely, jaká používá trénovací data a algoritmy či kolik výpočetního výkonu dedikuje na trénink. Umožnil také rozhovory se svými výzkumníky. To vše s cílem zjistit, nakolik samotná AI urychluje vývoj nových, schopnějších modelů.
A výsledkem jedenáctitýdenní práce (na poměry AI opravdu ohromné množství času stráveného nezávislými výzkumníky v předním AI labu) je zjištění, že umělá inteligence už vývoj AI dramaticky urychluje. Celkové tempo, jímž rostou schopnosti AI, odhadují výzkumníci na přibližně dvojnásobek oproti předchozímu období. Něco jako vzpěrač, který by se za první rok posunul ze zvedání 80 kg na 120 kg. A za druhý rok už na 200 kg (přírůstek nejprve 40 kg a posléze 80 kg).
Za tímto zrychlením z velké části stojí samotná AI, která pomáhá vyvíjet svou další generaci. Říká se tomu rekurzivní sebezlepšování (RSI – recursive self-improvement). Umělá inteligence zkrátka pomáhá ve výzkumu natolik, že výsledkem je dvojnásobné tempo růstu schopností.
Pepek námořník
Vývoj umělé inteligence závisí na několika proměnných. Samotné nápady – jak vylepšit algoritmy, které fancy techniky použít a kdy, jak sladit hardware s danou fází tréninku atd. – jsou jen jednou z ingrediencí. Obrovskou roli totiž hraje zkoušení a praktické vyhodnocování toho, co funguje a co ne. Abyste AI lépe natrénovali, zkoušíte mnoho nápadů v malém měřítku a postupně zjišťujete, které z nich skutečně fungují.
Úzkým hrdlem vývoje AI tak nejsou jen skvělé nápady, ale do značné míry i výpočetní výkon dostupný pro experimentování. Po něm je přitom poptávka ze všech stran a neustále byste ho potřebovali mnohonásobně víc. Abyste zjistili, který nápad skutečně obstojí při astronomicky drahém tréninku nové generace AI, musíte jich nejdřív vyzkoušet desítky a většinu po pilotním ověření zahodit. Teorie zkrátka nestačí, musíte intenzivně experimentovat.
Abyste tak díky zapojení AI do výzkumu dosáhli dvojnásobného zrychlení růstu schopností, musí AI urychlit teoretickou část celého procesu mnohem více než dvojnásobně. Pokud chcete přejít ze zvedání stodvacetikolové činky na dvousetkilovou jen tím, že posílíte paže, ale nohy necháte stejně slabé, musíte ruce posílit ohromně, nikoli jen dvojnásobně.
Jak výrazně tedy musí AI urychlit intelektuální část výzkumu, aby se celkové tempo růstu schopností zdvojnásobilo? Na základě provedeného zkoumání se zdá, že tempo intelektuální části výzkumu musí vzrůst zhruba desetinásobně. Podobné tempo uvádějí i někteří výzkumníci Anthropicu, když odhadují, jak výrazně jim AI pomáhá (hovoří o dvanáctinásobném zrychlení).
Desetinásobné urychlení teoretického výzkumu je vskutku obrovské. Jako kdyby každý váš špičkový výzkumník za jediný den stihl to, co mu dříve trvalo deset dní. Za týden by zvládl práci za čtvrletí a za měsíc práci, na niž dříve potřeboval téměř celý rok.
Podle zprávy METRu toto zrychlování výzkumu navíc neustává a bude dál urychlovat růst schopností AI. Za další rok tak náš vzpěrač zdvihne 360 kg, nebo dokonce ještě mnohem víc. A to primárně díky nestvůrně svalnatým rukám. Na obzoru totiž není žádná jasná překážka, která by mu v cestě ke 360 kg stála.
Nadlidská AI
Zvednout nad hlavu 200 kg je opravdu skvělý výkon na národní úrovni, ale ke světovému rekordu má daleko. Zato 360 kg je absolutně mimo možnosti i nejsilnějších lidí. A právě do této kategorie se zřejmě v následujícím roce dostane AI. Bude intelektuálně natolik schopná, že i nejlepší lidé proti ní budou působit jako mistr pardubického kraje v nadhozu proti Lašovi Talachadzemu.
Přestože se Anthropic rozhodl ze zprávy METRu vyškrtat většinu zásadních dokladů, o něž výzkumníci opírají své odhady, vzhledem k důvěryhodnosti autorů musíme jejich závěry brát extrémně vážně.
O opravdu brzkém vytrénování nadlidsky inteligentní AI navíc nesvědčí jen tato výzkumná zpráva. Anthropic například nedávno zveřejnil statistiky využívání vlastních modelů ve výzkumu. Zatímco v březnu tohoto roku hrála samotná AI roli hlavního výzkumníka jen v 1 % projektů, v srpnu už to bylo 26 %. Za pouhého půl roku tak převzala otěže u čtvrtiny výzkumných projektů. Pokud bude trend pokračovat, za dalšího půl roku povede už veškerý výzkum.
Zprávy z OpenAI míří stejným směrem. Řešení mimořádně důležitých problémů matematiky, teoretické fyziky či informatiky, s nimiž přicházejí její interní modely, svědčí o prudkém růstu jejich schopností. OpenAI tyto interní modely bezpochyby používá při vývoji dalších generací AI a vzhledem k jejich matematické genialitě je téměř vyloučené, aby tento vývoj výrazně neurychlovaly. (Mluvili jsme o tom s Amálií Kovářovou v posledním dílu našeho podcastu „Novinky ze světa AI“. Najdete nás na Spotify i YouTube.)
Rovněž Google se činí. Po vydání nových modelů Gemini 4 Argon a Carbon se zřejmě dotáhl na špičku. V poslední době navíc veřejně prohlašuje, že jeho modely výrazně urychlují další rozvoj umělé inteligence, a očekává pokračování tohoto trendu. Vědecký šéf Googlu pak o víkendu uvedl, že díky AI zažívají ve výzkumu skokovou změnu a že nám z tohoto nebývalého vědeckého pokroku už brzy dají něco ochutnat.
Nadlidsky schopná umělá superinteligence je tak nejspíš opravdu za dveřmi. Pokud si stejně jako já myslíte, že v kombinaci s naprosto nezvládnutým alignmentem modelů jde o hrozivou zprávu, vězte, že se o tom velmi intenzivně mluví i v komunitě AI safety. Například autoři slavného scénáře AI 2027 jsou zděšeni: vývoj jde ještě rychleji, než predikovali. Přitom už podle scénáře AI 2027 lidstvo na konci roku 2027 ztratí možnost ovlivnit další osud světa a otěže převezme AI (vymíráme o pár let později).
Máme tak dost možná posledních pár měsíců na to, abychom s vývojem AI něco udělali a odvrátili nejčernější scénáře. Kdybyste se chtěli zapojit do úsilí proti nekontrolovatelné umělé superinteligenci, ozvěte se v komentářích. Něco v IBAI chystáme…
9. 11. 2026
