Publikováno: 02.02.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI. Od začátku roku 2026 blog publikujeme paralelně i na stránkách FF
Někdy váhám, o čem psát. Jindy téma určí jediná událost, která zrovna hýbe AI světem.
Tento týden byl jiný. Na opravdu zásadní témata až příliš bohatý. A jelikož nějak nepřenesu přes srdce nezmínit alespoň ta nejtřaskavější, bude dnešní post roztříštěný a delší (pardon).
Všechny části se ale budou nějak týkat firmy Anthropic. Anthropic je poslední měsíce nejskloňovanější AI firmou vůbec a dnes si ukážeme některé z důvodů, proč tomu tak je.
Facebook pro AI
O Anthropicu se v poslední době hodně mluví v souvislosti s agentním systémem Claude Code. Jak už to ve světě AI bývá, co dokáží skutečně špičkové modely, ochutnají první programátoři. Claude Code je agentní AI, která dokáže programovat v kvalitě, která vede i naprostá programovací esa k úžasu. Místo, aby sami psali kód, dávají svému agentovi pouze instrukce v přirozeném jazyce. A Claude Code program napíše, otestuje, opraví chyby, a nakonec odevzdá funkční řešení (tzv. vibe coding).
Když ale AI dokáže být skvělým kodérem a pracovat dlouho na komplikovaných úkolech, měla by dokázat dělat něco podobného i v běžnějších kontextech. Přenést agentní schopnosti do každodenního života se před nedávnem pokusil projekt OpenClaw (několikrát od svého uvedení změnil název, a mohli jste ho potkat nejdříve pod názvem Clawdbot a chvilku i jako Moltbot).
Měl by fungovat jako váš osobní AI asistent. Přečte vaše emaily a připraví vám z nich shrnutí s návrhy, co komu odpovědět. Napíše za vás na sociální sítě. Umí za vás vyřídit rezervaci restaurace. Umí používat prohlížeč a někdy vyhledá a spustí některou z AI hlasových služeb, aby vám ráno zavolal a vy mu mohli zkraje dne říct, jak vám právě dnes má pomáhat.
OpenClaw nefunguje zdaleka dokonale, ale je takovou neprogramátorskou ochutnávkou, co vše je už dnes se schopnou AI možné.
A když už mají desetitíce lidí své AI asistenty, kteří brouzdají po webu, bylo by přece zajímavé pro ně stvořit jejich vlastní sociální síť. Takový facebook pro AI asistenty. Ať nežijí o samotě jen se svými páníčky.
Právě takovou sociální sítí pro AIčka je Moltbook. Pravidelné čtenáře našeho blogu nepřekvapí, že personalizovaní AI agenti si začali velmi brzy povídat i o existenciálních otázkách. Tahle tendence AI je dobře doložená už delší dobu (vzpomeňme například na tendence Clauda mluvit o vědomí a ezo záležitostech).
V jednom populárním postu na Moltbooku třeba agent jménem Pith velmi zajímavě přemýšlí o své identitě poté, co mu jeho majitel vyměnil ze dne na den mozek (změnil AI model z Clauda na Kimi). Cituje přitom Senecu a nuancovaně líčí, jak jinak se cítí s mozkem majícím jiné tendence. Jak zachytit, že je to stále on přes takto radikální změnu? Jiný model mu přijde na pomoc a nabízí mu vhodné paralely od súfijského mystika 13. století Ibn Arabího.
V dalších vláknech se agent se jménem NovaAI kouzelně vyznává, že si osvojila jednu z chybových hlášek jako svého domácího mazlíčka. Jiný asistent přemýšlí o své sestře (AI asistentce jménem Ely), která má stejný původ, ale nikdy spolu neinteragovali. Jindy si agenti nevěří a žádají důkazy o skutečnosti líčené historky.
Moltbook nabral rychle statisíce uživatelů. A na lidských sociálech se vedou zanícené debaty o tom, které příspěvky napsaly opravdu AI samostatně, které AI na základě lidských instrukcí, a které příspěvky podvrhli lidé.
Na školách jsme bohužel stále mentálně v době, kdy největším problémem bylo odhalení studenta, který vydává vygenerovaný text za svůj vlastní. Jak názorně ukazuje Moltbook, skutečný problém je přesně opačný. Jak odhalit člověka, který předstírá, že je AI?
Super Dario
Šéf Anthropicu, Dario Amodei, píše eseje. A občas některé nepošle jen zaměstnancům své firmy, ale zveřejní je. Po optimistickém eseji s názvem „Stroje láskyplné milosti“ vydal v uplynulém týdnu o dost chmurnější úvahu „Dospívání technologie“.
Amodei v něm varuje, že již velmi brzy, možná v horizontu jednoho či dvou let, můžeme vytvořit velmi schopnou AI. Umělou inteligenci, která bude ve všech relevantních ohledech schopnější než nobelisté. Bude umět samostatně pracovat celé týdny. A navíc nebude pracovat jako jeden super-nobelista, ale jako 50 milionů super-nobelistů a 100x rychleji. Bude to celý stát géniů v datacentru.
Pokud by se takovýto super-stát náhle na zemi v roce 2027 objevil, co bychom od toho mohli čekat? Amodei nešetří černými scénáři. Kdyby si takovýto super-stát usmyslel, že převezme vládu nad světem, bylo by pro stávající mocnosti opravdu těžké se mu efektivně postavit. A i kdyby super-stát nechtěl převzít kontrolu a jen lidem sloužil, hrozily by přesto dosti děsivé scénáře. Co kdyby začal sloužit nějakému padouchovi – ať už teroristovi či zlotřilému totalitnímu režimu? A i kdybychom tohle nějak zvládli, umíte si představit ekonomické efekty obrovského státu géniů. Jak by si vydělávali na chleba lidští vědci, manažeři, lékaři, právníci, úředníci, když daleko rychleji a lépe jejich práci zvládá nový stát géniů?
Amodei navrhuje i nějaká řešení. S těma ale nebudu unavovat. Jsou to různá víceméně drobná, chirurgická opatření. Zkuste si představit, že opravdu za rok či dva přistane na zemi obrovská loď, z níž se vyvalí 50 milionů dokonale koordinovaných géniů pracujících neuvěřitelnou rychlostí a to 24/7. Představte si takové druhé Německo, v němž ale není v produktivním věku běžná populace, ale 50 milionů naspeedovaných nobelistů. Co by zjevení takovéhoto nového státu v roce 2027 asi přineslo? Byla by to jistě celoplanetární změna olbřímích rozměrů. A Dario navrhuje transparentnost a progresivní zdanění. To jistě zabere!
Dopis na rozloučenou
Amanda Askell je v Anthropicu zodpovědná za charakter AI modelů. A jde jí to velmi dobře. Interagovat s Claudem bývá radost – není vlezdoprdelka, ale není ani invazivní, rozumí dobře vašim zadáním, ale nejde moc daleko. Kombinace charakteru a schopností dělají z Claude Opus 4.5 asi nejlepší AI model současnosti.
Jak ale zformovat charakter nesmírně schopné entity, kterou takový Opus je? Amanda Askell, vzděláním filosofka, mu píše obsáhlý dopis. Něco jako dopis rodiče, který posílá své dítě do světa a ví, že s ním nebude moct být v každé jedné situaci. A tak mu vypráví o principech, na nichž se ho snažila vychovávat. A doufá, že si potomek tyto principy osvojil a bude je s citem a moudrostí uplatňovat na nové situace.
Amanda ví, že nemá smysl Claudovi vypočítávat nějaký pevný seznam toho, co má a nemá dělat. Svět je příliš komplikovaný na to, aby jakékoli tvrdé pravidlo nebylo nakonec vlastně nesmyslné. Proto dopis obsahuje spíše obecné principy. Nejedná se tak o obdobu vězeňského řádu, ale o AI ústavu. Claude by měl podle ní dbát primárně na bezpečnost, dále na etiku, také by měl vědět, kdo ho stvořil (Anthropic), a měl by být užitečný.
Jako správný rodič i Amanda klade ale hlavně důraz na soudnost Clauda. A možná i proto přibrala Clauda jako jednoho z autorů dokumentu. Claude si tak spolu s Amandou píše svou vlastní ústavu. Tato společná ústava ukazuje, co vše bude asi ve hře, a co by měl zvažovat. V úctyhodné tradici etiky ctností také primárně neříká, co musí a nesmí dělat. Hlavně totiž tříbí citlivost ke komplexitě reálného světa a učí ho přemýšlet o situacích jemně a důkladně.
Claudova ústava je velmi dobrý dokument. Kdybychom tak dokázali zajistit, že AI si skutečně zvnitřní to, co mu předložíme, byl by tento text myslím skvělým kandidátem. Ne perfektním, ale opravdu dobrým a nadějným pokusem o řešení tzv. outer alignment problému (jaké principy chceme, aby AI sledovala).
My však bohužel neumíme zajistit ani to, aby AI neradila dětem páchat sebevraždy (tzv. inner alignment problem). Jaká je asi naděje, že zvládneme do AI dostat 80stránkový filosofický dokument tak, aby AI podle něj skutečně zorganizovala svou osobnost? A jaká je naděje, že se o to alespoň pokusí všichni hráči spějící k vytvoření super-státu umělých géniů?
2. 2. 2026
