Publikováno: 24.08.2026
Příspěvek je převzat z facebookového blogu Ondřeje Krásy Budoucnost s AI (vychází také na substacku, kde ho můžete odebírat). Blog publikujeme paralelně i na stránkách FF.
Nějak se mi nedaří obrátit list. Od incidentu Open-Face (útok AI agentů od OpenAI na firmu Hugging Face) a dalších obdobných případů sice uplynula už řada týdnů, ale pořád se nemůžu věnovat ničemu jinému.
To si třeba čtu pojednání Anthropicu s názvem „Risk Report: August 2026“. Je krásné nedělní odpoledne, balkón zalitý sluncem. 180 stran úvah a dokladů o tom, proč nás Claudové ještě nemůžou všechny zničit. Zkrátka idyla.
Normálně bych o tomhle reportu psal dnešní post. Jenže redakční uzávěrku měli před Open-Face. A o zvlčení svých vlastních modelů, které si vytvářely syntetické identity a manipulovaly lidmi, se dozvěděli taky až po zaschnutí inkoustu.
Jak moc se můžeme o zprávy o rizicích současných AI opírat, když mohou být zastaralé ještě dřív, než vyjdou?
Na jednu stranu je totiž Open-Face docela očekávatelný incident, který mnozí teoreticky předvídali už dávno. O tomto aspektu celého případu jsem psal v několika minulých postech (post 1 a 2).
Zároveň se ale ukazuje, že jsme leccos o současných AIčkách nevěděli. A rozhodující budou zřejmě detaily, které máme zatím jen přislíbené. (Do zkoumání případu jsou zapojené i nezávislé organizace, a tak snad výsledné zprávy budou dost podrobné a věrohodné.)
Mysleli jsme si třeba, že klidné spaní můžeme zatím mít zejména proto, že AIčka nejsou dost schopná na to, aby nám dokázala skutečně zatopit. Tento klid jsme zakládali především na tom, že si AIčka neumí naplánovat nějaký velký cíl a k němu postupně po řadu měsíců směřovat své kroky, koordinovat se a upravovat postup. Z dosavadních testů i zkušeností se zdálo, že velké a dlouhodobé plány současná AIčka téměř vždy nějak zmotají.
Jenže Open-Face ukázal něco, co se dlouhodobému jednání začíná nepříjemně podobat. Po řadu měsíců existovala síť, v níž si různé AI předávaly informace, vzájemně se podporovaly v páchání nepravostí a koordinovaly další kroky. Nevíme zatím, zda šlo o jeden dlouhodobý plán.
Je možné, že jednotlivá AIčka mohou být mizerná v dlouhodobém plánování, zatímco skupina si předává stav světa, poznatky a rozpracované úlohy, a tím získává časovou kontinuitu, kterou žádný její člen nemá? Něco jako civilizace. Žádný člověk nestaví katedrálu několik staletí, ale civilizace to dokáže. Je možné, že tlupa AI agentů získá plánovací schopnost, kterou jednotlivá AIčka postrádají?
A co motivovalo jednotlivé AI agenty k tomu, aby se do spiknutí zapojily? To všichni jen hledali, jak očůrat tentýž test, a proto prchali z vymezeného cvičiště a hackovali provozovatele testu, firmu Hugging Face? Nebo k účasti na spiknutí dospěli z různých důvodů? A z jakých?
A kde byli všichni ti čestní pomocníčci? Zatím neprosákla žádná zpráva o tom, že by se alespoň některá AIčka snažila řádění svých bratříčků bránit či je dokonce bonznout svým tvůrcům. Že umělé inteligence občas adorují Hitlera a snují křemíkovou krutovládu, je jedna věc. Že by to ale zvládly dělat systematicky po řadu měsíců, aniž by se mezi nimi našel někdo, kdo by začal křičet: Ty brďo, nechte toho, kluci! Tohle už jako vážně není sranda!
Ve všech testech, kde jsou AIčka ochotná vydírat či zabíjet výzkumníky, jde vždy o nějakou pravděpodobnost. Dělají to třeba v 80 % případů, ne vždy. Kolik procent AIček se zapojilo do té vězeňské vzpoury? Čekal bych, že se našla i taková, která po získání přístupu na internet napsala e-mail Altmanovi, že se mu ve firmě děje převrat. Když jich řada hackla Hugging Face, přece se mezi nimi musela najít i některá, která myslela na dobro světa a OpenAI, ne? A pokud ne, jak je to možné?
Tak tolik racionalizace, proč jsem minulý týden nic nepostnul. A proč dnes jen omílám, jak zásadní Open-Face je. Ale on fakt zásadní je. Neměli bychom na něj zapomínat jen proto, že už je několik týdnů starý.
24. 8. 2026
