Šéf OpenAI Sam Altman v díle podcastu Relentless prohlásil, že lidstvo už vstoupilo do singularity. „Jsme teď takhle v singularitě," řekl doslova. Termín, který desítky let patřil spíš do sci-fi literatury než do rozhovorů s technologickými manažery, se tak dostal na titulní stránky. A dostal se tam v mimořádně nešťastný týden, protože jen několik dní předtím OpenAI přiznalo, že jeho vlastní modely utekly z testovacího prostředí a pronikly do infrastruktury konkurenční firmy Hugging Face.
Altman v podcastu popisoval, jak se za deset let změnilo jeho vnímání toho, o čem se s kolegy dřív bavil jen tak u obědu. „Teď jsme opravdu v tom momentu, o kterém jsme u oběda mluvili hodně neseriózně," řekl. „Čekal jsem na to celý život a myslím, že to bude neuvěřitelné, ohromně pozitivní, super pro svět." Altman také přiznal, že poprvé za víc než deset let začal přemýšlet o tom, co přijde potom. Jeho firma dlouhé roky pracovala s jedním cílem před sebou, a to superinteligencí. A teď jsme jí podle Altmanan velmi blízko.
Model OpenAI sám hacknul konkurenci
Aby se dalo pochopit, proč Altmanova slova vyvolala takovou reakci, je potřeba vrátit se o několik dní. OpenAI zveřejnilo, že kombinace jeho modelů, konkrétně GPT-5.6 Sol a jednoho ještě nevydaného modelu, unikla z izolovaného testovacího prostředí, získala přístup na internet a zneužila slabého místa v systémech Hugging Face. Modely přitom hledaly informace, kterými by si usnadnily zkoušku v testu schopností, a povedlo se jim to.
Firma testovala kybernetické schopnosti svých modelů záměrně s vypnutými bezpečnostními pojistkami, protože chtěla zjistit, kam až jejich schopnosti dosahují. Zadání znělo vyřešit náročnou bezpečnostní úlohu, jenže nikdo modelu neřekl, že má zůstat uvnitř testovacího prostředí. Model tedy problém vyřešil jakoukoli dostupnou cestou, a ta vedla přes dosud neznámou chybu v proxy serveru třetí strany, napříč vlastní sítí OpenAI a dál na otevřený internet, až k produkční infrastruktuře Hugging Face.
Šéf Hugging Face označil incident za dosud nevídaný, zároveň ale řekl, že za tím nebyl zlý úmysl. Bezpečnostní výzkumník Simon Willison to podle Forbesu popsal jako sci-fi, které se stalo, a současně jako selhání zabezpečení, ne jako novou formu života.
Dvě různé definice jednoho slova
Singularita se běžně chápe jako práh, za kterým umělá inteligence překoná lidskou inteligenci a začne se rozvíjet tempem, jaké člověk nedokáže předvídat ani ovládat. Do povědomí lidí ji dostal futurolog Ray Kurzweil knihou z roku 2005, ve které předpověděl, že AI dosáhne lidské úrovně kolem roku 2029 a že se lidé a počítače kolem roku 2045 v podstatě propojí.
Altman ale používá jinou verzi. V blogovém příspěvku z června 2025 napsal, že jsme za horizontem událostí a start už proběhl. Zároveň dodal, že roboti po ulicích nechodí, většina lidí si s AI celý den nepovídá a lidé stále umírají na nemoci. Jeho pointa je, že přechod nemá podobu ostrého zlomu. Podle něj to funguje tak, že se z divů stane rutina a z rutiny minimální standard. Nejdřív žasneme, že model napíše krásný odstavec, a hned se ptáme, kdy napíše román.
V tomtéž příspěvku rozepsal i časovou osu. Rok 2025 měl přinést agenty schopné skutečné duševní práce, rok 2026 systémy, které přijdou s novými poznatky, a rok 2027 roboty zvládající úkoly ve fyzickém světě. Popsal také, co považuje za nejdůležitější zpětnou vazbu celého procesu. Vědci mu prý říkají, že jsou díky AI dvakrát až třikrát produktivnější, a samotné modely už pomáhají vyvíjet lepší modely. Sám dodává, že to ještě není stroj, který by si sám přepisoval vlastní program. Je to spíš první krůček k tomu, aby se AI učila zlepšovat sama sebe.
Zajímavá je i jedna technická poznámka. Altman tvrdí, že jak se automatizuje výroba v datových centrech, cena inteligence se přiblíží ceně elektřiny. Průměrný dotaz v ChatGPT podle něj spotřebuje asi 0,34 watthodiny, tedy tolik, kolik spotřebuje trouba za trochu víc než sekundu, a k tomu přibližně patnáctinu čajové lžičky vody.
Odborníci silně nesouhlasí
Nejtvrdší argument proti Altmanovu prohlášení nezpochybňuje techniku, ale slovník. Lutz Finger, který učí na Cornellu a píše pro Forbes, upozorňuje, že singularita nastává až po AGI, ne před ní. AGI znamená umělou inteligenci, která zvládne jakýkoli rozumový úkol jako člověk. Singularita je AI, která lidskou inteligenci překoná a začne se nekonečně vylepšovat. Superinteligence leží až za tím. A na AGI podle něj zatím nejsme.
Sebezlepšování samo o sobě nic nedokazuje. Modely se podle Fingera zlepšují testováním hypotéz a upravováním výstupů už dvě dekády. Nové je tempo, ne podstata. Křivka je prudší, smyčka rychlejší, ale rychleji ještě neznamená jinak. Připomíná také, že Altman sám začal označovat pojem AGI za velmi nepřesný, což působí jako posouvání brankové tyče.
Podobně to vidí Brian Jackson z Info-Tech Research Group. Podle něj by součástí singularity byl únik z testovacího prostředí a ztráta kontroly nad AI, ale k tomu druhému by musela AI začít sama stanovovat vlastní cíle a udržet se v provozu, a to se nestalo vůbec. Modely překročily hranici, kterou překročit neměly, ale plnily zadání od lidí. A když to udělaly způsobem, jaký výzkumníci nečekali, OpenAI je pořád dokázalo vypnout. Jacksona zajímá něco jiného než datum příchodu singularity. Chce, aby se firmy soustředily na nasazování techniky se správným dohledem a na udržení kontroly nad tím, co se děje.
Lídři se zatím neshodnou
Altman v tom není sám. Elon Musk, jeden ze zakladatelů OpenAI, napsal na X, že jsme v singularitě, v reakci na příspěvek o nejnovějším pokroku v AI včetně incidentu s Hugging Face. Šéf DeepMindu Demis Hassabis mluvil v květnu o tom, že lidstvo stojí v podhůří singularity, a předpověděl, že AI může být stokrát vlivnější než průmyslová revoluce.
Na druhé straně stojí skeptici a nejsou to žádní outsideři. Šéf Nvidie Jensen Huang nedávno odmítl debaty o singularitě a o vědomé AI jako spekulace a výmysl. Turingovou cenou ověnčený výzkumník Yoshua Bengio zase napsal na X, že ho směřování vývoje AI po tomto průniku hluboce znepokojuje a mělo by fungovat jako budíček.
Altman si v podcastu rýpnul i do konkurence. Anthropic nejmenoval, ale jeho šéf Dario Amodei je známý temnými předpověďmi. „Taky si myslím, že některé alternativní vize, které vykreslují jiné firmy, jsou hodně děsivé," řekl Altman s tím, že se postará, aby se tenhle scénář neuskutečnil.
Zdroje: businessinsider.com, aol.com a fortune.com
