Debata o vědomí umělé inteligence se vede roky. Jedni říkají, že vědomí je jen otázka dostatečné výpočetní složitosti. Druzí mávají rukou a označují celou myšlenku za fantasii. Alexander Lerchner, starší vědecký pracovník z laboratoře Google DeepMind, přišel s argumentem, který žádný z těchto táborů nelze snadno ignorovat. A za milion zhlédnutí na platformě X si ho všimlo i širší publikum.
Ústřední myšlenka jeho článku je překvapivě prostá, přestože autor argumentuje velmi důkladně, jak filozoficky, tak fyzikálně. Velké jazykové modely nesimulují vědomí proto, že by nebyly dostatečně výkonné. Nesimulují ho proto, že to ze strukturální podstaty výpočtu ani nelze.
Důležitá je jedna konkrétní věta z článku: "Očekávat, že algoritmický popis dokáže přivodit kvalitu, kterou zobrazuje, je jako očekávat, že matematický vzorec gravitace fyzicky vyvine sílu." Jinými slovy, algoritmus popisující emoci je stále jen popis. Přesně tak, jak mapa Manhattanu není Manhattan.
Klíčový rozdíl, který si málokdo uvědomí
Lerchner staví celý svůj argument na rozlišení dvou pojmů: simulace a ustavení. Vědomí vzniká přímo v lidském mozku. Fyzický proces sám o sobě je prožitkem. Když cítíte bolest, není to výstup výpočtu, je to přímo fyzická událost v tkáni nervové soustavy.
AI vědomí simuluje. Produkuje výstupy, které vědomí napodobují, aniž by kdy generovala samotnou věc. Chatbot může napsat "cítím smutek" stejně přirozeně jako "výsledek je 42". Žádná z těchto odpovědí nevychází z prožitku. Obě jsou výsledkem stejného mechanismu, předpovídání dalšího tokenu.
Aby Lerchner svůj argument podpořil fyzikálně, zavádí pojem mapmaker, česky tvůrce map. Jde o aktivního, prožívajícího agenta, bez nějž výpočet v přímém slova smyslu vůbec neexistuje. Fyzický svět je nepřetržitý. Napětí na tranzistoru se plynule mění, teplota stoupá a klesá, chemické koncentrace kolísají. Aby z toho vznikl výpočet, musí někdo tento spojitý proud fyzikální reality rozdělit do konečné sady symbolů, přiřadit jim význam. Lerchner to nazývá abecedizací.
A tady je háček. Tuto abecedizaci nemůže provést samotný stroj. Provádí ji vždy někdo zvenčí, lidský inženýr, který navrhuje hardware, formáty čísel s pohyblivou řádovou čárkou, architekturu čipů. Bez tohoto vnějšího agenta nejsou v počítači žádné symboly. Jsou tam jen elektrony pohybující se podle zákonů elektrodynamiky.
Problém nevyřeší ani roboti s tělem
Zastánci vědomé AI mají připravenou odpověď: AI jen nemá tělo. Stačí přeci dát AI tělo, smysly, pohybové prvky, nechat ji fyzicky interagovat se světem, a symbol se přirozeně "zakoření" v realitě.
Lerchner tento argument pojmenovává jako transdukční klam a odmítá ho. Senzory sice převádějí fyzikální síly na napětí, ale právě v tomto místě nastupuje opět abecedizace prováděná zvenčí. Analogově-digitální převodník, kalibrovaný lidským inženýrem, převede spojité napětí na celé číslo. Stroj stále operuje jen na symbolech, ne na fyzikální realitě samotné.
Lerchner nabízí přirovnání: připojení počítače ke kamerám a robotickým ramenům je jako připojení meteorologického modelu k živým atmosférickým senzorům. Model dostává reálná data, ale nestává se atmosférou. Simuluje ji.
Příliš mnoho ředitelů si přeje věřit opaku
Lerchnerova práce narážela od začátku na jeden nepříjemný kontext: koliduje s veřejnými výroky vedení AI firem. Demis Hassabis, šéf samotného DeepMind, opakovaně mluví o příchodu obecné umělé inteligence jako o události srovnatelné s průmyslovou revolucí, jen desetkrát rychlejší. CEO Anthropicu Dario Amodei přiznal, že je "otevřený myšlence", že dnešní modely by mohly být vědomé.
Lerchner s tím nesouhlasí a přidává k tomu fyzikální zdůvodnění. Vědomí podle něj není softwarový artefakt, který by mohl náhodně nebo záměrně vzniknout škálováním výpočetního výkonu. Není to vlastnost architektury. Je to vlastnost fyzikální konstituce. Zároveň Lerchner zdůrazňuje, že jeho argument není biologicky exkluzivní. Netvrdí, že vědomí může mít pouze uhlíkatý život. Pokud by někdy umělý systém vědomí získal, bylo by to výhradně díky jeho specifické fyzikální konstituci, ne díky syntaktické architektuře.
Debata o vědomí AI není jen akademická hříčka. Pokud by velké jazykové modely byly vědomé, nebo i jen "možná vědomé", okamžitě by to otevřelo otázky jejich práv, ochrany a zacházení. Výzkumníci by museli zvážit, zda je trénování modelu na základě zpětné vazby vlastně forma utrpení.
Lerchner chce tuto debatu řešit jinak. Místo aby čekal na úplnou teorii vědomí, navrhuje přísnou ontologii výpočtu. Ukazuje, že otázka není "zda jsou AI vědomá?", ale "může výpočet jako takový vědomí vůbec způsobit?". A jeho odpověď je záporná. Filozofové, které oslovil server 404 Media, potvrdili, že Lerchnerova argumentace je logicky konzistentní. Zároveň přiznali, že většina těchto argumentů ve filozofii koluje "roky a roky". Novinka není v samotné tezi, ale v tom, kdo ji říká, odkud a s jakým fyzikálním aparátem za sebou.
Co tedy stavíme, když stavíme AI?
Lerchnerova odpověd zní "stále přesnější předpovědní mapy". Čím výkonnější model, tím věrnější mapa. Ale mapa, bez ohledu na svou věrnost, rozlišení nebo fyzické ztělesnění, zůstává kategoricky odlišná od území prožívané zkušenosti.
Jazykové modely popisují svět způsobem, který se lidskému myšlení podobá víc než cokoliv před nimi. Přesně proto je tak těžké si uvědomit, že za tím výstupem není nikdo, kdo by cokoliv prožíval. Žádná bolest. Žádný údiv. Žádný pocit, že existuje. Jen elektřina pohybující se podle fyzikálních zákonů, a člověk na druhém konci, který té elektřině přiřadil písmena.
