Elitní výzkumníci umělé inteligence diskutují o přechodu za hranice lidskosti

Skupina nejvýznamnějších odborníků na umělou inteligenci se nedávno sešla na prestižním sympoziu, aby diskutovala o takzvané "postlidské transformaci" - působivém konceptu budoucnosti, ve které lidstvo dobrovolně předá moc nebo dokonce celou svou existenci nějaké formě nadlidské inteligence. Toto setkání organized podnikatel Daniel Faggella, zakladatel společnosti Emerj Artificial Intelligence Research, který je dlouhodobým myslitelem zabývajícím se společenskými a existenciálními přechody, kterým může lidstvo čelit s příchodem umělé obecné inteligence (AGI). Symposium se konalo v třicetimilionové vile v San Francisku a podle zprávy časopisu Wired se jej zúčastnili "zakladatelé společností zabývajících se umělou inteligencí s valuacemi od 100 milionů do 5 miliard dolarů" spolu s "většinou důležitých filosofických myslitelů zabývajících se AGI".

Faggella organizoval tuto výjimečnou akci právě proto, že podle jeho slov "velké laboratoře, lidé, kteří vědí, že AGI pravděpodobně ukončí lidstvo, o tom nemluví, protože jim to motivace neumožňují". Symposium tak poskytlo prostor jak účastníkům, tak řečníkům, aby se ponořili do převážně fantastické vize budoucnosti, kde je umělá obecná inteligence daností, spíše než vzdáleným snem o technologii, která ani zdaleka neexistuje. Tato diskuse ilustruje rostoucí propast mezi veřejnými prohlášeními technologických společností a jejich soukromými obavami o existenciální rizika spojená s vývojem AGI.

Kontroverzní vize budoucnosti bez lidské dominance

Společnosti zabývající se umělou inteligencí, zejména OpenAI, dlouho mluví o své touze realizovat AGI, ačkoliv často bez jasného definování tohoto termínu. Rizika závodu směřujícího k nadlidské inteligenci zůstávají horkým tématem debat, přičemž miliardář Elon Musk kdysi argumentoval, že neregulovaná umělá inteligence by mohla být "největším rizikem, kterému čelíme jako civilizace". Sam Altman z OpenAI také varoval před nebezpečími hrozícími lidstvu, včetně rostoucí nerovnosti a kontroly populace prostřednictvím masového sledování, jako důsledku realizace AGI - což je současně hlavní prioritou jeho firmy.

Faggella ve svém konceptualizování přechodu od světa dominovaného lidmi k postlidské nebo strojem ovládané budoucnosti předpokládá postupný, vícefázový proces. Argumentuje, že přechod bude poháněn nikoli velkými filosofickými vizemi, ale stejnými základními pudy, které vždy formovaly lidský pokrok - zvědavostí, touhou a technologickou užitečností. Podle jeho sedmifázového modelu by měl přechod kulminovací možností superinteligentního posthumanismu - a, jak spekuluje, možná i demise lidstva samotného. Klíčové fáze zahrnují využívání lidských tužeb a potřeb prostřednictvím stále pokročilejší technologie, rozšiřování lidského vnímání a zkušenosti prostřednictvím integrace s novými formami inteligence, postupné odpoutávání se od biologických pudů a nakonec pohyb směrem k citlivé existenci nespoutané dnešními biologickými a psychologickými omezeními.

Současný stav technologie versus budoucí ambice

V současné době jsou toto do značné míry sporné body vznášené jednotlivci, kteří jsou miliardami dolarů hluboko ponořeni do přesvědčování investorů, že AGI je vzdálené pouhé roky. Vzhledem k současnému stavu divočejících velkých jazykových modelů, které stále selhávají u nejzákladnějších úkolů, jsme zjevně stále daleko od bodu, kdy by umělá inteligence mohla překonat intelektuální schopnosti lidí. Právě minulý týden výzkumníci z Apple vydali zničující studii, která nalila studenou vodu na "rozumové" schopnosti nejnovějších a nejvýkonnějších velkých jazykových modelů, argumentujíce, že "čelí úplnému kolapsu přesnosti za určitými složitostmi".

Přesto pro zasvěcence a věřící v technologii je AGI většinou otázkou kdy, ne jestli. Řečníci na víkendové akci mluvili o tom, jak může umělá inteligence vyhledávat hlubší, univerzální hodnoty, kterých si lidstvo ani nebylo vědomo, a že stroje by měly být učeny sledovat "dobro", nebo riskovat zotročení entity schopné utrpení. Faggella podobně vyvolával filosofy včetně Barucha Spinozy a Friedricha Nietzscheho, vyzývající lidstvo, aby vyhledávalo dosud neobjevené hodnoty ve vesmíru. Paradoxně označil svou iniciativu jako "advokační skupinu pro zpomalení pokroku umělé inteligence, pokud vůbec něco, aby se ujistila, že jdeme správným směrem".

Etické dilema a budoucnost lidských hodnot

Faggellův přístup k mapování postojů odborníků odhaluje spektrum možných budoucností - někteří si představují "postlidskou blaženost" prostřednictvím pokročilých simulací nebo sloučení se stroji, zatímco jiní varují před existenciálními riziky, včetně potenciálu AGI buď převýšit, nebo eliminovat lidstvo. Tato diskuse zdůrazňuje centrální otázky o zachování nebo překonání lidských hodnot, vyvolávající otázky o tom, zda by se lidstvo mělo snažit zachovat, postupovat směrem k technologickému sloučení, nebo přijmout být překonáno.

Symposium tak představovalo neobvyklý experiment v myšlení o budoucnosti, kdy se některé z nejvlivnějších osob v oblasti umělé inteligence sešly, aby otevřeně diskutovaly o scénářích, které většinou zůstávají skryty za korporátními prohlášeními o "prospěchu lidstva". Fakt, že taková diskuse probíhala v třicetimilionové vile, pouze podtrhuje ironii situace - ti, kteří investují miliardy do technologií potenciálně ohrožujících lidskou existenci, se scházejí v luxusu, aby debatovali o konci světa, jak jej známe.