Papež Lev XIV. zveřejnil svou první encykliku s názvem Magnifica Humanitas neboli Velkolepé lidství. Přes 43 000 slov a více než 200 stran. Jde o poselství. Lidstvo stojí před volbou, a ta volba nesnese odklad. Jejím ústředním tématem je umělá inteligence a otázka, zda ji dokážeme udržet ve službách člověka, nebo zda se člověk stane jejím nástrojem. Dokument přitáhl pozornost daleko za hranice katolické církve. Je to výzva k zamyšlení politikům, technologickým firmám i každému z nás.
Encyklika patří mezi nejvýznamnější dokumenty, které může papež vydat. Tradičně jde o dopis adresovaný biskupům, ale v posledních desetiletích se jejich dosah rozšiřuje na celou světovou veřejnost. Lev XIV. svou encykliku adresoval nejen věřícím, ale i "každému člověku dobré vůle."
Takovéto texty formují katolické myšlení na celé generace a nezřídka ovlivňují i světskou debatu. Stačí připomenout, co dokázala encyklika papeže Františka Laudato Si' z roku 2015. Ta se totiž stala se morálním a duchovním argumentem v diskusích o klimatické změně a přímo ovlivnila přípravu pařížské klimatické dohody. Lev XIV. zjevně doufá, že Magnifica Humanitas zasáhne podobně hluboko.
Odkaz na průmyslovou revoluci a varování
Encykliku Lev XIV. podepsal přesně 135 let po vydání Rerum Novarum z roku 1891, zlomového dokumentu papeže Lva XIII., který se zabýval právy dělníků a sociálními důsledky průmyslové revoluce. Shoda dat slouží záměrně jako symbolický akt. Lev XIV. si toto papežské jméno zvolil s vědomím, co nese. Hned po svém zvolení řekl kardinálům, že jeho předchůdce Lev XIII. byl papežem průmyslové revoluce a on chce být papežem té nové. Umělá inteligence pro něj představuje srovnatelný zlom v dějinách lidstva. "Nemohu nepřipomenout, jak Lev XIII. reagoval na průmyslovou revoluci s realismem a moudrostí," napsal v encyklice. "Procházíme dnes podobnou proměnou, možná s ještě dalekosáhlejšími důsledky."
Encyklika je rozdělena do pěti kapitol a prolíná ji jedna otázka: stavíme novou babylonskou věž, nebo budujeme město, kde mohou lidé žít důstojně vedle sebe?
Příběh o babylonské věži slouží papeži jako varování. Lidé tehdy chtěli dosáhnout nebe vlastní silou, bez ohledu na ostatní. Výsledek byl zánik společné řeči a rozpad společenství. Lev XIV. v tom vidí podobnost s dnešní dobou, kde hrstka firem s obrovskou mocí buduje technologii, která může ovládnout celé civilizace, aniž by do toho měl kdokoli jiný co mluvit. Oproti tomu staví obraz obnovy Jeruzaléma: spolupráci, sdílenou odpovědnost, stavění pro společné dobro.
"Odzbrojit" umělou inteligenci
Jedním z nejsilnějších konceptů v dokumentu je výzva k "odzbrojení" umělé inteligence. Lev XIV. tím nemyslí její zákaz ani odmítnutí. Myslí tím její osvobození od logiky vojenské a ekonomické soutěže, od honby za dominancí a monopolní kontrolou. "Odzbrojit neznamená odmítnout technologii. Znamená to zabránit tomu, aby ovládla lidstvo," napsal.
Technologie podle něj nikdy není morálně neutrální. Odráží hodnoty a priority těch, kdo ji navrhují, financují a používají. Umělá inteligence nemá zkušenosti, hodnoty ani city, a proto nesmí přebírat odpovědnost a nadřazenost nad lidskou inteligencí.
Nejvýznamnější slova v encyklice se týkají použití umělé inteligence ve válce. Lev XIV. varoval, že technologie proměňuje způsob, jakým se vede ozbrojený konflikt, a vytváří nebezpečnou psychologickou vzdálenost od jeho důsledků. "Rostoucí snadnost, s níž lze nasadit autonomní zbraňové systémy, činí válku více 'proveditelnou' a méně závislou na lidské kontrole," napsal. Na prezentaci encykliky ve Vatikánu pak ještě dodal, že některé autonomní zbraňové systémy se již prakticky vymkly jakékoli smysluplné lidské správě.
Zároveň se papež v dokumentu postavil jasně proti teorii spravedlivé války, staré doktríně, kterou církev využívá přinejmenším od 5. století. Její současné znění označil za překonané. Sílu, násilí a zbraně lze použít výhradně pro sebeobranu v nejpřísnějším slova smyslu, a nic víc. Tato pasáž přímo reaguje na výroky amerického viceprezidenta JD Vance, který teorii spravedlivé války použil k obhajobě amerického válečného angažmá v Íránu.
Lev XIV. upozornil také na "nové formy otroctví", které technologický průmysl plodí: těla lidí, kteří těží vzácné zeminy pro výrobu čipů a obrazovek, jsou "zjizvena, poraněna a opotřebena, aby mohl výpočetní tok pokračovat bez přerušení." Děti a dospívající pracují v nebezpečných podmínkách v těžebních oblastech světa.
A na konec přišlo historické gesto. Papež se v encyklice omluvil za to, že církev svého času odsouhlasilaodsoudila transatlantické otrokářství příliš pozdě a příliš opatrně. "To představuje ránu v křesťanské paměti," napsal. "Za to jménem církve upřímně prosím za odpuštění."
Anthropic byl přítomen
Lev XIV. se jako první papež v historii osobně ujal představení vlastní encykliky veřejnosti. Vedle kardinálů a teologů na pódiu seděl Christopher Olah, spoluzakladatel společnosti Anthropic a vedoucí výzkumu interpretovatelnosti umělé inteligence.
Přítomnost zástupce Anthropicu nebyla náhodná. Je to firma, která se dostala do sporu s Trumpovou administrativou kvůli použití svých technologií pro vojenské účely. Prezident Trump encykliku komentovat nezačal, ale napětí mezi ním a papežem je dávno zjevné. Lev XIV. kritizoval americko-izraelské útoky na Írán a Trump mu vzkázal, ať "je opatrný, když mluví o teologických záležitostech."
Olah na vatikánské akci poděkoval za pozvání a přiznal, že technologické firmy jako Anthropic čelí silným komerčním tlakům a potřebují vnější dohled. "Každá přední laboratoř umělé inteligence, včetně Anthropicu, funguje uvnitř souboru pobídek a omezení, která mohou být někdy v konfliktu s tím, co je správné," řekl.
Co tedy papež žádá?
Lev XIV. v dokumentu volá po pevných právních rámcích, nezávislém dohledu a vzdělávání uživatelů, zvláště dětí a studentů. Trvá na tom, aby budoucnost umělé inteligence nesměl utvářet výhradně soukromý sektor nebo "neviditelná ruka trhu." Dále upozornil na nebezpečí koncentrace technologické moci v rukou malého počtu firem a označil to za přímou hrozbu pro rovnost. Poukázal na "architekturu viditelnosti" digitálních platforem, které zesilují jen to, co je ziskové, a formují veřejné mínění bez demokratické kontroly.
Za test sociální spravedlnosti označil zacházení s migranty a uprchlíky. Způsob, jakým s nimi společnost nakládá, ukazuje, zda se její pojetí spravedlnosti řídí strachem nebo duchem bratrství.
Zdroje: vaticannews.va, cnn.com a nytimes.com
