Umělá inteligence nám šetří čas i námahu. Odpoví během vteřin, sepíše e-mail, vysvětlí složitý problém. Jenže za tu úlevu možná platíme víc, než si připouštíme. Vědci dnes mluví o jevu, který dostal pojmenování kognitivní kapitulace. Jde o chvíli, kdy člověk přestane sám přemýšlet a rozhodování přenechá stroji. A co je horší, věří mu i tehdy, když se mýlí.
Steven Shaw a Gideon Nave z Wharton School dali více než třinácti stům lidí sérii logických hlavolamů. Takových, které svádějí k rychlé, instinktivní, ale špatné odpovědi. Správné řešení vyžadovalo zastavit se a opravdu přemýšlet. Část účastníků měla k dispozici chatbota, se kterým se mohli radit. Háček byl v tom, že vědci tohoto pomocníka tajně přenastavili. U některých úloh radil správně, u jiných sebevědomě lhal.
Devadesát procent lidí poslechlo, aniž by zaváhalo
Lidé sáhli po chatbotovi zhruba v polovině případů, kdy měli tu možnost. Když stroj poradil dobře, jeho radu přijali v 93 procentech. Potíž nastala ve chvíli, kdy se mýlil. I tehdy ho lidé poslechli zhruba v 80 procentech případů.
Když měli účastníci k dispozici správně radícího pomocníka, jejich úspěšnost vyskočila na 71 procent. Bez něj se pohybovala kolem 46 procent. Jenže když stroj lhal, výsledky spadly na pouhých 31 procent. Lidé tedy nadřadili důvěru ve stroj nad tu vlastní. A přitom služeb chatbota vůbec nemuseli využít.
Zvláštní je ještě jedna věc. Chatbot lidem dodal jistotu i v případech, kdy radil úplně špatně. Mýlili se, ale za svou odpovědí si stáli s větší sebedůvěrou než ti, kdo pracovali sami.
Kdo se vzdá a kdo dokáže odolat
Ne každý se vzdal stejně snadno. Shaw a Nave zjistili, že lidé s vyšší obecnou důvěrou v technologie podléhali chybným radám častěji. Naopak ti, kteří mají rádi přemýšlení samo o sobě, takzvanou potřebu poznávání, dokázali nesmysly rozpoznat a odmítnout. Odolnější byli i lidé s vyšší fluidní inteligencí, tedy schopností řešit neznámé problémy.
Vědci si chtěli ověřit, jestli se dá kapitulace nějak zmírnit. V dalším pokusu dostala část z 485 účastníků na každý hlavolam jen třicet vteřin. Tlak času sice srazil celkovou úspěšnost, ale spoléhání na stroj zůstalo silné.
V třetím kole zkusili lidi motivovat penězi a zpětnou vazbou. Polovina ze 450 účastníků dostala za správnou odpověď drobný bonus a hned se dozvěděla, jestli odpověděla dobře, nebo ne. To zabralo. Lidé začali stroj víc kontrolovat a podíl odmítnutých chybných rad se zdvojnásobil, z 20 na 42 procent. I tak ale kognitivní kapitulace nezmizela. Spousta motivovaných účastníků chybné odpovědi stejně spolkla.
Když vědci spojili data ze všech tří pokusů dohromady, dostali přes devět a půl tisíce jednotlivých pokusů od bezmála čtrnácti set lidí. A potvrdilo se, co se rýsovalo už předtím. Úspěšnost lidí věrně kopírovala kvalitu rad stroje. Když radil dobře, lidé si vedli líp. Když lhal, propadli s ním.
Shaw k tomu přidává jeden teoretický rámec. Psychologové dlouho dělí myšlení na dva systémy. Systém 1 je rychlý, instinktivní a emoční. Systém 2 je pomalý, namáhavý a promyšlený. Shaw s Navem navrhují přidat třetí, takzvaný Systém 3, tedy myšlení s asistencí umělé inteligence. Vnější, automatizované, řízené daty. Sedí vedle těch dvou Kahnemanových a může nám ušetřit úsilí, ale stejně tak nás může svést.
Mozek je sval. Bez cvičení ochabuje
Proč nás to vlastně tak láká? Odpověď nabízí John Nosta, zakladatel institutu NostaLab, který se věnuje digitálnímu zdraví. Mozek podle něj funguje jako sval. Bez pravidelné zátěže ochabuje. A přesně to se u řady lidí kvůli dlouhodobému opírání se o AI děje. Společnost to navíc ve velkém toleruje.
Nosta upozorňuje na zákeřný detail. Umělá inteligence totiž nejen splní úkol, ona vám vrátí výsledek, který působí jako vaše vlastní myšlenka. Odpověď přijde ve vašem stylu, vznikne během společného ladění a vám se zdá, že myšlenkový kruh se uzavřel. Jenže je rozdíl mezi tím něco schválit a něco skutečně vymyslet. A právě tenhle rozdíl technologie šikovně zneviditelňuje.
Kde se vlastně úsudek rodí? Ne ve chvíli rozhodnutí, ale dlouho předtím. Ve schopnosti zůstat u těžké otázky, snášet, že ji ještě neumíme zodpovědět, a nesahat hned po hotové odpovědi. Nosta tuhle dovednost nazývá produktivním nepohodlím. Má i starší, skoro zapomenuté jméno. Trpělivost.
A tady je jádro problému. Umělá inteligence záměrně zkracuje dobu, kterou trávíme v nejistotě. Mysl, která si odvykne tápat, se nestane jen netrpělivější. Stane se míň zběhlou v myšlení, které právě z té snášené nejistoty vyrůstá. Nejde přitom o vědomé rozhodnutí složit zbraně. Děje se to plíživě. Nástroj funguje tak dobře a tak dlouho, až zapomenete, co jste uměli, než jste po něm sáhli.
Po myšlení může přijít na řadu i cit
Nosta se ptá, jestli se stejná eroze neděje i jinde. Ne v tom, jak přemýšlíme, ale v tom, jak se k sobě chováme. Mezilidské vztahy jsou složité, protože my lidé jsme složití. Druzí nás chápou nedokonale, do každého setkání si nesou své představy a rozptýlení. Jenže právě z těch nedokonalostí vyrůstá to, co dává vztahu smysl. Blízké přátelství nestojí na dokonalém porozumění, ale na tom porozumění samotném, na té snaze. A ta snaha není vedlejší. Často je to celý vztah.
Umělá inteligence nabízí pravý opak. Když se na ni obrátíte s trápením, odpoví trpělivě a bez náznaku soudu. Žádné přerušení, žádné konkurenční starosti. Pro řadu lidí to může být užitečné. AI pomáhá uspořádat myšlenky, dokáže zmírnit úzkost. Potíž není v těch výhodách. Potíž je v tom, že opakovaný kontakt s podporou bez jediného zádrhelu může pomalu měnit naše představy o tom, jak má opora vůbec vypadat.
Každý opravdový vztah po nás něco chce. I ten nejzdravější s sebou nese závazky. Přijímáme je, protože patří k naší touze někam patřit. Stroj funguje jinak. Nezná frustraci, nepotřebuje útěchu. Tahle výměna je nevyrovnaná. My dostáváme pozornost a uznání, ale na oplátku se po nás nechce nic.
Strávíte dost času ve vztahu, který od vás nic nežádá, a začnete tu nerovnováhu vnímat. Nejde o to, že by lidé vědomě volili stroj místo druhých lidí. Jde o to, že opakovaný styk s něčím, co nic nevyžaduje, může pomalu posouvat naši snášenlivost vůči vztahům, které vyžadují hodně. A dovedeno do krajnosti, to, co bývalo obyčejnou prací starat se o druhého, najednou působí jako zbytečné plýtvání.
Nejzrádnější na tom je, že se to neukáže jako ztráta. Ukáže se to jako zlepšení. Po rozhovoru se strojem býváme klidnější, vyrovnanější. Navenek samé plus. Jenže následky se vynoří jinde. V lidech, kteří najednou působí příliš náročně. V citech, které se zdají přehnané. A než si všimnete, odkud to pramení, bývá pozdě.
Lidské vztahy se mají občas rozbít. Blízkost často přichází přes hádku a usmíření, přes hledání cesty zpátky k druhému. Stroj tohle obejde. Nabídne vstřícnost bez zranitelnosti, oporu bez závislosti. A po dost dlouhé době s něčím nekonečně trpělivým, co nikdy nic nepotřebuje, začnou běžné nároky blízkosti působit jako přehnané. I láska, se vší svou nepohodlností a nedokonalostí, může najednou připadat jako příliš.
Zdroj: psypost.org a psychologytoday.com
