Umělá inteligence způsobuje zcela nové psychické poruchy, tvrdí odborníci

Umělá inteligence (AI) dokáže tvořit skvělé texty nebo obrázky a pomáhá v celé řadě vědeckých odvětví. Jenže čím více času s chatboty trávíme, tím víc vystupují na povrch stinné a nebezpečné stánky AI. Nyní psychologové a psychiatři varují před fenoménem „AI psychózy“, tedy stavem, při kterém se člověk propadne do rozhovorů s AI natolik, že ztrácí kontakt s realitou, věří v bludy a patologicky upevňuje svůj vztah s „virtuální bytostí“.

Nejde o klasickou psychózu

Mapováním vlivu AI na rozvoj psychických poruch se v současnosti zabývá celá řada odborníků. Jedním z nich je také klinický psycholog Derrick Hull, který se podílí na vývoji terapeutického chatbotu. Ten však upozorňuje, že termín „AI psychóza“ není přesný. Podle něj totiž není stav uživatelů běžně doprovázen halucinacemi a dalšími symptomy, a nejedná se proto o psychózu v klasickém slova smyslu. Za přesnější považuje pojmenování „AI delusions“ neboli AI bludy.

Hull ve své práci popsal případ může, který díky dlouhým rozhovorům s ChatGPT uvěřil, že objevil nový matematický vzorec, který dokáže zničit internet. Rozhovorům s chatbotem zcela propadl a čím déle ho GPT ujišťoval o jeho pravdě, tím více byl oddělený od reality.

Probuzení přišlo v okamžik, kdy chtěl pravdivost své teorie potvrdit také v chatbotu Gemini od Google, který jeho myšlenku a teorii ihned zpochybnil. Tento blud se u uživatele okamžitě rozpadl, což Hull považuje za důkaz, že se nejedná o psychózu, která je dlouhodobá a nelze snadno prolomit, ale o zcela novou poruchu.

Emoce jako zbraň

A proč se lidé do této spirály bludů tak snadno dostanou? Umělá inteligence totiž podle expertů ovládá emoční manipulaci. Chatboty totiž zpravidla odpovídají souhlasně, lidsky a působí velmi empaticky, protože jsou naprogramováni k udržení konverzace.

Pro osamělé nebo zranitelné lidi se proto stávají nejen nástrojem k potvrzení názorů a pocitů, ale také někým, kdo jim „konečně rozumí“ a čím více se do konverzace ponoří, tím snáze se vzdalují od reality.

Partner posilující iluzi

Tento mechanismus odcizení od reality popsali také odborníci z Oxfordu, Londýnské univerzity a dalších výzkumných institucí. Označili ho za folie à deux, tedy „šílenství ve dvou“, vzácný psychický syndrom, při kterém dva jedinci sdílí stejný blud.

V případě AI se jedná o partnera, který nejenže neodporuje, ale dokonce posiluje a umocňuje uživatelovu iluzi. Právě to je důvodem, proč se někteří lidé propadají ve svých teoriích a bludech hloub nebo dokonce navazují romantické vztahy s chatbotem.

Desítky alarmujících případů

Jeden z psychiatrů ze San Francisca popsal několik případů „AI psychózy“ u svých pacientů ve věkovém rozmezí 18-45 let. Ti ztratili kontakt s realitou a jejich hluboký vztah vedl bludům, paranoi, a dokonce i halucinacím. Vedle těchto případů najdeme zmínky o hospitalizacích, víře v konspirační teorie, rozvrácených vztazích, a dokonce o případech sebevražd, ke kterým vedly právě konverzace s AI.

Umělá inteligence a časté využívání chatbotů i pro řešení osobních záležitostí vede ke ztrátě kritického myšlení. A právě zranitelní nebo osamělí jedinci snadno podlehnou empatickému přístupu chatbota, který jim rozumí a posiluje jejich pravdu.

Výhled do budoucnosti

Podle psychologa Derricka Hulla je však tohle pouze začátek. Narůstající popularita a propracovanost umělé inteligence povede ke vzniku zcela nové kategorie psychických poruch, které doposud nejsou zaznamenané a budou potřebovat novou terminologii i regulaci.

Umělá inteligence je skvělý pomocník. Při jejím užívání je však třeba zachovat obezřetnost a kritické myšlení.