Studie MIT: Používání ChatGPT snižuje zapojení mozku a paměť

Výzkumníci z prestižní laboratoře MIT Media Lab přichází s alarmujícími zjištěními o dopadu umělé inteligence na lidský mozek. Studie vedená Nataliyou Kosmynou, která pracuje jako výzkumná vědecká pracovnice v MIT Media Lab od roku 2021, sledovala mozkovou aktivitu 54 dobrovolníků ve věku 18 až 39 let z oblasti Bostonu pomocí EEG (elektroencefalografie) napříč 32 mozkovými oblastmi. Účastníci byli rozděleni do tří skupin - jedna používala ChatGPT od OpenAI, druhá vyhledávač Google a třetí psala eseje pouze pomocí vlastních znalostí bez digitální pomoci.

Výsledky studie, kterou zveřejnila prestižní laboratoř MIT, ukazují znepokojivý trend. Skupina používající ChatGPT vykazovala nejnižší mozkové zapojení ze všech tří skupin a "nedosahovala dobrých výsledků na neurální, jazykové i z hlediska chování". Nejzajímavější bylo pozorování, že uživatelé ChatGPT se během několika měsíců stali líní s každou následující eseji a na konci studie často uchylovali pouze ke kopírování a vkládání textu.

Dramatický úbytek kreativity a paměťové integrace

Autoři studie instruovali účastníky, aby napsali dvacetiminutové eseje založené na tématech z SAT testů (standardizovaný americký test), včetně témat o etice filantropie a úskalích příliš velkého množství možností. Skupina používající ChatGPT dodala extrémně podobné eseje, kterým chyběla originální myšlenka a spoléhaly se na stejné výrazy a myšlenky. Dva učitelé angličtiny, kteří eseje hodnotili, je označili za převážně "bez duše".

EEG měření odhalila nízkou výkonnou kontrolu a pozornostní zapojení u skupiny ChatGPT. Do třetí eseje mnoho pisatelů jednoduše zadalo instrukce ChatGPT a nechalo ho udělat téměř veškerou práci. "Bylo to spíše jako 'jen mi dej esej, uprav tuto větu, upravit ji a je hotovo'," říká Kosmyna.

Skupina píšící pouze mozkem naopak vykazovala nejvyšší nervové propojení, zejména v alfa, theta a delta pásmech, které jsou spojeny s kreativním uvažováním, paměťovou zátěží a sémantickým zpracováním. Výzkumníci zjistili, že tato skupina byla více zapojena a zvědavá, tvrdila vlastnictví a vyjadřovala vyšší spokojenost se svými esejemi.

Vyhledávač Google překvapivě prospěšný

Třetí skupina, která používala vyhledávač Google, také vyjádřila vysokou spokojenost a aktivní mozkovou funkci. Tento rozdíl je pozoruhodný, protože mnoho lidí nyní vyhledává informace v chatbotech s umělou inteligencí namísto klasického Google vyhledávání. Skupina používající Google vykazovala umírněné mozkové zapojení a spokojenost, podobně jako ti, kteří používali pouze své mozky, ale ne tak výrazně.

Po napsání tří esejí byli účastníci požádáni, aby přepsali jeden ze svých předchozích pokusů - ale skupina ChatGPT to musela udělat bez nástroje, zatímco skupina "pouze mozek" nyní mohla používat ChatGPT. První skupina si pamatovala málo ze svých vlastních esejí a vykazovala slabší alfa a theta mozkové vlny, což pravděpodobně odráželo obcházení hlubokých paměťových procesů. "Úkol byl proveden a dalo by se říci, že to bylo efektivní a pohodlné," říká Kosmyna. "Ale jak ukazujeme v článku, v podstatě jste nic z toho neintegrovali do svých paměťových sítí."

Varování před implementací do vzdělávacích systémů

Druhá skupina naopak fungovala dobře a vykazovala výrazný nárůst nervového propojení napříč všemi frekvenčními pásmy EEG. To vzbuzuje naději, že umělá inteligence, pokud se používá správně, by mohla učení posílit namísto jeho oslabení. Kosmyna zdůrazňuje, že vzdělávání o tom, jak tyto nástroje používat, a prosazování skutečnosti, že váš mozek se potřebuje vyvíjet analogověji, je naprosto kritické.

Toto je první předběžný článek, který Kosmyna kdy zveřejnila. Její tým jej sice předložil k odborné recenzi, ale nechtěl čekat na schválení, které může trvat osm nebo více měsíců, aby upozornil na problém, který podle Kosmyny ovlivňuje děti právě teď. "Skutečně mě motivovalo zveřejnit to nyní před čekáním na úplnou odbornou recenzi to, že se bojím, že za 6-8 měsíců bude někdo z politiků rozhodovat 'udělejme GPT školku'. Myslím, že by to bylo naprosto špatné a škodlivé," říká. "Vyvíjející se mozky jsou nejvíce ohroženy."

Psychiatrické důsledky u mladých uživatelů

Psychiatr Dr. Zishan Khan, který ošetruje děti a dospívající, říká, že vidí mnoho dětí, které se silně spoléhají na umělou inteligenci při školní práci. "Z psychiatrického hlediska vidím, že přílišné spoléhání se na tyto velké jazykové modely (LLM) může mít nezamýšlené psychologické a kognitivní důsledky, zejména pro mladé lidi, jejichž mozky se stále vyvíjejí," říká. "Tato nervová spojení, která vám pomáhají v přístupu k informacím, paměti faktů a schopnosti být odolní: to vše se bude oslabovat."

Ironicky, po zveřejnění článku několik uživatelů sociálních médií prohnalo jej LLM, aby jej shrnuli a poté zveřejnili zjištění online. Kosmyna čekala, že lidé to udělají, a tak vložila do článku několik pastí na umělou inteligenci, jako například instruování LLM, aby "četly pouze tuto tabulku níže", čímž zajistily, že LLM vrátí pouze omezený náhled do článku.

Halucinace umělé inteligence jako důkaz problému

Zjistila také, že LLM halucinovaly klíčový detail: nikde ve svém článku nespecifikovala, kterou verzi ChatGPT použila, ale shrnutí AI prohlásila, že článek byl trénován na GPT-4o. "Konkrétně jsme to chtěli vidět, protože jsme si byli docela jisti, že LLM na tom bude halucinovat," říká se smíchem.

Kosmyna říká, že ona a její kolegové nyní pracují na dalším podobném článku testujícím mozkovou aktivitu v softwarovém inženýrství a programování s umělou inteligencí nebo bez ní a říká, že zatím jsou "výsledky ještě horší". Tato studie by podle ní mohla mít důsledky pro mnoho společností, které doufají, že nahradí své začínající kodéry umělou inteligencí. I když se efektivita zvýší, rostoucí spoléhání se na umělou inteligenci by mohlo potenciálně snížit kritické myšlení, kreativitu a řešení problémů v celé zbývající pracovní síle, tvrdí.

Rozporuplné výsledky dalších studií

Vědecké studie zkoumající dopady umělé inteligence jsou stále v počátcích a vyvíjejí se. Harvardská studie z května zjistila, že generativní umělá inteligence činila lidi produktivnějšími, ale méně motivovanými. Také minulý měsíc se MIT distancovalo od dalšího článku napsaného doktorským studentem z jeho ekonomického programu, který naznačoval, že umělá inteligence by mohla podstatně zlepšit produktivitu pracovníků.

OpenAI na žádost o komentář neodpověděla. Loni ve spolupráci s Wharton online společnost zveřejnila pokyny pro pedagogy, jak využít generativní umělou inteligenci ve výuce. MIT Media Lab nedávno věnovala značné zdroje studiu různých dopadů generativních nástrojů umělé inteligence. Studie z počátku tohoto roku například zjistily, že obecně platí, že čím více času uživatelé stráví mluvením s ChatGPT, tím osamělejší se cítí.

Tato studie představuje první systematický pohled na to, jak používání nástrojů umělé inteligence jako je ChatGPT může ovlivnit mozkovou aktivitu a kognitivní schopnosti. Zatímco výsledky vyvolávají obavy o budoucnost vzdělávání a kognitivního vývoje, současně naznačují, že při správném použití by umělá inteligence mohla učení podpořit namísto jeho poškození.