Jeden student napsal esej. Vlastními slovy, vlastními myšlenkami. Algoritmus ho označil za podvodníka. Co udělal? Přihlásil se k několika AI službám a začal studovat, jak detektory fungují. Ne proto, aby podváděl. Ale aby se bránil. Tohle je současná realita na amerických univerzitách.
Kobří efekt ve školních lavicích
Britská koloniální správa v Indii kdysi vypsala odměnu za mrtvé kobry, aby jejich počet snížila. Lidé začali kobry chovat. Když vláda program zrušila, chovatelé hady pustili na svobodu. Problém byl najednou horší než před intervencí. Detektory umělé inteligence na školách fungují úplně stejně.
Pedagog Dadland Maye, který vyučoval na Brown University i na newyorské CUNY, to zdokumentoval v eseji pro Chronicle of Higher Education. Jedna jeho studentka začala používat generativní AI teprve poté, co se dozvěděla, že pomlčky v textu prý spouštějí detektory. Aby se ochránila před falešným obviněním, začala svůj vlastní text prohánět přes AI nástroje. Chtěla zjistit, jak bude vypadat v očích algoritmu. Nástroj navržený k prevenci podvádění se stal důvodem, proč začala AI používat.
Psát dobře je podezřelé
Spisovatel a novinář Mike Masnick popsal na Techdirtu vlastní zkušenost: jeho dítě dostalo za úkol napsat esej o Vonnegutově povídce Harrison Bergeron, příběhu o dystopické společnosti, která handicapuje každého, kdo vyniká. Školní detektor označil esej za 18 % AI generovanou. Viník? Slovo "devoid" (prázdný). Když ho nahradilo jednodušší "without", skóre kleslo na nulu.
Ironie situace je skoro bolestivá. Dítě bylo nuceno zhoršit esej o příběhu varujícím před nuceným potlačováním výjimečnosti.
A to není ojedinělý případ. Maye popisuje studentku, která byla léta chválena za psaní nad úrovní svého ročníku. Po přestupu na novou školu si uvědomila, že ji tam nikdo nezná. Profesoři nebudou vědět, že její sebejistý hlas byl poctivě vybudovaný. Začala googlit, co vzbudí podezření. Otevřela si Google Gemini a dveře se otevřely.
"Cítím se, jako bych podváděla," řekla Mayemu. Přitom ji k tomu dohnala obrana, ne nepoctivost.
Systém trestá poctivé, podvodníci procházejí
Na CUNY studuje mnoho lidí, kteří pracují 20 až 40 hodin týdně. Mnoho z nich jsou vícejazyční mluvčí. Každý profesor má jiná pravidla pro AI. Jeden ji zakazuje úplně, druhý ji aktivně doporučuje. Studenti se naučili mlčet, aby neriskovali chybu.
Jeden student strávil hodiny přepisováním vlastních vět, které detektor označil za AI generované, přestože každé slovo napsal sám. "Přepisuji a přepisuji," řekl. "Zabírá to příliš mnoho času." A tady je ten skutečný problém: přepisování textu kvůli uspokojení algoritmu nemá s učením se psát nic společného. Revize by měla sloužit záměru textu, ne uklidnit pochybný bot.
Jak upozorňuje The Guardian, až 92 % studentů přiznává, že AI při studiu používá, a čísla dál rostou. Někteří profesoři mluví o noční můře, kdy AI systémy hodnotí AI generované domácí úkoly. Rozhovor dvou robotů.
Mluvit o AI otevřeně
Maye nakonec udělal jedinou rozumnou věc. Přestal vyžadovat, aby studenti hlásili každé použití AI. Místo toho jim řekl: AI můžete používat na výzkum a osnovy, ale samotný text musí být váš. Naučil je, jak zadávat prompty zodpovědně a jak poznat, kdy nástroj začíná nahrazovat jejich vlastní myšlení. Atmosféra ve třídě se změnila. Studenti za ním chodili po hodinách s otázkami. Jak zadávat prompty pro výzkum, aniž by kopírovali výstup? Jak poznat, kdy shrnutí zachází příliš daleko od zdroje?
Tyto rozhovory byly pedagogické povahy. Staly se možnými teprve poté, co AI přestala fungovat jako problém k hlídání a začala fungovat jako téma k výuce.
Profesorka literatury Lea Pao ze Stanfordu zkouší jiný přístup: nechává studenty učit se básně z paměti, navštěvovat muzea, psát rukou. Snaží se je znovu propojit s tělesnou zkušeností učení. Ne vždy to vychází. Jeden student přišel do muzea, kdy bylo zrovna zavřené, a pak sáhl po AI. Ale Pao se nevzdává. "Sázíte semínka a doufáte," říká.
Otázka, na kterou musíme odpovědět
Americké univerzity stojí statisíce dolarů a vedou k desetiletím dluhů. Veřejná důvěra ve vysokoškolské vzdělání klesá. A teď přichází AI, která dokáže nahradit samostatné myšlení. Otázka se stává naléhavější než kdy dřív: k čemu vlastně vysokoškolské vzdělání slouží? Profesor literatury Michael Clune z Ohio State University varuje, že školy, které AI nekriticky přijímají, si samy sobě podřezávají větev". Dora Zhang z univerzity Berkeley mluví se studenty o AI v existenciálních pojmech: "Co to dělá s námi jako druhem?"
Někteří studenti sami začínají vzdorovat. Vidí, že jsou pokusnými králíky obřího společenského experimentu. Odmítají AI z ekologických důvodů, ze skepse vůči technologickým firmám, z pocitu, že jim někdo krade něco důležitého. Možná je to právě ten signál, který by školy měly slyšet. Místo nasazování detektorů, které trestají dobré pisatele a tlačí poctivé studenty do náruče nástrojů, které nikdy nechtěli používat, by stálo za to zkusit něco radikálního: důvěřovat studentům a učit je myslet.
