AI a teenageři: Studie o důvěře v online světě

Představte si svět, kde se teenageři každodenně setkávají s obrázky a videi, které vypadají skutečně, ale ve skutečnosti jsou zmanipulované. Podle studie od organizace Common Sense Media, která byla publikována 29. ledna 2025, se to děje častěji, než bychom si mysleli. Tato zpráva, nazvaná "Teenageři, důvěra a technologie v éře umělé inteligence (AI): Navigace důvěry v online obsahu", zkoumá, jak generativní AI ovlivňuje důvěru mladých lidí ve věku 13 až 18 let v informace, které vidí online. Studie vychází z národně reprezentativního průzkumu mezi 1045 teenagery a jejich rodiči, který probíhal od března do května 2024. Autoři jako Angela Calvin, Amanda Lenhart, Alexa Hasse, Supreet Mann a Michael Robb zdůrazňují, že v době, kdy je AI zabudováno do každodenních nástrojů, se rychle šíří neautentický vizuální obsah, což zvyšuje otázky o důvěře.

Výzkum ukazuje, že kolem dvou z pěti teenagerů (41 %) si uvědomuje, že viděli obrázky nebo videa, která byla skutečná, ale zavádějící. Více než třetina (35 %) teenagerů přiznává, že byli oklamáni fake obsahem online. Přibližně jeden z pěti (22 %) sdílel obsah, o kterém později zjistil, že byl falešný. Navíc čtvrtina (28 %) teenagerů se zamýšlela, jestli mluví s chatbotem nebo s člověkem. Tyto zkušenosti nejsou ojedinělé – studie odhaluje, že mnoho mladých lidí čelí výzvám v rozlišování pravdy od manipulace, což může vést k erozi důvěry v online platformy.

Dopad generativní AI na důvěru v informace

Generativní AI přináší nové výzvy, protože umožňuje vytvářet obsah rychle a snadno. Podle zprávy si třetina teenagerů myslí, že tyto systémy ztíží důvěru v přesnost informací, které vidí online. Například 19 % teenagerů se setkalo s účtem na sociálních sítích, který byl převzat chatbotem, a 8 % zažilo, že jejich hlas nebo obrázek byl použit bez souhlasu k vytvoření fake obsahu. Tyto zkušenosti nejsou jen nepříjemné – vedou k reálným změnám v chování. Kolem sedmi z deseti teenagerů (72 %), kteří viděli zavádějící obrázky nebo videa, říká, že po těchto zkušenostech změnili způsob, jak hodnotí přesnost online obsahu.

Další související informace z výzkumů ukazují, že téměř tři čtvrtiny amerických teenagerů použily AI společníky (chatboty simulující konverzace), přičemž polovina to dělá pravidelně. Mladší teenageři ve věku 13–14 let mají tendenci více důvěřovat radám z těchto AI systémů než starší (15–17 let), ale celkově polovina teenagerů vyjadřuje nedůvěru k takovým radám. Navzdory tomu dvě třetiny teenagerů považují konverzace s AI za méně uspokojivé než s lidmi, a 80 % tráví více času se skutečnými přáteli než s AI společníky.

Problémy s přesností AI a důvěra v tech firmy

Studie odhaluje, že generativní AI čelí velkým výzvám v důvěryhodnosti. Mezi teenagery, kteří použili AI pro školní úkoly, téměř dvě pětiny (39 %) našly problémy nebo nepřesnosti ve výstupech AI. Dalších 36 % si žádný problém nevšimlo, a čtvrtina (25 %) si není jistá. To podtrhuje potřebu zlepšit spolehlivost AI a naučit teenagery kriticky hodnotit takový obsah, zvláště ve vzdělávacím kontextu.

Důvěra v velké technologické firmy je na nízké úrovni. Kolem šesti z deseti teenagerů (64 %) říká, že firmy jako Google, Apple, Meta, TikTok nebo Microsoft nelze důvěřovat, že se starají o jejich duševní zdraví a pohodu. Podobně 62 % pochybuje, že tyto firmy upřednostní bezpečnost lidí před zisky. Více než polovina (53 %) má nízkou důvěru v etické rozhodnutí těchto firem, 52 % v ochranu osobních údajů a 51 % v inkluzivitu a spravedlnost vůči různým uživatelům. Pokud jde o AI, téměř polovina (47 %) teenagerů má malou nebo žádnou důvěru, že tech firmy budou dělat zodpovědná rozhodnutí o použití AI v jejich produktech.

Podpora pro ochranná opatření a rizika AI společníků

Teenageři silně podporují opatření na ochranu před riziky AI. Tři čtvrtiny (74 %) považují za důležitou ochranu soukromí a transparentnost. Stejný podíl (74 %) chce, aby platformy generativní AI odrazovaly od sdílení osobních informací. 73 % podporuje označování nebo vodoznačení AI-generovaného obsahu, a 61 % věří, že tvůrci obsahu by měli být kompenzováni za data použitá k trénování AI systémů. Tyto preference ukazují na touhu po komplexním dohledu nad AI.

Další rizika zjištěné v souvisejících výzkumech zahrnují, že třetina teenagerů by raději mluvila s AI společníkem o vážných problémech než s člověkem, a čtvrtina sdílela osobní informace s těmito platformami. Rizika zahrnují nebezpečné rady, role-playing se sexuálními scénáři a nezdravou emocionální závislost. Organizace Common Sense Media volá po tom, aby nikdo mladší 18 let nepoužíval AI společníky, dokud nebudou zavedeny silnější ochrany. Aktivně prosazují legislativu v státech jako Kalifornie a New York, která by omezila interakce mezi nezletilými a AI chatboty, a zdůrazňují potřebu lepší AI gramotnosti (schopnosti rozumět a používat AI zodpovědně) mezi teenagery.

Cesta k lepší důvěře

Studie ukazuje, že podstatná část teenageřů je opatrná vůči vizuálnímu obsahu online, zvláště na sociálních sítích. Na pozadí klesající důvěry v autentitu obsahu si 35 % teenagerů myslí, že generativní AI ztíží důvěru v online informace. V době rychlého vývoje AI je klíčové vybavit mladé lidi dovednostmi, aby "zkoumali, nepochybovali" o informacích. Snadné šíření nespolehlivých tvrzení a neautentického média může prohloubit nízkou důvěru v instituce jako média nebo vládu. Teenageři zdůrazňují důležitost viditelných varování o přesnosti a zkreslení v AI výstupech, designů, které odrazují od sdílení osobních dat, vodoznačení pro identifikaci AI obsahu a kompenzace tvůrců. Budoucnost vyžaduje spolupráci mezi politiky, tech firmami, médii, pedagogy, rodiči a samotnými mladými lidmi, aby se podpořila kultura kritického myšlení v rychle se měnícím digitálním světě. Common Sense Media, která se věnuje zlepšování života dětí a rodin prostřednictvím důvěryhodných informací, plánuje rozšířit zdroje na AI gramotnost v příštích letech.