KI und Jugendliche: Studie über Vertrauen in der Online-Welt
Stellen Sie sich eine Welt vor, in der Jugendliche täglich auf Bilder und Videos stoßen, die echt aussehen, in Wirklichkeit aber manipuliert sind. Laut einer Studie der Organisation Common Sense Media, die am 29. Januar 2025 veröffentlicht wurde, geschieht dies häufiger, als wir denken. Dieser Bericht mit dem Titel „Jugendliche, Vertrauen und Technologie im Zeitalter der künstlichen Intelligenz (KI): Vertrauen in Online-Inhalte richtig einschätzen“ untersucht, wie generative KI das Vertrauen junger Menschen im Alter von 13 bis 18 Jahren in Informationen beeinflusst, die sie online sehen. Die Studie basiert auf einer landesweit repräsentativen Umfrage unter 1.045 Jugendlichen und ihren Eltern, die von März bis Mai 2024 durchgeführt wurde. Autoren wie Angela Calvin, Amanda Lenhart, Alexa Hasse, Supreet Mann und Michael Robb betonen, dass sich in einer Zeit, in der KI in alltägliche Werkzeuge integriert ist, nicht authentische visuelle Inhalte rasch verbreiten, was zunehmend Fragen nach der Vertrauenswürdigkeit aufwirft.
Die Forschung zeigt, dass etwa zwei von fünf Jugendlichen (41 %) wissen, dass sie Bilder oder Videos gesehen haben, die zwar echt, aber irreführend waren. Mehr als ein Drittel (35 %) der Jugendlichen gibt an, durch gefälschte Online-Inhalte getäuscht worden zu sein. Etwa jeder Fünfte (22 %) teilte Inhalte, von denen er später erfuhr, dass sie gefälscht waren. Zudem fragte sich ein Viertel (28 %) der Jugendlichen, ob es mit einem Chatbot oder einem Menschen sprach. Diese Erfahrungen sind keine Einzelfälle – die Studie zeigt, dass viele junge Menschen Schwierigkeiten haben, Wahrheit von Manipulation zu unterscheiden, was zu einem Vertrauensverlust gegenüber Online-Plattformen führen kann.
Auswirkungen generativer KI auf das Vertrauen in Informationen
Generative KI bringt neue Herausforderungen mit sich, da sie eine schnelle und einfache Erstellung von Inhalten ermöglicht. Dem Bericht zufolge glaubt ein Drittel der Jugendlichen, dass diese Systeme es schwieriger machen werden, der Richtigkeit von Informationen zu vertrauen, die sie online sehen. So sind 19 % der Jugendlichen auf ein Social-Media-Konto gestoßen, das von einem Chatbot übernommen worden war, und 8 % haben erlebt, dass ihre Stimme oder ihr Bild ohne Zustimmung zur Erstellung gefälschter Inhalte verwendet wurde. Diese Erfahrungen sind nicht nur unangenehm – sie führen zu tatsächlichen Verhaltensänderungen. Etwa sieben von zehn Jugendlichen (72 %), die irreführende Bilder oder Videos gesehen haben, geben an, nach diesen Erfahrungen ihre Art geändert zu haben, die Richtigkeit von Online-Inhalten zu beurteilen.
Weitere damit zusammenhängende Forschungsergebnisse zeigen, dass fast drei Viertel der US-amerikanischen Jugendlichen KI-Begleiter (Chatbots, die Unterhaltungen simulieren) genutzt haben, wobei die Hälfte dies regelmäßig tut. Jüngere Jugendliche im Alter von 13 bis 14 Jahren neigen eher dazu, den Ratschlägen dieser KI-Systeme zu vertrauen als ältere Jugendliche im Alter von 15 bis 17 Jahren. Insgesamt äußert jedoch die Hälfte der Jugendlichen Misstrauen gegenüber solchen Ratschlägen. Dennoch empfinden zwei Drittel der Jugendlichen Gespräche mit KI als weniger befriedigend als Gespräche mit Menschen, und 80 % verbringen mehr Zeit mit echten Freunden als mit KI-Begleitern.
Probleme mit der Genauigkeit von KI und Vertrauen in Technologieunternehmen
Die Studie zeigt, dass generative KI vor großen Herausforderungen hinsichtlich ihrer Vertrauenswürdigkeit steht. Unter den Jugendlichen, die KI für Schulaufgaben genutzt haben, fanden fast zwei Fünftel (39 %) Probleme oder Ungenauigkeiten in den KI-Ausgaben. Weitere 36 % bemerkten keine Probleme, und ein Viertel (25 %) ist sich nicht sicher. Dies unterstreicht die Notwendigkeit, die Zuverlässigkeit von KI zu verbessern und Jugendlichen beizubringen, solche Inhalte kritisch zu bewerten, insbesondere im Bildungskontext.
Das Vertrauen in große Technologieunternehmen ist gering. Etwa sechs von zehn Jugendlichen (64 %) sagen, Unternehmen wie Google, Apple, Meta, TikTok oder Microsoft könne man nicht zutrauen, sich um ihre psychische Gesundheit und ihr Wohlbefinden zu kümmern. Ebenso bezweifeln 62 %, dass diese Unternehmen die Sicherheit der Menschen über ihre Gewinne stellen werden. Mehr als die Hälfte hat wenig Vertrauen in die ethischen Entscheidungen dieser Unternehmen (53 %), in den Schutz personenbezogener Daten (52 %) sowie in Inklusion und einen fairen Umgang mit unterschiedlichen Nutzern (51 %). In Bezug auf KI hat fast die Hälfte (47 %) der Jugendlichen wenig oder gar kein Vertrauen darin, dass Technologieunternehmen verantwortungsvolle Entscheidungen über den Einsatz von KI in ihren Produkten treffen werden.
Unterstützung für Schutzmaßnahmen und Risiken von KI-Begleitern
Jugendliche befürworten nachdrücklich Maßnahmen zum Schutz vor den Risiken der KI. Drei Viertel (74 %) halten Datenschutz und Transparenz für wichtig. Derselbe Anteil (74 %) möchte, dass Plattformen für generative KI davon abraten, persönliche Informationen weiterzugeben. 73 % unterstützen die Kennzeichnung oder das Versehen KI-generierter Inhalte mit Wasserzeichen, und 61 % sind der Ansicht, dass die Urheber von Inhalten für Daten entschädigt werden sollten, die zum Trainieren von KI-Systemen verwendet werden. Diese Präferenzen zeigen den Wunsch nach einer umfassenden Aufsicht über KI.
Zu den weiteren Risiken, die in verwandten Forschungsarbeiten festgestellt wurden, gehört, dass ein Drittel der Jugendlichen lieber mit einem KI-Begleiter als mit einem Menschen über ernste Probleme sprechen würde und ein Viertel persönliche Informationen mit diesen Plattformen geteilt hat. Zu den Risiken zählen gefährliche Ratschläge, Rollenspiele mit sexuellen Szenarien und eine ungesunde emotionale Abhängigkeit. Die Organisation Common Sense Media fordert, dass niemand unter 18 Jahren KI-Begleiter nutzen sollte, bis stärkere Schutzmaßnahmen eingeführt sind. Sie setzt sich aktiv für Gesetze in Bundesstaaten wie Kalifornien und New York ein, die Interaktionen zwischen Minderjährigen und KI-Chatbots einschränken würden, und betont die Notwendigkeit einer besseren KI-Kompetenz – der Fähigkeit, KI zu verstehen und verantwortungsvoll zu nutzen – unter Jugendlichen.
Der Weg zu mehr Vertrauen
Die Studie zeigt, dass ein erheblicher Teil der Jugendlichen bei visuellen Online-Inhalten, insbesondere in sozialen Medien, vorsichtig ist. Vor dem Hintergrund des sinkenden Vertrauens in die Authentizität von Inhalten glauben 35 % der Jugendlichen, dass generative KI es schwieriger machen wird, Online-Informationen zu vertrauen. In einer Zeit rasanter KI-Entwicklung ist es entscheidend, jungen Menschen die nötigen Fähigkeiten zu vermitteln, damit sie Informationen „prüfen, statt an ihnen zu zweifeln“. Die leichte Verbreitung unzuverlässiger Behauptungen und nicht authentischer Medien kann das geringe Vertrauen in Institutionen wie Medien oder Regierungen weiter vertiefen. Jugendliche betonen die Bedeutung sichtbarer Warnhinweise zu Genauigkeit und Verzerrungen in KI-Ausgaben, von Designs, die von der Weitergabe persönlicher Daten abhalten, von Wasserzeichen zur Kennzeichnung von KI-Inhalten und von Entschädigungen für Urheber. Die Zukunft erfordert die Zusammenarbeit von Politikern, Technologieunternehmen, Medien, Pädagogen, Eltern und jungen Menschen selbst, um in einer sich schnell wandelnden digitalen Welt eine Kultur des kritischen Denkens zu fördern. Common Sense Media, das sich durch vertrauenswürdige Informationen für die Verbesserung des Lebens von Kindern und Familien einsetzt, plant, seine Ressourcen zur KI-Kompetenz in den kommenden Jahren auszubauen.
