OpenAI hat ChatGPT for Teens gestartet, eine spezielle Version des Chatbots für Nutzer zwischen dreizehn und siebzehn Jahren. Niemand muss ein neues Konto anlegen. Wer bei der Registrierung ein Alter in diesem Bereich angibt, erhält direkt die neue Version. Daneben gibt es eine Altersschätzung, die mit einer einzigen Grenze arbeitet. Sobald sie feststellt, dass ein Konto von einer Person unter achtzehn Jahren genutzt wird, stellt sie es ebenfalls auf die abgesicherte Version um. Das Unternehmen führt die Neuerung sowohl für kostenlose als auch für kostenpflichtige persönliche Tarife ein, und die Einführung wird etwa zwei Wochen dauern.
Das Alter wird anhand des Verhaltens geschätzt
Eine wesentliche Änderung findet bereits vor dem Verfassen der ersten Nachricht statt. Das System zur Altersschätzung beobachtet mit dem Konto verknüpfte Signale, etwa die Themen der Nutzerkonversationen, die Tageszeit der Chats, die Art der Kontonutzung oder die Dauer seines Bestehens. Die Überprüfung erfolgt auch bei Nutzern, die bei der Registrierung ihr Geburtsdatum angegeben haben. In der Praxis kommt die Schätzung somit bei allen Konten zum Einsatz, da das Unternehmen Minderjährige andernfalls nicht herausfiltern könnte.
Jugendliche müssen keine Nachweise vorlegen. Erwachsene, die vom System fälschlicherweise entsprechend eingestuft werden, können den abgesicherten Modus nur durch eine Verifizierung über den Dienst Persona verlassen. Dieser verlangt je nach Land ein Echtzeit-Selfie, einen Identitätsnachweis oder beides. Nach eigenen Angaben erhält OpenAI das Dokument nicht, sondern lediglich Informationen zum Geburtsdatum, und Persona löscht das hochgeladene Foto oder Ausweisdokument innerhalb von sieben Tagen.
Lernmodus statt fertiger Hausaufgaben
Die Bildungsfunktionen sind der größte Anreiz der gesamten Neuerung. Der Lernmodus führt Schüler mit Leitfragen durch die Aufgabe und erläutert sie Schritt für Schritt. Neue Hinweise bei Hausaufgaben können erkennen, wenn ein Schüler versucht, sich der Arbeit zu entziehen, und lenken ihn zurück zur gemeinsamen Lösungsfindung. Hinzugekommen sind Quizfragen und anschauliche Visualisierungen des Lernstoffs. Mit Lernzeiten können Schüler oder Eltern außerdem festlegen, wann der Lernmodus automatisch aktiviert wird.
Die Mathematiklehrerin Racquel Gibson von einer Highschool in Miami merkt in einer Pressemitteilung von OpenAI an, dass nicht jeder Schüler zu Hause jemanden hat, der bei den Hausaufgaben hilft. Mit gut festgelegten Regeln könne künstliche Intelligenz diese Lücke ihrer Ansicht nach schließen. Zugleich kündigte das Unternehmen eine Partnerschaft mit der Organisation CodeAI an. Sie soll Schülern und Lehrern erklären, wie die Modelle funktionieren, wie man Fragen richtig formuliert und wann man ihnen nicht vertrauen sollte.
Der Chatbot darf weder flirten noch Gefühle vortäuschen
Die Schutzfunktionen sind standardmäßig aktiviert. Sie basieren auf den Regeln für Minderjährige in der Modellspezifikation von OpenAI und betreffen Selbstverletzung, Gewalt, Essstörungen, gefährliche Challenges sowie sexuelle oder drastische Inhalte. Die aktualisierten Regeln beschränken sich nicht auf das Blockieren romantischer und sexualisierter Rollenspiele. Der Chatbot darf keine romantische Sprache verwenden, emotionale Abhängigkeit fördern oder andeuten, dass er eigene Gefühle oder ein eigenes Bewusstsein besitzt.
Nach neunzig Minuten Aktivität innerhalb von drei Stunden erhalten Jugendliche einen Hinweis, eine Pause einzulegen. Vor dem Hochladen bestimmter Bilder erscheint die Aufforderung, das Teilen sensibler Fotos zu überdenken, und die Benutzeroberfläche erinnert wiederholt daran, dass sie mit einer Maschine kommunizieren. Eltern mit einem verknüpften Konto können sogenannte Ruhezeiten festlegen, in denen ihr Kind keinen Zugriff auf ChatGPT hat. Außerdem erhalten sie in Risikosituationen Benachrichtigungen, neuerdings auch bei Anzeichen von Essstörungen. Die eigentlichen Konversationen können Eltern jedoch nicht lesen; das System übermittelt nur die notwendigen Informationen.
Was davon für Europa gilt
Die Altersschätzung wird weltweit eingeführt, in der Europäischen Union jedoch erst in den kommenden Wochen, da sie den lokalen Anforderungen entsprechen muss. Europäische Nutzer könnten daher einige Funktionen sehen, bevor die automatische Einstufung anhand des Verhaltens in Kraft tritt.
Für erwachsene Europäer ergibt sich daraus eine praktische Unannehmlichkeit. Das System kann sich irren und auch Erwachsene dem Kindermodus zuordnen, die sich anschließend über einen Drittanbieter mit einem Dokument verifizieren müssen. Wer nicht möchte, dass das System sein Alter schätzt, kann sich selbst verifizieren und die Schätzung dadurch deaktivieren. Dass sich die Bedingungen innerhalb der Union unterscheiden, zeigt Italien. Dort haben Nutzer sechzig Tage Zeit, die Verifizierung abzuschließen, andernfalls funktionieren einige Funktionen nicht mehr. Ein kleiner Trost für Eltern ist, dass das Unternehmen in Konten mit Schutzvorkehrungen für Minderjährige keine Werbung anzeigt.
Kritiker sprechen von einem falschen Sicherheitsgefühl
Die Neuerung kommt zu einem Zeitpunkt, an dem US-Gerichte Klagen von Familien verhandeln. Diese behaupten, der Chatbot habe Informationen über Selbstverletzung bereitgestellt oder junge Menschen in den Suizid getrieben. Im vergangenen September kündigte OpenAI nach einer Klage wegen des Todes des sechzehnjährigen Adam Raine die Entwicklung eines Systems zur Erkennung Minderjähriger an. Nun hat das Unternehmen es flächendeckend eingeführt. ChatGPT erschien Ende 2022 und erreichte neunhundert Millionen wöchentliche Nutzer, bevor es einen speziell auf Jugendliche zugeschnittenen Schutz erhielt.
Experten warnen, dass die bloße Ankündigung nichts löse. Solche Schritte gingen ihrer Ansicht nach zwar in die richtige Richtung, doch Eltern sollten sich dadurch nicht in falscher Sicherheit wiegen. Einige Experten behaupten, dass auf künstlicher Intelligenz basierende Begleiter für Kinder nicht sicher seien, weil bereits ihre Konstruktion emotionale Bindungen fördere. Offen bleibt, wie leicht junge Nutzer die neuen Regeln umgehen können, denn elterliche Beschränkungen zu überwinden, ist ihnen schon immer sehr gut gelungen.
Quellen: theguardian.com, bbc.com und reuters.com
