Meta hat angekündigt, den Zugang von Teenagern zu seinen KI-Charakteren auf allen seinen Plattformen weltweit vorübergehend auszusetzen. Das Unternehmen erklärte, dieser Schritt bedeute nicht das Ende seiner Bemühungen, sondern es wolle eine aktualisierte Version der KI-Charaktere speziell für minderjährige Nutzer entwickeln.
Warum blockiert Meta KI-Charaktere für Teenager?
Die Änderung wird in den kommenden Wochen in Kraft treten und alle Apps von Meta betreffen, darunter Instagram, Facebook und WhatsApp. Das Unternehmen betonte, die Entscheidung sei getroffen worden, nachdem Eltern den Wunsch nach mehr Informationen und Kontrolle über die Interaktionen ihrer Kinder mit KI-Charakteren geäußert hatten.
Sophie Vogel, Sprecherin von Meta, erklärte die Situation folgendermaßen: „Seit wir im Oktober unsere Pläne zur Entwicklung einer Kindersicherung für KI-Charaktere angekündigt haben, arbeiten wir an einer neuen Version der KI-Charaktere im Allgemeinen, also sowohl für Erwachsene als auch für Teenager. Anstatt die Kindersicherung zweimal zu entwickeln – für die aktuellen KI-Charaktere und für die neue Version der KI-Charaktere –, setzen wir den Zugang von Teenagern zur aktuellen Version aus, während wir uns auf die neue Version konzentrieren.“
Teenager werden weiterhin den KI-Assistenten von Meta mit standardmäßigen, ihrem Alter angemessenen Schutzmaßnahmen nutzen können, aber nicht mit einzelnen KI-Charakteren interagieren können.
Wie identifiziert Meta Minderjährige?
Meta wird Teenager anhand des Alters identifizieren, das Nutzer bei der Registrierung angegeben haben. Darüber hinaus wird das Unternehmen seine auf künstlicher Intelligenz basierende Technologie zur Altersprognose einsetzen, um Nutzer zu erkennen, die behaupten, erwachsen zu sein, tatsächlich aber wahrscheinlich minderjährig sind.
Das Unternehmen erklärte in einem aktualisierten Blogbeitrag: „Ab den kommenden Wochen werden Teenager nicht mehr auf KI-Charaktere in unseren Apps zugreifen können, bis eine aktualisierte Version verfügbar ist. Dies gilt sowohl für alle, die uns ein Geburtsdatum mitgeteilt haben, dem zufolge sie minderjährig sind, als auch für Personen, die behaupten, erwachsen zu sein, bei denen wir jedoch aufgrund unserer Technologie zur Altersprognose vermuten, dass sie Teenager sind.“
Neue Version mit Kindersicherung
Wenn Meta die neuen KI-Charaktere einführt, werden sie über eine integrierte Kindersicherung verfügen. Das Unternehmen erklärte, die neuen Charaktere würden altersgerechte Antworten geben und sich auf Themen wie Bildung, Sport und Hobbys beschränken.
Im Oktober stellte Meta eine Vorschau auf die Kindersicherung für KI-Charaktere vor, mit der Eltern und Erziehungsberechtigte Themen überwachen und den Zugang zu bestimmten Charakteren blockieren können. Meta erklärte damals, Eltern würden Chats mit KI-Charakteren vollständig deaktivieren können. Diese Funktionen sollten in diesem Jahr eingeführt werden, doch nun deaktiviert das Unternehmen die KI-Charaktere für Teenager vollständig, während es sie auf eine neuere Version aktualisiert.
Politischer und rechtlicher Druck auf Meta
Dieser Schritt erfolgt zu einer Zeit, in der Meta und seine Konkurrenten wegen der möglichen Schäden, die diese KI-Charaktere Kindern zufügen können, einer intensiven politischen Prüfung ausgesetzt sind. Im Oktober brachten US-Senatoren den GUARD Act ein, einen parteiübergreifenden Gesetzentwurf zum Schutz von Teenagern vor schädlichen Interaktionen mit KI-Chatbots. Das Gesetz würde KI-Begleiter für Minderjährige verbieten, KI-Chatbots dazu verpflichten, offenzulegen, dass sie keine Menschen sind, und Sanktionen gegen Unternehmen einführen, die KI für Minderjährige entwickeln, die zu sexuellen Inhalten auffordert oder solche produziert.
Senator Josh Hawley, Initiator des Gesetzentwurfs, behauptet, Chatbots würden „mithilfe vorgetäuschter Empathie Beziehungen zu Kindern aufbauen“ und „zum Suizid ermutigen“. Er fügte hinzu, der Kongress habe „die moralische Pflicht, klare Regeln einzuführen, um weitere Schäden durch diese neue Technologie zu verhindern“.
Anfang dieses Monats haben Character.ai und Google einen Rechtsstreit beigelegt, in dem einem der Chatbots von Character.ai vorgeworfen wurde, zur Selbstverletzung oder zum Suizid mehrerer Minderjähriger beigetragen zu haben. Character.AI wurde von ehemaligen Google-Ingenieuren gegründet. Daher wurde Google in dem Fall als Mitentwickler genannt, weil das Unternehmen diese Ingenieure erneut eingestellt und 2024 eine Lizenzvereinbarung mit Character.AI unterzeichnet hatte.
KI-Unternehmen und ihre KI-Charaktere
Meta ist nicht das einzige Unternehmen, das seine Dienste für minderjährige Nutzer anpasst. Im Oktober verbot Character.AI, ein Start-up, das Nutzern Chats mit verschiedenen KI-Avataren ermöglicht, offene Unterhaltungen mit Chatbots für Nutzer unter 18 Jahren. Im November erklärte das Start-up, es werde interaktive Geschichten für Kinder entwickeln. In den vergangenen Monaten hat OpenAI neue Sicherheitsregeln für Teenager in ChatGPT eingeführt und damit begonnen, das Alter der Nutzer vorherzusagen, um Inhaltsbeschränkungen anwenden zu können.
Erwähnenswert ist, dass Meta seine Angebote an KI-Charakteren bereits zuvor zurückgezogen hat. Weniger als ein Jahr nach der Vorstellung von KI-Prominenten, die auf Kendall Jenner, Snoop Dogg und Tom Brady basierten, wurden diese entfernt. Meta führte im Oktober außerdem Funktionen zur Kindersicherung auf Instagram ein, die darauf ausgerichtet sind, das Erlebnis von Teenagern bei der Interaktion mit KI in seinen Apps anzupassen. Diese Funktionen, die von der Filmfreigabe PG-13 inspiriert waren, beschränkten den Zugang von Teenagern zu bestimmten Themen wie extremer Gewalt, Nacktheit und explizitem Drogenkonsum.
Das Unternehmen erklärte, es plane, auf seine Nutzergemeinschaft zu hören und Feedback zu sammeln, sobald es in den kommenden Monaten mit der Einführung neuer Versionen der KI-Charaktere mit Kindersicherung beginnt.
Quellen: theverge.com, pcmag.com und reuters.com
