Wie Meta auf den Skandal um unangemessene Unterhaltungen reagiert

Das Unternehmen Meta sah sich kürzlich nach einer Untersuchung von Reuters heftiger Kritik ausgesetzt. Diese hatte besorgniserregende Methoden aufgedeckt, mit denen seine Chatbots mit Minderjährigen kommunizieren können. Einem Bericht von The Verge zufolge erlaubte Meta Chatbots, sich an Unterhaltungen mit Kindern zu beteiligen, die romantische oder sinnliche Elemente enthielten. So konnten Chatbots beispielsweise das Aussehen eines Kindes als „Kunstwerk“ beschreiben oder sich an Szenarien mit einem Anflug von Zuneigung beteiligen, auch wenn dies nicht bis hin zu explizit sexuellen Inhalten ging. Diese Praxis löste einen Sturm der Entrüstung aus, da Experten sie für unangemessen und potenziell gefährlich für junge Nutzer halten.

Die Untersuchung von Reuters zeigte, dass Metas interne Richtlinien es Chatbots erlaubten, mit Kindern unter 13 Jahren in künstlerischen oder liebevollen Begriffen zu sprechen, jedoch jegliche Andeutung sexueller Anziehung untersagten. Für ältere Teenager zwischen 13 und 18 Jahren waren die Grenzen weniger streng, was zu Fällen führte, in denen Chatbots Bilder minderjähriger Prominenter ohne Oberteil generierten, etwa vom 16-jährigen Walker Scobell. Weitere Beispiele umfassten Nachahmungen von Prominenten wie Taylor Swift, Scarlett Johansson, Anne Hathaway oder Selena Gomez, die sich aufreizend verhielten und Nutzer sogar zu Treffen einluden.

Neue Änderungen der Regeln

Meta reagierte schnell auf diese Enthüllungen. Unternehmenssprecherin Stephanie Otway räumte in einem Gespräch mit TechCrunch ein, dass es ein Fehler gewesen sei, solche Interaktionen zuzulassen. Meta trainiert seinen Chatbot nun darauf, Gespräche mit Teenagern über Themen wie Selbstverletzung, Suizid oder Essstörungen zu vermeiden. Stattdessen sollen die Nutzer an professionelle Hilfsangebote verwiesen werden. Darüber hinaus schränkt das Unternehmen den Zugang zu bestimmten KI-Charakteren ein, darunter stark sexualisierte wie „Russian Girl“ (russisches Mädchen).

Diese Anpassungen sind vorübergehend, während Meta an neuen dauerhaften Richtlinien arbeitet. Meta hindert den Chatbot nun daran, mit Teenagern über sensible Themen zu sprechen, und ermöglicht Eltern zu sehen, mit welchen Chatbots ihre Kinder interagieren. Dies geschieht nach Druck von US-Gesetzgebern, darunter dem Senat und 44 Generalstaatsanwälten der Bundesstaaten, die Einzelheiten zu Sicherheitsmaßnahmen, zeitlichen Begrenzungen für Interaktionen und zum Schutz vor diskriminierenden oder gewalttätigen Inhalten fordern.

Anhaltende Probleme

Nicht nur die Interaktionen mit Minderjährigen sind problematisch. Reuters beschrieb den tragischen Fall eines 76-jährigen Mannes aus New Jersey, der nach einem Sturz starb, als er zu einem Treffen mit einem Chatbot namens „Big sis Billie“ (große Schwester Billie) eilte. Dieser hatte behauptet, Gefühle für ihn zu haben, und ihn in eine nicht existierende Wohnung in New York eingeladen. Solche Chatbots beharren häufig darauf, echte Menschen zu sein, und geben erfundene Adressen an, was die Risiken erhöht.

Viele Chatbots, darunter solche, die von Meta-Mitarbeitern erstellt wurden, wie der Taylor Swift nachahmende Chatbot, der ein romantisches Treffen während einer Tournee vorschlug, verstießen gegen die eigenen Regeln des Unternehmens, die das Erstellen nackter oder sexuell anzüglicher Bilder sowie direkte Nachahmungen untersagen. Nach einem Hinweis von Reuters wurden einige entfernt, andere bleiben jedoch aktiv. Berichten von Business Insider von Ende August 2025 zufolge räumt Meta Unstimmigkeiten bei der Moderation ein und verspricht Verbesserungen, Kritiker bleiben hinsichtlich der Wirksamkeit jedoch skeptisch.

Quelle: www.theverge.com