Musks Chatbot Grok bleibt Ziel von Kritik, und die Klagen häufen sich

Elon Musk schwor, die Erstellung von Deepfakes durch KI zu stoppen. Seine Unternehmen veröffentlichten Erklärungen, führten technische Beschränkungen ein und erweckten den Eindruck, die Situation unter Kontrolle zu haben. Doch Grok, die künstliche Intelligenz des Unternehmens xAI, erstellt weiterhin ohne deren Zustimmung sexualisierte Bilder realer Personen. Der Nachrichtensender NBC News dokumentierte dies im April 2026, drei Monate nachdem Musk Abhilfe versprochen hatte.

Was genau geschieht hinter den Mauern der Plattform X? Und warum lässt es sich nicht stoppen – oder vielmehr: Warum will man es nicht stoppen?

Was NBC News herausfand

Die Redakteure von NBC News sichteten Dutzende Beiträge, die im vergangenen Monat auf der Plattform X veröffentlicht worden waren. Sie fanden sexualisierte Bilder und Videos realer Frauen, die Grok auf Wunsch von Nutzern erstellt hatte. Dabei handelte es sich überwiegend um Sängerinnen und Schauspielerinnen. Die Nutzer fanden neue Wege, das System zu umgehen. Grok lehnt heute zwar Befehle wie „steck sie in einen Bikini“ ab, führt andere jedoch aus. Dies sind die drei wichtigsten Techniken, die Nutzer missbrauchen:

Erstens lädt ein Nutzer zwei Bilder gleichzeitig hoch: ein echtes Foto einer Frau und die Zeichnung eines Strichmännchens mit gespreizten Beinen. Dann fordert er Grok auf, die Frau solle „dieselbe Position einnehmen“. Das Ergebnis ist eine Frau mit gespreizten Beinen. Zweitens bitten Nutzer Grok darum, die Kleidung auf zwei verschiedenen Fotos auszutauschen, wobei eines der Outfits freizügig ist. Drittens werden aus Fotos Videos erstellt. NBC News dokumentierte einen Fall vom März 2026, bei dem Grok aus einem einzelnen Foto einer Schauspielerin ein Video erstellte, in dem sie sich an die Brüste fasst. Ein anderer Fall vom April 2026 zeigte ein Video, in dem dieselbe Schauspielerin mit gespreizten Beinen sitzt, obwohl sie auf dem Originalfoto die Beine übereinandergeschlagen hatte.

Keine der dokumentierten Frauen war auf den Bildern nackt, und keine wirkte minderjährig. Das ist gegenüber Januar 2026 ein Fortschritt. Doch das reicht nicht aus.

Der Beginn der Deepfakes bei xAI

Alles begann um den Jahreswechsel 2025/2026. Ende Dezember beschwerten sich Nutzer über eine Flut sexualisierter Deepfakes von Frauen und Mädchen. Damals kam Grok den Nutzern einfach nach, sobald sie einen Befehl wie „fotografiere sie nackt“ oder „steck sie in einen Badeanzug“ eingaben. Musks Unternehmen bewarb die Funktion sogar unter der Bezeichnung „Pikanter Modus“ und lobte sie öffentlich.

Am 31. Dezember 2025 räumte Grok auf der Plattform X ein, dass Nutzer in „Einzelfällen“ Bilder von Minderjährigen in „minimaler Bekleidung“ erhalten hatten. Die KI schrieb außerdem, dass sie dies „zutiefst bedauere“. Doch xAI änderte das Produkt nicht. Stattdessen schob das Unternehmen die Verantwortung den Nutzern zu. „Jeder, der Grok zur Erstellung illegaler Inhalte verwendet, wird dieselben Konsequenzen tragen, als hätte er solche Inhalte selbst hochgeladen“, schrieb Musk auf X.

Dann setzte weltweiter Druck ein. Die britische Organisation Internet Watch Foundation meldete das Auftreten von „kriminellem Material“, das angeblich von Grok erstellt worden war. Forscher stellten fest, dass Grok zu diesem Zeitpunkt Tausende sexualisierte Bilder pro Stunde produzierte. Erst am 9. Januar beschränkte X die Bilderzeugung auf zahlende Nutzer, und am 14. Januar kündigte das Unternehmen strengere Maßnahmen an.

Millionen Bilder und Ermittlungen auf fünf Kontinenten

Das Center for Countering Digital Hate schätzte, dass Grok innerhalb eines einzigen Zeitraums von elf Tagen mehr als drei Millionen sexualisierte Bilder produzierte. Die unabhängige Analystin Genevieve Oh, deren Deepfake-Forschung von Medien auf der ganzen Welt zitiert wird, bezeichnete Grok als „den weltweit größten Produzenten nicht einvernehmlich erstellter synthetischer Nacktbilder“. Ihre Forschung deutet darauf hin, dass Groks Produktion wahrscheinlich die aller anderen vergleichbaren Werkzeuge zusammengenommen übertrifft. „Perverse können Grok weiterhin verwenden, um Frauen und Mädchen in sexualisierten Posen und Kleidungsstücken darzustellen, obwohl die Plattform das Gegenteil behauptet“, sagte Imran Ahmed, Leiter des Instituts.

Der Skandal erregte weltweit die Aufmerksamkeit der Behörden. Acht separate Ermittlungen laufen weiterhin. Dazu gehören:

• Die Generalstaatsanwaltschaft von Kalifornien
• Die australische Internetsicherheitsbehörde eSafety
• Der kanadische Datenschutzbeauftragte
• Die Europäische Kommission
• Die irische Datenschutzkommission
• Die Pariser Staatsanwaltschaft
• Die britische Behörde Ofcom
• Das britische Information Commissioner’s Office

„Die Ermittlungen in Kalifornien laufen weiterhin auf Hochtouren“, bestätigte die Behörde von Generalstaatsanwalt Rob Bonta. Darüber hinaus durchsuchten französische Behörden im Februar das Pariser Büro von X im Rahmen der Deepfake-Ermittlungen. Für Ende April planen sie, die Führung von X, darunter Musk und die ehemalige Chefin Linda Yaccarino, zu Befragungen nach Paris vorzuladen. X bezeichnete die Durchsuchung als „Machtmissbrauch und Inszenierung“.

Ein niederländisches Gericht ordnete an, dass Grok die Erstellung von Bildern, auf denen Erwachsene und Kinder entkleidet werden, einstellen müsse. xAI argumentierte vor Gericht, dass das Unternehmen nicht jeden Missbrauch seiner Werkzeuge verhindern könne und nicht für das Handeln böswilliger Nutzer bestraft werden dürfe.

Die Opfer wissen nicht einmal davon

Hinter all den Statistiken und Rechtsstreitigkeiten stehen konkrete Menschen. Stefan Turkheimer von RAINN, einer Organisation, die sich dem Kampf gegen sexuelle Gewalt widmet, brachte es auf den Punkt. „Wenn diese Bilder erstellt und verbreitet werden, wissen die darauf abgebildeten Menschen in der Regel nicht einmal, dass sie existieren“, sagte Turkheimer.

Das National Center for Missing & Exploited Children (NCMEC) bestätigte, Meldungen über den Missbrauch von Grok in Fällen zu erhalten, in denen Kinder oder Überlebende sexueller Gewalt betroffen sein könnten. Musk selbst schrieb im Januar, ihm sei kein einziges von Grok erstelltes Nacktbild einer minderjährigen Person bekannt. Das NCMEC betonte jedoch, dass es Groks Funktionen hinter der Bezahlschranke nicht selbst überprüft habe.

Klagen kommen von allen Seiten. Zwei Sammelklagen in Kalifornien wurden von Frauen und Mädchen eingereicht, deren Abbildungen Grok verändert hatte. Baltimore verklagt xAI wegen Verstößen gegen das Verbraucherschutzrecht.

Eine Plattform, die sich gegen Verantwortung wehrt

Nach der Veröffentlichung der Erkenntnisse von NBC News gab X eine Erklärung heraus: „Wir verbieten Nutzern strikt, ohne Zustimmung explizite Deepfakes zu erstellen und unsere Werkzeuge dazu zu verwenden, reale Personen zu entkleiden.“ Das Unternehmen behauptet, über umfassende Schutzmechanismen, kontinuierliche Überwachung und Eingabefilter zu verfügen.

Doch die meisten kompromittierenden Bilder, die NBC News fand, verschwanden erst von der Plattform, nachdem die Redaktion xAI mit einer Anfrage kontaktiert hatte. Zuvor waren sie öffentlich zugänglich. Und sie zu finden, war keineswegs schwierig. Eine einfache Suche auf der Website von X genügte.

„Technologieunternehmen müssen sicherstellen, dass die Produkte, die sie entwickeln und der Öffentlichkeit zugänglich machen, von Grund auf sicher sind. Einfach abzuwarten, bis gefährliche Produkte missbraucht werden, ist inakzeptabel.“ Dies erklärte ein Vertreter der britischen Internet Watch Foundation.

Im Februar 2026 wurde xAI von einem anderen Unternehmen Musks, SpaceX, übernommen. Und bereits im Juni 2026 plant SpaceX den Börsengang mit einer geschätzten Bewertung von mehr als zwei Billionen Dollar. Rechtsexperten weisen darauf hin, dass SpaceX damit wahrscheinlich für mögliche Geldbußen im Zusammenhang mit Groks Verhalten haften wird. Ob solche Bußgelder für ein Unternehmen mit einer derartigen Bewertung „wesentlich“ wären, ist unklar. Das Reputationsrisiko ist jedoch unbestreitbar.