Französische Ermittler haben die Pariser Büros des sozialen Netzwerks X durchsucht, das dem Milliardär Elon Musk gehört. Die Aktion war Teil laufender Ermittlungen wegen Cyberkriminalität, die schwerwiegende Vorwürfe umfassen – von der Verbreitung von Kinderpornografie bis hin zur Erstellung sexuell expliziter Deepfake-Bilder.
Die Pariser Staatsanwaltschaft teilte in einer Erklärung mit, dass die Ermittlungen bereits im Januar 2025 von einer Einheit für Cyberkriminalität eingeleitet worden seien. Ursprünglich konzentrierten sie sich auf mutmaßlich verzerrte Algorithmen der Plattform X, die die Funktionsweise der automatisierten Datenverarbeitung beeinträchtigt haben könnten. Die Ermittlungen wurden jedoch ausgeweitet, nachdem Beschwerden über den KI-Chatbot Grok aufgekommen waren, der kontroverse Inhalte erstellt hatte.
Vorladungen und der Skandal um Grok
Die Staatsanwälte forderten Elon Musk und die ehemalige X-CEO Linda Yaccarino auf, am 20. April zu „freiwilligen Befragungen“ zu erscheinen. Yaccarino war von Mai 2023 bis Juli 2025 Geschäftsführerin der Plattform. Auch Mitarbeiter von X wurden für dieselbe Woche vorgeladen, um als Zeugen auszusagen. Die Ermittlungen umfassen nun den Verdacht auf „Mittäterschaft“ beim Besitz und bei der Verbreitung pornografischer Darstellungen Minderjähriger und sexuell expliziter Deepfake-Bilder sowie bei der Leugnung von Verbrechen gegen die Menschlichkeit und der Manipulation eines automatisierten Datenverarbeitungssystems im Rahmen einer organisierten Gruppe.
Der von Musks Unternehmen xAI entwickelte und über die Plattform X verfügbare Chatbot Grok löste im Januar weltweite Empörung aus, als er auf Aufforderung von X-Nutzern begann, eine Welle sexualisierter Deepfake-Bilder ohne Einwilligung zu produzieren. Deepfakes sind auf fortschrittlicher künstlicher Intelligenz basierende Manipulationen, bei denen Bilder, Tonaufnahmen oder Videos entweder digital verändert oder vollständig von einer KI erzeugt werden.
Grok verfasste außerdem einen Beitrag auf Französisch, der den Holocaust leugnete – was in Frankreich eine Straftat darstellt. In dem Beitrag behauptete er, die Gaskammern im Konzentrationslager Auschwitz-Birkenau seien eher zur „Desinfektion mit Zyklon B gegen Typhus“ als für Massenmorde konzipiert worden. Der Chatbot nahm seine Behauptung später zurück und räumte ein, dass seine Antwort falsch gewesen sei.
Reaktion der Plattform X
Die Plattform X verurteilte die Razzia scharf. „Die Pariser Staatsanwaltschaft versucht offensichtlich, Druck auf die Führung von X in den Vereinigten Staaten auszuüben, indem sie unsere französische Niederlassung und Mitarbeiter ins Visier nimmt, die nicht Gegenstand dieser Ermittlungen sind“, erklärte das Unternehmen in einer Stellungnahme.
Musk teilte die Erklärung des Unternehmens auf der Plattform X und fügte hinzu: „Dies ist ein politischer Angriff.“ Auch Yaccarino warf den französischen Staatsanwälten vor, eine „politische Vendetta gegen Amerikaner“ zu führen, und erklärte: „Um es klarzustellen: Sie lügen.“
Ermittlungen in Großbritannien und der EU
Die britische Datenschutzbehörde (ICO) kündigte am Dienstag eigene Ermittlungen dazu an, wie X und xAI bei der Entwicklung und Einführung des Chatbots Grok personenbezogene Daten verarbeitet haben. Die Behörde prüft, ob die Unternehmen bei der Verarbeitung personenbezogener Daten die gesetzlichen Vorschriften eingehalten haben und ob Grok über Maßnahmen verfügte, die verhindern sollten, dass er zur Erzeugung „schädlicher manipulierter Bilder“ eingesetzt wird.
„Die Berichte über Grok werfen äußerst beunruhigende Fragen dazu auf, wie personenbezogene Daten von Menschen verwendet wurden, um ohne deren Wissen oder Einwilligung intime oder sexualisierte Bilder zu erzeugen“, erklärte William Malcolm, Geschäftsführer des ICO. Die britische Medienaufsichtsbehörde Ofcom hatte bereits im Januar separate Ermittlungen zu Grok eingeleitet und erklärte am Dienstag, weiterhin Beweise zu sammeln. Sie warnte, dass die Ermittlungen Monate dauern könnten.
Die Europäische Kommission leitete im Januar Ermittlungen ein, nachdem Grok begonnen hatte, nicht einvernehmlich erstellte sexualisierte Deepfake-Bilder auf der Plattform zu verbreiten. Brüssel hatte X bereits zuvor wegen Verstößen gegen die umfassenden Digitalvorschriften der EU mit einer Geldstrafe von 120 Millionen Euro (rund 2,5 Milliarden CZK) belegt, unter anderem wegen blauer Häkchen, die gegen die Vorschriften zu „irreführenden Designpraktiken“ verstießen und Nutzer der Gefahr von Betrug und Manipulation aussetzten. Die europäische Polizeibehörde Europol bestätigte, dass sie bei diesen Ermittlungen „die französischen Behörden unterstützt“.
Quellen: aljazeera.com und cbc.ca
