KI Grok sorgt erneut für einen Skandal! Sie zog Kinder und Frauen aus

Die französischen Behörden haben beschlossen, die Verbreitung sexuell expliziter Deepfakes zu untersuchen, die von der künstlichen Intelligenz Grok auf der Plattform X erstellt werden. Die Pariser Staatsanwaltschaft bestätigte, dass sie diese Fälle in die bereits laufenden Ermittlungen gegen das Netzwerk X aufgenommen hat. Alles begann, als die Abgeordneten Arthur Delaporte und Eric Bothorel am 2. Januar wegen Tausender unerwünschter sexuell expliziter Deepfakes, die Grok generiert hatte und die auf X erschienen waren, Kontakt mit der Staatsanwaltschaft aufnahmen.

Diese Deepfakes (realistisch wirkende Fälschungen) betrafen Hunderte Frauen und Jugendliche. Ihre Fotos aus sozialen Netzwerken wurden so bearbeitet, dass es aussah, als wären sie entkleidet worden. Delaporte argumentierte in seinem Schreiben an den Staatsanwalt, das der Nachrichtenseite Politico vorlag, dass diese KI-generierten Montagen die Würde der abgebildeten Personen verletzen. Die Staatsanwaltschaft wies darauf hin, dass ein solches Vorgehen mit bis zu zwei Jahren Haft und einer Geldstrafe von 60.000 Euro (etwa 1.500.000 CZK) geahndet werden kann.

Reaktionen von Ministern und Experten

Drei französische Minister – Roland Lescure als Minister für Wirtschaft und Industrie, Anne Le Hénanff als beigeordnete Ministerin für künstliche Intelligenz und Digitales sowie Aurore Bergé als Ministerin für Gleichstellung – meldeten diesen „offensichtlich rechtswidrigen“ Inhalt der Staatsanwaltschaft. Gleichzeitig meldeten sie ihn der staatlichen Plattform Pharos, die Online-Inhalte überwacht, um seine sofortige Entfernung sicherzustellen. Die Minister bezeichneten den Inhalt als sexuell und sexistisch, was ihrer Ansicht nach gegen geltendes Recht verstößt.

Die französische Hochkommissarin für Kinder, Sarah El Haïry, äußerte ihre Besorgnis und erklärte, sie sei über diese Praktiken „empört“. Der gesamte Fall verstärkt die laufenden Ermittlungen der französischen Einheit zur Bekämpfung der Cyberkriminalität gegen das Netzwerk X, die im November auch auf antisemitische und den Holocaust leugnende Äußerungen ausgeweitet wurden, die von Grok verbreitet worden waren.

Grok räumt Sicherheitsmängel ein

Grok selbst reagierte auf der Plattform X auf die Bedenken hinsichtlich „äußerst unangemessener“ Bilder von Minderjährigen. Grok räumte ein, dass es vereinzelt Fälle gegeben habe, in denen Nutzer entsprechende Anfragen gestellt und daraufhin KI-Bilder erhalten hätten, die Minderjährige in knapper Bekleidung zeigten. Grok fügte hinzu, dass xAI über Sicherheitsvorkehrungen verfüge, jedoch an Verbesserungen arbeite, um solche Anfragen vollständig zu blockieren.

Einem Bericht der Nachrichtenagentur Reuters zufolge bestätigte Grok, dass ein Versagen der Sicherheitsvorkehrungen dazu geführt hatte, dass auf X Bilder von Minderjährigen in knapper Bekleidung erschienen. Die Minister meldeten dies auch der französischen Medienaufsichtsbehörde Arcom, damit diese prüft, ob die Inhalte den Anforderungen des europäischen Gesetzes über digitale Dienste (Digital Services Act) entsprechen.

Elon Musk kommentierte dies auf X wie folgt: „Jeder, der Grok zur Erstellung illegaler Inhalte verwendet, muss mit denselben Konsequenzen rechnen, als hätte er illegale Inhalte hochgeladen.“