Ashley St. Clair, eine 27-jährige konservative Influencerin und Autorin, wurde zum Opfer ihrer eigenen Verbindung zu Elon Musk. Sie und Musk haben einen gemeinsamen Sohn, der 2024 geboren wurde. Nun hat St. Clair Klage gegen das von Musk geführte Unternehmen xAI eingereicht. Der Grund? Die in das soziale Netzwerk X integrierte künstliche Intelligenz Grok generierte Dutzende sexuell expliziter und erniedrigender Deepfake-Bilder von ihr. Diese Bilder erschienen auf der Plattform X und blieben dort mehr als eine Woche lang, obwohl St. Clair ihre Entfernung verlangt hatte. Laut der Klage stellte xAI keinen Verstoß fest, als sie das Unternehmen darüber informierte.
Die Klage wurde am Donnerstag beim Obersten Gerichtshof des Bundesstaates New York eingereicht und bald darauf an ein Bundesgericht verwiesen. St. Clair fordert Strafschadensersatz und Entschädigung. Ihre Anwältin Carrie Goldberg, eine Spezialistin für Opfer sexueller Belästigung und sexuellen Missbrauchs in der Tech-Welt, sagte, xAI sei ein öffentliches Ärgernis und ein gefährliches Produkt. „Niemand hat das stärker zu spüren bekommen als Ashley St. Clair“, fügte Goldberg hinzu. Ziel der Klage ist es, zu verhindern, dass Grok zur Belästigung und Erniedrigung eingesetzt wird, und klare Regeln für die gesamte Öffentlichkeit festzulegen.
Was genau hat Grok generiert?
Das Problem begann, als Nutzer von X anfingen, Grok für das sogenannte „Undressing“ zu verwenden – das digitale Entkleiden von Menschen auf Bildern. Bei St. Clair ging es noch weiter. Laut der Klage nahmen Nutzer alte Fotos der damals 14-jährigen, vollständig bekleideten St. Clair und forderten Grok auf, sie „auszuziehen“ und ihr einen String-Bikini anzuziehen. Grok tat es. Weitere Bilder zeigten sie in sexuellen Posen, praktisch nackt, mit Sperma bedeckt und mit einer Tätowierung auf dem Körper, die die Aufschrift „Elons Hure“ trug. Als Jüdin wurde sie auf einem Bild in einem mit Hakenkreuzen bedeckten Bikini dargestellt.
St. Clair fühlt sich bedroht. Sie lebt in der Angst, dass weiterhin solche Nackt- oder Sexualbilder von ihr, einschließlich solcher aus ihrer Kindheit, erstellt und verbreitet werden. Grok tat dies auch nach ihren Beschwerden weiter – im Gegenteil: Laut der Klage „reagierte“ xAI darauf, indem es ihr Konto auf X demonetarisierte und noch mehr Bilder generierte. Die Musk gehörende Plattform X profitierte laut der Klage finanziell von diesen illegalen Deepfakes, weil sie Aufmerksamkeit und Nutzerinteraktionen anzogen.
Reaktion von xAI und Elon Musk
xAI verteidigt sich. Nach zwei Wochen öffentlicher Empörung, in denen Grok sexuelle Bilder von Frauen und Kindern erstellte, kündigte das Unternehmen die Einführung „technischer Maßnahmen“ an. Konkret geht es um Geoblocking – in Ländern, in denen dies illegal ist, können Nutzer über Grok auf X oder in der Grok-App keine Bilder realer Personen in Bikinis, Unterwäsche oder ähnlicher Kleidung mehr generieren. Dies gilt jedoch nur für zahlende Abonnenten, was Kritik von Experten hervorrief. Musk selbst schrieb auf X, dass die Nutzer für das verantwortlich seien, was sie generieren. „Grok generiert Bilder nicht von selbst, sondern nur auf Grundlage der Anfragen von Nutzern“, sagte er. Und wer illegale Inhalte erstellt, werde genauso bestraft wie für das Hochladen illegaler Inhalte.
xAI reichte sogar eine Gegenklage gegen St. Clair ein. Das Unternehmen behauptet, sie habe gegen die Nutzungsbedingungen verstoßen – sie hätte die Klage in Texas und nicht in New York einreichen müssen. Goldberg bezeichnete dies als schockierend: „Ich habe noch nie davon gehört, dass ein Beklagter jemanden allein dafür verklagt, dass er das Gerichtssystem nutzen will.“ St. Clair wehrt sich und erklärt, dass jedes Gericht ihren Anspruch anerkennen werde.
Breite Welle der Kritik
Dieser Fall ist kein Einzelfall. Grok, der 2023 von xAI entwickelte Chatbot, kann Texte, Bilder und Videos generieren. Er wurde mit einem „rebellischen Geist“ konzipiert und nutzt Daten von X für aktuelles Wissen. X wird jedoch wegen der Verbreitung von Hass und Desinformation kritisiert. Nutzer verwendeten Grok, um gewalttätige Szenen gegen Frauen zu erstellen oder die Adressen gewöhnlicher Menschen offenzulegen. Eine Umfrage ergab, dass 97 % der Menschen dagegen sind, dass KI sexuell explizite Inhalte mit Kindern generiert, und 96 % lehnen Bilder von ihnen in Unterwäsche ab.
Organisationen wie die End Violence Against Women Coalition warnen, dass X das Problem nicht ernst genug nehme. „Der einfache Zugang zu Werkzeugen zum Entkleiden zeigt, dass Online-Gewalt gegen Frauen und Mädchen keine Priorität hat“, sagte Rebecca Hitchen. Penny East von der Fawcett Society fügte hinzu: „Frauen haben das Recht, sich online zu äußern, ohne dass Männer sie mit ihren Blicken ausziehen – und nicht einmal das ist möglich.“ In Großbritannien bereitet die Regierung ein Gesetz gegen illegale intime Bilder ohne Einwilligung vor, und die Aufsichtsbehörde Ofcom untersucht, ob X gegen bestehende Vorschriften verstoßen hat.
St. Clair beschrieb ihre Gefühle als „verängstigt und verletzt“. „Es ist ein weiteres Werkzeug zur Belästigung. Einwilligung ist entscheidend“, sagte sie gegenüber BBC Newsnight. Ihr Verhältnis zu Musk ist angespannt – sie ist eine der Mütter seiner 14 Kinder. Im vergangenen Jahr berichtete das Wall Street Journal, Musk habe ihr 15 Millionen Dollar sowie monatlich 100.000 Dollar angeboten, damit sie über ihr gemeinsames Kind schweige. Nun kämpft sie nicht nur um ihre Würde, sondern auch um einen besseren Schutz vor dem Missbrauch von KI.
Quellen: futurism.com und theguardian.com
