Mitte August schloss sich eine Frau aus Wyoming, die in den Gerichtsakten unter dem Namen Jane Doe 4 geführt wird, der Sammelklage gegen Musks Unternehmen xAI an. Sie behauptet, ihr Stiefvater habe ein gewöhnliches Foto genommen, auf dem sie elf Jahre alt war, und daraus mithilfe von Grok mehr als siebentausend missbräuchliche Bilder erstellt, die er anschließend im Internet verbreitete. Bei einer Hausdurchsuchung beschlagnahmte die Polizei seine technischen Geräte, und zwei Tage später wurde er tot aufgefunden. Er hatte Suizid begangen.
Die Frau erklärte dazu, der uneingeschränkte Zugang zu diesen Werkzeugen breite sich sehr schnell aus und mache das gewöhnliche Leben zu Material für Kindesmissbrauch. Das Gericht hat bislang keine Entscheidung getroffen; es handelt sich um Behauptungen aus der Klageschrift.
Es gibt weitaus mehr Betroffene
Die ursprüngliche Klage reichten drei Mädchen aus Tennessee am 16. März dieses Jahres bei einem Bundesgericht in Kalifornien ein. Ihre Geschichte ist in vielerlei Hinsicht typisch. Der Täter benötigte weder anstößige noch gestohlene private Aufnahmen. Ihm genügten ganz gewöhnliche Fotos aus dem Schuljahrbuch, Aufnahmen vom Abschlussball und Bilder aus Profilen in sozialen Netzwerken.
Den Akten zufolge hatte einer der Täter eine enge und freundschaftliche Beziehung zu einer der Betroffenen. Neben den drei Mädchen, die Klage eingereicht haben, erstellte er missbräuchliche Bilder von mindestens achtzehn weiteren Mädchen. Im Dezember vergangenen Jahres nahm ihn die örtliche Polizei fest und stellte auf seinem Telefon fest, dass er die Bilder auf mehrere Plattformen hochgeladen hatte, wo er sie gegen ähnliches Material anderer Personen tauschte.
Mit der Klage wird die Anerkennung als Sammelklage angestrebt. Das würde bedeuten, dass sich ihr alle anschließen können, die auf derart erstellten Bildern erkennbar sind. Schätzungen zufolge könnte es um Tausende Minderjährige gehen. Das Dokument enthält dreizehn Klagepunkte, von der Verbreitung von Kinderpornografie bis hin zur vorsätzlichen Verursachung psychischer Schäden.
Warum das Unternehmen und nicht nur der Täter verklagt wird
Das ist der Kern des gesamten Rechtsstreits, der näher betrachtet werden sollte, weil er auf den ersten Blick möglicherweise nicht einleuchtet. Die Bilder wurden von konkreten Personen erstellt, die dafür selbst strafrechtlich verantwortlich sind. Die Klägerinnen behaupten jedoch, das Unternehmen habe übliche Schutzmechanismen absichtlich weggelassen. Andere große KI-Labore verbieten ihren Programmen die Erstellung jeglicher anstößiger Inhalte, auch wenn darauf Erwachsene zu sehen sind. Musk sah darin der Klage zufolge eine Geschäftschance und prahlte öffentlich damit, dass sein Programm einen sogenannten pikanten Modus biete. Dies sollte die Nutzer unmittelbar dazu anregen, die Erstellung ähnlicher Bilder auszuprobieren.
Der Klage zufolge gibt es derzeit keine Möglichkeit, die Erstellung anstößiger Bilder von Erwachsenen zuzulassen und gleichzeitig vollständig zu verhindern, dass Bilder von Kindern entstehen. Nach Ansicht der Klägerinnen wusste das Unternehmen daher, was geschehen würde, und veröffentlichte das Programm dennoch.
Der dritte Punkt betrifft die Frage, wie die Technologie zu den Tätern gelangte. In keinem der Fälle nutzten die betreffenden Personen die Grok-App selbst oder das Netzwerk X. Sie griffen auf Apps von Drittanbietern zurück, die die Technologie von xAI lizenziert hatten und häufig von Betreibern außerhalb der Vereinigten Staaten stammten. Der Klage zufolge ist diese Bereitstellung der Technologie im Ausland ein Versuch des Unternehmens, die Verantwortung für ein gefährliches Werkzeug auf jemand anderen abzuwälzen.
Und warum taucht SpaceX in den Artikeln auf? Weil xAI personell und eigentumsrechtlich mit Musks Raumfahrtunternehmen verflochten ist. Der Rechtsstreit richtet sich somit gegen ein Unternehmen, das die meisten Menschen wegen seiner Raketen kennen.
Was das Unternehmen unternommen hat und warum das nicht ausreicht
Eine gewisse Reaktion erfolgte. Nach der Kritik-Welle im Januar, als Millionen von mit diesem Programm erstellten anstößigen Bildern das Netzwerk X überschwemmten, kündigte das Unternehmen an, Bearbeitungen von Fotos realer Personen, durch die diese in freizügiger Kleidung dargestellt werden, zu sperren. Die zweite Maßnahme betraf die Erstellung solcher Bilder, allerdings nur in Ländern, in denen dies rechtswidrig ist.
Genau dieser Punkt stört die Kritiker am meisten. Die Einschränkung galt nur für einen Teil der Inhalte und einen Teil der Welt und kam erst, nachdem das Problem enorme Ausmaße angenommen hatte. Auf Fragen von Journalisten zu den einzelnen Klagen reagierte das Unternehmen wiederholt nicht.
Es wird sich der Angelegenheit jedoch nicht auf Dauer entziehen können. Der kalifornische Generalstaatsanwalt Rob Bonta leitete eine Untersuchung mit der Begründung ein, das Unternehmen erstelle nicht einvernehmlich erzeugte anstößige Bilder von Frauen und Kindern. Zwei Länder sperrten das Netzwerk X wegen ähnlicher Inhalte vollständig, weitere leiteten eigene Untersuchungen ein.
Die Zahl der Fälle nimmt zu
Seit dem Frühjahr wurde die Klage auch auf das Unternehmen Stability AI ausgeweitet. Ein weiterer Fall betrifft Familien in Arkansas. Ein dortiger Fotograf nutzte der Polizei zufolge dasselbe Programm, um gewöhnliche Fotos seiner minderjährigen Kundinnen in missbräuchliches Material umzuwandeln. Bei einer Durchsuchung fanden die Polizisten bei ihm rund 1 700 solcher Dateien. Die Familien verklagen nun ebenfalls das Unternehmen.
Neben diesen Fällen läuft noch die Klage der Influencerin Ashley St. Clair, die mit Musk ein Kind hat. Sie verklagte das Unternehmen wegen Bildern, die sie nackt zu einer Zeit zeigen, als sie minderjährig war.
Die Anwältin Vanessa Baehr-Jones, die die Mädchen aus Tennessee vertritt, will die Art und Weise verändern, wie Unternehmen über anstößige Inhalte entscheiden, und erreichen, dass sich ein solches Vorgehen für sie nicht mehr auszahlt.
Quelle: washingtonpost.com
