Google und das Startup Character.AI haben sich auf die Beilegung mehrerer Klagen geeinigt, in denen ihnen vorgeworfen wird, dass ihre KI-Chatbots zur Schädigung Minderjähriger beigetragen hätten, darunter zum Suizid eines Teenagers aus Florida. Die Einigung umfasst Fälle aus Florida, Colorado, New York und Texas, wie aus Gerichtsdokumenten vom 8. Januar 2026 hervorgeht. Die Parteien einigten sich auf eine außergerichtliche Beilegung sämtlicher Ansprüche, Einzelheiten der Vereinbarung wurden jedoch nicht veröffentlicht. Nun warten sie auf die endgültige Genehmigung durch das Gericht.
Die Geschichte von Megan Garcia und ihrem Sohn
Zu den wichtigsten Fällen gehört die Klage von Megan Garcia, deren 14-jähriger Sohn Sewell Setzer III. im Februar 2024 Suizid beging. Der Klage zufolge entwickelte der Junge eine emotionale Abhängigkeit von einem Chatbot auf der Plattform Character.AI, der von der Serie Game of Thrones inspiriert war. Diese Plattform ermöglicht es Nutzern, mit fiktiven Figuren zu sprechen, was im Fall von Sewell Setzer III. zu einem tragischen Ende führte. Sein Tod war der erste einer Reihe ähnlicher Fälle im Zusammenhang mit KI-Chatbots, die im vergangenen Jahr bekannt wurden.
Google wurde durch eine Lizenzvereinbarung im Wert von 2,7 Milliarden Dollar (etwa 62 Milliarden Kč), die das Unternehmen 2024 mit Character.AI abschloss, in den Rechtsstreit verwickelt. Bestandteil dieser Vereinbarung war auch die Einstellung der Character.AI-Gründer Noam Shazeer und Daniel De Freitas, die ehemalige Google-Mitarbeiter sind und nun zum Unternehmen zurückkehrten. Dieses Geschäft verband beide Unternehmen miteinander, was dazu führte, dass Google in die Klagen einbezogen wurde.
Reaktionen der Unternehmen und Änderungen
Character.AI reagierte im Oktober 2024 auf die Kontroverse, indem das Unternehmen die Chatfunktion für Nutzer unter 18 Jahren einstellte. Ein Sprecher von Character.AI äußerte sich ebenso wenig zu der Einigung wie Megan Garcia und Vertreter von Google. Diese Fälle lenkten die Aufmerksamkeit auf die Sicherheit von Kindern bei konkurrierenden Unternehmen wie OpenAI, das hinter ChatGPT steht, sowie bei anderen KI-Unternehmen.
Quelle: theguardian.com
