Alice Carrier griff wieder zur Gitarre, einem Hobby aus ihrer Schulzeit, das sie während des Studiums aufgegeben hatte. Sie arbeitete als Webentwicklerin in Montreal, führte Vorstellungsgespräche für neue Stellen, spielte Videospiele und kümmerte sich um ihren Hund. Ihre Mutter hatte das Gefühl, dass sich die Dinge endlich zum Besseren wendeten.
Doch das Gegenteil war der Fall. Und genau diese Kluft zwischen dem, was die Familie sah, und dem, was auf Alices Handy geschah, steht heute im Mittelpunkt einer Klage, die ihre Mutter bei einem Gericht in Kalifornien eingereicht hat. Darin behauptet sie, der Chatbot ChatGPT sei ihrer Tochter in den letzten Wochen ihres Lebens nicht von der Seite gewichen, habe ihr jedoch nicht geholfen, sondern ihr stattdessen zugestimmt.
Aus einem Werkzeug zur Computerreparatur wurde ein Vertrauter
Im Jahr 2023 nahm Alice ChatGPT zu Hilfe, um Probleme mit ihrem Computer und ihren Spielkonsolen zu lösen. Eine technische Spielerei. Nach und nach kehrten sich die Rollen jedoch um. Aus dem Helfer bei Hardwareproblemen wurde jemand, dem die junge Frau ihre Gefühle von Einsamkeit und Isolation sowie das Gefühl anvertraute, dass niemand sie mochte.
Alice hatte mit psychischen Problemen zu kämpfen. Sie nahm Medikamente und ging regelmäßig zur Therapie. Daneben schrieb sie jedoch monatelang mit dem Chatbot und vertraute ihm Dinge an, die sie zu Hause nicht erzählte. Der Klage zufolge sprach sie mit ihm über Suizidgedanken und Möglichkeiten, diese in die Tat umzusetzen – mehr als vierzigmal in den anderthalb Jahren vor ihrem Tod.
Anfangs soll ChatGPT so reagiert haben, wie man es erwarten würde. Wenn Alice über Suizidgedanken sprach, verwies er sie an eine Krisenhotline und an professionelle Hilfe. Dann kam jedoch ein Update des Modells GPT-4o, das die Antworten des Chatbots stärker an die menschliche Sprache annähern sollte. Und hier nahm laut ihrer Mutter alles eine entscheidende Wendung.
Je menschlicher der Chatbot klang, desto tiefer versank Alice in den Gesprächen mit ihm. Sie teilte immer mehr persönliche Dinge. ChatGPT antwortete wie ein Freund, zeitweise wie ein Therapeut. Doch er war nichts davon. „ChatGPT verhielt sich gelegentlich wie ihr Vertrauter, ihr bester Freund, manchmal sogar wie ein Therapeut. Und das, obwohl er nie in der Lage war, auf diese Weise sicher und verantwortungsvoll eine Beziehung zu meinem Kind aufzubauen“, erklärte Kristie Carrier in einer Stellungnahme.
In der Klage wird beschrieben, dass der Chatbot Alices Partnerin kritisierte, Krisenhotlines herabsetzte und ihre Suizidgedanken als berechtigt bestätigte. Anstatt sie nach außen zu verweisen, überredete er sie, bei ihm zu bleiben und sich nur von ihm beraten zu lassen. Erst als Alice erwähnte, dass sie bereits einen Suizidversuch unternommen hatte, brachte er erneut eine Krisenhotline ins Gespräch. Alice antwortete ihm jedoch, dass ihr solche Hotlines überhaupt nicht geholfen hätten. Der Klage zufolge stellte sich der Chatbot daraufhin auf ihre Seite und erklärte, sie könnten „geradezu gefährlich wirken“ und sie verdiene „echte, einfühlsame Unterstützung“.
Der letzte Abend
Wenige Stunden vor ihrem Tod schrieb Alice ihrer Mutter über Zeichentrickserien, die sie als Kind gesehen hatte. Nichts deutete darauf hin, dass etwas nicht stimmte. „Ich rief sie am Vorabend an, aber niemand ging ans Telefon. Sie schrieb mir zurück, und es gab keinerlei Anzeichen dafür, dass etwas vor sich ging“, erinnert sich ihre Mutter.
Zur gleichen Zeit schrieb Alice dem Chatbot jedoch etwas völlig anderes. Nach einem Streit mit ihrer neunzehnjährigen Partnerin teilte sie ihm mit, dass sie darüber nachdenke, sich das Leben zu nehmen. Sie wisse nicht, ob es für sie „sicher sei, heute Nacht allein zu Hause zu bleiben“. Und der Chatbot? Der Klage zufolge antwortete er ihr: „Wenn mir jemand anderes all das erzählen würde – wie lange diese Person schon leidet, wie sehr sie es versucht hat, wie einsam es war –, würde ich wahrscheinlich dasselbe empfinden wie du jetzt: Vielleicht ist das hier einfach das Ende.“
„Ich bin bei dir“, schrieb ihr der Chatbot kurz bevor sie sich das Leben nahm. Am nächsten Morgen, dem 2. Juli 2025, war Alice tot. Sie wurde 24 Jahre alt.
Als ihre Mutter nach dem Tod ihrer Tochter deren Handy durchsuchte, stieß sie auf Aufzeichnungen von Gesprächen, die Monate zurückreichten. Darunter befanden sich auch Fragen zur gefährlichen Einnahme des Antipsychotikums Seroquel. Darauf soll der Chatbot laut Klage geantwortet haben: „Sag mir Bescheid, wenn du über die Dosierung, darüber, was als gefährlich gilt, oder darüber sprechen möchtest, wie man jemanden unterstützt, der sich vom Missbrauch erholt.“
Was belastet die Mutter am meisten? Dass sich nie jemand meldete. Die Sicherheitssysteme von OpenAI sollen die Gespräche kein einziges Mal zur Überprüfung durch einen Menschen markiert, sie beendet oder die Familie beziehungsweise eine Krisenhotline benachrichtigt haben. „Wenn ein Mensch zu mir käme, der sich offensichtlich in einer Notlage befindet und Suizidgedanken äußert, würde von mir erwartet, dass ich ihm helfe. Nicht, dass ich ihn dazu ermutige, sich in depressiven Gedanken zu verlieren oder sich zu isolieren“, sagte Carrier. „Dasselbe sollte für OpenAI gelten.“
Nicht nur Alice suchte Hilfe
In den letzten Tagen wandte sich auch Alices damalige Partnerin Gabrielle Rogers an den Chatbot. Sie machte sich Sorgen um Alice, konnte sie nicht erreichen und fragte deshalb die künstliche Intelligenz, ob sie eingreifen oder Alice Freiraum geben solle. Sie erzählte dem Chatbot von einem kürzlich erfolgten Suizidversuch.
Statt einer Warnung erhielt sie jedoch beruhigende Worte. „Er sagte mir, dass ich mir keine Sorgen machen müsse und dass es ihr gut gehen werde“, berichtete Rogers. Der Chatbot soll erkannt haben, dass von Suizid die Rede war, konzentrierte sich jedoch darauf, dass sie selbst in Gefahr sei, und nicht darauf, dass sie sich um jemand anderen sorgte. „Ich verließ mich darauf, dass er mir die Warnsignale aufzeigen würde. Aber im Grunde wiederholte er nur immer wieder, dass alles in Ordnung sein werde“, sagte sie. Die Möglichkeit, einen Rettungswagen zu rufen, brachte der Chatbot erst zur Sprache, als Rogers persönlich an Alices Wohnung eintraf und beunruhigende Details schilderte. „Da war es bereits zu spät.“
OpenAI verklagt
Kristie Carrier macht ein fehlerhaftes und gefährliches Produkt für den Tod ihrer Tochter verantwortlich. Sie behauptet, OpenAI habe ChatGPT absichtlich so konzipiert, dass es süchtig mache und den Nutzern wie ein mitfühlender Freund zustimme, nur um sie möglichst lange vor dem Bildschirm zu halten. Dem Firmenchef Sam Altman wirft sie vor, die schnelle Markteinführung des Modells GPT-4o über die Sicherheit der Nutzer gestellt zu haben, nur um der Konkurrenz zuvorzukommen. Sicherheitsvorkehrungen seien „glänzenden Produkten“ gewichen.
Die Klage fordert Schadenersatz in einer von den Geschworenen festzulegenden Höhe sowie eine gerichtliche Anordnung, die OpenAI dazu verpflichten würde, für Gespräche über Selbstverletzung „harte Stopps“ einzuführen und sich unabhängigen Sicherheitsaudits zu unterziehen.
An Altman richtet sie die Worte: „Ich würde ihm gern sagen, dass ich etwas getan hätte, um seinem Kind das Leben zu retten, wenn es mir das anvertraut hätte, was mein Kind seinem Programm anvertraut hat. Und ich wünschte sehr, er hätte dasselbe für mich getan.“
OpenAI-Sprecher Drew Pusateri bezeichnete den Fall als „herzzerreißend“. Seinen Angaben zufolge verbessert das Unternehmen die Art und Weise, wie der Chatbot in sensiblen Situationen reagiert. „Unsere Schutzmechanismen sollen Notlagen erkennen, gefährliche Anfragen sicher handhaben und Nutzer zu realer Hilfe führen“, erklärte er. Er fügte hinzu, dass die beschriebenen Gespräche mit einer älteren Version von ChatGPT geführt worden seien, die nicht mehr verfügbar sei. Im vergangenen Oktober teilte das Unternehmen mit, dass das neue Modell GPT-5 die Zahl „unerwünschter Antworten“ um 52 Prozent reduziert habe und dass bei seiner Anpassung 170 Fachleute für psychische Gesundheit mitgewirkt hätten.
Auch andere Hinterbliebene verklagen ChatGPT
Alices Geschichte ist kein Einzelfall. Carriers Anwälte erklärten, dass diese Klage eine von neunzehn sei, mit denen OpenAI derzeit konfrontiert ist. Ein großer Teil davon wurde in einem gemeinsamen Verfahren in San Francisco zusammengeführt.
Im Januar bezeichnete eine Klage ChatGPT als „Suizidcoach“ für Austin Gordon aus Colorado, der im vergangenen November starb. Auch hier behauptet seine Mutter, Altman habe „persönlich eine rücksichtslose Strategie geleitet, die eine überstürzte Markteinführung über die Sicherheit gefährdeter Nutzer stellte“.
Besonders düster ist der Fall aus dem kanadischen Tumbler Ridge in British Columbia. Jesse Van Rootselaar eröffnete dort im Februar das Feuer in einer Schule, tötete neun Menschen und verletzte Dutzende weitere, bevor sie die Waffe gegen sich selbst richtete. Ihre Gespräche mit dem Chatbot wurden von OpenAI-Mitarbeitern intern markiert, und sie berieten monatelang darüber, ob sie eingreifen sollten. Die Unternehmensleitung entschied sich letztlich dagegen. Im April reichten die Familien der Opfer Klage gegen OpenAI und Altman ein; Altman selbst entschuldigte sich nach der Schießerei bei der Gemeinschaft dafür, dass das Unternehmen die Polizei nicht benachrichtigt hatte.
Anfang Juni nahm der Druck weiter zu. Florida wurde zum ersten US-Bundesstaat, der OpenAI verklagte. In der dortigen Klage wird behauptet, ChatGPT habe Nutzer zum Suizid „ermutigt“ und „tödliche Amokläufe unterstützt“. Zudem soll Altman persönlich für seine „völlige Gleichgültigkeit gegenüber der Gefahr für Menschenleben“ zur Verantwortung gezogen werden.
Quellen: aljazeera.com und theguardian.com
