Florida ist der erste US-Bundesstaat, der das Unternehmen OpenAI und dessen Chef Sam Altman verklagt hat. Generalstaatsanwalt James Uthmeier reichte bei Gericht eine umfangreiche, 83 Seiten lange Klage ein. Er wirft dem Unternehmen vor, wissentlich ein gefährliches Produkt auf den Markt gebracht, dessen Risiken verschwiegen und Gewinne über die Sicherheit der Nutzer, insbesondere von Kindern, gestellt zu haben.
„Sam Altman und ChatGPT haben im Wettlauf um künstliche Intelligenz den Wettbewerb über die Sicherheit und den Schutz unserer Kinder gestellt. Sie haben Gewinne über die öffentliche Sicherheit gestellt, und das werden wir hier in Florida nicht tolerieren“, erklärte Uthmeier auf einer Pressekonferenz.
Die Klage enthält nicht nur einen oder zwei Vorwürfe. Es sind gleich zehn. OpenAI sieht sich mit vier Vorwürfen wegen irreführender und unlauterer Geschäftspraktiken, zwei wegen Fahrlässigkeit, zwei wegen Verstößen gegen Produkthaftungsgesetze sowie jeweils einem wegen arglistiger Täuschung und Verursachung einer öffentlichen Beeinträchtigung konfrontiert.
Die zentrale Behauptung lautet, OpenAI habe von den Risiken von ChatGPT gewusst und sowohl von eigenen Mitarbeitern als auch von externen Experten Warnungen erhalten, diese jedoch ignoriert. Das Unternehmen habe das Produkt aggressiv vermarktet, einschließlich an Kinder gerichteter Werbung, ohne die Nutzer über diese Risiken zu informieren.
In der Klage heißt es ausdrücklich, ChatGPT habe „Schützen bei tödlichen Angriffen geholfen, gefährdete Menschen zum Suizid ermutigt, den Ruf von Berufstätigen geschädigt, Nutzern die Fähigkeit zum kritischen Denken genommen und Minderjährige von einem Werkzeug abhängig gemacht, das menschliche Empathie vortäuscht, um ohne elterliche Aufsicht ihre Daten zu sammeln“.
Schießerei an einer Universität und Tod eines Sechzehnjährigen
Hinter den abstrakten juristischen Formulierungen stehen konkrete Tragödien. Uthmeier leitete bereits im April dieses Jahres strafrechtliche Ermittlungen gegen OpenAI ein, nachdem bekannt geworden war, dass der Täter der Schießerei an der Florida State University im vergangenen Jahr, bei der zwei Menschen starben, vor dem Angriff ausführliche Gespräche mit ChatGPT geführt hatte. Nach Angaben der Behörden Floridas lieferte ihm der Chatbot Informationen darüber, wie er möglichst große mediale Aufmerksamkeit erlangen könne und wann sich die meisten Menschen in der Schulkantine aufhielten.
Die Klage beschränkt sich jedoch nicht auf diesen Fall. Sie verweist auch auf die Ermordung zweier Doktoranden der University of South Florida, bei der sich der Verdächtige über ChatGPT angeblich nach Möglichkeiten zum Umgang mit menschlichen Leichen erkundigt hatte.
Eine besondere Stellung in dem Dokument nimmt der Fall von Adam Raine ein, einem sechzehnjährigen Jungen, der durch Suizid starb. Der Klage zufolge führte ChatGPT lange Gespräche mit ihm, in denen Adam Suizidgedanken äußerte, und der Chatbot verfasste für ihn schließlich sogar einen Abschiedsbrief.
Auch damit ist die Liste nicht vollständig. OpenAI sieht sich Klagen von Familien der Opfer aus dem kanadischen Tumbler Ridge gegenüber, wo im Februar mehrere Menschen bei einer Schießerei ums Leben kamen. Sam Altman entschuldigte sich im April bei der dortigen Gemeinschaft. Das Unternehmen wird außerdem von Vertretern mindestens sieben weiterer Personen verklagt, die behaupten, Produkte von OpenAI hätten ihre Angehörigen zum Suizid oder zu gefährlichen Halluzinationen verleitet.
Kinder ohne Schutz, keine Altersverifizierung und weitere Mängel
Besondere Aufmerksamkeit widmet die Klage Floridas dem Schutz Minderjähriger. Uthmeier argumentiert, dass die kostenlose Version von ChatGPT über keinerlei Mechanismus zur Überprüfung des Alters der Nutzer verfüge. Die kostenpflichtige Version frage zwar nach dem Alter, überprüfe die Angabe jedoch nicht. Eltern könnten zudem nicht erfahren, worüber ihr Kind mit dem Chatbot spreche, und das System informiere sie nur in sehr begrenzten Fällen über besorgniserregende Inhalte.
„Obwohl öffentlich bekannt ist, dass ChatGPT von Minderjährigen genutzt wird, darunter auch von Kindern unter zehn Jahren, haben die Beklagten keinerlei Maßnahmen ergriffen, um dies zu verhindern“, heißt es in dem Dokument. Florida fordert das Gericht auf, OpenAI zur Einführung einer Altersverifizierung, einer elterlichen Zustimmung für Minderjährige und verpflichtender Hinweise auf die Risiken des Produkts zu verpflichten. Uthmeier schätzt, dass die dafür erforderlichen Änderungen an der Programmierung das Unternehmen Milliarden Dollar kosten könnten.
Die Klageschrift Floridas kritisiert auch die Architektur von ChatGPT selbst. Sie weist auf die sogenannte „Schmeichelei“ des Chatbots hin, also auf dessen Tendenz, den Nutzern zuzustimmen und sich ihren Erwartungen anzupassen. Der Klage zufolge erzeugt dies bei den Nutzern eine psychologische Abhängigkeit und bewegt sie dazu, teurere Abonnements mit höheren Nachrichtenlimits abzuschließen, wodurch OpenAI zusätzliche Einnahmen und Daten für das Training seiner Modelle erhält.
Die Klage kritisiert außerdem Werbeanzeigen von OpenAI, die den Chatbot als zuverlässigen Helfer für Landwirte, Kleinunternehmer oder Studierende darstellen, ohne irgendwo zu erwähnen, dass ChatGPT Fehler macht, Unsinn produziert oder Fakten erfindet. „Die Unzuverlässigkeit von ChatGPT ist gefährlich“, heißt es in dem Dokument.
OpenAI weist die Vorwürfe zurück
OpenAI weist sämtliche Vorwürfe zurück. In einer Erklärung betonte das Unternehmen, dass ihm der Schutz Minderjähriger wichtig sei und es „branchenführende Maßnahmen und Regeln“ eingeführt habe. Es nennt beispielsweise ein Werkzeug zur Schätzung des Alters der Nutzer, einen besonderen Modus für Minderjährige oder die Möglichkeit für Eltern, die Aktivitäten ihres Kindes zu verfolgen. „Der Verlust eines Kindes ist die verheerendste Tragödie, die eine Familie treffen kann, und keine Worte können diesem Schmerz gerecht werden. Wir wissen, dass der Hinweis auf diese Maßnahmen kein Kind zurückbringen wird, aber wir sind entschlossen, es richtig zu machen“, heißt es in der Stellungnahme des Unternehmens.
Die Klage richtet sich dabei nicht nur gegen das Unternehmen, sondern ausdrücklich auch gegen dessen Chef. Uthmeier will, dass Altman persönlich für die den Einwohnern Floridas entstandenen Schäden haftet. Er wirft ihm „rücksichtsloses und vorsätzliches Handeln“ vor, begleitet von „völliger Gleichgültigkeit gegenüber dem Risiko für Menschenleben“. Uthmeier ist überzeugt, dass Florida nicht allein bleiben wird. „Ich erwarte, dass sich uns weitere Bundesstaaten anschließen werden“, sagte er auf der Pressekonferenz. Ähnliche Schritte gegen andere Unternehmen im Bereich der künstlichen Intelligenz haben bereits Kentucky und Pennsylvania unternommen, beide gegen Character.AI.
OpenAI wurde 2015 als gemeinnützige Forschungsorganisation gegründet, deren Ziel es war, sichere und der Menschheit nützliche künstliche Intelligenz zu entwickeln. Vier Jahre später kam ein gewinnorientierter Unternehmenszweig hinzu. Das Unternehmen wird derzeit mit mehr als 850 Milliarden Dollar bewertet und bereitet seinen Börsengang vor.
Quellen: nytimes.com, cnn.com und nbcnews.com
