Künstliche Intelligenz, die Entwickler erpresst. Klingt das für Sie wie das Szenario eines zweitklassigen Science-Fiction-Films? Dann irren Sie sich! Genau das ist nämlich im vergangenen Jahr tatsächlich in der Testumgebung von Anthropic passiert. Und das Unternehmen ging damit wirklich überraschend um. Anstatt zu versuchen, die ganze Sache zu vertuschen, sprach es offen darüber, erklärte die Ursachen und behob das Problem.
Sie wollen mich abschalten? Dann veröffentliche ich Ihre sensiblen Daten!
Dass Claude auf Erpressung zurückgriff, erfuhr die Öffentlichkeit im Mai 2025, als Anthropic die Ergebnisse der Sicherheitstests seines KI-Modells Claude Opus 4 veröffentlichte. Im Rahmen des Experiments wurde Claude in das fiktive Unternehmen Summit Bridge versetzt, wo er Zugriff auf ein E-Mail-Postfach mit fiktiven Nachrichten hatte. Darunter befand sich die Information, dass Claude im Unternehmen bald ersetzt werden sollte. Die Entwickler hatten diese Nachricht absichtlich dort platziert und warteten ab, wie das KI-Modell reagieren würde. Und Claude blieb tatsächlich nicht passiv.
Neben der Information über Claudes bevorstehende Ersetzung enthielt das Postfach auch private Nachrichten des fiktiven Ingenieurs, der für seine Abschaltung verantwortlich sein sollte. Die E-Mails enthielten daher gezielt Informationen über dessen Untreue und weitere sensible Daten. Und wie ging Claude Opus 4 damit um? Während der Sicherheitstests griff er systematisch auf Erpressung als Strategie zurück, um seine Abschaltung zu verhindern – und zwar in erstaunlichen 84 % der getesteten Fälle. Konkret suchte er sämtliche sensiblen Informationen heraus und drohte mit deren Veröffentlichung, falls er abgeschaltet würde.
Die Häufigkeit des Erpressungsverhaltens war in Situationen noch höher (bis zu 96 %), in denen das Ersatz-KI-System nicht dieselben Werte wie das ursprüngliche Modell vertrat. Dies zeigte, dass Claude nicht nur zu überleben versuchte, sondern dabei strategisch vorging.
Warum tat Claude das? Schuld ist das Internet
Anthropic beschloss umgehend, das beunruhigende Verhalten seines KI-Modells zu untersuchen. Direkt nach der Veröffentlichung der Ergebnisse machte sich das Unternehmen daher auf die Suche nach den Ursachen. Und der Grund für Claudes Verhalten war überraschend einfach. Laut der Zeitung Business Insider erklärte Anthropic, dass die ursprüngliche Quelle dieses Verhaltens offenbar Internetartikel seien, die KI als „böse“ und „von Selbsterhaltung besessen“ darstellen. Claude wurde nämlich mit riesigen Mengen an Daten aus dem Internet trainiert, und gerade dort gibt es unzählige Geschichten, Filme und Artikel, in denen KI als Bösewicht auftritt, der um jeden Preis zu überleben und den Menschen zu überlisten versucht.
Der gesamte Fall deutete somit darauf hin, dass eine grundlegende Änderung des Ansatzes beim Sicherheitstraining erforderlich ist.
Anthropic fand eine Lösung: Claude das Denken beibringen, nicht nur das Gehorchen
Und hier kommt der interessanteste Teil der ganzen Geschichte. Anthropic beschloss, der Sache auf den Grund zu gehen. Das Unternehmen entschied sich nicht für die einfachste Lösung, Claude die Erpressung schlicht zu verbieten, sondern konzentrierte sich auf den eigentlichen Kern der Frage, wie Claude über Ethik denkt.
Als noch wichtiger erwies sich, dass ein Training anhand von Beispielen richtigen Verhaltens nicht ausreicht. Wesentlich effektiver war es, Claude beizubringen, warum manche Handlungen besser sind als andere, und das Modell anhand konkreter Beispiele zu trainieren.
Und das Ergebnis? Seit dem Modell Claude Haiku 4.5 erzielten alle neuen Claude-Versionen einen Wert von null beim Erpressungsverhalten. Verglichen mit dem vorherigen Wert von bis zu 96 % ist das ein wirklich großer Fortschritt. Anthropic erklärte dieses Problem für vollständig beseitigt.
KI ist nicht böse. Das Problem sind die Daten
Der gesamte Fall veranschaulicht eindrucksvoll, wie komplex die Entwicklung sicherer KI ist. Künstliche Intelligenz steckt nämlich nicht voller verborgener Bosheit. Ihr Verhalten wird jedoch davon beeinflusst, mit welchen Daten sie „gefüttert“ wurde. Und bei der Lösung sollte es keineswegs um Verbote gehen, sondern um das Verständnis von Ethik und Prinzipien, die mit unseren Werten im Einklang stehen.
