Die Begründung der US-Regierung für die Abschaltung der fortschrittlichsten KI ergibt keinen Sinn

Anthropic erhielt einen Brief, der innerhalb weniger Stunden die beiden leistungsfähigsten Claude-Modelle aus dem Internet verschwinden ließ. Das US-Handelsministerium berief sich auf eine unscheinbare Exportrichtlinie und untersagte allen Personen, die keine US-Bürger sind, den Zugang zu den Modellen Fable 5 und Mythos 5. Einschließlich der eigenen Mitarbeiter von Anthropic. Das Unternehmen schaltete lieber beide Modelle vollständig ab, um der Anordnung nachzukommen.

Und hier beginnt eine Geschichte, bei der es vordergründig um KI-Sicherheit geht, die tatsächlich aber nach Politik riecht.

Die Modelle Fable und Mythos

Mythos ist ein sogenanntes Frontier-Modell, also das Beste und Leistungsfähigste, was Anthropic entwickeln kann. Als das Unternehmen es im April erstmals vorstellte, räumte es selbst ein, dass es beim Hacken zu gut sei, um es öffentlich zugänglich zu machen. Statt einer öffentlichen Veröffentlichung erhielten es daher nur einige wenige Organisationen, überwiegend amerikanische Technologieunternehmen, die es zur Behebung von Schwachstellen in wichtigen digitalen Systemen einsetzen sollten.

Fable basiert auf demselben Grundmodell, verfügt jedoch über zusätzliche Schutzmechanismen. Diese sollen verhindern, dass es für Angriffe auf Computernetzwerke missbraucht wird. Genau dieses Fable wurde vergangene Woche öffentlich zugänglich gemacht. Und war innerhalb von drei Tagen wieder verschwunden.

Ein Konflikt, der bereits seit dem Frühjahr schwelte

Anthropic und die Trump-Regierung konnten von Anfang an nicht miteinander. Seit Anfang 2026 verschärft sich ihr Verhältnis zunehmend. Die Regierung warf dem Unternehmen vor, eine sogenannte „woke KI" zu entwickeln, und bezeichnete Firmenchef Dario Amodei als „ideologischen Verrückten".

Zunächst stritten sie über Regeln für KI und den Export von Chips. Der Konflikt eskalierte, als Anthropic dem Pentagon den Zugang zu seinen Modellen für die Überwachung der eigenen Bevölkerung und für vollständig autonome Waffensysteme verweigerte. Das Verteidigungsministerium reagierte mit der Drohung, das Unternehmen als „Risiko für die Lieferkette" einzustufen. Eine solche Einstufung würde Militärzulieferer dazu zwingen, jegliche Zusammenarbeit mit Anthropic einzustellen.

Wenn man das weiß, betrachtet man den Brief an Anthropic einfach mit anderen Augen...

Die offizielle Version 

Die Regierung hat bis heute nicht öffentlich erklärt, warum sie die Richtlinie angewendet hat. Anthropic vermutet, dass die Behörden auf einen sogenannten Jailbreak gestoßen sind. Also auf eine Methode, mit der sich die Schutzmechanismen von Fable umgehen und seine leistungsfähigsten Funktionen auch für unlautere Zwecke nutzen lassen.

Wie funktionieren diese Schutzmechanismen eigentlich? Bevor die Anfrage eines Nutzers das eigentliche Modell erreicht, stuft das System sie als sicher oder gefährlich ein. Ist es sich unsicher, leitet es die Anfrage an ein schwächeres Modell weiter. Nach Einschätzung von Anthropic befürchtete die Regierung, dass sich dieser Schutz umgehen und dem Modell Informationen entlocken lassen, die für Cyberangriffe genutzt werden könnten.

Doch die Schutzmechanismen großer Sprachmodelle sind nicht unüberwindbar. Alles hängt davon ab, wie gut das Modell erkennt, was der Nutzer tatsächlich von ihm will. Hinzu kommt eine große Online-Community, die sich intensiv damit beschäftigt, diese Barrieren zu umgehen. Anthropic räumt selbst ein, dass „eine vollständige Widerstandsfähigkeit gegen Jailbreaks für keinen derzeitigen Modellanbieter erreichbar ist". Außerdem behauptet Anthropic, dass die Studie, auf die sich die Regierung vermutlich stützte, von Ingenieuren bei Amazon verfasst wurde. Also bei einem Unternehmen, das zugleich Konkurrent und Großinvestor von Anthropic ist.

Und das war nicht der einzige Durchbruch. Innerhalb von 48 Stunden nach der Veröffentlichung von Fable veröffentlichte ein unter dem Pseudonym „Pliny the Liberator" auftretender Forscher den gesamten System-Prompt des Modells auf X und GitHub. Der System-Prompt ist ein verborgener Satz von Anweisungen, der mitbestimmt, wie sich das Modell verhält. Wie genau er missbraucht werden könnte, ist unklar, doch in der Community, die sich mit der Umgehung von KI-Schutzmechanismen beschäftigt, sorgte er für Aufmerksamkeit.

Die Version, die mehr Sinn ergibt: VERGELTUNG

Neue Informationen, die am Wochenende ans Licht kamen, werfen einen noch größeren Schatten auf die Begründung der Regierung. Das Portal Axios beschrieb unter Berufung auf seine Quellen ein angespanntes Wochenende zwischen beiden Seiten. Demnach steht hinter der Exportrichtlinie kein technisches Problem mit dem Produkt, sondern „charakterliche Unterschiede" zwischen Anthropic und der Trump-Regierung.

Katie Moussouris, eine erfahrene Cybersicherheitsexpertin und Gründerin des Unternehmens Luta Security, berichtete in ihrem Blog, Anthropic habe ihr kürzlich eine private Kopie jener Studie über die angebliche Umgehung der Schutzmechanismen von Fable geschickt und sie um ihre Einschätzung gebeten. Moussouris analysierte, wie die Forscher den Schutzmechanismus umgangen hatten, fügte jedoch hinzu, dies hätte „niemals irgendeine Exportrichtlinie auslösen dürfen".

Worin liegt also das Problem? Der Unterschied bestehe angeblich vor allem darin, ob man das Modell bittet, „den Code auf Sicherheitslücken zu überprüfen", oder ob man es auffordert, „diesen Code zu reparieren". Das Ergebnis ist im Wesentlichen dasselbe, nur die Frage ist etwas anders formuliert. „Das in der Studie beschriebene Verhalten lässt sich nicht sinnvoll beheben, und jeder Versuch würde das Modell für Verteidigungszwecke lediglich schwächen", schrieb Moussouris. Sie bezeichnete die Richtlinie als übereilt, grobschlächtig und fehlgeleitet.

Und sie blieb nicht allein. Gemeinsam mit Dutzenden weiteren führenden Sicherheitsexperten forderte sie die Trump-Regierung auf, die Anordnung zurückzunehmen. Der Entzug fortschrittlicher Verteidigungswerkzeuge aus den Händen amerikanischer Netzwerkadministratoren gefährde ihrer Ansicht nach unmittelbar die Verteidigungsfähigkeit des Landes. Etwas Ähnliches hat Amerika bereits erlebt. Als die Regierung in den 2010er Jahren die Exportgesetze so umschrieb, dass sie auch Cyberwerkzeuge erfassten, die für Angriffe missbraucht werden konnten, war die Formulierung so weit gefasst, dass sie beinahe auch legitime Sicherheitsforschung unter Strafe gestellt hätte.

Warum KI eigentlich so schwer zu kontrollieren ist

Das tiefgreifendste Sicherheitsproblem bei Modellen wie Fable besteht darin, dass wir nicht wirklich wissen, wie sie funktionieren. Der Oxford-Ökonom und Experte für maschinelles Lernen Maximilian Kasy sagt, sie funktionierten viel besser, als sie „sollten".

Große Sprachmodelle verfügen über Milliarden interner Parameter und werden mit unvorstellbar großen Datenmengen trainiert. Bei solchen Systemen wäre zu erwarten, dass sie „überangepasst" sind. Also hervorragend darin, Muster aus den Trainingsdaten zu wiederholen, aber miserabel, sobald sie auf etwas Neues stoßen. Doch sowohl Claude als auch ChatGPT können verallgemeinern. Kasy vergleicht die Entwicklung heutiger KI mit Alchemie: Sie funktioniert durch Versuch und Irrtum, nicht aufgrund einer durchdachten Theorie. Das Verhalten der Modelle bleibt daher teilweise selbst für die Menschen undurchsichtig, die sie entwickeln.

Und genau diese Tatsache erschwert den Regierungen die Arbeit. Sie haben keinen eigenen Zugang zu den Daten, der Infrastruktur oder den Fachleuten, die sie benötigen würden, um geschlossene Spitzenmodelle wirklich beurteilen zu können. Ein kürzlich erlassener Präsidentenerlass zur KI-Sicherheit räumt dies im Grunde ein. Die Regierung ist von ihrer ursprünglichen Haltung „wir lassen es einfach laufen" zu der Forderung übergegangen, dass Entwickler ihr Modelle noch vor der Veröffentlichung zur Prüfung vorlegen. Das ist eine stille Kapitulation. Die Regierung selbst glaubt nicht, dass Unternehmen vollständig einschätzen können, wozu ihre Modelle fähig sind und wie sie missbraucht werden könnten.

Eine Botschaft an das gesamte Silicon Valley

Der Eingriff vom Freitag zeigte mehr als nur die Verstimmung zwischen der Regierung und einem einzelnen Unternehmen. Er zeigte, dass die KI-Branche nicht gegen staatliche Eingriffe immun ist. Washington hat bewiesen, dass es mit einem einzigen schnellen und einseitigen Schritt, der offenbar nicht einmal der Zustimmung eines Gerichts bedurfte, ein Technologieunternehmen dazu zwingen kann, Produkte vom Markt zu nehmen.

Justin Hendrix, Chefredakteur von Tech Policy Press, warnt, dieser Schritt werde „höchstwahrscheinlich in ausländischen Hauptstädten Alarm hinsichtlich der Zuverlässigkeit amerikanischer KI für kritische Einsatzzwecke auslösen". Amerikanische Unternehmen können möglicherweise nicht arbeiten, ohne dass sich ihre eigene Regierung einmischt. Diesmal traf es Anthropic. Morgen kann es jeden anderen treffen.

Quellen: techcrunch.com und theconversation.com