US-Regierung schaltet stärkstes KI-Modell von Anthropic nur drei Tage nach dem Start ab

Am Freitagabend erhielt Dario Amodei ein Schreiben, das innerhalb weniger Stunden die beiden leistungsfähigsten Modelle seines Unternehmens zu Fall brachte. Handelsminister Howard Lutnick teilte dem Chef von Anthropic mit, dass die Modelle Mythos 5 und Fable 5 Exportkontrollen unterliegen – für jeden außerhalb des US-Territoriums ebenso wie für jeden Ausländer innerhalb des Landes. Anthropic hatte keine Möglichkeit, ausländische Staatsangehörige in Echtzeit von amerikanischen Nutzern zu unterscheiden. Daher schaltete das Unternehmen beide Modelle für alle vollständig ab. Zwischen der Einführung und der Abschaltung der Modelle lagen nur drei Tage.

Die bislang fortschrittlichsten Modelle

Am 9. Juni stellte das Unternehmen zwei Modelle vor. Fable 5 war die öffentliche Version, die jeder mit einem kostenpflichtigen Tarif aktivieren konnte. Mythos 5 war dasselbe Modell, allerdings ohne Leistungs- und Sicherheitseinschränkungen, und wurde nur einer Handvoll überprüfter Partner aus dem Sicherheitsbereich sowie ausgewählten Biologen über das Programm Project Glasswing zur Verfügung gestellt.

Der Unterschied zwischen ihnen lag nicht in der Intelligenz, sondern in den Schutzmechanismen. Fable leitete sensible Anfragen aus den Bereichen Cybersicherheit, Biologie und Chemie an das schwächere Modell Opus 4.8 weiter, worauf Nutzer aufmerksam machten. Anthropic befürchtete nämlich, dass Mythos zu gut darin sei, Schwachstellen im Code zu finden. Das Unternehmen selbst gab an, das Modell habe Tausende bislang unbekannte Sicherheitslücken in allen großen Betriebssystemen und Browsern entdeckt. Einige davon hatten jahrzehntelange menschliche Überprüfungen überstanden. Genau diese Effizienz des Modells fiel dem Unternehmen nun auf die Füße.

Der Auslöser kam von außen. Laut lokalen Medien entschloss sich das Handelsministerium zum Handeln, nachdem ein anderes Unternehmen behauptet hatte, Mythos geknackt zu haben. Dies wird als Jailbreak bezeichnet, also als eine Methode, die eingebauten Schutzvorkehrungen zu umgehen und dem Modell Antworten zu entlocken, die es andernfalls verweigern würde. Das beunruhigte die Beamten so sehr, dass sie tätig wurden. Berichten zufolge versuchte die Regierung zunächst, Anthropic dazu zu bewegen, die Einführung der Modelle zu verschieben. Das Unternehmen lehnte ab, woraufhin das Schreiben folgte.

Anthropic reagierte schnell und scharf. Das Unternehmen behauptet, die Regierung habe ihm lediglich einen „mündlichen Beleg für einen möglichen Durchbruch durch die Abwehrmechanismen des Modells“ vorgelegt. Das Unternehmen prüfte die Technik und stellte nach eigenen Angaben fest, dass sie lediglich einige wenige, seit Langem bekannte und zudem geringfügige Schwachstellen aufdeckte. Dieselben Fehler würden angeblich auch andere öffentlich verfügbare Modelle finden, und zwar ohne jegliche Umgehung von Schutzmechanismen. Anthropic nannte GPT-5.5 von OpenAI ausdrücklich als vergleichbares Beispiel.

„Wir sind nicht der Auffassung, dass die Entdeckung eines begrenzten potenziellen Jailbreaks ein Grund dafür sein sollte, ein kommerzielles Modell zurückzuziehen, das für Hunderte Millionen Menschen bereitgestellt wurde“, schrieb das Unternehmen. Und es fügte eine Warnung hinzu. Würde dieser Maßstab auf die gesamte Branche angewandt, käme die Veröffentlichung neuer Modelle Anthropic zufolge praktisch zum Erliegen.

Die Darstellungen der Ereignisse unterscheiden sich allerdings je nachdem, wem man zuhört. David Sacks, ehemaliger KI-Berater des Weißen Hauses, schilderte die Sache anders. Er behauptete, die Regierung habe eine Warnung erhalten, dass Fable 5 geknackt werden könne, und als Amodei darauf hingewiesen worden sei, habe das Unternehmen nichts unternommen.

Erstmals wurde ein Modell selbst einer Exportkontrolle unterworfen

Damit kommen wir zum Kern dessen, was dieses Ereignis so außergewöhnlich macht. Die Vereinigten Staaten hatten bereits zuvor den Export von Chips und Supercomputern blockiert, also der Hardware, die künstliche Intelligenz antreibt. Beide Regierungen, sowohl die Trump- als auch die Biden-Regierung, taten dies bei Halbleitern. Doch bei der Software selbst, beim Modell selbst, war das noch nie zuvor geschehen.

Das Schreiben des Handelsministeriums führte eine Genehmigungspflicht ein. Für die Ausfuhr, Wiederausfuhr oder sogar die inländische Weitergabe dieser Modelle ist nun eine Genehmigung erforderlich. Und da die Beschränkung auch für in den USA lebende Ausländer gilt, betraf sie sogar Anthropics eigene Mitarbeiter ohne amerikanische Staatsbürgerschaft. Das Unternehmen hatte keine Wahl. Um die Vorschriften einzuhalten, musste es die Modelle für wirklich jeden abschalten. Der Zugang zu den übrigen Modellen von Anthropic blieb unverändert.

An dieser Situation ist etwas beinahe Absurdes. Anthropic präsentiert sich seit Langem als Unternehmen, das wegen der Risiken künstlicher Intelligenz Alarm schlägt. Und genau diese Vorsicht hat sich nun gegen das Unternehmen gewendet.

Man betrachte nur diese Schizophrenie. Das Pentagon hatte Anthropic zuvor als „Risiko für die Lieferkette“ eingestuft und die Geschäftsbeziehungen mit dem Unternehmen beendet, weil es der Regierung den Zugriff auf seine Modelle für eine flächendeckende Überwachung im Inland und für autonome Waffen verweigert hatte. Für die eigenen Zwecke des Militärs ist Anthropic also zu gefährlich. Und nun stuft das Handelsministerium das Unternehmen auch als zu gefährlich für Ausländer ein.

Unterdessen reißen sich andere Teile des Staatsapparats regelrecht um Mythos. Die NSA entsandte rund ein halbes Dutzend Ingenieure zu Anthropic, um der Behörde dabei zu helfen, das Modell für Cyberoperationen einzusetzen. Das Finanzministerium bemühte sich um Zugang. Die IT-Verantwortlichen des Bundes beklagten sich, das Weiße Haus lasse sie im Stich und gebe ihnen keine klaren Anweisungen dazu, wie sie Mythos zum Scannen von Regierungsnetzwerken einsetzen sollten.

Streit darüber, wer entscheidet

Anthropic fügte sich dem Verbot, fand sich damit jedoch keineswegs ab. „Wir glauben, dass es sich um ein Missverständnis handelt, und arbeiten daran, den Zugang so schnell wie möglich wiederherzustellen“, teilte das Unternehmen mit und entschuldigte sich bei seinen Kunden.

Ein Regierungsbeamter verriet, dass das Modell gesperrt bleiben solle, bis der Sicherheitsapparat des Staates gestärkt worden sei. Angeblich könnte dies nur einige Wochen dauern.

Damit stellt sich die Frage, wer eigentlich darüber entscheidet, wer Zugang zur leistungsfähigsten KI erhält. Die Europäische Kommission hatte bereits zuvor die Mitteilung erhalten, dass sie den Zugang zu Mythos bei der amerikanischen Regierung beantragen müsse. Die einzige nichtamerikanische Einrichtung mit Einblick in das Modell war das britische Sicherheitsinstitut für KI. Washington behält damit die Schlüssel zu einer Tür, hinter der Fähigkeiten liegen, die öffentliche Modelle bislang nicht bieten.

Und Anthropic? Das Unternehmen befindet sich nun in der Lage, etwas so Leistungsfähiges geschaffen zu haben, dass es nicht mehr selbst darüber entscheidet, wer es nutzen darf.

Quellen: reuters.com, theguardian.com und cnn.com