Autonome Waffen, Massenüberwachung und KI: OpenAI schließt Vertrag mit dem Pentagon

Die Trump-Regierung wies alle Bundesbehörden an, die Nutzung von Produkten des Unternehmens Anthropic unverzüglich einzustellen. Noch am selben Abend gab Sam Altman, Chef von OpenAI, bekannt, dass sein Unternehmen gerade einen Vertrag mit dem Pentagon geschlossen habe. Das Timing? Gelinde gesagt verblüffend.

Anthropic und seine roten Linien

Monate bevor die Situation eskalierte, führte Anthropic schwierige Verhandlungen mit dem Pentagon. Das Verteidigungsministerium wollte ohne Ausnahmen Zugriff auf die künstliche Intelligenz Claude für „alle rechtmäßigen Zwecke“. Anthropic bestand jedoch auf zwei Bedingungen: keine Massenüberwachung amerikanischer Bürger und keine vollständig autonomen tödlichen Waffen ohne menschliche Aufsicht.

Klingt vernünftig, oder? Das Pentagon sah das jedoch anders. Am Mittwochabend unterbreitete es Anthropic sein „letztes und endgültiges Angebot“. CEO Dario Amodei antwortete am Donnerstag, dass das Unternehmen diese Vereinbarung „mit gutem Gewissen nicht annehmen kann“.

Am Freitagnachmittag bezeichnete Trump Anthropic auf seinem Netzwerk Truth Social als ein Unternehmen voller „linker Verrückter“ und ordnete eine sechsmonatige Übergangsfrist zur Beendigung der Zusammenarbeit an. Verteidigungsminister Pete Hegseth ging noch weiter: Er stufte Anthropic als Sicherheitsrisiko in der Lieferkette ein. Diese Bezeichnung wird üblicherweise für ausländische Gegner verwendet, nicht für amerikanische Unternehmen. Anthropic bezeichnete dies als „beispiellosen Schritt“ und kündigte an, sich gerichtlich dagegen zu wehren.

OpenAI legte eine eigene Vereinbarung vor

Wenige Stunden nach Trumps Angriff veröffentlichte Altman auf X eine Nachricht: OpenAI habe sich mit dem Pentagon geeinigt. Die Modelle des Unternehmens werden in geheimen Netzwerken des Verteidigungsministeriums eingesetzt. Mehr noch: Altman behauptete, die Vereinbarung enthalte genau jene Garantien, für die Anthropic vergeblich gekämpft hatte. „Zwei unserer wichtigsten Sicherheitsgrundsätze sind das Verbot einer flächendeckenden Überwachung im Inland und die menschliche Verantwortung für den Einsatz von Gewalt, einschließlich autonomer Waffensysteme“, schrieb Altman. Das Pentagon stimme diesen Grundsätzen angeblich zu, und sie seien direkt im Vertrag verankert.

OpenAI fügte außerdem eine dritte rote Linie hinzu, die Anthropic nicht hatte: ein Verbot automatisierter Entscheidungen mit weitreichenden Konsequenzen, etwa durch Sozialkreditsysteme. Altman selbst räumte jedoch ein, dass die Vereinbarung „definitiv überstürzt“ gewesen sei und dass „die Außenwirkung nicht gut ist“. Warum hat er sie dann unterzeichnet? „Wir wollten die Situation wirklich beruhigen und hielten das Angebot für gut“, erklärte er auf X.

Was genau der Vertrag besagt und wie die Garantien funktionieren

OpenAI erläuterte in seinem Blogbeitrag, warum das Unternehmen seine Vereinbarung für sicherer hält als jeden früheren Vertrag über den Einsatz künstlicher Intelligenz in einer geheimen Umgebung.

Der Schlüssel ist ein mehrschichtiger Ansatz. Die Modelle werden ausschließlich über die Cloud bereitgestellt, nicht auf Edge-Geräten. Dadurch ist ihre direkte Verbindung mit autonomen Waffensystemen technisch unmöglich. OpenAI behält die vollständige Kontrolle über seine Sicherheitsinfrastruktur, und sicherheitsüberprüfte Mitarbeiter des Unternehmens werden direkt in den Betrieb eingebunden. Darüber hinaus verweist der Vertrag ausdrücklich auf die heute geltenden Gesetze zur Überwachung und zu autonomen Waffen, sodass selbst eine mögliche künftige Gesetzesänderung keine Umgehung dieser Vorgaben ermöglichen würde.

Die Kritiker schwiegen jedoch nicht. Der Analyst Mike Masnick wies darauf hin, dass der Vertrag auf die Executive Order 12333 verweist, die die NSA in der Vergangenheit zur Überwachung von außerhalb der USA abgefangener Kommunikation nutzte, selbst wenn diese amerikanische Bürger betraf. OpenAI wies dies als Missverständnis zurück: „Die Bereitstellung über eine Cloud-API stellt sicher, dass unsere Modelle nicht direkt in Waffensysteme oder Sensoren integriert werden können“, erklärte Katrina Mulligan, Leiterin der Partnerschaften im Bereich nationale Sicherheit.

Reaktionen der Mitarbeiter und des Marktes: Wer hat gewonnen?

Ironischerweise reagierte der Markt anders, während OpenAI den Vertragsabschluss feierte. Die Claude-App von Anthropic stieg im amerikanischen App Store auf den zweiten Platz – und zwar bereits am Samstag nach Bekanntgabe der Vereinbarung. Offenbar honorierten die Menschen, dass Anthropic seinen Prinzipien treu geblieben war.

Mehr als 60 Mitarbeiter von OpenAI und über 300 Mitarbeiter von Google unterzeichneten noch vor Abschluss der Vereinbarung einen offenen Brief zur Unterstützung von Anthropic. In dem Brief hieß es warnend: „Das Pentagon verhandelt mit Google und OpenAI, um das zu erreichen, was Anthropic abgelehnt hat. Es versucht, jedes Unternehmen durch die Angst zu spalten, dass das jeweils andere nachgeben könnte.“

OpenAI bezog zur Einstufung von Anthropic als Sicherheitsrisiko klar Stellung: Das Unternehmen lehnt diesen Schritt ab und teilte dies der Regierung auch mit. Altman forderte das Pentagon zudem auf, allen Unternehmen der Branche dieselben Bedingungen anzubieten, und äußerte den Wunsch, dass die Situation mit Anthropic einvernehmlich gelöst werde.

Quellen: theguardian.com und techcrunch.com