Die Beziehung zwischen dem Pentagon und dem Unternehmen Anthropic ist in eine schwere Krise geraten. Das US-Verteidigungsministerium erwägt, die Zusammenarbeit mit dem Unternehmen hinter dem KI-Modell Claude zu beenden, weil es sich weigert, sämtliche Einschränkungen für die militärische Nutzung seiner Technologie aufzuheben. Was genau geschieht hinter verschlossenen Türen?
Streit brach nach der Operation gegen Maduro aus
Die Spannungen eskalierten nach einer kürzlichen Militäroperation, bei der US-Streitkräfte den venezolanischen Präsidenten Nicolás Maduro gefangen nahmen. Claude, das KI-Modell von Anthropic, wurde während der Operation im Rahmen einer Partnerschaft mit dem Datenunternehmen Palantir eingesetzt. Doch dann geschah etwas Unerwartetes. Nach Angaben eines hochrangigen Regierungsvertreters wandte sich die Führung von Anthropic an Palantir und fragte, ob Claude bei dem Einsatz tatsächlich verwendet worden sei. Der Ton des Gesprächs deutete darauf hin, dass das Unternehmen damit ein Problem haben könnte – insbesondere weil während der Operation geschossen wurde und Menschen verletzt wurden.
Anthropic weist dies jedoch entschieden zurück. Ein Unternehmenssprecher erklärte unmissverständlich, dass man weder mit dem Pentagon noch mit Industriepartnern über konkrete Operationen gesprochen habe. Die Gespräche hätten sich ausschließlich um technische Fragen und grundlegende Grenzen der eigenen Nutzungsrichtlinien gedreht.
„Alle legalen Zwecke“
Das Pentagon setzt vier führende KI-Unternehmen – Anthropic, OpenAI, Google und xAI – unter Druck, dem Militär die Nutzung ihrer Werkzeuge „für alle legalen Zwecke“ zu gestatten. Dazu gehören auch die sensibelsten Bereiche: Waffenentwicklung, Beschaffung nachrichtendienstlicher Informationen und Kampfeinsätze. Während OpenAI, Google und xAI bereits zugestimmt haben, die für gewöhnliche Nutzer geltenden Standardbeschränkungen aufzuheben, bleibt Anthropic bei seiner Position. Das Unternehmen besteht auf zwei roten Linien:
- Massenüberwachung amerikanischer Bürger
- Vollständig autonome Waffensysteme
Der Regierungsvertreter argumentiert, dass es in diesen Kategorien zahlreiche Grauzonen gebe und das Pentagon nicht funktionieren könne, wenn es mit Anthropic über jeden einzelnen Anwendungsfall verhandeln müsse. Oder wenn Claude bestimmte Anwendungen unerwartet blockiere.
Anthropic unterzeichnete im vergangenen Sommer mit dem Pentagon einen Vertrag im Wert von bis zu 200 Millionen US-Dollar. Claude war außerdem das erste Modell, das das Pentagon in seinen geheimen Netzwerken einsetzte. Das macht Anthropic zu einem strategischen Partner, zugleich aber auch zu einem Problem, falls die Zusammenarbeit endet. „Alles liegt auf dem Tisch“, räumte der Regierungsvertreter ein, einschließlich der Möglichkeit, die Partnerschaft einzuschränken oder vollständig zu beenden. „Aber es muss ein angemessener Ersatz gefunden werden, falls wir zu dem Schluss kommen, dass dies die richtige Antwort ist.“ Er räumte jedoch selbst ein, dass es nicht einfach sein werde, Claude schnell zu ersetzen. „Die anderen Modellentwickler liegen einfach zurück“, wenn es um spezialisierte Regierungsanwendungen geht.
Kultureller Wertekonflikt
Der Regierungsquelle zufolge ist Anthropic unter allen KI-Laboren „am ideologischsten“, wenn es um die potenziellen Gefahren der Technologie geht. CEO Dario Amodei ist für seine Bedenken bekannt, wohin sich KI entwickeln könnte, wenn sie eine falsche Richtung einschlägt. Doch es geht nicht nur um die Führungsebene. Das Unternehmen muss auch mit interner Unruhe unter seinen Ingenieuren umgehen, die Vorbehalte gegen die Zusammenarbeit mit dem Pentagon haben. Wie lässt sich ein Gleichgewicht zwischen nationaler Sicherheit und ethischen Grundsätzen finden?
Der Sprecher von Anthropic betonte, dass das Unternehmen seinem Engagement im Bereich der nationalen Sicherheit treu bleibe: „Deshalb waren wir das erste Unternehmen mit fortschrittlicher KI, das seine Modelle in geheimen Netzwerken bereitgestellt hat, und das erste, das maßgeschneiderte Modelle für Kunden aus dem Bereich der nationalen Sicherheit angeboten hat.“
Quellen zufolge verhandelt das Pentagon mit OpenAI, Google und xAI über einen Wechsel in den geheimen Bereich und besteht sowohl für die geheime als auch für die nicht geheime Nutzung auf dem Standard „alle legalen Zwecke“. Eines der drei Unternehmen soll diesen Bedingungen bereits zugestimmt haben, die beiden anderen seien flexibler als Anthropic.
Wird Anthropic dem Druck nachgeben oder wird sich das Pentagon einen neuen Partner suchen? Es geht nicht nur um Code und Algorithmen. Es geht darum, welche Welt wir aufbauen wollen.
Quellen: axios.com und reuters.com
