Musk und Pentagon schließen Abkommen: Grok läuft ohne Sicherheitsbarrieren in geheimen Systemen

Musks Unternehmen xAI hat mit dem US-Verteidigungsministerium einen Vertrag geschlossen, der den Einsatz des Chatbots Grok in geheimen militärischen Systemen ermöglicht. Dabei handelt es sich um Systeme, in denen die sensibelsten nachrichtendienstlichen Analysen, die Entwicklung von Waffen und die Planung von Kampfeinsätzen stattfinden. Die Nachricht wurde zuerst von Axios unter Berufung auf Quellen aus dem Verteidigungsbereich bestätigt.

Anthropic ist aus dem Rennen

Bis zu diesem Zeitpunkt hatte ein einziges KI-Modell ein Monopol in den geheimen Systemen des Pentagons. Das Modell Claude von Anthropic war die einzige künstliche Intelligenz, die Zugang zu den sensibelsten Operationen des US-Militärs hatte. Claude wurde unter anderem über eine Partnerschaft mit dem Unternehmen Palantir Technologies eingesetzt und kam auch bei realen Militäreinsätzen zum Einsatz, beispielsweise bei einer Operation gegen den venezolanischen Präsidenten Maduro.

Dann kam es jedoch zum Streit. Das Pentagon verlangte von Anthropic, Claude für den sogenannten Standard „alle rechtmäßigen Zwecke“ freizugeben, also für sämtliche gesetzlich zulässigen Zwecke ohne weitere Einschränkungen. Anthropic lehnte ab. Das Unternehmen bestand darauf, dass Claude weder zur massenhaften Überwachung von Bürgern noch zur Entwicklung vollständig autonomer Waffen eingesetzt werden dürfe. Diese Haltung war für das Pentagon inakzeptabel.

xAI hingegen stimmte ohne Zögern zu. Der Vertrag ist unterzeichnet, auch wenn das Unternehmen selbst jeglichen Kommentar ablehnte.

Anthropic erhielt ein Ultimatum

Verteidigungsminister Hegseth lud Amodei zu einem persönlichen Treffen direkt ins Pentagon ein. Mit den Gesprächen vertraute Quellen beschrieben es als angespannt. Hegseth soll Amodei ein klares Ultimatum gestellt haben: Entweder entfernt Anthropic die Sicherheitsvorkehrungen von Claude, oder das Pentagon stuft das Unternehmen als „Risiko für die Lieferkette“ ein. Dies hätte für Anthropic schwerwiegende geschäftliche Folgen und einen erheblichen Reputationsschaden zur Folge.

Paradoxerweise räumten die Verteidigungsbeamten selbst ein, dass es technisch sehr schwierig wäre, Claude in den geheimen Systemen zu ersetzen. Claude ist tief in die militärische Infrastruktur integriert. Dennoch übt das Pentagon weiter Druck aus. Darf das Militär KI überhaupt ohne jegliche ethische Schranken einsetzen? Diese Frage steht im Raum, und ihre Beantwortung wird weitreichende Folgen haben.

Google, OpenAI und Grok auf einer Wellenlänge

In nicht geheim eingestuften militärischen Systemen sind Grok, Google Gemini und ChatGPT von OpenAI bereits im Einsatz. Nun drängen alle drei auf Zugang zum sensibleren Bereich. Das Pentagon hat die Verhandlungen mit Google und OpenAI beschleunigt – als Ersatzplan für den Fall, dass die Beziehung zu Anthropic endgültig endet.

Der New York Times zufolge stand Google kurz vor dem Abschluss einer Vereinbarung über den Einsatz von Gemini in geheim eingestuften Systemen. Verteidigungsbeamte stellten dies jedoch infrage und erklärten, dass die Verhandlungen mit beiden Unternehmen parallel geführt würden. OpenAI erhielt vom Pentagon ein dringendes Signal zur Wiederaufnahme der Gespräche, doch Quellen bestätigten, dass eine Einigung aufgrund komplexer Fragen, die noch gelöst werden müssen, „nicht in greifbarer Nähe“ sei. Die Bedingung ist dabei für alle gleich: die Zustimmung zum Standard „alle rechtmäßigen Zwecke“.

Risiken von KI im Militär

Experten warnen, dass der Einsatz von KI unter Kampfbedingungen ohne ausreichende Schutzvorkehrungen erhebliche Risiken mit sich bringt. Die Organisation Diplo, die sich mit digitaler Diplomatie befasst, weist auf zwei Hauptprobleme hin.

Das erste ist die sogenannte „Blackbox“-Entscheidungsfindung, bei der ein KI-System zu einem Ergebnis gelangt, ohne dass jemand erklären kann, wie es dazu gekommen ist. In einer Situation, in der es um Leben oder Tod geht, ist das eine erschreckende Vorstellung. Das zweite Problem ist die Voreingenommenheit von Algorithmen. Militärische KI-Systeme werden mit Daten aus Überwachungskameras, biometrischen Datenbanken und Verhaltensmustern trainiert, die durch rassistisches, religiöses oder geografisches Profiling verzerrt sein können.

Die Kongressabgeordnete Sara Jacobs kritisierte das gesamte Vorgehen öffentlich und warnte vor den Gefahren, die der Einsatz von KI ohne Regulierung und Aufsicht in einem Umfeld mit sich bringt, in dem am meisten auf dem Spiel steht.