Das US-Militär bereitete sich in diesem Frühjahr inmitten der Spannungen im Nahen Osten darauf vor, ein chinesisches Frachtschiff aufzubringen. Bewaffnete Soldaten machten sich bereit, an Bord zu gehen, und Militärflugzeuge waren bereits in der Luft. Dann lasen die Verantwortlichen jedoch den Geheimdienstbericht, der die gesamte Aktion ausgelöst hatte, noch einmal gründlich durch. Es stellte sich heraus, dass ein Chatbot bei der Erstellung des Berichts geholfen und dabei falsch eingeschätzt hatte, was das Schiff tatsächlich transportierte. Der Fernsehsender CNN berichtete über den Fall und sprach mit vier Personen, die mit dem Vorfall vertraut waren.
Alarm wegen Nuklearkomponenten
In dem Bericht hieß es, das chinesische Schiff transportiere im Nahen Osten Komponenten für die Entwicklung von Atomwaffen. Eine solche Erkenntnis löste sofort Alarm aus. Die Führung begann mit den Vorbereitungen für eine Operation, bei der US-Soldaten das Schiff stoppen und durchsuchen sollten.
Zwei Quellen des Senders CNN zufolge bereiteten sich bewaffnete Einheiten bereits darauf vor, an Bord zu gehen. Zwei weitere Beteiligte bestätigten, dass sich Militärflugzeuge in der Luft befanden. Ein Einsatz gegen ein chinesisches Schiff war dabei keineswegs Routine. Wäre er durchgeführt worden, hätte er leicht eine bewaffnete Auseinandersetzung zwischen Washington und Peking auslösen können.
Überprüfung erfolgte in letzter Minute
Erst kurz vor dem geplanten Beginn der Aktion beschlossen die Beamten zu überprüfen, woher der Bericht eigentlich stammte. Sie stellten fest, dass er von einem Analysten des Kommandos für Spezialoperationen erstellt worden war und dass ihm künstliche Intelligenz bei der Ausarbeitung geholfen hatte. Der Chatbot hatte dabei das Material an Bord des Schiffes falsch identifiziert. Was das Schiff tatsächlich transportierte, konnte CNN nicht herausfinden. Eine der Quellen bezeichnete den Bericht jedoch als vollkommen falsch und fügte hinzu, dass wegen dieses Irrtums beinahe ein Krieg ausgebrochen wäre.
Der Analyst fragte den Chatbot nach geheimdienstlichen Informationen über die Ladung des Schiffes. Die zugrunde liegenden Daten stammten vom auf Hawaii ansässigen Pazifikkommando der US-Spezialkräfte. Das Programm tat anschließend genau das, worin sowohl die Stärken als auch die Risiken von Sprachmodellen liegen. Es verknüpfte Informationen aus allgemein zugänglichen Quellen mit geheimen Erkenntnissen aus elektronischer Überwachung und zog aus dieser Mischung eine Schlussfolgerung über die Ladung. Diese Schlussfolgerung war jedoch falsch.
Damit war die Angelegenheit noch nicht beendet. Der Analyst setzte die künstliche Intelligenz ein weiteres Mal ein, um seine Erkenntnisse in die Form eines standardmäßigen Geheimdienstberichts zu bringen. Dieser wurde anschließend über militärische Kanäle weitergeleitet. Gerade das Format des Textes spielte vermutlich eine entscheidende Rolle. Das Dokument sah wie jedes andere Geheimdienstmaterial aus, an das die Offiziere gewöhnt waren, sodass niemand sofort auf die Idee kam, seinen Inhalt infrage zu stellen. Auf den ersten Blick schien es sich um die übliche Arbeit von Geheimdienstmitarbeitern und nicht um eine Ausgabe von KI zu handeln.
Militär setzt künstliche Intelligenz ein
Es bleibt unklar, ob der Analyst einen allgemein verfügbaren Chatbot oder ein speziell für die US-Regierung entwickeltes Werkzeug verwendete. Einem ehemaligen hochrangigen Vertreter der US-Regierung zufolge, der mit den von Militär- und Geheimdienstanalysten genutzten Systemen vertraut ist, dürfte der Unterschied nicht groß sein. Interne Werkzeuge seien meist nur Kopien kommerzieller Produkte in neuer Aufmachung, erklärte er.
Der gesamte Vorfall ging nur deshalb glimpflich aus, weil sich jemand die zusätzliche Mühe einer Überprüfung machte. Dabei führen das US-Militär und die Geheimdienste künstliche Intelligenz praktisch überall ein. Sie soll riesige Datenmengen analysieren, bei der Auswahl von Angriffszielen helfen und alltägliche Aufgaben rund um Budgets, Logistik und Versorgung übernehmen. Die Technologie soll schnellere Entscheidungen darüber ermöglichen, wohin Soldaten entsandt oder welche Ziele angegriffen werden sollen. Zugleich wollen die US-Vertreter in diesem Bereich nicht hinter ihren Rivalen zurückfallen, zu denen sie vor allem China zählen.
Den Quellen des Senders CNN zufolge fehlen dem Militär jedoch klare Regeln, um zu verhindern, dass das Modell Informationen erfindet. Bislang hat auch niemand ein Musterverfahren ausgearbeitet, das gewährleisten würde, dass eine fehlerhafte Ausgabe der künstlichen Intelligenz nicht zum Tod von Zivilisten oder zu einem Angriff auf eigene Einheiten führt.
