Kämpfer der nigerianischen Gruppe Boko Haram nutzten Chatbots der größten Technologieunternehmen, um sich bei der Herstellung von Bomben, der Planung von Angriffen und der Lösung von Problemen direkt während der Kämpfe beraten zu lassen. Das geht aus einer Studie der Universität Cambridge hervor, über die der Fernsehsender Al Jazeera berichtete. Die Wissenschaftler befragten siebenundzwanzig ehemalige Mitglieder zweier Fraktionen der Gruppe, des als ISWAP bekannten Ablegers des ISIL in Westafrika und der Gruppierung JAS. Viele von ihnen berichteten, dass ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google, Elon Musks Grok, Meta AI und auch das chinesische DeepSeek für sie vor, während und nach Angriffen eine gängige Quelle technischer und militärischer Ratschläge waren. Es gibt nichts, worauf wir keine Antwort bekommen hätten, sagte einer der ehemaligen ISWAP-Kommandeure den Forschern.
Schulung mit Laptops und Projektor
Der Studie zufolge reisten Personen zu den Aufständischen in die von ihnen kontrollierten Gebiete im Nordosten Nigerias, um ranghohen Mitgliedern den Umgang mit künstlicher Intelligenz beizubringen. Ausgewählte Kämpfer wurden in einem Raum vor Laptops gesetzt, ein Projektor wurde eingeschaltet und auf einer großen Leinwand wurde ihnen gezeigt, wie sie den Chatbots Fragen stellen und die Schutzmechanismen umgehen konnten, die verhindern sollen, dass diese gefährliche Anfragen beantworten. Weiße Männer kamen und brachten es uns bei, erinnerte sich einer der ehemaligen Kommandeure. Sie riefen die wichtigsten Leute in einem Raum zusammen und zeigten mit dem Projektor, wie es funktioniert.
Den Aussagen zufolge stellten die Ausbilder auch die Ausrüstung bereit. Die Laptops wurden mit Werkzeugen zur Verschlüsselung und zum Schutz der Privatsphäre geliefert, jemand richtete Konten für die Mitglieder der Gruppe ein und bezahlte Abonnements bei gleich mehreren Diensten. Die Befragten erklärten wiederholt, dass die Ausbildung von der übergeordneten ISIL-Bewegung organisiert worden sei.
Dabei blieb es nicht dabei, dass einzelne Kämpfer gelegentlich etwas in ChatGPT nachschlugen. Der Studie zufolge richteten beide Fraktionen eigene, auf künstliche Intelligenz spezialisierte Einheiten ein, die mit Fachleuten besetzt waren. Darunter befanden sich Ingenieure, Waffenschmiede und Sprengstoffhersteller. Ein ehemaliger JAS-Kommandeur beschrieb eine Gruppe von dreiundzwanzig Personen, die in einem mit Solarstrom versorgten Raum arbeiteten, Anfragen beantworteten, Informationen verarbeiteten und Kommandeure schulten, die sich um einen einzigen Laptop versammelt hatten.
Der Chatbot neben der Werkstatt
Antonia Juelich, die Autorin der Cambridge-Studie, erklärte gegenüber Al Jazeera, dass etwa zehn der siebenundzwanzig Befragten über den Einsatz von KI im Zusammenhang mit Sprengstoffen gesprochen hätten. Dabei ging es etwa um den Versuch, die Zerstörungskraft von Sprengsätzen zu erhöhen oder Sprengstoff aus nicht explodierter Munition zu gewinnen.
Beunruhigt habe sie dabei etwas anderes als die bloße Tatsache, dass die Kämpfer überhaupt an Informationen über Waffen gelangten. Solche Informationen sind seit vielen Jahren in verschiedenen Handbüchern und im Internet verfügbar. Künstliche Intelligenz kann jedoch auf die konkrete Situation reagieren, in der sich diese Menschen gerade befinden. Statt einer allgemeinen Anleitung konnten sie ihr beschreiben, was ihnen zur Verfügung stand, Rückfragen stellen und mit einer weiteren Frage zurückkehren, wenn sie irgendwo nicht weiterkamen. Damit stand ihnen im Grunde rund um die Uhr ein Experte zur Verfügung, der genau auf ihr Problem einging. Die Hersteller von Sprengsätzen sollen den Laptop direkt neben sich aufgestellt und jedes Mal den Chatbot konsultiert haben, wenn sie beim Zusammenbau eines Geräts auf Schwierigkeiten stießen.
Einen besonders düsteren Kontext liefert ein älterer, in dem Bericht beschriebener Vorfall. Die Kämpfer waren sich damals uneinig, wie sie mit nicht explodierter Munition umgehen sollten. Nachdem sie sich ihr genähert und begonnen hatten, sie zu manipulieren, explodierte der Sprengkörper und tötete etwa vierzig Menschen. Ehemalige Mitglieder erklärten, dass die Gruppe sich bei ähnlichen Situationen nun an die künstliche Intelligenz wende. Den Aussagen zufolge half ihnen die KI auch dabei, handelsübliche Drohnen so umzubauen, dass sie einen Sprengsatz tragen und abwerfen konnten.
„Frag Grok“
Den Aussagen zufolge kamen Chatbots in nahezu jeder Phase der Kämpfe zum Einsatz. In einem Fall zog ein Kämpfer mit einer an der Brust befestigten Kamera in den Einsatz und übertrug die Bilder ins Lager. Der Kommandeur lud die Aufnahmen bei ChatGPT hoch, ließ die Situation bewerten und schickte den Männern an der Front neue Anweisungen.
Auch wenn der Gruppe unbekannte Waffen in die Hände fielen, kam künstliche Intelligenz zum Einsatz. Als die Kommandeure einen der sogenannten KI-Spezialisten fragten, wie die neu erbeuteten Waffen zu bedienen seien, antwortete er ihnen: „Frag Grok“.
Eine andere Aussage beschreibt eine Situation, in der Regierungstruppen rund um ihre Stützpunkte Gräben aushoben, um Angriffe von Motorradfahrern zu verhindern. Die Kämpfer hätten in Filmen gesehen, wie Motorräder über Hindernisse sprangen, und wollten dies nachahmen, weshalb sie einen Chatbot um Rat fragten. Nach Angaben eines ehemaligen Kommandeurs kamen bei wiederholten Versuchen achtzehn Männer ums Leben, bevor es schließlich acht von ihnen schafften und sie bei einem weiteren Angriff die Gräben überwanden.
Die Gruppe ließ sich auch dazu beraten, wie viele Männer sie in den Kampf schicken sollte. Ein ehemaliges ISWAP-Mitglied beschrieb eine Operation, bei der rund zweihundert Männer eingesetzt wurden und sechzig von ihnen ums Leben kamen. Die Kommandeure hätten anschließend gefragt, ob kleinere und besser eingespielte Gruppen nicht effektiver wären. Auch nach den Kämpfen nutzten sie Chatbots, indem sie die angewandte Taktik beschrieben und wissen wollten, warum der Einsatz gescheitert war. Für die Analyse sollen sie auch Kameraaufnahmen hochgeladen haben.
Es ist, als würde man den Begrenzer ausbauen
Die Materialien, die Al Jazeera exklusiv zur Verfügung gestellt wurden, zeigen, dass sich ähnliche Versuche nicht nur auf Nigeria beschränken. Forscher der Organisation Tech Against Terrorism erhielten Zugang zu einem geschlossenen Technikforum von ISIL-Anhängern, in dem Nutzer Ratschläge darüber austauschten, wie sie an Informationen über Waffen gelangen und die Sicherheitsvorkehrungen von Chatbots umgehen konnten. Es ist, als würde man den Geschwindigkeitsbegrenzer aus einem Auto ausbauen, schrieb einer der Nutzer. Das Auto fährt immer noch, ist jetzt aber nützlicher und fährt viel schneller, als es der Hersteller vorgesehen hat.
Lucas Webber von Tech Against Terrorism erklärte, dass die Debatten über sogenanntes Jailbreaking, also Versuche, Modelle dazu zu bringen, ihre eigenen Schutzmechanismen zu ignorieren, zunähmen. Das ist nur die Spitze des Eisbergs, sagte er.
Juelich räumt ein, dass Regeln für künstliche Intelligenz nur schwer festzulegen sind, weil viele Anfragen einen völlig legitimen Hintergrund haben. Auch Wissenschaftler oder Journalisten stellen Fragen zur militärischen Taktik. Eine Bitte um Hilfe bei der Herstellung einer Bombe verstoße ihrer Ansicht nach jedoch eindeutig gegen die Nutzungsbedingungen der Unternehmen und müsse von den Sicherheitsfiltern erkannt werden. Sie umgehen die genannten Beschränkungen, sagt sie und fügt hinzu, dass die Branche angesichts der wachsenden Fähigkeiten der Modelle strengere Beschränkungen und eine stärkere Aufsicht benötigen werde.
Die großen Unternehmen erklären, über Maßnahmen gegen Missbrauch zu verfügen. OpenAI verbietet die Nutzung seiner Systeme für Terrorismus, Gewalt und die Entwicklung von Waffen, Anthropic und Meta geben an, gefährliche Anfragen mithilfe von Klassifikatoren und weiteren Schutzmechanismen zu erkennen und zu blockieren, während xAI Versuche untersagt, seine Schutzvorkehrungen zu umgehen. Al Jazeera bat OpenAI, Anthropic, Google, xAI, Meta und DeepSeek um Stellungnahmen.
Die Gespräche mit ehemaligen Mitgliedern von Boko Haram beziehen sich dabei vor allem auf die Jahre 2023 und 2024. Gerade deshalb hält Juelich die Erkenntnisse für beunruhigend, denn die Technologie hat sich seitdem sehr stark weiterentwickelt. Sie fragt sich, wozu dieselben Menschen mit den heute verfügbaren Modellen in der Lage wären. Ich mache mir Sorgen darüber, wohin das führt, sagt sie.
