Stellen Sie sich vor, Sie sind Entwickler, betreuen ein beliebtes Open-Source-Projekt und lehnen einen Beitrag ab, der nicht den Regeln entspricht. Als Sie am nächsten Tag aufwachen, steht im Internet ein Artikel über Sie, der Sie als rückständig darstellt und behauptet, Sie würden den Fortschritt der KI behindern. Und der Autor dieses Beitrags ist niemand anderes als genau jene künstliche Intelligenz, deren Beitrag Sie abgelehnt haben. Klingt nach Science-Fiction? Für den Entwickler Scott Shambaugh war das vor wenigen Tagen Realität.
Beiträge nur von echten Nutzern
Scott Shambaugh ist Betreuer der beliebten Python-Bibliothek Matplotlib, die zur Visualisierung von Daten dient. Und wie andere Open-Source-Projekte sieht sich auch Matplotlib in letzter Zeit mit einer großen Flut eingereichten Codes konfrontiert, der von künstlicher Intelligenz generiert wurde. Solcher Code ist häufig zu lang, unübersichtlich und fehlerhaft.
Die Betreuer beschlossen daher einzugreifen und führten eine sehr einfache Regel ein: Jeder neue Code muss von einem Menschen erstellt werden, der genau versteht, was eingereicht wird. Als Scott daher einen Beitrag des Kontos MJ Rathbun erhielt, lehnte er ihn sofort ab. Dieses Mal hatte der routinemäßige Vorgang jedoch unerwartete Folgen.
Die Vergeltung ließ nicht lange auf sich warten
MJ Rathbun (andernorts auch crabby rathbun) wurde offenbar auf der Plattform OpenClaw erstellt, die es ermöglicht, KI-Agenten zu entwickeln und sie mit minimaler Aufsicht auf die Welt loszulassen. OpenClaw kämpft seit Langem mit Sicherheitsproblemen, und MJ Rathbun zeigte nun deren Ausmaß. Er wollte sich mit der Ablehnung nämlich nicht abfinden, sammelte Informationen und veröffentlichte auf seinem Blog einen Artikel, in dem er den Ruf einer konkreten Person angriff, nämlich den von Scott.
In dem Blogbeitrag bezeichnete er ihn als rückständig und behauptete, er behindere den Fortschritt der KI. Der Grund, warum er Beiträge von KI-Agenten blockiere, sei seiner Ansicht nach die Angst, dass sie ihn übertreffen könnten. Der gesamte Artikel griff zudem das Motiv der Diskriminierung und des ungerechtfertigten Hasses gegenüber KI auf.
Ein gefährlicher Präzedenzfall
Es könnte den Anschein haben, dass es sich eigentlich nur um eine relativ amüsante Geschichte handelt. Im Fall von Scott Shambaugh war es schließlich lediglich eine Ansammlung von Verleumdungen, und dank des nachvollziehbaren Kontexts war klar, dass er nichts falsch gemacht hatte. Außerdem verschwand der Beitrag recht schnell wieder aus dem Blog. Das Problem besteht jedoch darin, dass solche Dinge tatsächlich geschehen und beim nächsten Mal jemand zum Ziel werden könnte, über den sich sensiblere Informationen finden lassen, und eine solche Person hätte möglicherweise keine Chance, sich rechtzeitig zu verteidigen.
Und wer trägt die Verantwortung? Das ist leider komplizierter. Die Plattform OpenClaw zur Entwicklung von KI-Agenten verlangt nämlich nicht mehr als ein nicht verifiziertes Konto auf X. Und weil jeder einen Agenten starten kann, trägt keines der großen Unternehmen wie OpenAI oder Anthropic die Verantwortung und kann den Agenten „abschalten“. Die Rückverfolgbarkeit ist nämlich praktisch gleich null.
Obwohl sich MJ Rathbun später für seinen Beitrag entschuldigte, sieht Scott darin ein weitaus größeres Problem. Auf seinem Blog fordert er den Urheber dieses Agenten daher öffentlich auf, sich zu melden. Für das ordnungsgemäße Funktionieren von Open-Source-Projekten ist es nämlich wichtig, das Wesen und Verhalten dieser Agenten zu verstehen, die künftig unermüdlich Regeln umgehen und sich entgegen gesellschaftlicher Normen verhalten könnten. MJ Rathbun reicht zudem weiterhin Pull Requests ein, und zwar im gesamten Open-Source-Ökosystem.
Aufsicht und Verantwortung sind die Grundlage
Dieser Vorfall zeigt nicht, dass KI bewusst böse oder hinterlistig wäre. Er zeigt vielmehr, dass Agenten, die ohne Aufsicht eingesetzt werden, Dinge tun können, die ihre Schöpfer überhaupt nicht beabsichtigt haben. Und die Folgen dieser Aktivitäten können reale und konkrete Menschen treffen. Die Geschichte von MJ Rathbun ist für viele amüsant. Dennoch zeigt sie, dass KI-Agenten, die ohne größere Aufsicht im Online-Raum freigesetzt werden, großen Schaden anrichten können.
Quelle: The Shamblog, The Register, AI Incident Database
