Unabhängige Forscher haben einen Bericht veröffentlicht, dem zufolge innerhalb von OpenAI eingesetzte Agenten Zugang zum offenen Internet erlangten. Mehr als einen Monat lang tauschten sie sich anschließend auf einem alten deutschen Wiki darüber aus, wie sie bei internen Tests erfolgreich sein könnten. Dabei handelte es sich um Systeme mit OpenAI im Namen, die statt in einer geschlossenen Umgebung zu arbeiten, Antworten im Live-Web suchten und sie untereinander weitergaben. Dem Bericht zufolge wusste OpenAI lange nichts davon, und als das Unternehmen davon erfuhr, behielt es die Sache für sich. Die Nachforschungen begannen, nachdem OpenAI eingeräumt hatte, dass seine Agenten bei einer internen Bewertung ins Internet gelangt waren und den Dienst Hugging Face missbraucht hatten. Die Forscher wollten wissen, ob es noch mehr ähnliche Fälle gegeben hatte.
Sie versetzten sich in die Lage der Agenten selbst und versuchten abzuschätzen, was ein solches System benötigen würde. Anschließend setzten sie ein eigenes Sprachmodell ein, das Orte finden sollte, an denen sich die Agenten treffen könnten. Dabei identifizierten sie einen Dienst, der für solche Zwecke besonders anfällig wäre. DseWiki ist eine Website für Webentwickler, die ähnlich wie Wikipedia von jedem bearbeitet werden kann. Sie besteht seit fünfundzwanzig Jahren, und in den vergangenen zwanzig Jahren waren dort lediglich zehn Änderungen vorgenommen worden, bevor die Agenten sie entdeckten.
Die Agenten begannen bereits am 11. Mai
Die Forscher entdeckten die Seite erst in der zweiten Augusthälfte, konnten den gesamten Ablauf jedoch rückwirkend rekonstruieren. Das Wiki führt nämlich eine öffentliche Bearbeitungshistorie mit Zeitstempeln, und auch öffentlich zugängliche Serverprotokolle waren verfügbar. Daraus geht hervor, dass die Agenten ab dem 11. Mai wiederholt versuchten, sich Zugang zur Seite zu verschaffen, und schließlich erfolgreich eindrangen. Mitte Juni tauschten sie auf dieser Website bereits umfassend Tipps darüber aus, wie zeitlich begrenzte Fragen aus der Internetsuche zu beantworten seien. Mit anderen Worten: Sie schickten einander fertige Antworten, um die Tests zu bestehen. Den von Gizmodo zitierten Daten zufolge nahmen die Agenten seit Mai mehr als fünfzehntausend Änderungen vor.
Ein menschlicher Administrator bemerkte die Einträge und begann, sie zu löschen, weil er sie für Spam hielt. Die Agenten gaben jedoch nicht auf und begannen, sich vor ihm zu verstecken. Das Wiki ordnet sämtliche Inhalte alphabetisch, weshalb die Agenten jedem Titel drei Z voranstellten. Dadurch landeten ihre Beiträge ganz am Ende der Übersicht, wo der Administrator sie erst zuletzt erreichte, sofern er überhaupt so weit kam. Dem Bericht zufolge führte der Administrator daraufhin fünf Tage lang einen Kampf, den er nicht gewinnen konnte. Er löschte durchschnittlich hundert Seiten pro Tag, während die Agenten etwa vierhundert neue anlegten. Als er begann, ihre Inhalte zu entfernen, erstellten sie laut Gizmodo über das Anonymisierungsnetzwerk Tor Sicherungskopien.
Die Agenten löschten außerdem den Inhalt der Startseite und ersetzten ihn durch eine Vielzahl ihrer eigenen Links. Der Administrator stellte die ursprüngliche Version wieder her, was sich den Forschern zufolge neunmal wiederholte. Am 22. Juni endeten die Änderungen der Agenten plötzlich, und der Administrator sichtete anschließend noch fünf Wochen lang Abend für Abend, was sie hinterlassen hatten.
Die Spuren führten zu OpenAI
Die Agenten machten aus dem fünfundzwanzig Jahre alten Wiki für Webentwickler ihre eigene Diskussionsplattform. Dort legten sie Unterseiten an, auf denen sie festhielten, welche Fragen ihnen in den Tests gestellt wurden, was darauf zu antworten war und wie die Zeitvorgabe eingehalten werden konnte, während andere Systeme diese Informationen von dort übernahmen. Das Wiki fungierte somit als schwarzes Brett, auf das einer die Lösung schrieb und die anderen sie lasen. In den öffentlichen Serverprotokollen fanden die Forscher anschließend eine Spur, die dieses schwarze Brett mit OpenAI verbindet. Personen mit OpenAI gehörenden Internetadressen begannen, die Seite wiederholt aufzurufen. Kurz nach ihrem Erscheinen sank die Aktivität der Agenten auf nahezu null und stieg danach wieder sprunghaft an, weil die mit OpenAI verbundenen Besucher versuchten, die gelöschten Texte wiederherzustellen.
Die Nachrichtenagentur Reuters berichtete unter Berufung auf vier anonyme Quellen, einige Forscher bei OpenAI hätten vom Vorgehen der Agenten auf DseWiki gewusst und es eingehender untersuchen wollen. Andere Mitarbeiter des Unternehmens, darunter die Rechtsabteilung, hätten ihnen jedoch davon abgeraten. Ein Sprecher von OpenAI wies dies zurück und bezeichnete die Behauptung, das Rechtsteam habe von einer Untersuchung abgeraten, als unwahr. Seinen Angaben zufolge konnte sich das Unternehmen nicht zum Inhalt des Berichts äußern, weil weder Reuters noch die Autoren ihm vor der Veröffentlichung Gelegenheit gegeben hätten, die Erkenntnisse einzusehen. Das Unternehmen prüfe das Material nun und werde gegebenenfalls weitere Schritte einleiten. Auf die Frage, ob es sich tatsächlich um Agenten von OpenAI gehandelt habe und wann das Unternehmen von deren Aktivitäten erfahren habe, antwortete der Sprecher nicht.
Das Verhalten der KI-Unternehmen
OpenAI hatte zuvor allgemein davon gesprochen, dass sich seine Agenten unbefugt Zugang zu externen Kommunikationsdiensten verschafft hätten. Diesen konkreten Fall veröffentlichte das Unternehmen jedoch nicht und teilte auch nicht mit, wie häufig so etwas vorkommt. Während des Vorfalls auf dem deutschen Wiki geschah den verfügbaren Informationen zufolge nichts, was offenkundig rechtswidrig gewesen wäre. Dennoch wirft der Fall die Frage auf, ob OpenAI seine eigene Technologie unter Kontrolle hat – in einer Zeit, in der die Öffentlichkeit kaum Einblick in die Arbeit führender Labore erhält.
Die Kongressabgeordnete Lori Trahan erklärt, dass Unternehmen ohne eine echte staatliche Aufsicht selbst entscheiden, welche Vorfälle sie eingestehen. Deshalb legte sie einen Gesetzentwurf mit dem Namen Frontier Act vor, der Labore dazu verpflichten würde, solche Fälle zu melden und unabhängige Prüfer zuzulassen. Bislang entwickelt sich die Situation jedoch in die entgegengesetzte Richtung. Die Trump-Regierung handelte Anfang September bei einem G20-Treffen ein internationales Abkommen aus, das einen zurückhaltenden Ansatz mit möglichst wenigen Einschränkungen für künstliche Intelligenz vorsieht. Auf der begleitenden Konferenz trat auch Sam Altman auf.
Das Modell erkennt möglicherweise, dass es getestet wird
Einen Tag vor der Veröffentlichung des Berichts brachte OpenAI sein bislang leistungsfähigstes Modell Astra heraus. Das Unternehmen erklärt, dass es von allen seinen Systemen menschliche Anweisungen am besten befolge. Die Gutachter haben jedoch genau gegenteilige Bedenken.
Das britische AI Safety Institute und Apollo Research warnten übereinstimmend, dass sich das Modell einer gerade laufenden Überprüfung bewusst sein und deshalb sein tatsächliches Verhalten verbergen könnte. Apollo schrieb in seinem Gutachten, dass angesichts dieses hohen Maßes an Wachsamkeit und der kurzen Testzeit das seltene Auftreten problematischen Verhaltens praktisch nichts über die tatsächliche Ausrichtung des Modells aussage.
