Das US-Unternehmen Anthropic hat einen Bericht über den Missbrauch seiner Modelle veröffentlicht, wobei ein Teil dieses Berichts einem eine Gänsehaut bereitet. Er beschreibt fünf Fälle, in denen Wissenschaftler und Forscher das Modell Claude bei der Arbeit an Dingen einsetzten, die zur Entwicklung biologischer Waffen beitragen könnten. Das Unternehmen sperrte ihre Konten, schaltete Netzwerke ab, über die sie die Verbote umgingen, und übermittelte die Erkenntnisse sowohl den Behörden als auch konkurrierenden Laboren. Entscheidend ist, wie vorsichtig das Unternehmen dies formuliert. Es behauptet nicht, dass einer dieser Menschen eine Waffe herstellen wollte. Es erklärt, dass es dies nicht beurteilen könne und gerade deshalb eingegriffen habe.
Nicht nur Experimente mit der Vogelgrippe
Der erste dokumentierte Fall ereignete sich im Mai dieses Jahres. Das Sicherheitssystem, das Anthropic zur Überwachung sensibler biologischer Anfragen verwendet, erkannte eine Bitte um Hilfe beim Verfassen eines Förderantrags. Dabei ging es um die Erforschung des von Mücken übertragenen Chikungunya-Virus, für das es keine zugelassene Behandlung gibt. Erkrankte leiden mehrere Wochen oder sogar Monate lang unter Beschwerden.
Bei der vorgeschlagenen Arbeit sollte das Virus so verändert werden, dass es sich besser verbreitet und zugleich dem Immunsystem besser entgeht. Das Unternehmen lehnte die Anfrage ab und stellte bei weiteren Nachforschungen noch etwas fest. Die betreffenden Forscher standen mit einem militärischen Forschungsinstitut in Verbindung, was zusätzliche Aufmerksamkeit erregte. Es blieb jedoch nicht bei einer einzigen Ablehnung. Anthropic entdeckte später, dass Personen aus dieser Gruppe einen Drittanbieterdienst nutzten, der geografische Sperren umging und abgelehnte Anfragen automatisch an ein anderes Modell eines anderen Unternehmens weiterleitete.
Der zweite Fall entwickelte sich langsamer und war dadurch umso beunruhigender. Ein Forscher verbrachte Wochen damit, mithilfe des Modells Claude Experimente mit der Vogelgrippe zu planen. Ihn interessierte, wie sich das Virus an Säugetiere anpassen und eine Übertragung über die Luft erreichen ließe. Er lebte in einer Region, in der Anthropic den Zugang zu seinen Modellen beschränkt, und griff daher über einen gemieteten Server in einem anderen Land darauf zu. Die Überwachungssysteme erfassten ihn schließlich, und das Unternehmen sperrte ihm den Zugang zu seinen leistungsstärksten Modellen. Ihm blieben nur die schwächsten Modelle, die deutlich weniger können, doch letztlich folgte eine vollständige Sperre.
Die übrigen drei Fälle betrafen ein mit den Pocken verwandtes Virus sowie Gifte und Toxine. In einem davon ließ ein Forscher das Modell Claude eine umfangreiche Übersicht über giftige Substanzen aus verschiedenen Gruppen giftiger Tiere erstellen. Ein anderer Fall betraf die Modifizierung von Toxinen für ein bestimmtes staatliches Programm.
Die wahren Absichten sind schwer zu beurteilen
Anthropic stößt bei dieser gesamten Angelegenheit auf ein Problem, mit dem sich die biologische Sicherheit bereits seit Jahrzehnten beschäftigt. Dieselben Erkenntnisse können sowohl für gute als auch für schlechte Zwecke eingesetzt werden. Informationen, die beim Bau einer Waffe helfen, können ebenso gut zur Entwicklung eines Impfstoffs oder Medikaments dienen, und häufig lassen sich diese beiden Absichten nicht voneinander unterscheiden.
Darüber hinaus schrieb keiner dieser Menschen, dass er etwas Böses plane. Im Gegenteil: Die Anfragen wirkten wie gewöhnliche wissenschaftliche Arbeit, also wie Förderanträge, die Planung von Experimenten und Datenanalysen. Jacob Klein, der bei Anthropic das Team zur Bewertung von Bedrohungen leitet, sagte, keiner von ihnen habe erklärt, böse Absichten zu verfolgen, und das Unternehmen wisse nicht, ob das Ergebnis letztlich eine Waffe sein sollte.
Im Bericht selbst fügt das Unternehmen hinzu, dass erfahrene Angreifer diese Mehrdeutigkeit kennen und bewusst ausnutzen, um eine glaubhafte Ausrede zu haben. Letztlich entschied sich Anthropic für Vorsicht, da die Folgen eines Übersehens zu schwerwiegend wären.
Was dies für die künftige Nutzung von KI bedeutet
Der Bericht enthält eine Feststellung, die über diese Fälle hinausgeht. Das Unternehmen schreibt, seine älteren Modelle hätten eindeutig unterhalb der Schwelle gelegen, ab der sie jemandem tatsächlich bei der Entwicklung einer biologischen Waffe helfen könnten. Bei den neueren Modellen sei es sich dessen nicht mehr sicher. Damit räumt erstmals ein großes Unternehmen der Branche öffentlich ein, dass es sich nicht mehr darauf verlassen kann, seine Technik sei schlicht nicht leistungsfähig genug, um gefährlich zu sein. Anthropic reagierte darauf, indem es bei seinen neuesten Modellen strengere Schutzmechanismen einführte und den Zugang zu einer breiten Gruppe biologischer Anfragen beschränkte, die für beide Zwecke genutzt werden können.
Dieser Punkt zeigt, inwiefern die Geschichte jeden betrifft, der künstliche Intelligenz nutzt. Der Bericht verdeutlicht drei Dinge, mit denen sich die Branche auseinandersetzen muss. Eine Sperre bei einem einzelnen Unternehmen reicht nicht aus. Eine abgelehnte Anfrage kann anderswo eingereicht werden, und es gibt Dienste, die dies automatisch erledigen. Solange Labore untereinander keine Informationen darüber austauschen, wen sie warum gesperrt haben, lässt sich eine Sperre innerhalb weniger Minuten umgehen. Auch geografische Beschränkungen funktionieren kaum. Ein Server in einem anderen Land kostet nur ein paar Dollar im Monat und überwindet Grenzen im Handumdrehen.
Vor allem verändert sich jedoch die Art der Schutzmechanismen. Solange Modelle bei sensiblen Arbeiten nicht helfen konnten, genügte es, eindeutige Aufforderungen zur Gewalt zu überwachen. Da Modelle nun echte wissenschaftliche Arbeit bewältigen können, müssen Unternehmen auch beurteilen, wer eine Frage stellt und warum, was unvergleichlich schwieriger ist. Viele Menschen, die legitime Forschung betreiben, werden auf diese strengeren Schutzmechanismen stoßen und sich zu Recht darüber ärgern, denn es ist schwierig, einen echten Wissenschaftler von jemandem zu unterscheiden, der lediglich vorgibt, einer zu sein. Deshalb sollte der Zugang zu derart leistungsfähigen Modellen auf überprüfte Forscher beschränkt werden.
Wachsende Sorgen wegen fortschrittlicher Modelle
Der biologische Teil ist nur eines von sieben Kapiteln. Im selben Dokument beschreibt Anthropic eine russische Gruppe, die einen Schwarm von Angriffsdrohnen aufbaute, chinesische und jemenitische Fälle von Arbeiten an Waffensoftware sowie einen mit dem Iran in Verbindung stehenden Nutzer, der öffentlich zugängliche Daten sammelte und daraus Empfehlungen für Angriffe auf US-Seestreitkräfte in der Region erstellte.
Zwei Tage vor der Veröffentlichung des Berichts verließ zudem der Forscher Jacob Coxon das Unternehmen Anthropic. Er beschuldigte sowohl seinen ehemaligen als auch seinen vorherigen Arbeitgeber öffentlich, nach Superintelligenz zu streben und mit Menschenleben zu spielen.
US-Präsident Donald Trump wies die wachsenden Sorgen rund um künstliche Intelligenz am Donnerstagabend zurück.
Quellen: nytimes.com, cnn.com, bbc.com und foxbusiness.com
