Anthropic verbessert seine Modelle der künstlichen Intelligenz etwa doppelt so schnell wie noch vor einem Jahr, und ein großer Teil dieser Beschleunigung ist auf die künstliche Intelligenz selbst zurückzuführen. Zu diesem Schluss kam die gemeinnützige Organisation METR aus dem kalifornischen Berkeley, die mehrere Wochen lang interne Daten des Unternehmens untersuchte und dessen Mitarbeiter befragte. Die Erkenntnisse gehören zu den bislang deutlichsten Belegen dafür, dass künstliche Intelligenz ihre eigene Entwicklung beschleunigt, und eröffnen eine Debatte darüber, wie nah wir Systemen sind, die sich ohne menschliche Hilfe selbst verbessern können. Bemerkenswert ist, dass Anthropic-Chef Dario Amodei ausgerechnet während der Untersuchung die gesamte Branche dazu aufrief, das Tempo zu drosseln, damit die Sicherheitsmaßnahmen mit der Entwicklung Schritt halten können.
Elf Wochen bei Anthropic
Die Organisation METR, ausgeschrieben Model Evaluation and Threat Research, kam nicht unaufgefordert. Anthropic hatte ihre Forscher selbst eingeladen, interne Daten zu untersuchen und mit Mitarbeitern zu sprechen. Die Untersuchung dauerte von Mitte August bis Ende Oktober etwa elf Wochen. Die Organisation suchte Antworten auf zwei Fragen: ob sich das Wachstumstempo der Fähigkeiten interner Modelle beschleunigt hat und welchen Anteil künstliche Intelligenz daran hat. Die Forscher selbst erklärten, sie hätten einen beispiellosen Zugang zu den Daten erhalten.
Das Ergebnis überraschte selbst erfahrene Beobachter. Die Fähigkeiten der Anthropic-Modelle wachsen in Vergleichstests seit Oktober 2025 etwa 1,9-mal schneller als zuvor. Bis Oktober dieses Jahres verbessert das Unternehmen seine Modelle bei klar definierten Aufgaben laut METR ungefähr doppelt so schnell wie im Zeitraum von März 2024 bis Oktober 2025. Im vergangenen Jahr erzielte es somit etwa so viele Fortschritte wie früher in zwei Jahren. Die Schätzung ist mit großer Unsicherheit behaftet, und die Autoren wären nicht überrascht, wenn die tatsächliche Beschleunigung zwischen dem Eineinhalbfachen und dem Zweieinhalbfachen des bisherigen Tempos läge.
Entscheidend ist, was nicht hinter der Beschleunigung steckt. METR schloss mit Sicherheit aus, dass sie auf eine Steigerung der für das Training eingesetzten Rechenleistung zurückzuführen ist. Diese bestimmt traditionell am stärksten, wie gut ein Modell funktioniert. Die Forscher schätzen, dass etwa 80 Prozent der Beschleunigung auf den Einsatz künstlicher Intelligenz zu ihrer eigenen Verbesserung zurückzuführen sind.
Mitarbeiter berichten von zwölffacher Produktivität
METR stützte seine Einschätzung auch auf informelle Umfragen unter den Mitarbeitern. Personen, die mit dem leistungsfähigsten internen Modell des Unternehmens arbeiten, gaben im Durchschnitt an, etwa zwölfmal produktiver zu sein als ohne Unterstützung durch künstliche Intelligenz. Das ist ungefähr doppelt so viel, wie sie nur wenige Monate zuvor bei der Arbeit mit dem Modell Mythos 5 berichtet hatten. Die Forscher weisen jedoch darauf hin, dass diese Zahlen nicht besonders zuverlässig sind.
Den Großteil der Arbeit erledigen bislang weiterhin Menschen, die von künstlicher Intelligenz unterstützt werden. Dem Bericht zufolge ist künstliche Intelligenz noch nicht in der Lage, völlig eigenständig und in erheblichem Umfang zu den wichtigsten Teilen des Modelltrainings beizutragen. Forscher von Anthropic beschrieben jedoch deutliche Anzeichen einer Entwicklung, die darauf hindeuten, dass sich dies bald ändern könnte. Die Experten von METR warnen, dass sich die Beschleunigung weiter vervielfachen könnte, wenn künstliche Intelligenz beginnt, sich selbst zu verbessern. Ein Nadelöhr, das den Fortschritt bremsen könnte, etwa einen Mangel an Rechenleistung oder Daten, fanden sie nicht.
Der Bericht spart nicht mit Vorbehalten. Die Beschleunigung könnte nur klar definierte Aufgaben betreffen, die sich automatisch bewerten lassen, nicht jedoch ungeordnete Aufgaben aus der realen Welt. Es ist auch möglich, dass Anthropic frühere Fortschritte unterschätzt hat und die neue Zahl deshalb größer erscheint. Andererseits verglich METR die öffentliche und die nicht öffentliche Version des im August veröffentlichten Risikoberichts des Unternehmens und kam zu dem Schluss, dass die öffentliche Version das Ausmaß der Beschleunigung eher unterschätzt.
Ein großer Teil des Fortschritts wird von Modellen vorangetrieben, die die Öffentlichkeit noch nicht gesehen hat. Anthropic hat in den vergangenen sechs Monaten das Training von drei Modellen abgeschlossen, die bislang nicht veröffentlicht wurden. Unter den Decknamen Model 2, Model 3 und Model 4 schlossen sie ihr Training im Juli, um die Monatswende August/September sowie um die Monatswende September/Oktober ab.
Das Unternehmen schwärzte den Großteil der Belege
Ebenso aufschlussreich wie der Inhalt des Berichts ist das, was darin fehlt. Anthropic hatte laut Vereinbarung das Recht, Passagen zu entfernen, und machte davon ausgiebig Gebrauch. METR legte dem Unternehmen einen rund hundert Seiten langen Bericht vor, aus dessen öffentlicher Version Anthropic den Großteil der Belege entfernte, die die Forscher für besonders aussagekräftig hielten. Mehrere Anfragen nach Daten lehnte das Unternehmen direkt ab. Nach Angaben von METR muss sich die Öffentlichkeit daher wesentlich stärker auf das Urteil der Forscher verlassen, als es angesichts der Tragweite des Themas ideal wäre.
Anthropic-Mitgründer Sam McCandlish verteidigte die Entscheidung. Er räumte ein, dass die umfangreichen Streichungen die Überprüfung der Arbeit von METR erschweren. Seiner Ansicht nach würde eine Veröffentlichung der genauen Ursachen der Beschleunigung jedoch sensible Geschäftsinformationen preisgeben und der Konkurrenz eine Anleitung zur weiteren Beschleunigung der Entwicklung liefern. Das Unternehmen werde in den kommenden Wochen einen eigenen Bericht über das Fortschrittstempo veröffentlichen und neue Schritte zur Stärkung der Sicherheit vorstellen.
Kritiker stört noch ein weiteres Detail. Anthropic strich einen Teil der Bewertungen, mit denen überprüft werden sollte, wie viel Rechenleistung das Unternehmen für Sicherheit und wie viel für die Verbesserung der Fähigkeiten seiner Modelle aufwendet. Das Unternehmen begründete dies damit, dass es sich vorerst auf die Bewertung der Risiken konzentrieren wolle und später zu dieser Überprüfung zurückkehren werde.
Kritiker sprechen von Heuchelei
Der Widerspruch zwischen den Worten und Taten von Anthropic zeigt sich deutlich in einem Essay des Unternehmenschefs vom September. Dario Amodei schrieb darin, dass der Fortschritt der künstlichen Intelligenz vor allem durch die wachsende Fähigkeit der Systeme angetrieben werde, ihre nächste Generation zu entwickeln. Er warnte, dass dieser Prozess ohne Kontrolle unsere Fähigkeit überholen könnte, die Systeme zu verstehen und zu beherrschen, weshalb äußerst vorsichtig damit umgegangen werden müsse. Im selben Text sprach er sich für unabhängige Prüfer direkt innerhalb führender Labore aus und nannte METR ausdrücklich als geeigneten Kandidaten.
Daniel Kokotajlo, ein ehemaliger OpenAI-Forscher, der heute das AI Futures Project leitet, kritisierte das Unternehmen scharf. Er warf Anthropic vor, rücksichtslos mit Menschenleben zu spielen, und bezeichnete es als inakzeptabel, dass das Unternehmen die Streichungen mit der schneller werdenden Konkurrenz rechtfertige, obwohl es selbst sein Tempo kaum drossele. Marius Hobbhahn, Leiter von Apollo Research, sagte, der Bericht deute auf ein noch höheres Tempo hin, als es das einflussreiche Szenario AI 2027 vorhergesagt habe, das Anfang 2027 mit einem Durchbruch bei der Selbstverbesserung rechnet. Ryan Greenblatt von METR räumte ein, dass er mit seinen Schätzungen deutlich danebengelegen und für dieses Jahr eine wesentlich geringere Beschleunigung erwartet habe.
Auch die Konkurrenz bewegt sich in eine ähnliche Richtung. OpenAI kündigte im September an, bis März 2028 einen KI-Forscher entwickeln zu wollen, der die Entwicklung des Deep Learning eigenständig vorantreiben könnte. Brianna Rosen vom Institut für KI-Politik und -Strategie sieht das Problem darin, dass faktisch Unternehmen und nicht Regierungen über die Automatisierung der Forschung entscheiden. Zudem sei der Bericht ihrer Ansicht nach hinsichtlich der Belege nicht transparent genug gewesen. Der New Yorker Abgeordnete Alex Bores ging am weitesten und forderte den Kongress auf, die rekursive Selbstverbesserung künstlicher Intelligenz möglichst noch in diesem Jahr zu verbieten.
Der Bericht kommt für Anthropic zu einem heiklen Zeitpunkt. Das Unternehmen aus San Francisco will noch in diesem Monat an die Börse gehen, und es könnte sich um den größten Börsengang aller Zeiten handeln. Hobbhahn nahm aus dem Bericht eine einfache Botschaft mit: Die Menschen sollten sich auf den Wahnsinn vorbereiten, denn alles werde sehr schnell gehen, wahrscheinlich viel schneller, als Gesellschaft und Politik Schritt halten könnten.
Quellen: reuters.com, theverge.com und apnews.com
