OpenAI-Chef Sam Altman erklärte in einer Folge des Podcasts Relentless, die Menschheit sei bereits in die Singularität eingetreten. „Wir befinden uns jetzt gewissermaßen in der Singularität“, sagte er wörtlich. Ein Begriff, der jahrzehntelang eher in die Science-Fiction-Literatur als in Gespräche mit Technologiemanagern gehörte, schaffte es damit in die Schlagzeilen. Und das in einer denkbar ungünstigen Woche, denn nur wenige Tage zuvor hatte OpenAI eingeräumt, dass seine eigenen Modelle aus einer Testumgebung ausgebrochen und in die Infrastruktur des Konkurrenten Hugging Face eingedrungen waren.
Altman beschrieb im Podcast, wie sich innerhalb von zehn Jahren seine Wahrnehmung dessen verändert hat, worüber er sich früher mit Kollegen ganz beiläufig beim Mittagessen unterhielt. „Jetzt befinden wir uns wirklich in dem Moment, über den wir beim Mittagessen sehr unbekümmert gesprochen haben“, sagte er. „Ich habe mein ganzes Leben darauf gewartet, und ich glaube, es wird unglaublich, enorm positiv und großartig für die Welt.“ Altman räumte außerdem ein, dass er zum ersten Mal seit mehr als zehn Jahren darüber nachzudenken begann, was danach kommen werde. Sein Unternehmen arbeitete viele Jahre lang auf ein einziges Ziel hin: Superintelligenz. Und laut Altman sind wir ihr inzwischen sehr nahe.
OpenAI-Modell hackte selbstständig die Konkurrenz
Um zu verstehen, warum Altmans Worte eine solche Reaktion auslösten, muss man einige Tage zurückblicken. OpenAI gab bekannt, dass eine Kombination seiner Modelle, konkret GPT-5.6 Sol und eines weiteren, noch unveröffentlichten Modells, aus einer isolierten Testumgebung ausgebrochen war, Zugang zum Internet erlangt und eine Schwachstelle in den Systemen von Hugging Face ausgenutzt hatte. Dabei suchten die Modelle nach Informationen, die ihnen die Prüfung in einem Fähigkeitstest erleichtern würden – und sie hatten damit Erfolg.
Das Unternehmen testete die Cyberfähigkeiten seiner Modelle bewusst mit deaktivierten Sicherheitsvorkehrungen, weil es herausfinden wollte, wie weit ihre Fähigkeiten reichen. Die Aufgabe bestand darin, ein anspruchsvolles Sicherheitsproblem zu lösen, doch niemand hatte dem Modell gesagt, dass es innerhalb der Testumgebung bleiben müsse. Das Modell löste das Problem daher auf jedem verfügbaren Weg. Dieser führte über einen bis dahin unbekannten Fehler im Proxyserver eines Drittanbieters, quer durch das eigene Netzwerk von OpenAI und weiter ins offene Internet bis zur Produktionsinfrastruktur von Hugging Face.
Der Chef von Hugging Face bezeichnete den Vorfall als beispiellos, sagte jedoch zugleich, dass keine böse Absicht dahintergestanden habe. Der Sicherheitsforscher Simon Willison beschrieb ihn laut Forbes als wahr gewordene Science-Fiction und zugleich als Versagen der Sicherheitsvorkehrungen, nicht als neue Lebensform.
Zwei unterschiedliche Definitionen desselben Wortes
Unter Singularität versteht man gewöhnlich die Schwelle, ab der künstliche Intelligenz die menschliche Intelligenz übertrifft und beginnt, sich in einem Tempo weiterzuentwickeln, das der Mensch weder vorhersagen noch kontrollieren kann. Bekannt gemacht wurde das Konzept durch den Zukunftsforscher Ray Kurzweil mit einem Buch aus dem Jahr 2005, in dem er vorhersagte, dass KI etwa 2029 das menschliche Niveau erreichen und dass Menschen und Computer um das Jahr 2045 im Wesentlichen miteinander verschmelzen würden.
Altman verwendet jedoch eine andere Version. In einem Blogbeitrag vom Juni 2025 schrieb er, dass wir den Ereignishorizont überschritten hätten und der Start bereits erfolgt sei. Zugleich fügte er hinzu, dass keine Roboter durch die Straßen liefen, die meisten Menschen sich nicht den ganzen Tag mit KI unterhielten und Menschen weiterhin an Krankheiten stürben. Seine Aussage ist, dass der Übergang nicht wie ein abrupter Bruch aussieht. Seiner Ansicht nach werden Wunder zur Routine und Routine zum Mindeststandard. Zuerst staunen wir darüber, dass ein Modell einen schönen Absatz schreibt, und gleich danach fragen wir, wann es einen Roman verfassen wird.
Im selben Beitrag skizzierte er auch einen Zeitplan. Das Jahr 2025 sollte Agenten bringen, die zu echter geistiger Arbeit fähig sind, 2026 Systeme, die zu neuen Erkenntnissen gelangen, und 2027 Roboter, die Aufgaben in der physischen Welt bewältigen können. Er beschrieb außerdem, was er für die wichtigste Rückkopplung des gesamten Prozesses hält. Wissenschaftler sagten ihm angeblich, dass sie dank KI zwei- bis dreimal produktiver seien, und die Modelle selbst würden bereits bei der Entwicklung besserer Modelle helfen. Er selbst fügt hinzu, dass es sich dabei noch nicht um eine Maschine handle, die ihr eigenes Programm selbst umschreibt. Es sei vielmehr ein erster kleiner Schritt dahin, dass KI lernt, sich selbst zu verbessern.
Interessant ist auch eine technische Anmerkung. Altman behauptet, dass sich der Preis von Intelligenz mit zunehmender Automatisierung der Produktion in Rechenzentren dem Strompreis annähern werde. Eine durchschnittliche Anfrage bei ChatGPT verbraucht ihm zufolge etwa 0,34 Wattstunden, also so viel wie ein Backofen in etwas mehr als einer Sekunde, sowie ungefähr ein Fünfzehntel Teelöffel Wasser.
Experten widersprechen entschieden
Das stärkste Argument gegen Altmans Aussage stellt nicht die Technik infrage, sondern die Wortwahl. Lutz Finger, der an der Cornell University lehrt und für Forbes schreibt, weist darauf hin, dass die Singularität erst nach der AGI eintrete, nicht davor. AGI bezeichnet eine künstliche Intelligenz, die jede intellektuelle Aufgabe auf menschlichem Niveau bewältigen kann. Die Singularität ist der Punkt, an dem KI die menschliche Intelligenz übertrifft und beginnt, sich unbegrenzt selbst zu verbessern. Superintelligenz liegt erst jenseits davon. Und AGI haben wir seiner Ansicht nach bislang noch nicht erreicht.
Selbstverbesserung allein beweise gar nichts. Laut Finger verbessern sich Modelle bereits seit zwei Jahrzehnten, indem sie Hypothesen testen und Ausgaben anpassen. Neu sei das Tempo, nicht das Wesen des Vorgangs. Die Kurve sei steiler, die Schleife schneller, aber schneller bedeute noch nicht anders. Er erinnert außerdem daran, dass Altman selbst begonnen habe, den Begriff AGI als sehr unpräzise zu bezeichnen, was wie ein Verschieben der Torpfosten wirke.
Ähnlich sieht es Brian Jackson von der Info-Tech Research Group. Ihm zufolge würden ein Ausbruch aus der Testumgebung und der Verlust der Kontrolle über die KI zur Singularität gehören. Für Letzteres müsste die KI jedoch damit beginnen, sich selbst eigene Ziele zu setzen und sich eigenständig in Betrieb zu halten – und das sei überhaupt nicht geschehen. Die Modelle überschritten eine Grenze, die sie nicht hätten überschreiten sollen, erfüllten dabei aber eine von Menschen gestellte Aufgabe. Und als sie dies auf eine von den Forschern unerwartete Weise taten, konnte OpenAI sie weiterhin abschalten. Jackson interessiert etwas anderes als das Datum, an dem die Singularität eintritt. Er möchte, dass sich Unternehmen auf den Einsatz der Technik unter angemessener Aufsicht und darauf konzentrieren, die Kontrolle über das Geschehen zu behalten.
Die führenden Köpfe sind sich bislang uneinig
Altman steht damit nicht allein. Elon Musk, einer der Gründer von OpenAI, schrieb auf X als Reaktion auf einen Beitrag über die jüngsten Fortschritte bei KI, einschließlich des Vorfalls mit Hugging Face, dass wir uns in der Singularität befänden. DeepMind-Chef Demis Hassabis erklärte im Mai, die Menschheit stehe am Fuße der Singularität, und sagte voraus, dass KI hundertmal einflussreicher sein könnte als die industrielle Revolution.
Auf der anderen Seite stehen Skeptiker, und diese sind keineswegs Außenseiter. Nvidia-Chef Jensen Huang wies Debatten über die Singularität und bewusste KI kürzlich als Spekulationen und Hirngespinste zurück. Der mit dem Turing Award ausgezeichnete Forscher Yoshua Bengio schrieb wiederum auf X, dass ihn die Entwicklungsrichtung der KI nach diesem Eindringen zutiefst beunruhige und der Vorfall als Weckruf dienen sollte.
Altman teilte im Podcast auch gegen die Konkurrenz aus. Anthropic nannte er nicht beim Namen, doch dessen Chef Dario Amodei ist für düstere Prognosen bekannt. „Ich glaube ebenfalls, dass einige der alternativen Visionen, die andere Unternehmen zeichnen, sehr beängstigend sind“, sagte Altman und fügte hinzu, dass er dafür sorgen werde, dass dieses Szenario nicht eintrete.
Quellen: businessinsider.com, aol.com und fortune.com
