OpenAI-Chef Sam Altman beschrieb den Mitarbeitern vergangene Woche bei einer Betriebsversammlung drei Möglichkeiten, wie das Rennen um Superintelligenz enden könnte. Laut The Information endet eines der Szenarien damit, dass ein einziges Unternehmen „die Grafikprozessoren aller anderen zum Schmelzen bringt“. Altman sprach über diese Variante mit deutlicher Abneigung. Seiner Ansicht nach hat das Unternehmen jedoch etwa ein Jahr Zeit, um zu entscheiden, welchen Weg es einschlagen will.
Der Bericht stützt sich auf anonyme Quellen, erscheint jedoch zu einer Zeit, in der die Debatte über künstliche Intelligenz ihren Höhepunkt erreicht hat und die Gestaltung neuer Produkte nicht nur von der Entwicklung in den Laboren, sondern auch von Washington beeinflusst wird. OpenAI hat sich öffentlich nicht dazu geäußert.
Internationale Agentur zur Kontrolle von KI
Die erste Möglichkeit ist eine internationale Behörde nach dem Vorbild der Internationalen Atomenergie-Organisation IAEO, die den fortschrittlichsten Laboren Sicherheitsstandards vorschreiben würde. Zwei Personen, die mit Altmans Äußerungen vertraut sind, sagten gegenüber The Information, dass der OpenAI-Chef offenbar zu dieser Variante tendiere.
Die Idee ist nicht neu. Bereits im Mai 2023 schrieben Altman, OpenAI-Präsident Greg Brockman und der damalige Chefwissenschaftler Ilja Sutskever gemeinsam, dass die Welt bei der Entwicklung von Superintelligenz wahrscheinlich etwas wie die IAEO benötigen werde. Eine solche Institution könnte Systeme kontrollieren, Audits anordnen und überwachen, wie viel Rechenleistung und Energie die Unternehmen verbrauchen. Die Autoren schlugen damals vor, dass Unternehmen einige Elemente der künftigen Aufsicht zunächst freiwillig einhalten und einzelne Staaten diese anschließend in ihre Vorschriften übernehmen sollten.
Demis’ Plan sieht ein einziges großes CERN vor
Den zweiten Weg benannte Altman nach Demis Hassabis, dem Chef von Google DeepMind. Er basiert auf einem Vorschlag, den Hassabis vor etwa zehn Jahren unterbreitete. Nach Altmans Darstellung würden die großen Labore zu einer einzigen Organisation verschmelzen oder unter deren Dach arbeiten, die dann Modelle an kooperierende Länder liefern würde.
Als Vorbild dient CERN, das internationale Forschungszentrum für Teilchenphysik. Organisationen wie OpenAI, Google DeepMind oder Anthropic würden so in einem gemeinsamen System zusammengeführt. Berichten zufolge betrachtet Altman diese Möglichkeit als einen Weg, ein unkoordiniertes Wettrüsten zu verhindern.
Eliezers Plan und geschmolzene Chips
Das dritte Szenario erregte die größte Aufmerksamkeit. Altman benannte es nach dem Theoretiker für die Sicherheit künstlicher Intelligenz Eliezer Yudkowsky. Der Entwickler, dem als Erstem eine rekursive Selbstverbesserung gelingt, also eine künstliche Intelligenz, die ihre eigenen Fähigkeiten selbstständig verbessern kann, würde seine wirtschaftliche Macht nutzen, um allen Konkurrenten den Zugang zu Rechenleistung abzuschneiden. Genau in diesem Zusammenhang fielen die Worte über die geschmolzenen Grafikchips der Konkurrenz. Yudkowsky ist für Texte über die sogenannte entscheidende Handlung bekannt, bei der ein führendes KI-System dazu eingesetzt würde, zu verhindern, dass jemand anderes ein gefährliches Modell entwickeln kann.
Natürlich halte ich diese Möglichkeit für schrecklich, sagte Altman dem Bericht zufolge und fügte hinzu, dass er sie nur der Vollständigkeit halber erwähnt habe. Einige Mitarbeiter sehen in der Bezeichnung Berichten zufolge eine versteckte Anspielung auf den wichtigsten Rivalen, da Yudkowsky Verbindungen zu wichtigen Personen bei Anthropic haben soll. Dabei handelt es sich jedoch um die Interpretation der Mitarbeiter und nicht um Altmans Worte.
Washington will Kontrolle
Altman sprach über die Zukunft zu einer Zeit, in der die Regeln für die Entwicklung künstlicher Intelligenz erst entstehen. Die Trump-Regierung bereitet den ersten umfassenden Regelrahmen für die Aufsicht über Entwickler von Superintelligenz vor. Nach dem derzeitigen Ansatz, der auf einer Exekutivanordnung vom Juni beruht, sollen Entwickler der Regierung ausgewählte Modelle freiwillig bis zu 30 Tage vor ihrer Veröffentlichung zugänglich machen. Noch am 13. Oktober war der Text dieses Rahmens jedoch nicht veröffentlicht worden.
Die Unternehmen haben bereits erfahren, wie eine solche Aufsicht in der Praxis aussieht. Im Juni sperrte Anthropic auf Anweisung der US-Regierung allen Kunden den Zugang zu seinen Modellen Fable 5 und Mythos 5. Das Unternehmen brachte seine Ablehnung zum Ausdruck und erklärte, dass das eng begrenzte Risiko einer möglichen Umgehung der Schutzmechanismen seiner Ansicht nach nicht als Grund ausreiche, ein kommerzielles Modell zurückzuziehen. Zwei Wochen später beschränkte OpenAI auf Ersuchen der Regierung die Einführung der GPT-5.6-Modelle auf eine kleine Gruppe von Partnern und erklärte, dass ähnliche Einschränkungen nicht zur gängigen Praxis werden sollten.
Ende September unterzeichneten die Chefs von Anthropic, Google, Meta, OpenAI, Nvidia und xAI eine freiwillige Vereinbarung, die Trump als moralisch bindend bezeichnete. Sie begründet jedoch keinerlei rechtliche Haftung. OpenAI, Google und Anthropic arbeiten dem Bericht zufolge zugleich an einer US-amerikanischen Gruppe namens Standards Authority for Frontier AI, sind sich jedoch uneinig darüber, wer neue Modelle testen sollte. Kritiker, darunter Mark Zuckerberg von Meta und Jensen Huang von Nvidia, behaupten, dass die neuen Regeln lediglich die Position der größten Entwickler festigen würden.
Ohne China geht es nicht
Eine internationale Agentur käme nicht ohne Peking aus. Der chinesische Präsident Xi Jinping sagte Trump am 24. September, dass beide Länder sowohl die Fähigkeiten als auch die Verantwortung hätten, künstliche Intelligenz so zu beaufsichtigen, dass sie unter menschlicher Kontrolle bleibe. Der amerikanische Vorschlag, wonach Staaten einander über Vorfälle mit künstlicher Intelligenz informieren sollten, die die nationale Sicherheit gefährden, ist bislang jedoch nur ein Entwurf und keine fertige Vereinbarung.
Nach Ansicht einiger Branchenvertreter bleibt dabei nicht mehr viel Zeit. Anthropic-Mitgründer Jack Clark erklärte bei einem Treffen des Internationalen Währungsfonds und der Weltbank, dass nur noch wenige Jahre für Verhandlungen blieben.
Ein Jahr für die Entscheidung
Altman ließ bei den Mitarbeitern keinen Zweifel daran, dass selbst ein idealer Plan OpenAI nicht ausbremsen dürfe. Dem Bericht zufolge sagte er ihnen, dass die ersten beiden Varianten eine umfassende Zusammenarbeit erforderten und OpenAI es sich derzeit nicht leisten könne, seine Position zu verlieren, insbesondere da sich sowohl das Unternehmen als auch Anthropic auf einen Börsengang vorbereiteten. Innerhalb des Unternehmens herrscht dabei keineswegs völlige Ruhe. Nach der Entlassung von drei Forschern, die sich mit Sicherheit befassten, begannen einige Mitarbeiter daran zu zweifeln, wie das Unternehmen mit Sicherheitsfragen umgeht.
Der Wettstreit zwischen den beiden Laboren verlagert sich inzwischen auch auf die Finanzen. Berichten zufolge versucht OpenAI, noch vor dem Börsengang von Anthropic rund 30 Milliarden Dollar einzusammeln.
Quellen: forbes.com und benzinga.com
