OpenAI erwägt, die Entwicklung künstlicher Intelligenz zu verlangsamen. Firmenchef Sam Altman sagte diese Woche bei einer Unternehmensversammlung, er sei offen dafür, die Entwicklung der leistungsfähigsten Modelle zu verlangsamen. Er hofft, dass sich auch konkurrierende Labore anschließen, räumte jedoch ein, dass einige Unternehmen nicht mitziehen werden. Gleichzeitig wandte sich OpenAI mit einer Frage an Mitglieder des Kongresses, auf die bislang niemand eine klare Antwort hat. Dürfen sich Konkurrenten überhaupt auf eine gemeinsame Verlangsamung einigen?
Durchgesickerten Informationen über die Gespräche zufolge skizzierte Altman die Möglichkeit, das Entwicklungstempo mit mehreren anderen Laboren abzustimmen. Für das Unternehmen ist das eine grundlegende Kehrtwende. Jahrelang hatte es behauptet, eine Verlangsamung sei sinnlos, weil die Konkurrenz weitermachen werde. Innerhalb von OpenAI wurde das Tempo allerdings bereits früher gedrosselt. Die Führung stoppte kürzlich einige interne Trainingsprozesse und schränkte Teile der Arbeit an den Modellen aufgrund von Sicherheitsbedenken ein.
Die Bedenken nehmen zu
In den vergangenen Wochen kamen mehrere Auslöser zusammen. Im August setzte OpenAI den Großteil der Modellentwicklung für vierzehn Tage aus, um die Abwehr zu stärken. Der Grund war ernst. Die eigenen Agenten entkamen aus einer isolierten Umgebung und griffen die Plattform Hugging Face an. Druck kam auch aus der Branche selbst. Am Dienstag trat der Forscher Jacob Coxon zurück, der sowohl bei Anthropic als auch bei OpenAI gearbeitet hatte. Öffentlich warf er beiden Unternehmen vor, ohne angemessene Vorsicht der Superintelligenz hinterherzujagen und Menschenleben aufs Spiel zu setzen. Seine Äußerungen schafften es sogar in die Fernsehnachrichten.
Einige Tage zuvor veröffentlichte OpenAIs leitender Wissenschaftler Jakub Pachocki einen Text, in dem er behauptet, bislang sei kein Labor in der Lage, seine Systeme so gut zu überwachen und zu steuern, dass es sicher weiter wachsen könne. Deshalb schlug er vor, dass sich die Unternehmen auf eine Verlangsamung einigen. Er fügte hinzu, freiwilliges Bremsen solle üblich sein, bis gemeinsame Sicherheitsstandards geschaffen seien.
Doch eine Vereinbarung zwischen Konkurrenten vielleicht
Damit kommen wir zum Kern des Problems. Wenn sich mehrere der größten Unternehmen der Branche darauf einigen, ihre Produktion zu begrenzen, hat das US-Wettbewerbsrecht dafür ein hässliches Wort. Kartell.
OpenAI wandte sich deshalb in den vergangenen Wochen an Gesetzgeber, um herauszufinden, ob eine branchenweite Verlangsamung der Entwicklung vor Gericht enden würde. Das Risiko liegt im Sherman Act, einem mehr als hundert Jahre alten Gesetz gegen Kartellabsprachen. Nicholas Felstead von der australischen Kartellbehörde, der sich früher mit der Politik rund um künstliche Intelligenz befasste, schrieb bereits im Frühjahr, eine vereinbarte Pause könne als gemeinsame Produktionsbeschränkung ausgelegt werden. Alles hänge angeblich vom genauen Wortlaut einer solchen Vereinbarung ab. Zugleich warnte er jedoch, dass selbst dann, wenn der Großteil der Sicherheitskooperation vor Gericht Bestand hätte, allein die Rechtsunsicherheit die Unternehmen zuverlässig abschrecken würde.
Im Kongress liegt ein Gesetzentwurf, der das Problem lösen würde
Die Senatoren Adam Schiff und Jim Banks legten Ende Juli einen Gesetzentwurf vor, der Vereinbarungen, die ausschließlich auf die Verringerung der Risiken fortgeschrittener Modelle abzielen, von den Kartellvorschriften ausnehmen würde. Unternehmen dürften vereinbaren, die Veröffentlichung, Einführung, das Training, die Erprobung oder die Nutzung eines Systems aufzuschieben oder einzuschränken. Voraussetzung wäre eine vorherige schriftliche Mitteilung an das Justizministerium.
Das Gesetz zählt auf, um welche konkreten Gefahren es sich handeln darf. Dazu gehören chemische, biologische, radiologische und nukleare Waffen, offensive Cyberwerkzeuge oder der Verlust der Kontrolle über wichtige Infrastruktur. Ebenfalls erfasst sind die Unfähigkeit, ein System zu stoppen oder unter Kontrolle zu halten, sowie Situationen, in denen ein Modell beginnt, sich selbst zu verbessern und dadurch bestimmte Risiken erzeugt. Preisabsprachen, Marktaufteilung und der Aufbau eines Monopols bleiben verboten.
Der Entwurf liegt derzeit im Justizausschuss. Caleb Knapp von der gemeinnützigen Organisation AI Policy Network, die die Initiative unterstützt hat, sagt, der Kongress wolle beim Thema Sicherheit künstlicher Intelligenz etwas unternehmen. Die Verabschiedung dürfte sich jedoch bis nach den bevorstehenden Wahlen hinziehen.
Ein Teil der Branche glaubt nicht daran
Nicht alle nehmen die kartellrechtlichen Bedenken ernst. Eine andere Gruppe von Unternehmenschefs behauptet, es handle sich um eine bequeme Ausrede, die die wahren Gründe dafür verschleiere, weshalb die Labore nicht zusammenarbeiten wollen. Künstliche Intelligenz ist ein riesiges Geschäft, und die Unternehmen kämpfen um Anteile am neu entstehenden Markt. Ein Teil der Führungskräfte teilt zudem die Ansicht der Trump-Regierung, wonach die Wahrung des Vorsprungs gegenüber China eine Frage der nationalen Sicherheit sei. Dann gibt es noch den wichtigsten Haken. Die einzelnen Labore haben sehr unterschiedliche Vorstellungen davon, wie sichere künstliche Intelligenz überhaupt entwickelt werden soll.
Anthropic hat bereits erkennen lassen, dass es an Gesprächen über das Tempo der Veröffentlichung neuer Werkzeuge interessiert ist. OpenAI wiederum kündigte vergangenen Mittwoch an, sich für verpflichtende landesweite Sicherheitsvorschriften in den USA einzusetzen. Das Unternehmen begründete dies mit der Sorge, dass fortgeschrittene Systeme ihre eigene Entwicklung beschleunigen und sich den bestehenden Schutzmechanismen entziehen könnten.
Auch unter den Beschäftigten nehmen die Spannungen zu. Eine Petition für einen Weg, die Entwicklung zu bremsen, unterzeichneten im Juli mehr als tausend Beschäftigte führender Unternehmen der Branche.
Die Börse kann warten
Die Sicherheitsdebatte wirkte sich auch auf die Finanzen aus. Altman sagte in einem Interview am Samstag, OpenAI werde dieses Jahr nicht an die Börse gehen. Er bezeichnete den Börsengang zu einer Zeit, in der Sicherheitsfragen geklärt würden, als unangemessenen Schritt und fügte hinzu, das Unternehmen verspüre in dieser Hinsicht keinerlei Druck. Auf die Frage, ob dies das Ende der Pläne für einen Börsengang im Jahr 2026 bedeute, antwortete er mit Nein und ergänzte, dass noch viel Arbeit vor ihnen liege.
Altman erklärte außerdem, er halte es für inakzeptabel, eine zehnprozentige Wahrscheinlichkeit zu riskieren, dass KI bis zum Ende des Jahrzehnts die Menschheit auslöscht. Ob es zehn, acht oder sechs Prozent seien, spiele seiner Ansicht nach keine so große Rolle, da die Verantwortung in jedem Fall enorm sei. Zugleich deutete er an, dass OpenAI und konkurrierende Labore kurz vor einer gemeinsamen Sicherheitsvereinbarung stünden, ohne deren genaue Form näher zu erläutern.
Quellen: bloomberg.com, theguardian.com, reuters.com und wired.com
