Nvidia-Chef Jensen Huang erklärte am Dienstag in San Francisco, dass für künstliche Intelligenz keine neuen Gesetze nötig seien. Er sagte dies auf der von Salesforce veranstalteten Dreamforce-Konferenz in einem Gespräch mit Salesforce-Chef Marc Benioff vor rund zwölftausend Menschen. Am selben Tag traten auf derselben Bühne auch Dario Amodei von Anthropic und Sam Altman von OpenAI auf – jeder mit einem anderen Rezept dafür, wie verhindert werden kann, dass die Entwicklung der KI außer Kontrolle gerät. So wurde dieser eine Tag zu einem Beispiel dafür, wie tief die Meinungsverschiedenheiten unter den führenden Köpfen der KI-Branche reichen.
Sicherheit sei Aufgabe von Ingenieuren, nicht von Politikern
Künstliche Intelligenz ist Huang zufolge kein fremdartiger Geist, wie sie einer der Sicherheitsforscher von OpenAI beschrieben hat, sondern von Menschen entwickelte Hardware und Software. Und was Menschen gebaut haben, können sie auch kontrollieren. „Sicherheit ist ein technisches, kein rechtliches Problem“, sagte Huang. „Wir entwickeln schließlich Software. Wir entwickeln Computersysteme. Es ist ein komplexes Computersystem, aber immer noch nur ein Computersystem.“
Daraus folgert er, dass der Druck des Marktes ausreicht. Wenn ein Unternehmen sich nicht sicher ist, wie sein Produkt funktioniert, was es kann und ob es sicher ist, bringt es dieses einfach nicht auf den Markt. „Sie bestimmen das Tempo so, dass Sie sicher sein können, etwas zu veröffentlichen, das der Markt wertschätzt. Die Marktkräfte sind bereits vorhanden. Wir brauchen keine neuen Gesetze. Wir brauchen keine neuen Regeln“, erklärte er.
Sein Rat lautet, so schnell zu laufen, wie man kann, und wenn einem das Unternehmen oder das Produkt irgendwann zu entgleiten droht, anzuhalten und die Sache in Ordnung zu bringen. Die Entscheidung darüber, wann dieser Zeitpunkt gekommen ist, bleibt jedoch ausschließlich dem Unternehmen überlassen, das gerade den Sprint hinlegt.
Ausgelöst wurde der Streit durch einen Essay über eine Verlangsamung
Huang reagierte damit auf einen Vorschlag, den Anthropic-Chef Dario Amodei am Wochenende veröffentlicht hatte. Dieser forderte die führenden Labore dazu auf, sich bei den leistungsfähigsten Modellen auf ein langsameres Tempo zu verständigen und so Zeit für Tests und Kontrollen zu gewinnen. Amodei räumte ein, dass ein solches Vorgehen mit dem Wettbewerbsrecht kollidieren könnte, da Absprachen zwischen Konkurrenten über Veröffentlichungstermine üblicherweise problematisch sind. Daher sprach er davon, dass dafür staatliche Unterstützung oder eine Ausnahme von den Wettbewerbsregeln erforderlich sein könnte.
Huang wischte diese Idee als völlig unnötig vom Tisch. Seiner Ansicht nach verfügen Unternehmen bereits jetzt über alles, was sie für eine sichere Entwicklung benötigen – von Vorschriften zur Produktsicherheit bis hin zu eigenen Testteams. Auch die Vorstellung, Geschwindigkeit und Vorsicht stünden einander entgegen, wies er zurück. Er bezeichnete dies als falsche Alternative. Zu den düsteren Prognosen fügte er hinzu, dass wir im Jahr 2030 nicht sterben werden.
Amodei verteidigte seinen Vorschlag auf der Bühne weiter und führte ihn in drei Punkten aus, mit denen sich das Tempo zügeln ließe.
Altman räumte Ängste ein
Sam Altman räumte ein, dass die Öffentlichkeit ein Recht darauf habe, Angst zu haben, weil sich die Modelle schneller weiterentwickelt hätten, als irgendjemand erwartet habe. Als ChatGPT veröffentlicht wurde, konnte es kaum ein Gespräch aufrechterhalten. Heute programmiert es komplexe Software. „Die Welt sollte darauf vertrauen, dass wir das Richtige tun werden, weil es richtig ist und weil wir uns darüber im Klaren sind, worum es geht“, sagte Altman. Er erwähnte auch die Sorge, dass einige wenige Unternehmen zu großen Einfluss auf die Wirtschaft gewinnen und beginnen könnten, den Menschen ihre Weltsicht aufzuzwingen. Er fügte jedoch hinzu, dass er fest an die Fähigkeit seines Unternehmens und der gesamten Branche glaube, diese Gefahr zu bewältigen.
Auch Mark Zuckerberg schloss sich an und schrieb auf X, jedes Labor trage die Verantwortung und habe zugleich ein eigenes Interesse daran, Modelle sicher zu trainieren, und könne dafür seine eigenen Maßnahmen ergreifen. Er argumentierte, dass bereits die Nutzer selbst die Unternehmen zur Vorsicht drängten, weil niemand einen Assistenten verwenden werde, der Anweisungen nicht befolge oder gegen die Interessen seines Besitzers handle.
Kritik kam aus beiden politischen Lagern
Senator Bernie Sanders sagte, die Entscheidungen über künstliche Intelligenz seien in den Händen einer Handvoll der reichsten Menschen der Welt gelandet. Steve Bannon, ehemaliger Berater von Präsident Trump, erklärte, man könne den Technologieoligarchen nicht zutrauen, sich selbst zu kontrollieren. Auch Yoshua Bengio sprach sich dagegen aus, die Aufsicht den Unternehmen zu überlassen. Zudem meldete sich jemand aus der Branche zu Wort. Anthropic-Mitgründer Jack Clark sagte der BBC, die Branche völlig ohne Regeln zu lassen, bedeute, angesichts enormer Risiken zu würfeln.
Präsident Trump äußerte sich dagegen gegenteilig. Er kritisierte die Forderungen nach weiteren Leitplanken und bezeichnete die Sorgen um die Sicherheit von KI als Betrug.
Ausgelöst wurden die Spannungen der vergangenen Tage durch einen Beitrag eines ehemaligen Anthropic-Forschers, der behauptete, KI könnte die Menschheit bis zum Ende des Jahrzehnts auslöschen.
Die Unternehmen bereiten also ihre eigenen Regeln vor
Altman räumte ein, dass er nach seiner Aussage vor dem Kongress im Jahr 2023 erwartet habe, die Gesetzgeber würden zumindest grundlegende Regeln für die fortschrittlichsten Systeme aufstellen. Dazu kam es nicht. Seiner Ansicht nach gelingt es den Gesetzgebern nicht, Schritt zu halten, ohne die Entwicklung auszubremsen, und er rechnet in absehbarer Zeit nicht mit neuen US-Gesetzen.
Die Unternehmen müssen sich also selbst behelfen. Vertreter von OpenAI und Anthropic erklärten, sie hätten mit der Arbeit an einer Branchenvereinbarung über Sicherheitsstandards begonnen. Chris Lehane von OpenAI sagte vergangene Woche, sein Unternehmen arbeite gemeinsam mit Anthropic und dem Labor Google DeepMind an einer freiwilligen Vereinbarung – mit oder ohne staatliche Unterstützung.
Huang beteiligt sich aus einer Position an der Debatte, die sich von der der anderen unterscheidet. Nvidia liefert den meisten Entwicklern, darunter OpenAI und Anthropic, die nötige Rechentechnik, sodass sich jede Verlangsamung der Entwicklung auf das Wachstum des Unternehmens auswirken würde. Er selbst setzt sich seit Langem für Modelle mit frei verfügbaren Gewichten als Gegengewicht zu geschlossenen Laboren ein und organisierte einen offenen Brief, der Politiker davor warnt, diese einzuschränken.
Quellen: techcrunch.com, bbc.com, politico.com und bloomberg.com
