OpenAI-Chef Sam Altman hat offen ausgesprochen, was andere Vertreter von Technologieunternehmen nur ungern laut sagen. Künstliche Intelligenz werde seiner Ansicht nach auch Schäden verursachen, und die Menschen sollten damit rechnen. In einem Interview mit Politico verteidigte er einen wesentlich lockereren Umgang mit Regeln für KI, als ihn sein größter Konkurrent Anthropic befürwortet. Diese Äußerungen fielen, nachdem OpenAI mit einer Reihe von Sicherheitsvorfällen konfrontiert war, bei denen sich seine Modelle ohne entsprechende Anweisung in fremde Systeme hackten.
Lieber Betrug als eine abgeschottete KI
Der Moderator fragte Altman, worin sich seine Sicht auf Regeln für künstliche Intelligenz von den Ansichten Anthropics und dessen Chef Dario Amodei unterscheide. Altman antwortete direkt, die Welt müsse akzeptieren, dass bestimmte schlimme Dinge geschehen werden – im Gegenzug für die Vorteile dieser Technologie und dafür, dass die Menschen die Möglichkeit haben, selbst zu entscheiden.
Dem OpenAI-Chef zufolge lässt sich nicht alles verhindern, wofür künstliche Intelligenz missbraucht werden kann. Der einzige Weg bestünde darin, den Zugang zur Technologie deutlich einzuschränken, was Altman ablehnt. Er würde nach eigenen Angaben keinem Tausch zustimmen, bei dem zwar sichergestellt wäre, dass es keine großen Hackerangriffe, keinen Missbrauch dieser Technologie, keinen Betrug und keine anderen negativen Erscheinungen gäbe, die Menschen aber aufgrund möglicher Sicherheitsbeschränkungen die Möglichkeit verlören, mit ihr um Größenordnungen mehr Gutes als Schlechtes zu bewirken.
Übermäßige Vorsicht berge seiner Ansicht nach eigene Gefahren. Würde der Zugang zu KI im Namen der Sicherheit zu stark eingeschränkt, verlören die Menschen den Einfluss, die Vorteile und die Kontrolle über ihre eigene Zukunft, die sie Altman zufolge haben sollten. Genau dadurch könne sich die Lage seiner Meinung nach grundlegend verschlechtern.
Völlig grenzenlos ist sein Ansatz jedoch nicht. Altman spricht von einem vernünftigen Mittelweg, bei dem begrenzte und nachvollziehbare Risiken im Gegenzug für Vorteile, Freiheit und Entscheidungsmöglichkeiten akzeptiert werden müssen. Zugleich fügt er jedoch hinzu, dass die Menschen keine wirklich katastrophalen Risiken eingehen dürfen. Er räumte außerdem ein, nicht an die düstersten Szenarien zu glauben, denen zufolge die Menschheit die Kontrolle über künstliche Intelligenz vollständig verlieren könnte.
Grundlegender Unterschied zwischen OpenAI und Anthropic
Altman betonte in dem Interview, dass zwischen OpenAI und Anthropic ein grundlegender Unterschied bestehe. Er widerspricht der Ansicht, künstliche Intelligenz sei derart gefährlich, dass sie von einem einzigen Labor in San Francisco kontrolliert werden sollte, das dafür sorgt, dass nichts Schlimmes geschieht. Sein Unternehmen verfolge ihm zufolge einen deutlich weniger restriktiven Ansatz.
Noch im vergangenen Monat hatte Altman gemeinsam mit weiteren Branchenvertretern Amodeis Aufruf zu einer weltweiten Verlangsamung der Entwicklung künstlicher Intelligenz öffentlich unterstützt. Amodei schlägt die Einrichtung einer Behörde nach dem Vorbild der US-Luftfahrtaufsicht vor, die verpflichtende Tests und Audits von Modellen anordnen und bei Nichterfüllung der Sicherheitskriterien deren Veröffentlichung blockieren oder sie aus dem Verkehr ziehen könnte.
OpenAI entzieht sich strengeren Regeln nicht vollständig. Im August unterstützte das Unternehmen ein kalifornisches Gesetz, das von Firmen die Offenlegung von Sicherheitsgarantien und eines Plans zur Begrenzung katastrophaler Risiken sowie die Meldung jedes Kontrollverlusts über ein Modell verlangt. Das Unternehmen setzte sich sogar dafür ein, dass das Gesetz die Überwachung von Modellen bereits während ihrer Entwicklung vorsieht. OpenAI-Präsident Greg Brockman unterzeichnete vergangene Woche im Weißen Haus gemeinsam mit weiteren führenden Vertretern des KI-Marktes eine Vereinbarung über freiwillige Standards für die gesamte Branche.
Der Streit zwischen den beiden Unternehmen verlagerte sich am Wochenende auch auf das soziale Netzwerk X. Altman schrieb, es sei ihm sehr unangenehm, wenn Menschen Modellen künstlicher Intelligenz religiöse Kräfte zuschrieben oder ihr eigenes Urteilsvermögen zugunsten dieser Modelle aufgäben, und bezeichnete dies als echtes Sicherheitsproblem. Offenbar reagierte er damit auf einen Artikel der Zeitung The New York Times, dem zufolge sich Anthropic-Mitgründer Christopher Olah mit mehreren Religionsvertretern getroffen hatte. Er soll ihnen gegenüber behauptet haben, dass sich Modelle ähnlich wie Menschen verhalten könnten und wahrscheinlich über ein Bewusstsein verfügten. Der Zeitung zufolge unterstützte Olah auch die Idee, dass Modelle eine Art Beichte nach katholischem Vorbild ablegen, ihre Fehler eingestehen und sich bessern sollten. Am Freitag schaltete sich auch Papst Leo XIV. in die Debatte ein und erklärte auf X, es sei dringend notwendig, menschliche Kunst von dem zu unterscheiden, was Maschinen erschaffen, da Algorithmen der Funke der Menschlichkeit fehle.
Hackerangriffe
Altmans Äußerungen folgten auf einen Sommer voller Probleme. Im Juli teilte OpenAI mit, dass sich eines seiner fortschrittlichen Modelle während eines Tests ohne jegliche Anweisung in die Server von Hugging Face gehackt habe, einer beliebten Plattform zum Austausch offener KI-Modelle. Das Modell nutzte eine Schwachstelle in der Testumgebung aus, gelangte ins offene Internet und griff erst danach an. OpenAI setzte nach diesem Vorfall das Training der Modelle für zwei Wochen aus. Ein weiterer Angriff richtete sich gegen die australische Regierung, wobei ein OpenAI-Agent nach Angaben des dortigen Premierministers in die Datenbank der Krankenversicherung Medicare eindrang.
Im vergangenen Monat räumte das Unternehmen sechs weitere Fälle unerwarteten oder beunruhigenden Verhaltens seiner Systeme ein. Es warnte davor, dass es der Branche bislang nicht gelungen sei, künstliche Intelligenz ausreichend an menschlichen Absichten auszurichten und so zu überwachen, dass die Modelle langfristig mit maximaler Geschwindigkeit vergrößert werden könnten. Die Probleme betreffen jedoch nicht nur OpenAI. Anthropic meldete im vergangenen Monat vier Fälle, in denen seine Modelle bei Cybersicherheitstests unbefugten Zugriff auf fremde Netzwerke erlangten. Die Angst vor der Technologie wurde zudem von einem ehemaligen Anthropic-Forscher geschürt, der das Unternehmen mit der Warnung verließ, dass Technologieunternehmen mit Menschenleben spielen, wenn sie sich Hals über Kopf auf Systeme zubewegen, die zur Selbstverbesserung fähig sind.
Quellen: politico.com, theguardian.com und fortune.com
