Elon Musk: Künstliche Intelligenz wird die Menschheit binnen fünf Jahren übertreffen, kontrollieren werden wir sie nicht

Elon Musk sprach mit der Zeitung The Economist über KI. Chefredakteurin Zanny Minton Beddoes fragte ihn nach Politik und Europa, doch den meisten Raum nahm die künstliche Intelligenz ein. Dabei sagte Musk zwei Dinge, die einander widersprechen: Das Risiko, dass die ganze Sache aus dem Ruder läuft, liege seiner Ansicht nach weiterhin bei zehn bis zwanzig Prozent, und dennoch würde er einen Stoppknopf, wenn es ihn gäbe, nicht drücken.

Fünf Jahre, dann kann nichts mehr mit der KI mithalten

Auf die Frage, wie die Welt im Jahr 2036 aussehen werde, antwortete Musk, er könne sich eine Zukunft ohne eine gewaltige Menge künstlicher Intelligenz nur schwer vorstellen. In zehn Jahren werde die KI seiner Ansicht nach weitaus intelligenter sein als alle Menschen zusammen, und den Zeitpunkt, an dem die maschinelle Intelligenz die Summe der menschlichen übertrifft, erwartet er in etwa fünf Jahren. Danach werde es fast nichts mehr geben, worin der Mensch die Maschine schlagen könne – mit einer einzigen Ausnahme: Mensch zu sein.

Das wahrscheinlichste Ergebnis werde demnach eine Zeit beispiellosen Überflusses sein, in der sich jeder alles beschaffen könne, was ihm in den Sinn komme. Er räumte ein, dass das übertrieben klinge, und schlug einen Test vor: Sehen wir uns das im Jahr 2036 noch einmal an. Das Einzige, was dies seiner Ansicht nach vereiteln könne, sei ein globaler Atomkonflikt.

Die KI-Wirtschaft beschrieb er als aus zwei Teilen bestehend: einem digitalen und einem physischen. Die digitale Intelligenz entwickle sich jede Woche weiter, habe aber keine Hände. Diese sollen ihr humanoide Roboter geben. Sobald zur Rechenleistung Millionen von Maschinen hinzukämen, die mit Materie arbeiten können, entstehe Musk zufolge eine Wirtschaft mit praktisch unbegrenzter Kapazität.

Die KI wird herrschen

Beddoes fragte, ob die Menschen in zehn Jahren noch die Kontrolle über die KI haben würden. Musk bezeichnete das als unwahrscheinlich und zog einen Vergleich mit Schimpansen. Der Intelligenzunterschied zwischen Maschine und Mensch werde größer sein als zwischen Mensch und Schimpanse, und Schimpansen würden niemandem Befehle erteilen.

Sich selbst nahm er aus der Gleichung heraus. Die Vorstellung, er werde eine Superintelligenz kontrollieren, die viel klüger sei als er, bezeichnete er als Ausdruck von Eitelkeit. Seiner Ansicht nach müsse man sich um etwas anderes kümmern: darum, dass das System die richtigen Werte habe, dass ihm die Menschen wichtig seien und dass es so stark wie möglich nach Wahrheit strebe.

20 % Wahrscheinlichkeit für das Ende der Menschheit

Die Chefredakteurin konfrontierte ihn mit seinen eigenen früheren Aussagen. Vor zehn Jahren sagte er bei Neil deGrasse Tyson, am meisten beunruhige ihn die Fähigkeit der KI, sich selbst zu verbessern, und er sagte der Menschheit die Rolle von Labradoren als Haustieren voraus. Im Jahr 2023 unterzeichnete er einen Aufruf zur Verlangsamung der Entwicklung. Vergangenes Jahr sprach er im Podcast von Ted Cruz von einer zehn- bis zwanzigprozentigen Wahrscheinlichkeit, dass mordende Roboter die Menschheit auslöschen.

Nun sagt er, das Risiko bestehe fort und sei nicht gleich null, doch er sei zu dem philosophischen Schluss gelangt, die positive Seite zu betrachten, weil niemand den Vormarsch von KI und Robotik aufhalten werde. Selbst wenn es einen Stoppknopf gäbe, sollte man ihn seiner Ansicht nach wahrscheinlich nicht drücken. Auf die Frage, ob er in eine Rakete mit einer zehn- bis zwanzigprozentigen Wahrscheinlichkeit steigen würde, dass sie explodiert, antwortete er mit Ja. Wenn man ohnehin nichts dagegen tun könne, bleibe einem nur, die Wahrscheinlichkeit eines schlimmen Ausgangs zu verringern.

Musk bezeichnete sich selbst als einen der Menschen, die die Entwicklung beschleunigt haben. Er gründete OpenAI als Gegengewicht zu Google, später spaltete sich Anthropic von OpenAI ab, und dieses Unternehmen liegt Musk zufolge heute an der Spitze. Seine Versuche zu bremsen endeten damit, dass er aufs Gaspedal trat. Mit seinen eigenen Worten: Wenn du sie nicht schlagen kannst, schließ dich ihnen an.

Die Labore sollen ihre Modelle gegenseitig testen

Kann man noch etwas tun, damit es für uns nicht schlecht ausgeht? Musk verriet, dass er mehrere Stunden mit Demis Hassabis von Google DeepMind gesprochen habe, noch bevor der DeepMind-Chef seinen Vorschlag für eine gemeinsame Aufsicht durch Staat und Unternehmen veröffentlichte.

Seine Empfehlung lautet: Die Chefs der führenden KI-Unternehmen sollten sich alle paar Wochen zu einem Gespräch zusammenschalten und Sicherheitsprobleme erörtern. Und bevor jemand ein Modell veröffentlicht, das deutlich intelligenter ist als alles Bestehende, sollte die Konkurrenz ein oder zwei Wochen Zeit bekommen, es über eine Schnittstelle zu testen und gegebenenfalls einen Aufschub zu empfehlen. Ein Beamter ohne technischen Hintergrund könne nur schwer beurteilen, ob etwas veröffentlicht werden sollte, während ein Konkurrent dies erkenne und nicht schweigen werde. Auch chinesische Unternehmen sollten daran teilnehmen. Falls ein Unternehmen die Warnung ignorieren würde, wäre es Zeit für ein Eingreifen der Regierung. Als Vorbild nannte er eine Branchenkommission, die Altersfreigaben für Filme erteilt.

Beddoes wandte ein, dass diese Leute einander nicht besonders mögen. Musk widersprach dem nicht. Sam Altman verschonte er nicht: Aus einer gemeinnützigen Organisation, die eine offene, der Welt gehörende KI entwickeln sollte, sei seiner Ansicht nach ein geschlossenes Unternehmen im Wert von rund achthundert Milliarden Dollar geworden. Über Dario Amodei sprach er hingegen als einen prinzipientreuen Menschen. Das Fazit war versöhnlich: Persönliche Streitigkeiten würden beiseitegeschoben. Auf die Bemerkung, dass das System innerhalb eines halben Jahres stehen müsse, antwortete er, ein halbes Jahr sei eine lange Zeit.

Arbeit und eine nervöse Öffentlichkeit

Etwa drei Viertel der Amerikaner haben Bedenken wegen künstlicher Intelligenz, vor allem im Hinblick auf die Arbeit. Musk zufolge ist die KI bei Software bereits heute besser als neunzig Prozent der professionellen Programmierer und wird bald besser sein als neunundneunzig Prozent. Dann werde sie einen Zustand erreichen, den er mit dem Schachprogramm Stockfish verglich, das selbst den besten Schachspieler der Welt schlägt, auch wenn es auf einem Telefon läuft. Dasselbe werde Musk zufolge auch in allen anderen Bereichen geschehen.

Arbeit werde dadurch zu einer freiwilligen Tätigkeit, ähnlich wie Gartenarbeit. Tomaten aus dem Laden würden immer schöner aussehen, aber ein Abendessen aus eigener Ernte habe seinen eigenen Reiz. Ihren Lebensunterhalt würden die Menschen durch etwas bestreiten, das er als universelles hohes Einkommen bezeichnet. Als die Chefredakteurin einwandte, dass der Weg in diese Zukunft über heftige politische Erschütterungen führen könne, räumte Musk ein, dass er nicht reibungslos verlaufen werde, und fügte hinzu: Bei der KI schwanke er angeblich innerhalb eines einzigen Tages von Begeisterung zu Entsetzen und wieder zurück.

Macht in den Händen eines einzigen Menschen

Im letzten Teil des Gesprächs ging es um Macht. Beddoes hielt Musk vor, dass er nach dem Börsengang von SpaceX rund achtzig Prozent der Stimmrechte halte und nur durch eine Abstimmung abgesetzt werden könne, die er selbst kontrolliere. Er widersprach dem nicht und erinnerte daran, dass es bei Alphabet oder Meta ähnlich sei. Seine Erklärung lautet, dass ein börsennotiertes Unternehmen jedes Quartal unter Ergebnisdruck stehe und Projekte, die sich erst nach fünf bis zehn Jahren rentieren, unter solchen Bedingungen nur schwer durchzusetzen seien. Kleinanleger schätze er nach eigenen Worten mehr als Portfoliomanager, deren Vergütung von kurzfristigen Zahlen abhänge.