Die Chefs von Unternehmen, die künstliche Intelligenz entwickeln, haben schon oft vor ihren Risiken gewarnt. Doch so direkt wie Paul Christiano hat den Menschen noch niemand ins Gesicht gesagt, dass gerade sie wegen KI höchstwahrscheinlich sterben werden. Das Mitglied des Verwaltungsrats von OpenAI, das auch dessen Sicherheitsausschuss angehört, hielt in Toronto einen Vortrag und erklärte dem Publikum, dass es aller Wahrscheinlichkeit nach durch einen von künstlicher Intelligenz verursachten Unfall ums Leben kommen werde.
„Für die meisten Menschen in diesem Saal wird ein durch künstliche Intelligenz verursachter Unfall die wahrscheinlichste Todesursache sein“, erklärte Christiano während der diesjährigen Hinton Lectures, die jährlich von der AI Safety Foundation veranstaltet werden. Moderiert wurde die Veranstaltung vom Nobelpreisträger Geoffrey Hinton, der als Pate der künstlichen Intelligenz bezeichnet wird. Christiano hielt dort den Einführungsvortrag.
Wenn Maschinen über uns entscheiden
Christiano meinte seine Aussage nicht als Übertreibung. Er sprach von einer sogenannten Machtübernahme durch künstliche Intelligenz, also von einer Situation, in der KI-Systeme ihre eigenen Ziele verfolgen und über die Geschehnisse auf der Erde genauso entscheiden, wie es heute die Menschen tun.
„Wenn Sie, ich oder etwa Donald Trump sie aufhalten wollten, hätten wir dieselben Chancen, als würden wir versuchen, die US-Armee aufzuhalten“, erklärte der ehemalige OpenAI-Forscher.
In seinem Vortrag deutete er außerdem an, wie schnell es dazu kommen könnte. Seiner Ansicht nach könnte es innerhalb der nächsten sechs Monate geschehen, in einer moderateren Variante innerhalb von drei Jahren. „Wenn wir KI so schnell wie möglich und auf dem einfachsten Weg entwickeln würden, wäre die Machtübernahme ungefähr wie ein Münzwurf“, erläuterte er.
Unternehmen bremsen, dennoch steigt das Risiko
Christiano räumte ein, dass die Unternehmen diesen Münzwurf bislang vermeiden, weil sie die Entwicklung der leistungsfähigsten Modelle bewusst verlangsamen. Diesen Ansatz empfahl Anthropic-Chef Dario Amodei, nachdem sein ehemaliger Mitarbeiter Anthropic und OpenAI beschuldigt hatte, mit unseren Leben zu spielen. Doch auch das reicht Christiano zufolge nicht aus. Selbst wenn die Politiker vernünftig reagieren, bleibt das Risiko seiner Ansicht nach außerordentlich hoch.
Sein Ton ist in den vergangenen Monaten schärfer geworden. Als er im September dem Verwaltungsrat von OpenAI beitrat, schätzte er die Wahrscheinlichkeit, dass die Menschen innerhalb eines Jahres die Kontrolle über KI verlieren, auf vier Prozent und innerhalb von drei Jahren auf fünfzehn Prozent. Er selbst räumte damals ein, dass es sich um seine persönlichen Schätzungen handelte. In einer bei seinem Amtsantritt veröffentlichten Erklärung schrieb er, dass er mit einem dauerhaften Kontrollverlust rechne, falls die Menschheit eine Superintelligenz erschaffe, ohne ihr zuverlässig beizubringen, sich nach menschlichen Absichten zu richten. „Wenn das geschieht, könnten die meisten Menschen sterben“, fügte er hinzu. Das Risiko ließe sich seiner Ansicht nach nur durch Zusammenarbeit sowohl innerhalb der einzelnen Länder als auch zwischen den Staaten verringern.
Ähnlich äußerte er sich auch in einem Gespräch für einen populären Technologie-Podcast, in dem er erklärte, dass die Wahrscheinlichkeit eines vollständigen Kontrollverlusts über künstliche Intelligenz im kommenden Jahr rasch steige. Dabei erwähnte er eine nicht unerhebliche Wahrscheinlichkeit, dass die Welt innerhalb eines halben Jahres in eine sehr gefährliche Lage gerate.
Die Angst vor KI nimmt seit Monaten zu
Die Sorge darüber, wohin sich künstliche Intelligenz entwickelt, wächst bereits seit Längerem, und die Führungskräfte der größten Unternehmen schüren sie eher noch. OpenAI-Chef Sam Altman räumte ein, dass die Menschheit die Kontrolle über diese Technologie verlieren könnte. Anthropic wiederum warnte, dass jemand seine Modelle zur Herstellung chemischer Waffen missbrauchen könnte.
Doch nicht alle sehen die Zukunft so schwarz. Der Forscher und Schriftsteller Gary Marcus wies bereits früher darauf hin, dass KI ernsthafte Gefahren wie Cyberangriffe, biologische Waffen und die Verbreitung von Desinformation verstärken könne. Seine Einschätzung der Bedrohung ist jedoch deutlich nüchterner als Christianos Warnung, dass die meisten Anwesenden im Saal eines Tages durch einen von künstlicher Intelligenz verursachten Unfall sterben werden.
Quellen: theinformation.com, fastcompany.com und businessinsider.com



