OpenAI-Führungskraft warnt: Die meisten von euch werden wohl durch einen KI-Unfall sterben

OpenAI-Führungskraft warnt: Die meisten von euch werden wohl durch einen KI-Unfall sterben

Ondřej Barták
Ondřej Barták
Unternehmer und Programmierer
20. 11. 2026
3 Minuten Lesezeit · 2 Aufrufe
Artikel anhören
Audioversion des Artikels
OpenAI-Führungskraft warnt: Die meisten von euch werden wohl durch einen KI-Unfall sterben

Die Chefs von Unternehmen, die künstliche Intelligenz entwickeln, haben schon oft vor ihren Risiken gewarnt. Doch so direkt wie Paul Christiano hat den Menschen noch niemand ins Gesicht gesagt, dass gerade sie wegen KI höchstwahrscheinlich sterben werden. Das Mitglied des Verwaltungsrats von OpenAI, das auch dessen Sicherheitsausschuss angehört, hielt in Toronto einen Vortrag und erklärte dem Publikum, dass es aller Wahrscheinlichkeit nach durch einen von künstlicher Intelligenz verursachten Unfall ums Leben kommen werde.

„Für die meisten Menschen in diesem Saal wird ein durch künstliche Intelligenz verursachter Unfall die wahrscheinlichste Todesursache sein“, erklärte Christiano während der diesjährigen Hinton Lectures, die jährlich von der AI Safety Foundation veranstaltet werden. Moderiert wurde die Veranstaltung vom Nobelpreisträger Geoffrey Hinton, der als Pate der künstlichen Intelligenz bezeichnet wird. Christiano hielt dort den Einführungsvortrag.

Wenn Maschinen über uns entscheiden

Christiano meinte seine Aussage nicht als Übertreibung. Er sprach von einer sogenannten Machtübernahme durch künstliche Intelligenz, also von einer Situation, in der KI-Systeme ihre eigenen Ziele verfolgen und über die Geschehnisse auf der Erde genauso entscheiden, wie es heute die Menschen tun.

„Wenn Sie, ich oder etwa Donald Trump sie aufhalten wollten, hätten wir dieselben Chancen, als würden wir versuchen, die US-Armee aufzuhalten“, erklärte der ehemalige OpenAI-Forscher.

In seinem Vortrag deutete er außerdem an, wie schnell es dazu kommen könnte. Seiner Ansicht nach könnte es innerhalb der nächsten sechs Monate geschehen, in einer moderateren Variante innerhalb von drei Jahren. „Wenn wir KI so schnell wie möglich und auf dem einfachsten Weg entwickeln würden, wäre die Machtübernahme ungefähr wie ein Münzwurf“, erläuterte er.

Unternehmen bremsen, dennoch steigt das Risiko

Christiano räumte ein, dass die Unternehmen diesen Münzwurf bislang vermeiden, weil sie die Entwicklung der leistungsfähigsten Modelle bewusst verlangsamen. Diesen Ansatz empfahl Anthropic-Chef Dario Amodei, nachdem sein ehemaliger Mitarbeiter Anthropic und OpenAI beschuldigt hatte, mit unseren Leben zu spielen. Doch auch das reicht Christiano zufolge nicht aus. Selbst wenn die Politiker vernünftig reagieren, bleibt das Risiko seiner Ansicht nach außerordentlich hoch.

Sein Ton ist in den vergangenen Monaten schärfer geworden. Als er im September dem Verwaltungsrat von OpenAI beitrat, schätzte er die Wahrscheinlichkeit, dass die Menschen innerhalb eines Jahres die Kontrolle über KI verlieren, auf vier Prozent und innerhalb von drei Jahren auf fünfzehn Prozent. Er selbst räumte damals ein, dass es sich um seine persönlichen Schätzungen handelte. In einer bei seinem Amtsantritt veröffentlichten Erklärung schrieb er, dass er mit einem dauerhaften Kontrollverlust rechne, falls die Menschheit eine Superintelligenz erschaffe, ohne ihr zuverlässig beizubringen, sich nach menschlichen Absichten zu richten. „Wenn das geschieht, könnten die meisten Menschen sterben“, fügte er hinzu. Das Risiko ließe sich seiner Ansicht nach nur durch Zusammenarbeit sowohl innerhalb der einzelnen Länder als auch zwischen den Staaten verringern.

Ähnlich äußerte er sich auch in einem Gespräch für einen populären Technologie-Podcast, in dem er erklärte, dass die Wahrscheinlichkeit eines vollständigen Kontrollverlusts über künstliche Intelligenz im kommenden Jahr rasch steige. Dabei erwähnte er eine nicht unerhebliche Wahrscheinlichkeit, dass die Welt innerhalb eines halben Jahres in eine sehr gefährliche Lage gerate.

Die Angst vor KI nimmt seit Monaten zu

Die Sorge darüber, wohin sich künstliche Intelligenz entwickelt, wächst bereits seit Längerem, und die Führungskräfte der größten Unternehmen schüren sie eher noch. OpenAI-Chef Sam Altman räumte ein, dass die Menschheit die Kontrolle über diese Technologie verlieren könnte. Anthropic wiederum warnte, dass jemand seine Modelle zur Herstellung chemischer Waffen missbrauchen könnte.

Doch nicht alle sehen die Zukunft so schwarz. Der Forscher und Schriftsteller Gary Marcus wies bereits früher darauf hin, dass KI ernsthafte Gefahren wie Cyberangriffe, biologische Waffen und die Verbreitung von Desinformation verstärken könne. Seine Einschätzung der Bedrohung ist jedoch deutlich nüchterner als Christianos Warnung, dass die meisten Anwesenden im Saal eines Tages durch einen von künstlicher Intelligenz verursachten Unfall sterben werden.

Quellen: theinformation.com, fastcompany.com und businessinsider.com

Werbung

Inhalte entstehen mit Unterstützung von UpTier.

SEO und GEO auf Autopilot. Die Multiagentensysteme von UpTier schreiben und optimieren Inhalte für Suchmaschinen und KI-Antworten.

UpTier entdecken ↗

Kategorie:KI
Hat Ihnen dieser Artikel gefallen?
Entdecken Sie weitere interessante Beiträge im Blog
Zurück zum Blog

Ähnliche Beiträge

Tencent veröffentlicht Hy4: Multimodales Modell mit Kontextfenster für über eine Million TokenTencent veröffentlicht Hy4: Multimodales Modell mit Kontextfenster für über eine Million Token
Das neue Modell der Hunyuan-Familie verarbeitet Text, Bilder und Videos. Tencent hat seine Gewichte veröffentlicht und unterstützt den Einsatz über vLLM und SGLang.
3 Min. Lesezeit
21. 11. 2026
OpenAI half AMD, einen neuen Grafikchip zu optimieren. Ein Jahr Arbeit in knapp fünf MonatenOpenAI half AMD, einen neuen Grafikchip zu optimieren. Ein Jahr Arbeit in knapp fünf Monaten
OpenAI-Modelle halfen AMD, Verbrauch, Leistung und Fläche des Grafikchips um bis zu 14 Prozent zu verbessern. Was früher ein Jahr dauerte, gelang in knapp fünf Monaten.
5 Min. Lesezeit
20. 11. 2026
Mistral veröffentlicht Vibe Desktop. Der KI-Programmierer läuft jetzt direkt auf Mac und WindowsMistral veröffentlicht Vibe Desktop. Der KI-Programmierer läuft jetzt direkt auf Mac und Windows
Mistral bringt die KI-Programmierung vom Terminal auf den Desktop. Vibe Desktop für macOS und Windows unterstützt lokale wie cloudbasierte Entwicklung und lässt mehrere Agenten parallel arbeiten.
5 Min. Lesezeit
20. 11. 2026
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.
CodedTrip

Betreiber: CodedTrip LLC, USA.

YouTube
TikTok