OpenAI, das für die Entwicklung des KI-Modells ChatGPT bekannte Unternehmen, hat gerade eine Stelle als Head of Preparedness (Leiter der Abteilung für Vorsorge) ausgeschrieben. Diese Position gehört zum Safety-Systems-Team in San Francisco und konzentriert sich darauf, sicherzustellen, dass KI-Modelle sicher und verantwortungsvoll sind. Laut Stellenbeschreibung soll diese Person die Strategie und Umsetzung des sogenannten Preparedness Framework leiten, eines Rahmens, der erläutert, wie OpenAI neue Fähigkeiten von Modellen überwacht und sich auf sie vorbereitet, wenn diese schwerwiegende Schäden verursachen könnten.
Das Safety-Systems-Team entwickelt Evaluationen, Schutzmaßnahmen und Sicherheitsrahmen, damit die Modelle in der realen Welt wie vorgesehen funktionieren. OpenAI hat bereits viel in die Vorbereitung über mehrere Modellgenerationen hinweg investiert, darunter grundlegende Evaluationen von Fähigkeiten, Bedrohungsmodelle und entsprechende Gegenmaßnahmen. Da die Fähigkeiten der Modelle zunehmen, wird erwartet, dass auch die Sicherheitsstandards ausgeweitet werden.
Warum suchen sie jetzt eine neue Leitung?
Sam Altman, CEO von OpenAI, teilte die Stellenausschreibung am 27. Dezember 2025 persönlich im sozialen Netzwerk X. Er beschrieb die Rolle als "stressig" und betonte, dass KI-Modelle allmählich echte Herausforderungen mit sich bringen, etwa mögliche Auswirkungen auf die psychische Gesundheit der Nutzer oder die Fähigkeit der Modelle, kritische Schwachstellen in der Computersicherheit zu finden. Altman rief Interessierte auf, die dazu beitragen möchten, die Cybersicherheit zu schützen, sicherzustellen, dass Angreifer KI nicht dazu missbrauchen können, Schaden anzurichten, und Risiken im Zusammenhang mit biologischen Fähigkeiten oder sich selbst verbessernden Systemen zu bewältigen.
Diese Ausschreibung folgt auf Veränderungen im Team. Im Jahr 2023 kündigte OpenAI die Gründung eines Teams zur Vorbereitung auf katastrophale Risiken an, von Phishing-Angriffen bis hin zu spekulativen Bedrohungen wie etwa nuklearen Gefahren. Doch 2024 wurde der bisherige Leiter des Vorsorgebereichs, Aleksander Madry, auf eine Position versetzt, die sich auf das Schlussfolgern von KI konzentriert. Weitere Sicherheitsmanager verließen das Unternehmen oder wechselten ihre Positionen. Im April 2025 aktualisierte OpenAI sein Preparedness Framework und erklärte darin, dass es die Sicherheitsanforderungen anpassen könnte, falls ein konkurrierendes Labor ein Hochrisikomodell ohne vergleichbare Schutzmaßnahmen veröffentlicht.
Was sind die wichtigsten Aufgaben?
Der Head of Preparedness soll die Gesamtverantwortung für die Vorsorgestrategie von OpenAI übernehmen. Dazu gehören die Entwicklung von Fähigkeitsevaluationen, die Festlegung von Bedrohungsmodellen und die Koordination entsprechender Gegenmaßnahmen, um einen kohärenten und skalierbaren Sicherheitsprozess zu schaffen. Konkret:
-
Die Entwicklung von Evaluationen fortgeschrittener Fähigkeiten leiten, die präzise, robust und an schnelle Produktzyklen angepasst sein sollen.
-
Die Gestaltung von Maßnahmen gegen Risiken in Bereichen wie Cybersicherheit oder Biologie beaufsichtigen, damit diese technisch fundiert und wirksam sind.
-
Die Interpretation von Evaluationsergebnissen steuern, die Entscheidungen über Markteinführungen, Richtlinien und Sicherheitsbewertungen beeinflussen.
-
Den Vorsorgerahmen entsprechend neuen Risiken, Fähigkeiten oder externen Erwartungen weiterentwickeln.
-
Mit Forschungs-, Entwicklungs- und Produktteams, Teams für Richtlinienüberwachung und Governance sowie externen Partnern zusammenarbeiten, damit die Vorsorge in den realen Einsatz integriert wird.
Zu den Risiken gehören der Missbrauch im Cyberbereich, bei dem Modelle mit minimaler menschlicher Beteiligung beim Hacking helfen, die psychische Gesundheit, wenn Nutzer in Gesprächen mit KI ernsthafte Probleme erörtern, sowie biologische Bedrohungen. Altman warnte vor einer wachsenden Krise durch KI-gestützten Betrug, bei dem Systeme zur massenhaften Nachahmung von Menschen eingesetzt werden.
Wer wäre geeignet?
Der ideale Kandidat sollte motiviert sein, den sicheren Einsatz fortgeschrittener KI-Systeme zu gewährleisten. Er benötigt fundierte technische Fachkenntnisse in maschinellem Lernen, KI-Sicherheit, Evaluationen, allgemeiner Sicherheit oder verwandten Risikobereichen. Erfahrung in der Konzeption oder Durchführung strenger Evaluationen komplexer technischer Systeme ist entscheidend. Er muss in der Lage sein, unter Unsicherheit klare technische Entscheidungen zu treffen, präzise zu kommunizieren und verschiedene Beteiligte bei Sicherheitsentscheidungen auf eine gemeinsame Linie zu bringen.
Weitere Vorteile: Erfahrung in der Leitung technischer Teams oder bereichsübergreifender Initiativen in Forschungsumgebungen, die Fähigkeit, wissenschaftliche Tiefe mit operativen Realitäten in Einklang zu bringen und schnell hochwertige Arbeit zu liefern. Von Vorteil sind Erfahrungen mit Bedrohungsmodellierung, Cybersicherheit, biologischer Sicherheit, Fehlanpassung oder anderen Risiken an der technologischen Grenze.
Das Gehalt wird mit 555.000 Dollar zuzüglich Aktienoptionen angegeben, was beim aktuellen Wechselkurs ungefähr 12.765.000 Kč zuzüglich Aktienoptionen entspricht.
