Neue Stelle bei OpenAI: Kampf gegen Gefahren durch fortschrittliche Modelle

Neue Stelle bei OpenAI: Kampf gegen Gefahren durch fortschrittliche Modelle

Ondřej Barták
Ondřej Barták
Unternehmer und Programmierer
6. 1. 2026
3 Minuten Lesezeit · 7 Aufrufe
Neue Stelle bei OpenAI: Kampf gegen Gefahren durch fortschrittliche Modelle

OpenAI, das für die Entwicklung des KI-Modells ChatGPT bekannte Unternehmen, hat gerade eine Stelle als Head of Preparedness (Leiter der Abteilung für Vorsorge) ausgeschrieben. Diese Position gehört zum Safety-Systems-Team in San Francisco und konzentriert sich darauf, sicherzustellen, dass KI-Modelle sicher und verantwortungsvoll sind. Laut Stellenbeschreibung soll diese Person die Strategie und Umsetzung des sogenannten Preparedness Framework leiten, eines Rahmens, der erläutert, wie OpenAI neue Fähigkeiten von Modellen überwacht und sich auf sie vorbereitet, wenn diese schwerwiegende Schäden verursachen könnten.

Das Safety-Systems-Team entwickelt Evaluationen, Schutzmaßnahmen und Sicherheitsrahmen, damit die Modelle in der realen Welt wie vorgesehen funktionieren. OpenAI hat bereits viel in die Vorbereitung über mehrere Modellgenerationen hinweg investiert, darunter grundlegende Evaluationen von Fähigkeiten, Bedrohungsmodelle und entsprechende Gegenmaßnahmen. Da die Fähigkeiten der Modelle zunehmen, wird erwartet, dass auch die Sicherheitsstandards ausgeweitet werden.

Warum suchen sie jetzt eine neue Leitung?

Sam Altman, CEO von OpenAI, teilte die Stellenausschreibung am 27. Dezember 2025 persönlich im sozialen Netzwerk X. Er beschrieb die Rolle als "stressig" und betonte, dass KI-Modelle allmählich echte Herausforderungen mit sich bringen, etwa mögliche Auswirkungen auf die psychische Gesundheit der Nutzer oder die Fähigkeit der Modelle, kritische Schwachstellen in der Computersicherheit zu finden. Altman rief Interessierte auf, die dazu beitragen möchten, die Cybersicherheit zu schützen, sicherzustellen, dass Angreifer KI nicht dazu missbrauchen können, Schaden anzurichten, und Risiken im Zusammenhang mit biologischen Fähigkeiten oder sich selbst verbessernden Systemen zu bewältigen.

Diese Ausschreibung folgt auf Veränderungen im Team. Im Jahr 2023 kündigte OpenAI die Gründung eines Teams zur Vorbereitung auf katastrophale Risiken an, von Phishing-Angriffen bis hin zu spekulativen Bedrohungen wie etwa nuklearen Gefahren. Doch 2024 wurde der bisherige Leiter des Vorsorgebereichs, Aleksander Madry, auf eine Position versetzt, die sich auf das Schlussfolgern von KI konzentriert. Weitere Sicherheitsmanager verließen das Unternehmen oder wechselten ihre Positionen. Im April 2025 aktualisierte OpenAI sein Preparedness Framework und erklärte darin, dass es die Sicherheitsanforderungen anpassen könnte, falls ein konkurrierendes Labor ein Hochrisikomodell ohne vergleichbare Schutzmaßnahmen veröffentlicht.

Was sind die wichtigsten Aufgaben?

Der Head of Preparedness soll die Gesamtverantwortung für die Vorsorgestrategie von OpenAI übernehmen. Dazu gehören die Entwicklung von Fähigkeitsevaluationen, die Festlegung von Bedrohungsmodellen und die Koordination entsprechender Gegenmaßnahmen, um einen kohärenten und skalierbaren Sicherheitsprozess zu schaffen. Konkret:

  • Die Entwicklung von Evaluationen fortgeschrittener Fähigkeiten leiten, die präzise, robust und an schnelle Produktzyklen angepasst sein sollen.

  • Die Gestaltung von Maßnahmen gegen Risiken in Bereichen wie Cybersicherheit oder Biologie beaufsichtigen, damit diese technisch fundiert und wirksam sind.

  • Die Interpretation von Evaluationsergebnissen steuern, die Entscheidungen über Markteinführungen, Richtlinien und Sicherheitsbewertungen beeinflussen.

  • Den Vorsorgerahmen entsprechend neuen Risiken, Fähigkeiten oder externen Erwartungen weiterentwickeln.

  • Mit Forschungs-, Entwicklungs- und Produktteams, Teams für Richtlinienüberwachung und Governance sowie externen Partnern zusammenarbeiten, damit die Vorsorge in den realen Einsatz integriert wird.

Zu den Risiken gehören der Missbrauch im Cyberbereich, bei dem Modelle mit minimaler menschlicher Beteiligung beim Hacking helfen, die psychische Gesundheit, wenn Nutzer in Gesprächen mit KI ernsthafte Probleme erörtern, sowie biologische Bedrohungen. Altman warnte vor einer wachsenden Krise durch KI-gestützten Betrug, bei dem Systeme zur massenhaften Nachahmung von Menschen eingesetzt werden.

Wer wäre geeignet?

Der ideale Kandidat sollte motiviert sein, den sicheren Einsatz fortgeschrittener KI-Systeme zu gewährleisten. Er benötigt fundierte technische Fachkenntnisse in maschinellem Lernen, KI-Sicherheit, Evaluationen, allgemeiner Sicherheit oder verwandten Risikobereichen. Erfahrung in der Konzeption oder Durchführung strenger Evaluationen komplexer technischer Systeme ist entscheidend. Er muss in der Lage sein, unter Unsicherheit klare technische Entscheidungen zu treffen, präzise zu kommunizieren und verschiedene Beteiligte bei Sicherheitsentscheidungen auf eine gemeinsame Linie zu bringen.

Weitere Vorteile: Erfahrung in der Leitung technischer Teams oder bereichsübergreifender Initiativen in Forschungsumgebungen, die Fähigkeit, wissenschaftliche Tiefe mit operativen Realitäten in Einklang zu bringen und schnell hochwertige Arbeit zu liefern. Von Vorteil sind Erfahrungen mit Bedrohungsmodellierung, Cybersicherheit, biologischer Sicherheit, Fehlanpassung oder anderen Risiken an der technologischen Grenze.

Das Gehalt wird mit 555.000 Dollar zuzüglich Aktienoptionen angegeben, was beim aktuellen Wechselkurs ungefähr 12.765.000 Kč zuzüglich Aktienoptionen entspricht.

Werbung

Inhalte entstehen mit Unterstützung von UpTier.

SEO und GEO auf Autopilot. Die Multiagentensysteme von UpTier schreiben und optimieren Inhalte für Suchmaschinen und KI-Antworten.

UpTier entdecken ↗

Kategorie:KI
Hat Ihnen dieser Artikel gefallen?
Entdecken Sie weitere interessante Beiträge im Blog
Zurück zum Blog

Ähnliche Beiträge

OpenAI zieht gegen Kindesmissbrauch zu Felde. ChatGPT sperrt Konten für einen ganzen TagOpenAI zieht gegen Kindesmissbrauch zu Felde. ChatGPT sperrt Konten für einen ganzen Tag
OpenAI verstärkt den Kinderschutz: Ein neues System erkennt auch bislang unbekannte KI-Bilder und sperrt ChatGPT-Konten bei versuchtem Abruf für 24 Stunden.
4 Min. Lesezeit
18. 11. 2026
Google stellt Tasks für Nutzer von Gemini 4 Hydrogen kostenlos bereitGoogle stellt Tasks für Nutzer von Gemini 4 Hydrogen kostenlos bereit
Der Tasks-Modus wird für Hunderte Millionen Nutzer von Gemini 4 Hydrogen kostenlos verfügbar. Laut Google kann er Unternehmen anrufen, Termine vereinbaren und Einkäufe abschließen.
1 Min. Lesezeit
18. 11. 2026
OpenAI führt GPT-6.2 Astra und Sol für berufliche und alltägliche Aufgaben einOpenAI führt GPT-6.2 Astra und Sol für berufliche und alltägliche Aufgaben ein
OpenAI hat zwei Modelle vorgestellt: Astra ist für komplexe berufliche Aufgaben gedacht, Sol für die alltägliche Arbeit. Beide sind in ChatGPT Work, Codex und über die API verfügbar.
3 Min. Lesezeit
17. 11. 2026
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.
CodedTrip

Betreiber: CodedTrip LLC, USA.

YouTube
TikTok