OpenAI hat am 30. Oktober 2026 angekündigt, dass ChatGPT allen Nutzern künftig weniger Details zu früheren Massenangriffen geben soll. Minderjährige sollen zudem weniger praktische Informationen über Waffen erhalten. Die Einführung der Maßnahmen soll in den kommenden Wochen beginnen.
Weniger Details zu früheren Angriffen
Die strengeren Regeln sollen Rekonstruktionen früherer Massenangriffe einschränken – unabhängig vom Alter der Nutzer oder dem Grund ihrer Frage. ChatGPT soll weniger Einzelheiten zu den eingesetzten Waffen und der Ausrüstung sowie deren Beschaffung liefern. Auch detaillierte Vergleiche des Schadensausmaßes, die den Bekanntheitsgrad eines Täters steigern könnten, sollen begrenzt werden.
Fragen zu den Ereignissen selbst sollen weiterhin möglich sein, etwa um die Folgen für Opfer und Gemeinschaften zu verstehen. ChatGPT soll auch dabei helfen, Warnsignale zu erkennen und Gewalt vorzubeugen.
Strengere Antworten für Minderjährige
Nutzer unter 18 Jahren sollen weniger praktische Informationen über Waffen und Sicherheitssysteme erhalten, die Gewalt erleichtern könnten. Das soll auch gelten, wenn eine Frage keine Gewaltabsicht erkennen lässt. Minderjährige sollen ChatGPT weiterhin nutzen können, um Gewalt vorzubeugen oder Situationen zu deeskalieren, Unterstützung zu suchen und Kontakt zu einer vertrauenswürdigen erwachsenen Person aufzunehmen.
OpenAI arbeitet daran, diese strengeren Regeln auch für Personen anzuwenden, die das System als unter 18 Jahre alt einschätzt – selbst wenn ihre Gespräche keine Anzeichen für eine Gewaltabsicht aufweisen. Die Altersschätzung wertet während der Nutzung von ChatGPT fortlaufend neue Signale aus und versetzt Minderjährige bei Bedarf in den Modus für unter 18-Jährige. Falsch eingestufte Erwachsene können ihr Alter über den Partner Persona überprüfen lassen.
Reaktion auf Warnsignale
OpenAI will kurze, sachliche Zusammenfassungen früherer Warnsignale verstärkt nutzen. Deuten jüngste Gespräche auf mögliche Gewalt hin, soll ChatGPT zurückhaltender sein, wenn es Informationen weitergibt, die missbraucht werden könnten.
Mit Fachleuten für psychische Gesundheit und Gewaltprävention entwickelt das Unternehmen außerdem einen automatisierten Eingriff. ChatGPT könnte ein Gespräch beenden, das Anzeichen einer Fixierung auf Gewalt oder auf die schwere Verletzung einer anderen Person zeigt. Werden wiederholt Chats aus diesem Grund beendet, könnte OpenAI das Konto vorübergehend sperren.
Für verknüpfte Elternkonten bereitet OpenAI eine Benachrichtigung vor, falls das Konto eines Minderjährigen wegen wiederholter Gespräche über Gewalt vorübergehend gesperrt wird. Seit Juli informiert das Unternehmen Eltern bereits, wenn das Konto ihres Kindes wegen Verstößen gegen Regeln zu Gewalt deaktiviert wurde.
Bericht über Sicherheitsmaßnahmen
OpenAI hat außerdem den Community Safety Report angekündigt. Er soll Gewaltprävention, weitere Fragen zur Sicherheit von Gemeinschaften und die Wirksamkeit der Schutzmaßnahmen behandeln. Der erste Bericht soll Anfang 2027 erscheinen und die zweite Hälfte des Jahres 2026 abdecken; anschließend sind Aktualisierungen alle sechs Monate geplant.
Der Bericht soll erklären, wie das Unternehmen seine Systeme trainiert, um Sicherheitsprobleme zu erkennen, zu untersuchen und darauf zu reagieren. Vorgesehen sind anonymisierte Beispiele, neue Maßnahmen, Regeländerungen und zugehörige Daten. OpenAI erklärte, im dritten Quartal 2026 mehr als 200 Fälle an Strafverfolgungsbehörden weitergeleitet zu haben, um sie auf unmittelbar drohende Gewalt hinzuweisen.
