OpenAI 30. října 2026 oznámila, že ChatGPT omezí podrobnosti o minulých masových útocích pro všechny uživatele a praktické informace o zbraních pro nezletilé. Zavádění opatření má začít během následujících několika týdnů.
Méně detailů o minulých útocích
Přísnější pravidla se mají vztahovat na rekonstrukce minulých masových útoků bez ohledu na věk uživatele nebo důvod dotazu. ChatGPT má poskytovat méně podrobností o použitých zbraních a vybavení i o tom, jak je útočníci získali. Omezena mají být také detailní srovnání rozsahu škod, která by mohla zvýšit proslulost pachatele.
Na samotné události se lidé budou moci dál ptát, například kvůli pochopení dopadů na oběti a komunity. ChatGPT má nadále pomáhat také s rozpoznáváním varovných signálů a prevencí násilí.
Přísnější odpovědi nezletilým
U uživatelů mladších 18 let OpenAI rozšiřuje omezení praktických informací o zbraních a bezpečnostních systémech, které by mohly usnadnit násilí. Přísnější pravidla se mají uplatnit i tehdy, když dotaz nenaznačuje násilný úmysl. Nezletilí budou moci ChatGPT dál využívat k prevenci či uklidnění násilných situací, hledání podpory a spojení s důvěryhodnou dospělou osobou.
Firma pracuje na tom, aby přísnější limity platily také pro lidi, které systém odhadne jako mladší 18 let, i když jejich konverzace nevykazují známky násilného úmyslu. Systém odhadu věku nyní průběžně vyhodnocuje nové signály při používání ChatGPT a podle potřeby přesouvá nezletilé do režimu pro osoby mladší 18 let. Nesprávně zařazení dospělí mohou svůj věk ověřit prostřednictvím partnera Persona.
Reakce na varovné signály
OpenAI dále rozvíjí využití stručných faktických souhrnů dřívějších varovných signálů. Pokud nedávné konverzace naznačují možné násilí, má ChatGPT při poskytování informací, které by mohly být zneužity, odpovídat opatrněji.
S odborníky na duševní zdraví a prevenci násilí společnost vyvíjí také automatický zásah. ChatGPT by mohl ukončit konverzaci vykazující známky fixace na násilí či vážné ublížení druhému; po opakovaném ukončení chatů by firma mohla účet dočasně pozastavit.
Pro propojené rodičovské účty OpenAI připravuje upozornění na případné pozastavení účtu nezletilého kvůli opakovaným diskusím o násilí. Od července už rodiče upozorňuje na deaktivaci účtu dítěte za porušení pravidel týkajících se násilí.
Zpráva o bezpečnostních opatřeních
OpenAI přislíbila také zprávu Community Safety Report o prevenci násilí, dalších otázkách bezpečnosti komunit a účinnosti ochranných opatření. První zpráva má vyjít začátkem roku 2027 a pokrýt druhou polovinu roku 2026; následovat mají aktualizace každých šest měsíců.
Zpráva má vysvětlovat, jak firma trénuje systémy k rozpoznávání, prověřování a řešení bezpečnostních problémů. Má obsahovat anonymizované příklady, nové zásahy, změny pravidel a související data. OpenAI uvedla, že ve třetím čtvrtletí 2026 předala orgánům činným v trestním řízení více než 200 případů v rámci upozorňování na bezprostřední hrozby násilí.
