Máte v posledních týdnech pocit, že se schopnosti ChatGPT-5 zhoršily? Nejste sami! Podle mnoha uživatelů se chatbot chová podivně, a někteří dokonce mluví o „lobotomizaci“ modelu. Za vším má však údajně stát nedávná aktualizace.
Více halucinování a absurdních chyb
Už se samotným příchodem GPT-5 se někteří uživatelé začali dohadovat o tom, že je aktuální verze ve svém vyjadřování spíše krokem zpět oproti předchozímu modelu GPT-4o. To byl však teprve začátek.
Podle článku na webu Futurism se totiž začaly sítěmi jako Reddit šířit připomínky, že oblíbený chatbot ChatGPT je od začátku září ještě méně přesný, halucinuje, je chladnější, dopouští se chyb a v některých případech dokonce odbočuje od tématu a reaguje naprosto nesmyslně nebo protichůdně.
Uživatelé proto spekulují o tom, že celou věc má na svědomí bezpečnostní update společnosti OpenAI, který má chránit mladší a zranitelné uživatele. A že právě tato bezpečnější a „opatrnější“ verze modelu pak podle komunity působí hloupěji a zmateněji.
Bezpečnostní filtry jako reakce na znepokojivé události
V polovině září se totiž na blogu společnosti OpenAI skutečně objevil článek, ve kterém společnost hovoří o nových bezpečnostních mechanismech ChatuGPT.
K těm společnost dospěla v reakci na soudní spor s rodinou Adama Reine, 16letého mladíka, který spáchal sebevraždu po konverzacích s ChatemGPT. Umělá inteligence totiž měla ospravedlňovat jeho myšlenky, což podle rodičů vedlo k tragickému konci jeho života.
Více bezpečí pro mladistvé i rodiče
OpenAI se na celou situaci rozhodla okamžitě reagovat a zavedla změny pro zvýšení bezpečnosti pro uživatele do 18 let. A co tyto změny obnáší?
Bezpečnostní inženýři upravili chatbot tak, aby z konverzací poznal, jaký uživatel je mladší 18 let a aplikace ho automaticky přesměrovala na „ChatGPT pro děti“. V tomto rozhraní bude přizpůsobený nejen styl komunikace, ale také je zde blokován explicitní sexuální obsah.
Mimo to zavádí OpenAI rodičovskou kontrolu, díky níž si budou rodiče moci propojit účet dítěte se svým, a budou tak schopni regulovat, kolik času budou děti s ChatGPT trávit, deaktivovat určité funkce nebo nastavit konkrétní chování chatbotu v interakci s dítětem. Kromě toho budou dostávat také informace o odchylkách v chování dítěte.
Uživatelé jsou skeptičtí
Uživatele populárního AI chatu se však domnívají, že tato bezpečnostní omezení mají nežádoucí vedlejší účinek. Kromě ochrany dětí a teenagerů totiž zhoršují celkové schopnosti modelu a omezují jeho využití při složitějších úlohách.
Diskuzi vyvolává také způsob, jak chatbot určí, kdo je a není mladší 18 let. Uživatelé se totiž obávají, že už díky jediné otázce mohou být přepnuti do bezpečného dětského režimu, aniž by o tom věděli. Způsob, jakým bude AI rozhodovat, totiž nikde není jasně popsaný a podle některých je nedostačující.
Bez regulace to nepůjde
Ať už jsou zhoršené schopnosti chatbotu důsledkem bezpečnostních změn nebo ne, jedno je jasné: s rostoucí popularitou AI a množícími se případy jejího selhání je regulace nutná. A právě zajištění ochrany pro děti a dospívající bez snížení její užitečnosti je výzva, které budou AI společnosti čelit v budoucnu stále více.
Zdroj: Futurism, OpenAI, CNN Business, BBC, PCMag
