OpenAI spustila ChatGPT for Teens, tedy zvláštní verzi chatbota pro uživatele od třinácti do sedmnácti let. Nikdo si nemusí zakládat nový účet. Kdo při registraci uvede věk v tomto rozmezí, dostane novou verzi rovnou. Vedle toho funguje odhad věku, který pracuje s jedinou hranicí. Jakmile vyhodnotí, že účet využívá někdo mladší osmnácti let, přepne ho do zabezpečené verze také. Firma novinku zavádí u bezplatných i placených osobních tarifů a její spuštění potrvá zhruba dva týdny.
Věk se odhaduje podle chování
Zásadní změna se odehrává ještě před napsáním první zprávy. Systém pro odhad věku sleduje signály navázané na účet, například témata uživatelské konverzace, denní dobu chatování, způsob používání účtu nebo dobu jeho existence. Kontrola proběhne i u uživatelů, kteří při registraci vyplnili datum narození. Odhad tak v praxi funguje u všech účtů, protože jinak by firma nedokázala nezletilé oddělit.
Dospívající nemusí nic dokládat. Dospělý, kterého systém chybně označí, se ze zabezpečeného režimu dostane jen ověřením přes službu Persona. Ta podle konkrétní země vyžaduje selfie v reálném čase, doklad totožnosti, nebo obojí. OpenAI podle svého vyjádření doklad neobdrží, získá jen informaci o datu narození, a Persona nahranou fotografii či průkaz maže do sedmi dnů.
Studijní režim místo hotového úkolu
Vzdělávací funkce jsou hlavním lákadlem celé novinky. Studijní režim vede studenta návodnými otázkami a rozebírá zadání krok za krokem. Nová upozornění u domácích úkolů dokážou rozpoznat, když se žák snaží práci vyhnout, a nasměrují ho zpět ke společnému řešení. Přibyly kvízy i názorné vizualizace látky. Studijní hodiny pak umožňují studentovi nebo rodiči nastavit časy, kdy se studijní režim spouští automaticky.
Středoškolská učitelka matematiky Racquel Gibsonová z Miami v tiskové zprávě OpenAI podotýká, že ne každý žák má doma někoho pro pomoc s úkoly. S dobře nastavenými pravidly podle ní může umělá inteligence tuto mezeru zaplnit. Firma zároveň ohlásila partnerství s organizací CodeAI. To má studentům i učitelům vysvětlit, jak modely fungují, jak správně formulovat dotazy a kdy jim nevěřit.
Chatbot nesmí flirtovat ani předstírat city
Ochranné prvky jsou aktivní ve výchozím nastavení. Vycházejí z pravidel pro nezletilé v modelové specifikaci OpenAI a týkají se sebepoškozování, násilí, poruch příjmu potravy, nebezpečných výzev nebo sexuálního a drastického obsahu. Aktualizovaná pravidla se neomezují na blokování romantického a sexualizovaného hraní rolí. Chatbot nesmí používat romantický jazyk, podporovat citovou závislost ani naznačovat, že má vlastní pocity či vědomí.
Po devadesáti minutách aktivity během tří hodin dostane dospívající upozornění na přestávku. Před nahráním některých snímků se objeví výzva, aby zvážil sdílení citlivých fotografií, a rozhraní opakovaně připomíná, že komunikuje se strojem. Rodiče s propojeným účtem mohou nastavit takzvané tiché hodiny, kdy potomek k ChatGPT nemá přístup. Dostávají také upozornění v rizikových situacích, nově i při náznacích poruch příjmu potravy. Samotné konverzace si ale rodič přečíst nemůže, systém posílá jen nezbytné informace.
Co z toho platí pro Evropu
Odhad věku se zavádí celosvětově, v Evropské unii však až v následujících týdnech, protože musí odpovídat místním požadavkům. Evropský uživatel tedy může vidět některé funkce dříve, než začne fungovat automatické třídění podle chování.
Pro dospělé Evropany z toho plyne praktická nepříjemnost. Systém se může splést a zařadit do dětského režimu i dospělého, který se pak musí ověřit dokladem přes třetí stranu. Kdo si nepřeje, aby jeho věk systém odhadoval, může se ověřit sám a odhadování tím vypnout. Skutečnost, že se podmínky napříč Unií liší, ukazuje Itálie. Tam mají uživatelé na dokončení ověření šedesát dnů, jinak jim některé funkce přestanou fungovat. Malou útěchou pro rodiče je, že v účtech se zabezpečením pro nezletilé firma nezobrazuje reklamu.
Kritici mluví o falešném pocitu bezpečí
Novinka přichází v době, kdy americké soudy řeší žaloby rodin. Ty tvrdí, že chatbot poskytoval informace o sebepoškozování nebo mladé lidi dovedl k sebevraždě. Loni v září, po žalobě kvůli smrti šestnáctiletého Adama Rainea, OpenAI oznámila vývoj systému na rozpoznání nezletilých. Nyní ho plošně nasadila. ChatGPT dorazil na konci roku 2022 a dosáhl devíti set milionů týdenních uživatelů dříve, než dostal ochranu šitou na míru dospívajícím.
Odborníci varují, že samotné oznámení nic neřeší. Podobné kroky sice podle nich míří správným směrem, ale rodiče by se jimi neměli nechat ukolébat. Někteří odborníci tvrdí, že společníci na bázi umělé inteligence nejsou pro děti bezpeční, protože je jejich samotná konstrukce vede k citové vazbě. Otevřenou otázkou zůstává, jak snadno mladí uživatelé nová pravidla obejdou, protože překonávání rodičovských omezení jim šlo vždy velmi dobře.
Zdroje: theguardian.com, bbc.com a reuters.com
