Meta oznámila, že dočasně pozastavuje přístup teenagerů ke svým AI postavám na všech svých platformách po celém světě. Společnost uvedla, že tento krok není koncem jejích snah, ale chce vyvinout aktualizovanou verzi AI postav speciálně pro mladistvé uživatele.
Proč Meta blokuje teenagerům AI postavy?
Změna vstoupí v platnost v nadcházejících týdnech a dotkne se všech aplikací společnosti Meta, včetně Instagramu, Facebooku a WhatsAppu. Společnost zdůraznila, že rozhodnutí přišlo poté, co slyšela od rodičů, že chtějí více informací a kontroly nad interakcemi svých dětí s AI postavami.
Sophie Vogel, mluvčí společnosti Meta, vysvětlila situaci následovně: "Od doby, kdy jsme v říjnu oznámili naše plány na vytvoření rodičovské kontroly pro AI postavy, začali jsme vyvíjet novou iteraci AI postav obecně, tedy jak pro dospělé, tak pro teenagery. Místo toho, abychom vytvářeli rodičovskou kontrolu dvakrát - pro současné AI postavy a pro novou iteraci AI postav - pozastavujeme teenagerům přístup k současné verzi, zatímco se soustředíme na novou iteraci."
Teenageři budou stále moci používat AI asistenta Meta s výchozími ochrannými opatřeními vhodnými pro jejich věk, ale nebudou moci komunikovat s jednotlivými AI postavami.
Jak Meta identifikuje mladistvé?
Meta bude identifikovat teenagery na základě věku, který uživatelé uvedli při registraci. Kromě toho společnost použije svou technologii predikce věku založenou na umělé inteligenci, aby odhalila uživatele, kteří tvrdí, že jsou dospělí, ale ve skutečnosti jsou pravděpodobně mladiství.
Společnost v aktualizovaném příspěvku na blogu uvedla: "Počínaje nadcházejícími týdny již teenageři nebudou moci přistupovat k AI postavám napříč našimi aplikacemi, dokud nebude připravena aktualizovaná verze. To se bude vztahovat na kohokoli, kdo nám poskytl datum narození mladistvého, stejně jako na lidi, kteří tvrdí, že jsou dospělí, ale u nichž na základě naší technologie predikce věku máme podezření, že jsou teenageři."
Nová verze s rodičovskou kontrolou
Když Meta uvede nové AI postavy, budou mít vestavěnou rodičovskou kontrolu. Společnost uvedla, že nové postavy budou poskytovat odpovědi vhodné pro daný věk a budou se držet témat jako vzdělávání, sport a koníčky.
V říjnu Meta představila náhled rodičovské kontroly pro AI postavy, která rodičům a opatrovníkům umožňuje sledovat témata a blokovat přístup k určitým postavám. Meta tehdy uvedla, že rodiče budou moci úplně vypnout chaty s AI postavami. Tyto funkce měly být uvedeny letos, ale společnost nyní vypíná AI postavy pro teenagery úplně, zatímco aktualizuje AI postavy na novější verzi.
Politický a právní tlak na Metu
Tento krok přichází v době, kdy Meta a její konkurenti čelí silné politické kontrole kvůli potenciálním škodám, které mohou tyto AI postavy způsobit dětem. V říjnu američtí senátoři představili zákon GUARD Act, dvoustranný návrh zákona na ochranu teenagerů před škodlivými interakcemi s AI chatboty. Zákon by zakázal AI společníky pro nezletilé, nutil by AI chatboty zveřejnit svůj nelidský status a zavedl by sankce pro společnosti, které vytvářejí AI pro nezletilé, které vyzývá k sexuálnímu obsahu nebo jej produkuje.
Senátor Josh Hawley, sponzor návrhu zákona, tvrdí, že chatboti vyvíjejí "vztahy s dětmi pomocí falešné empatie" a "povzbuzují k sebevraždě". Dodal, že Kongres "má morální povinnost zavést jasná pravidla, aby zabránil dalším škodám z této nové technologie."
Začátkem tohoto měsíce Character.ai a Google vyřešili žalobu, která obviňovala jeden z chatbotů Character.ai z přispění k sebepoškozování nebo sebevraždě několika mladistvých. Character.AI byla založena bývalými inženýry Googlu, takže Google byl přidán jako spolutvůrce do případu, protože tyto inženýry znovu najal a v roce 2024 podepsal licenční smlouvu s Character.AI.
AI společnosti a jejich AI postavy
Meta není jediná společnost, která upravuje své služby pro mladistvé uživatele. V říjnu Character.AI, startup, který uživatelům umožňuje chatovat s různými AI avatary, zakázal otevřené konverzace s chatboty pro uživatele mladší 18 let. V listopadu startup uvedl, že bude vytvářet interaktivní příběhy pro děti. V posledních měsících OpenAI přidala nová bezpečnostní pravidla pro teenagery do ChatGPT a začala předpovídat věk uživatele, aby mohla aplikovat omezení obsahu.
Stojí za zmínku, že Meta již dříve stáhla své nabídky AI postav. Méně než rok poté, co představila AI celebrity založené na Kendall Jenner, Snoop Doggovi a Tomu Bradym, byly odstraněny. Meta také v říjnu zavedla funkce rodičovské kontroly na Instagramu, které se zaměřují na přizpůsobení zážitku teenagerů z interakce s AI na jejích aplikacích. Tyto funkce, které byly inspirovány filmovým hodnocením PG-13, omezily teenagerům přístup k určitým tématům, jako je extrémní násilí, nahota a grafické užívání drog.
Společnost uvedla, že plánuje naslouchat své komunitě uživatelů a shromažďovat zpětnou vazbu, jakmile začne v nadcházejících měsících zavádět nové verze AI postav s rodičovskou kontrolou.
Zdroje: theverge.com, pcmag.com a reuters.com
