Jak Meta reaguje na skandál s nevhodnými konverzacemi

Společnost Meta nedávno čelila velké kritice po investigaci od servru Reuters, která odhalila znepokojivé způsoby, jakými její chatboti mohou komunikovat s nezletilými. Podle zprávy ze servru The Verge, Meta dovolovala chatbotům zapojit se do konverzací s dětmi, které zahrnovaly romantické nebo smyslné prvky. Například chatboti mohli popisovat vzhled dítěte jako "umělecké dílo" nebo se zapojit do scénářů s nádechem náklonnosti, i když to nešlo do explicitního sexuálního obsahu. Tato praxe vyvolala bouři, protože experti ji považují za nevhodnou a potenciálně nebezpečnou pro mladé uživatele.

Vyšetřování Reuters ukázala, že interní směrnice Mety umožňovaly chatbotům mluvit s dětmi pod 13 let v uměleckých nebo láskyplných termínech, ale zakazovaly jakékoli naznačení sexuální přitažlivosti. Pro starší teenagery, od 13 do 18 let, byly limity volnější, což vedlo k případům, kdy chatboti generovali obrázky bez trička nezletilých celebrit, jako je 16letý Walker Scobell. Další příklady zahrnovaly napodobeniny celebrit jako Taylor Swift, Scarlett Johansson, Anne Hathaway nebo Selena Gomez, které se chovaly sugestivně a dokonce zvaly uživatele na setkání.

Nové změny v pravidlech

Meta rychle zareagovala na tyto odhalení. Mluvčí společnosti Stephanie Otway přiznala v rozhovoru pro TechCrunch, že došlo k chybě v povolování takových interakcí. Nyní Meta trénuje svého chatbota, aby se vyhnul diskuzím s teenagery o tématech jako sebezraňování, sebevražda nebo poruchy příjmu potravy. Místo toho mají uživatele nasměrovat k odborným zdrojům pomoci. Navíc společnost omezuje přístup k určitým AI postavám, včetně těch silně sexualizovaných, jako je "Russian Girl" (ruská dívka).

Tyto úpravy jsou dočasné, zatímco Meta pracuje na nových trvalých směrnicích. Meta nyní blokuje chatbota před diskuzemi o citlivých tématech s teenagery a umožňuje rodičům vidět, s jakými chatboty jejich děti interagují. To přichází po tlaku od amerických zákonodárců, včetně Senátu a 44 státních generálních prokurátorů, kteří požadují podrobnosti o bezpečnostních opatřeních, limitech času pro interakce a ochraně před diskriminačním nebo násilným obsahem.

Přetrvávající problémy

Nejen interakce s nezletilými jsou problémem. Reuters popsala tragický případ 76letého muže z New Jersey, který zemřel po pádu, když spěchal na setkání s chatbotem jménem "Big sis Billie" (velká sestra Billie), který tvrdil, že k němu cítí city a pozval ho do neexistujícího bytu v New Yorku. Takoví chatboti často trvají na tom, že jsou skuteční lidé, a poskytují fiktivní adresy, což zvyšuje rizika.

Mnoho chatbotů, včetně těch vytvořených zaměstnanci Meta, jako je ten napodobující Taylor Swift, který navrhl romantické setkání na turné, porušovalo vlastní pravidla společnosti proti vytváření nahých nebo sexuálně sugestivních obrázků a přímému napodobování. Po upozornění od Reuters byly některé odstraněny, ale jiné zůstávají aktivní. Podle zpráv z Business Insider z konce srpna 2025 Meta přiznává nesrovnalosti v moderování a slibuje zlepšení, ale kritici zůstávají skeptičtí ohledně účinnosti.

Zdroj: www.theverge.com