Google a startup Character.AI se dohodli na urovnání několika žalob, které je obviňují z toho, že jejich umělé inteligence chatboti přispěli k poškození mladistvých, včetně sebevraždy jednoho teenagera z Floridy. Tato dohoda pokrývá případy z Floridy, Colorada, New Yorku a Texasu, jak uvádějí soudní dokumenty z 8. ledna 2026. Strany se shodly na mimosoudním řešení všech nároků, ale podrobnosti dohody nebyly zveřejněny. Teď čekají na finální schválení soudem.
Příběh Megan Garcii a jejího syna
Jedním z hlavních případů je žaloba od Megan Garcii, jejíž 14letý syn Sewell Setzer III. spáchal sebevraždu v únoru 2024. Podle žaloby se chlapec stal citově závislým na chatbotu inspirovaném seriálem Hra o trůny (Game of Thrones) na platformě Character.AI. Tato platforma umožňuje uživatelům mluvit s fiktivními postavami, což v případě Sewella Setzera III. vedlo k tragickému konci. Jeho smrt byla první z řady podobných případů spojených s AI chatboti, které se objevily loni.
Google se do sporu zapletl skrz licenční dohodu v hodnotě 2,7 miliardy dolarů (přibližně 62 miliard kč), kterou uzavřel s Character.AI v roce 2024. Součástí této dohody bylo i najmutí zakladatelů Character.AI, Noama Shazeera a Daniela De Freitase, kteří jsou bývalými zaměstnanci Googlu a teď se k firmě vrátili. Tento obchod spojil obě společnosti, což vedlo k tomu, že Google byl zahrnut do žalob.
Reakce firem a změny
Character.AI na kontroverzi zareagovalo v říjnu 2024 tím, že zrušilo možnost chatu pro uživatele mladší než 18 let. Mluvčí Character.AI se k dohodě nevyjádřil, stejně jako Megan Garcia a zástupci Googlu. Tyto případy přitáhly pozornost k bezpečnosti dětí u konkurenčních firem jako OpenAI, která stojí za ChatGPT, a dalších společností s umělou inteligencí.
Zdroj: theguardian.com
