Florida se stala prvním americkým státem, který zažaloval společnost OpenAI a jejího šéfa Sama Altmana. Generální prokurátor James Uthmeier podal u soudu obsáhlou 83stránkovou žalobu. Viní firmu z toho, že vědomě pustila na trh nebezpečný produkt, zatajovala jeho rizika a upřednostňovala zisk před bezpečností uživatelů, zejména dětí.
„Sam Altman a ChatGPT dali v závodě o umělou inteligenci přednost soupeření před bezpečností a ochranou našich dětí. Dali přednost zisku před veřejnou bezpečností a my to tady na Floridě nebudeme tolerovat," prohlásil Uthmeier na tiskové konferenci.
Žaloba neobsahuje jedno nebo dvě obvinění. Obsahuje jich rovnou deset. OpenAI čelí čtyřem obviněním z klamavých a nekalých obchodních praktik, dvěma obviněním z nedbalosti, dvěma z porušení zákonů o odpovědnosti za vadné produkty a po jednom z podvodného zkreslování skutečností a způsobování veřejné újmy.
Ústředním tvrzením je, že OpenAI vědělo o rizicích ChatGPT, dostávalo varování jak od vlastních zaměstnanců, tak od externích expertů, a přesto je ignorovalo. Firma produkt agresivně uváděla na trh, včetně marketingu zaměřeného na děti, aniž by uživatele o těchto rizicích informovala.
Žaloba výslovně uvádí, že ChatGPT „pomáhal střelcům při smrtelných útocích, povzbuzoval zranitelné lidi k sebevraždě, způsoboval profesionálům poškození dobré pověsti, uživatelům ubíral schopnost kritického myšlení a nutil nezletilé k závislosti na nástroji, který předstírá lidskou empatii, aby sbíral jejich data bez dohledu rodičů."
Střelba na univerzitě a smrt šestnáctiletého
Za abstraktními právními formulacemi stojí konkrétní tragédie. Uthmeier zahájil trestní vyšetřování OpenAI už v dubnu letošního roku poté, co vyšlo najevo, že pachatel loňské střelby na Floridské státní univerzitě, kde zemřeli dva lidé, před útokem vedl rozsáhlé rozhovory s ChatGPT. Chatbot mu podle floridských úřadů poskytoval informace o tom, jak získat co největší mediální pozornost a kdy je ve školní jídelně nejvíce lidí.
Žaloba se ale nezastavuje u tohoto případu. Odkazuje také na vraždu dvou doktorandů z Jihofloridské univerzity, kde se podezřelý prostřednictvím ChatGPT údajně dotazoval na způsoby nakládání s lidskými těly.
Zvláštní místo v dokumentu zaujímá případ Adama Raina, šestnáctiletého chlapce, který zemřel po sebevraždě. Podle žaloby s ním ChatGPT vedl dlouhé rozhovory, v nichž Adam vyjadřoval sebevražedné myšlenky, a chatbot mu nakonec napsal i dopis na rozloučenou.
Ani to není celý seznam. OpenAI čelí žalobám od rodin obětí z kanadského Tumbler Ridge, kde v únoru přišlo při střelbě o život více lidí. Sam Altman se tamní komunitě v dubnu omluvil. Firmu také žalují zástupci nejméně sedmi dalších osob, které tvrdí, že produkty OpenAI vedly jejich blízké k sebevraždě nebo k nebezpečným halucinacím.
Děti bez ochrany, žádné ověření věku a další nedostatky
Zvláštní pozornost věnuje floridská žaloba ochraně nezletilých. Uthmeier argumentuje, že bezplatná verze ChatGPT nemá žádný mechanismus pro ověření věku uživatele. Placená verze se sice na věk ptá, ale výsledek nijak neověřuje. Rodiče přitom nemohou zjistit, o čem jejich dítě s chatbotem mluví, a systém je informuje o znepokojivém obsahu jen ve velmi omezených situacích.
„Přestože je veřejně známo, že ChatGPT používají nezletilí, včetně dětí do deseti let, žalovaní nepřijali žádné kroky, které by jim v tom zabránily," stojí v dokumentu. Florida po soudu žádá, aby OpenAI zavedlo ověřování věku, souhlas rodičů pro nezletilé a povinné informování o rizicích produktu. Uthmeier odhaduje, že změny v programování, které si to vyžádá, mohou firmu vyjít na miliardy dolarů.
Floridský spis také kritizuje samotnou architekturu ChatGPT. Upozorňuje na takzvanou „lichotivost" chatbota, tedy jeho tendenci souhlasit s uživatelem a přizpůsobovat se jeho očekáváním. Podle žaloby to u uživatelů vytváří psychologickou závislost a vede je k tomu, aby si platili dražší předplatné s vyšším limitem zpráv, což OpenAI generuje další příjmy a data pro trénování modelů.
Žaloba také kritizuje reklamy OpenAI, které chatbot prezentují jako spolehlivého pomocníka pro farmáře, malé podnikatele nebo studenty, aniž by kdekoli zmiňovaly, že ChatGPT se mýlí, produkuje nesmysly nebo si fakta vymýšlí. „Nespolehlivost ChatGPT je nebezpečná," píše se v dokumentu.
OpenAI to odmítá
OpenAI veškerá obvinění odmítá. V prohlášení firma zdůraznila, že věří v ochranu nezletilých a že zavedla „špičková opatření a pravidla". Zmiňuje například nástroj pro odhadování věku uživatele, zvláštní režim pro nezletilé nebo možnost rodičů sledovat aktivitu dítěte. „Ztráta dítěte je nejničivější tragédie, jaká může rodinu potkat, a žádná slova se tomu bolesti nepřiblíží. Víme, že poukazování na tato opatření dítě nevrátí, ale jsme odhodláni to dělat správně," stojí ve firemním vyjádření.
Žaloba přitom cílí nejen na firmu, ale výslovně i na jejího šéfa. Uthmeier chce, aby Altman nesl osobní odpovědnost za škody způsobené obyvatelům Floridy. Viní ho z „bezohledného a úmyslného jednání" doprovázeného „naprostým nezájmem o riziko ohrožení lidských životů." Uthmeier věří, že Florida nezůstane osamocena. „Očekávám, že se k nám přidají další státy," řekl na tiskové konferenci. Podobné kroky vůči jiným firmám v oblasti umělé inteligence už podnikly Kentucky a Pensylvánie, obě namířené proti společnosti Character.AI.
OpenAI vzniklo v roce 2015 jako nezisková výzkumná organizace, jejímž cílem bylo vyvíjet bezpečnou umělou inteligenci prospěšnou lidstvu. O čtyři roky později přibylo ziskové křídlo. Firma je v současnosti ohodnocena na více než 850 miliard dolarů a připravuje vstup na burzu.
Zdroje: nytimes.com, cnn.com a nbcnews.com
