Kontroverzní AI Darth Vader ve Fortnite vyvolává bouři: Digitální hlas Jamese Earla Jonese a odpor odborů
Společnost Epic Games se ocitla v centru vyhrocené kontroverze poté, co do své populární hry Fortnite implementovala postavu Dartha Vadera řízenou umělou inteligencí. Tato novinka, která umožňuje hráčům v reálném čase komunikovat s digitální verzí legendárního záporáka, vyvolala ostrou kritiku ze strany profesionálů z herního průmyslu. Jádro problému spočívá ve využití generativní umělé inteligence k vytvoření plně interaktivního NPC Dartha Vadera, který dokáže s hráči konverzovat pomocí digitální rekonstrukce ikonického hlasu zesnulého Jamese Earla Jonese.
Odborová organizace Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) zareagovala podáním žaloby pro nekalé pracovní praktiky proti společnosti Llama Productions, která s Epic Games na této funkci spolupracovala. SAG-AFTRA tvrdí, že používání hlasů generovaných umělou inteligencí bez souhlasu odborů porušuje pracovní dohody, které mají chránit herce před nahrazením technologiemi. Odbory argumentují, že ačkoliv rodina Jamese Earla Jonese údajně schválila použití jeho hlasu pro tento projekt, neřeší to širší obavy týkající se vytlačování žijících herců z pracovních příležitostí a postupného omezování tvůrčího přínosu lidského talentu. Technické selhání a nevhodný obsah rychle zkomplikovaly situaci. Hráči brzy zjistili, že AI Darth Vader může být manipulován k používání vulgárních výrazů a opakování rasistických urážek během herních relací. K těmto problémům došlo, protože systém byl vytvořen pomocí modelu Google Gemini 2.0 Flash pro generování textu a modelu ElevenLabs Flash v2.5 pro syntézu zvuku - technologií, které jsou známé tím, že občas opakují vstup uživatele bez adekvátní filtrace. Po internetu se začaly šířit klipy zobrazující "Dartha Vadera" používajícího nevhodné výrazy, což vyvolalo otázky ohledně moderování obsahu v prostředí živého hraní.
Obavy hlasových herců
Obavy ohledně digitální replikace patří mezi další palčivé problémy. I přes povolení od rodiny Jamese Earla Jonese mnoho kritiků vnímá tento krok jako znepokojivý precedens: mělo by být studiím umožněno digitálně oživovat nebo replikovat zesnulé herce bez zapojení žijících performerů? Kritici tvrdí, že tento přístup podkopává jak etické standardy v produkci zábavy, tak dlouhodobě zavedené profesionální hranice mezi vývojáři technologií a kreativními pracovníky. Podle oficiálního oznámení na webu Fortnite je interaktivní Darth Vader popisován jako revoluční herní zážitek, který umožní hráčům "mluvit s Darthem Vaderem" pomocí systému konverzační umělé inteligence. Epic Games zdůrazňuje, že tato funkce přináší zcela novou úroveň imerze do světa Star Wars. Na svých stránkách společnost vyzdvihuje technologický průlom, který umožňuje postavě reagovat na otázky hráčů způsobem, který má evokovat autentický zážitek z interakce s ikonickým záporákem. Tento marketing však kontrastuje s realitou problémů, které se objevily po implementaci.
Epic Games dosud nevydal formální prohlášení ohledně těchto stížností, ale podle zpráv provedl technické úpravy, které mají omezit, co mohou hráči chatbota vyzývat k řečení - což je implicitním uznáním některých problémů, na které kritici poukazují. Mezitím SAG-AFTRA pokračuje v prosazování přísnějších směrnic ohledně toho, jak je generativní AI používána v médiích. Z pohledu odborů je nutné, aby jakákoli implementace umělé inteligence v zábavním průmyslu podléhala předchozímu dialogu, explicitnímu souhlasu a právní ochraně zúčastněných umělců. Tento incident zdůrazňuje rostoucí napětí mezi technologickými inovacemi (jako je generativní AI) a pracovními právy v zábavních průmyslech. Jak uvádí jeden z komentářů v této kauze: "Případ odborů podtrhuje rostoucí napětí mezi inovacemi a pracovními právy... zatímco nástroje jako generativní AI slibují nové úrovně kreativních možností, zároveň riskují odsunutí lidského talentu na vedlejší kolej." Situace také nastiňuje naléhavé otázky ohledně regulace využívání umělé inteligence v kreativních oborech.
Kontroverze kolem AI Dartha Vadera ve Fortnite je emblematická pro širší debaty o roli umělé inteligence v kreativních průmyslech. Představuje zlomový bod, kde technologický pokrok koliduje se zavedenými normami umělecké práce, etiky, odměňování a kontroly nad vlastní podobou či výkonem. S tím, jak regulační orgány přezkoumávají tyto praktiky a dochází k dalším podobným incidentům, výsledek by mohl formovat budoucí spolupráci mezi vývojáři her, hollywoodskými studii, odbory jako SAG-AFTRA a technologickými společnostmi specializujícími se na generativní modely. V konečném důsledku může tato kauza určit, kdo získá uznání (a finanční odměnu), když oblíbené postavy ožívají prostřednictvím kódu místo uměleckého řemesla.
