Modelka z OnlyFans odhalila podvod na Redditu s AI záměnou obličeje za svými fotkami
Nedávný případ zneužití umělé inteligence odhaluje novou úroveň digitálních podvodů, které ohrožují tvůrce obsahu na platformách jako OnlyFans. Britská modelka známá pod přezdívkou Bunni zjistila, že její fotografie byly ukradeny a manipulovány pomocí technologie deepfake, čímž vznikla zcela falešná identita s názvem "Sofía" - údajně 19leté dívky ze Španělska.
Jaká technologie byla použita?
Podvodník využil pokročilé nástroje pro tvorbu deepfake obsahu k tomu, aby na tělo modelky Bunni v jejích fotografiích umístil počítačem vygenerovaný obličej. Tyto upravené snímky následně sdílel na různých fórech Redditu pod zmíněnou falešnou identitou. Příspěvky zahrnovaly jak nevinný obsah jako rady ohledně módy a fotografie domácích mazlíčků, tak i explicitní materiály sdílené v subredditech pro dospělé. Přestože v příspěvcích nebyly veřejně umístěny přímé odkazy na účet OnlyFans, Bunni má podezření, že záměrem podvodníka bylo nalákat uživatele do soukromých zpráv, kde by mohlo dojít k finančním podvodům nebo nabídkám předplatného. "Vždycky jsem viděla, jak lidé kradou moje obrázky," uvedla Bunni pro Futurism, "ale tohle bylo úplně jiné." Modelka vysvětlila, že už je zvyklá na to, že lidé sdílejí její obsah bez souhlasu nebo ho vydávají za svůj vlastní, ale tato nová forma zneužití, kdy se někdo vydává za jinou osobu pomocí jejího těla a AI generovaného obličeje, představuje mnohem složitější problém. "Je to technologie obličejové záměny," popsala situaci Bunni, která zjistila, že podvodník použil její skutečné tělo a nahradil pouze její tvář.
Jak to z toho ven?
Když Bunni našla tyto manipulované fotografie, kontaktovala moderátory Redditu, kteří jí pomohli s odstraněním falešného profilu. Nicméně zdůraznila, že právní postupy proti takovým podvodům jsou často nákladné a neefektivní vzhledem k rychle se vyvíjejícím technologiím a nedostatečné legislativě v oblasti digitální identity. Krádeže obsahu jsou mezi tvůrci v oblasti erotického průmyslu běžným problémem, ale nová vlna deepfake impersonací je sofistikovanější a mnohem hůře odhalitelná. Tento incident je součástí trendu, kdy podvodníci používají nástroje umělé inteligence nejen pro zábavu, ale i pro vytváření přesvědčivých virtuálních identit nebo catfishingové podvody. Tyto metody umožňují podvodníkům generovat hyperrealistické osoby kombinováním skutečných těl se syntetickými obličeji a zaplavovat sociální média falešnými účty, které je pro běžné uživatele i pro samotné platformy obtížné odhalit jako podvodné.
Modelka Bunni vyjádřila znepokojení nad tím, jak snadné se stalo pro podvodníky využívat generativní AI nástroje, jako je software pro záměnu obličejů, k vytváření přesvědčivých falzifikátů ve velkém měřítku, než jsou vůbec odhaleni nebo odstraněni. Nárůst podobných incidentů podtrhuje několik výzev včetně rizik pro soukromí, kdy může být vzhled tvůrců zneužit bez jejich souhlasu, mezer v právních předpisech, které nestíhají držet krok s rychle se vyvíjejícími generativními technologiemi, a etických problémů souvisejících se snadným vytvářením "virtuálních influencerů", což rozmazává hranice mezi realitou a fikcí v online prostoru.
