Zatímco dříve působila AI videa uměle a neprofesionálně, dnes už je tomu jinak. Internet zaplavují čím dál přesvědčivější AI videa, a nezřídka se stávají součástí reklam i profesionálních kampaní. Pro obyčejného diváka je tak stále těžší rozlišit, co je skutečné a co vytvořily algoritmy. To potvrdil i nový výzkum společnosti Runway. Pro většinu lidí je video generované umělou inteligencí téměř nerozlišitelné od skutečnosti.
Americká společnost Runway se specializuje na vývoj generativní umělé inteligence. Mezi nejuznávanější patří její video model Gen-4.5, který vyniká v tvorbě hyperrealistických AI videí. A právě ta byla předložena skupině více než tisícovky lidí. A jak průzkum vypadal?
Experimentem prošlo 1043 náhodných účastníků
Společnost svůj průzkum pojmenovala The Turing Reel a cílem bylo zjistit, jestli běžní lidé dokáží odlišit umělý obsah od toho skutečného. Účastníkům bylo předloženo 20 videí o délce 5 sekund, z nichž 10 bylo skutečných a 10 vygenerovaných pomocí umělé inteligence, konkrétně modelu Gen-4.5. Aby byl experiment objektivní, žádné z AI videí nebylo nijak upravováno nebo generováno opakovaně pro lepší výsledky.
Účastníci se měli po každém videu rozhodnout, zda je reálné nebo AI. A právě výsledky ukázaly, jak dobře dokáží běžní lidé odlišit autentický obsah od uměle vytvořeného. Za úspěšné řešitele výzkum považoval jedince s výsledkem vyšším než 75 %.
Výsledky ovlivnil i typ videa
Výsledky ukázaly, že časy, kdy jsme AI video poznali na první pokus, jsou dávno pryč. Více než 90 % účastníků totiž nedokázalo spolehlivě rozlišit mezi skutečným a generovaným videem. Statisticky nadprůměrné přesnosti dosáhlo jen 9,5 %, tedy 99 lidí z více než tisíce.
Úspěšnost detekce ovlivňoval také typ videa. Lidem se lépe dařilo správně rozpoznat záznamy, které obsahovaly záběry lidí. Pokud se v ukázce objevily obličeje, ruce nebo lidská interakce, úspěšnost dosahovala 58–65 %.
O poznání hůře si diváci poradili s videi zvířat, přírody nebo městského prostředí. Tam se výsledky pohybovaly v rozmezí 45-47 %. Což znamená, že pro ně generovaná videa byla přesvědčivější než samotná realita.
Volání po nových normách
Výsledky experimentu jednoznačně ukazují, že jsme dosáhli zcela nového bodu ve vnímání videí. Rostoucí kvalita generativních modelů už totiž téměř znemožňuje detekovat AI obsah a s tím se snižuje i šance ověřit si jeho pravost. A to může být velmi problematické, obzvlášť v případě šíření fake news v oblastech, jako jsou věda nebo žurnalistika.
Jako ochranu před šířením dezinformací by měla všechna AI videa obsahovat metadata C2PA, podle kterých si lze ověřit jejich původ a autenticitu. Tato ochrana však podle společnosti Runway není dostačující a je třeba nastavit zcela nové normy a standardy pro syntetická videa. Jedině tak vznikne bezpečný prostor, ve kterém uživatelé zaručeně poznají autentický obsah a technologické společnosti budou moci nadále posouvat možnosti kreativity.
Výsledky výzkumu The Turing Reel totiž jasně ukazují, že hranice mezi realitou a umělou inteligencí se ve videoobsahu už nyní naprosto stírá. To přináší novou digitální éru, v níž bude kritické myšlení a schopnost ověřování důležitější než kdy dříve.
Myslíte, že byste test zvládli lépe? Vyzkoušejte si experiment společnosti Runway na vlastní kůži.
