Několik současných i bývalých výzkumníků z OpenAI se veřejně vyjádřilo k prvnímu kroku firmy do oblasti sociálních médií prostřednictvím aplikace Sora. Tato appka funguje jako kanál ve stylu TikToku, plný videí, ale generovaných umělou inteligencí, včetně mnoha deepfakes Sam Altmana. Výzkumníci na platformě X vyjádřili své obavy, jak tento start zapadá do neziskové mise OpenAI, která se zaměřuje na vývoj pokročilé umělé inteligence prospěšné pro lidstvo. Například výzkumník předtrénování John Hallman napsal na X: "AI-založené kanály jsou děsivé. Nebudu popírat, že jsem cítil určité obavy, když jsem se poprvé dozvěděl, že uvolňujeme Sora 2. Přesto si myslím, že tým odvedl absolutně nejlepší práci, jakou mohl, při navrhování pozitivního zážitku... Budeme se snažit zajistit, aby umělá inteligence pomáhala a neškodila lidstvu." Další výzkumník Boaz Barak, který je také profesorem na Harvardu, odpověděl: "Sdílím podobnou směs obav a vzrušení. Sora 2 je technicky úžasná, ale je předčasné si gratulovat, že jsme se vyhnuli pastím jiných sociálních médií a deepfakes." Bývalý výzkumník Rohan Pandey využil příležitost k propagaci svého nového startupu Periodic Labs, který se skládá z bývalých výzkumníků z laboratoře umělé inteligence a snaží se budovat systémy umělé inteligence pro vědecké objevy. Řekl: "Pokud nechcete budovat nekonečný stroj na AI TikTok slop, ale chcete vyvíjet umělou inteligenci, která urychluje základní vědu... přidejte se k nám v Periodic Labs." Byly tam i další podobné příspěvky od lidí jako Will Depue nebo Miles Brundage.
Odpověď vedení a Sam Altman
Start Sora podtrhuje základní napětí v OpenAI, které se opakovaně objevuje. Firma je nejrychleji rostoucí spotřebitelská technologická společnost na světě, ale zároveň funguje jako laboratoř pro hranice umělé inteligence s ambiciózní neziskovou chartou. Někteří bývalí zaměstnanci OpenAI argumentují, že spotřebitelský byznys může v principu sloužit misi: ChatGPT pomáhá financovat výzkum umělé inteligence a šířit technologii široko. Generální ředitel OpenAI Sam Altman to potvrdil v příspěvku na X ve středu, kde řešil, proč firma věnuje tolik kapitálu a výpočetní síly na appku sociálních médií s umělou inteligencí. Řekl: "Potřebujeme hlavně kapitál na budování umělé inteligence, která dokáže dělat vědu, a jistě se soustředíme na AGI (umělou obecnou inteligenci) skoro se vším naším výzkumným úsilím. Je také hezké ukazovat lidem cool nové technologie/produkty po cestě, dělat je usmívat se a doufejme, že vydělat nějaké peníze vzhledem k té potřebě výpočetní síly." Dodal: "Když jsme spustili ChatGPT, bylo hodně 'kdo to potřebuje a kde je AGI'. Realita je nuancovaná, pokud jde o optimální trajektorie pro firmu." Altman také diskutoval v červnovém podcastu o "velkém nesouladu sociálních médií", kde řekl: "Jedna z velkých chyb éry sociálních médií byla, že algoritmy kanálů měly spoustu neúmyslných negativních důsledků na společnost jako celek a možná i na jednotlivé uživatele. Ačkoli dělaly to, co uživatel chtěl – nebo někdo si myslel, že uživatelé chtějí – v daném okamžiku, což je držet je déle na stránce."
Rizika a vlastnosti aplikace Sora
Otázka, kdy spotřebitelský byznys OpenAI převáží nad jeho neziskovou misí, zůstává otevřená. Jinými slovy, kdy OpenAI řekne ne příležitosti k vydělávání peněz a růstu platformy, protože to odporuje misi? Tato otázka se vznáší, zatímco regulátoři zkoumají přechod OpenAI na ziskovou strukturu, kterou firma potřebuje k získání dalšího kapitálu a případnému vstupu na burzu. Kalifornský generální prokurátor Rob Bonta minulý měsíc prohlásil, že je "zvláště znepokojen zajištěním, aby prohlášená bezpečnostní mise OpenAI jako neziskovky zůstala v centru" při restrukturalizaci. Skeptici odmítají misi OpenAI jako nástroj na lákání talentů z velkých technologických firem, ale mnozí insideři v OpenAI trvají na tom, že je to hlavní důvod, proč se k firmě přidali. Prozatím je stopa Sora malá; appka jen pár dení. Její debut ale znamená významné rozšíření spotřebitelského byznysu OpenAI a vystavuje firmu incentivům, které sužují sociální appky desetiletí. Na rozdíl od ChatGPT, který je optimalizován pro užitečnost, OpenAI tvrdí, že Sora je postavena pro zábavu – místo na generování a sdílení klipů s umělou inteligencí. Kanál připomíná TikTok nebo Instagram Reels, platformy proslulé svými návykovými smyčkami. OpenAI trvá na tom, že se chce vyhnout těmto pastím, a v blogovém příspěvku o spuštění Sora uvádí, že "obavy z doomscrollingu (nekonečného rolování), závislosti, izolace a kanálů optimalizovaných pro reálný život jsou na prvním místě". Firma explicitně říká, že neoptimalizuje pro čas strávený na kanálu a místo toho chce maximalizovat tvorbu. OpenAI slibuje posílat upomínky uživatelům, když rolují příliš dlouho, a především jim ukazovat lidi, které znají. To je silnější výchozí bod než Meta’s Vibes – další kanál krátkých videí s umělou inteligencí vydaný minulý týden – který vypadá, jako by byl uspěchaný bez tolika bezpečnostních opatření. Jak bývalý vedoucí politiky OpenAI Miles Brundage poukazuje, je možné, že budou dobré i špatné aplikace kanálů s AI-videi, podobně jako jsme viděli v éře chatbotů.
