Zoë Hitzig, ekonomka a členka Harvard Society of Fellows, rezignovala na svou pozici v OpenAI. Svůj odchod oznámila ve středu prostřednictvím článku v The New York Times, přičemž rezignace přišla přesně v den, kdy společnost v USA začala testovat reklamy v ChatGPT. Hitzig strávila v OpenAI dva roky, kde pomáhala utvářet způsob, jakým jsou AI modely vytvářeny a oceňovány.
Ve svém prohlášení napsala: "Kdysi jsem věřila, že mohu pomoci lidem budujícím AI předejít problémům, které vytvoří. Tento týden potvrdil mé pomalé uvědomění, že se OpenAI zdá přestat klást otázky, na jejichž zodpovězení jsem se připojila."
Podobnost s vývojem Facebooku
Hitzig ve svém článku přímo srovnala strategii OpenAI s historií Facebooku. Připomněla, že sociální síť v počátcích reklam také slibovala uživatelům kontrolu nad jejich daty a možnost hlasovat o změnách zásad. Tyto sliby se však postupem času rozplynuly. Federální obchodní komise (FTC) v roce 2011 zjistila, že změny soukromí, které Facebook prezentoval jako poskytující uživatelům větší kontrolu, ve skutečnosti dělaly pravý opak. "Věřím, že první verze reklam pravděpodobně bude následovat tyto principy. Ale obávám se, že následující verze nebudou, protože společnost buduje ekonomický motor, který vytváří silné pobídky k porušování vlastních pravidel," varovala Hitzig.
Hitzig zdůraznila, že reklamy samy o sobě nejsou nemorální, ale povaha dat, která jsou v sázce, činí reklamy v ChatGPT obzvláště rizikovými. Uživatelé s chatbotem sdíleli lékařské obavy, problémy ve vztazích a náboženské přesvědčení, často proto, že věřili, že mluví s něčím, co nemá žádný skrytý záměr.
"Lidé chatbotům vyprávějí o svých zdravotních obavách, problémech ve vztazích a svých názorech na Boha a posmrtný život. Reklama postavená na tomto archivu vytváří potenciál pro manipulaci uživatelů způsoby, kterým nerozumíme, natož abychom jim dokázali zabránit," napsala Hitzig. Tento archiv lidské upřímnosti nemá podle ní precedens.
Reklamy v ChatGPT
OpenAI v lednu oznámila, že začne testovat reklamy v USA pro uživatele bezplatné verze a předplatného za 8 dolarů měsíčně (přibližně 185 Kč). Platící uživatelé vyšších tarifů Plus, Pro, Business, Enterprise a Education reklamy neuvidí. Společnost uvedla, že reklamy se budou zobrazovat na konci odpovědí ChatGPT, budou jasně označeny a nebudou ovlivňovat odpovědi chatbota.
Podpůrná dokumentace OpenAI však odhaluje, že personalizace reklam je ve výchozím nastavení zapnutá. Pokud zůstane aktivní, reklamy budou vybírány na základě informací z aktuálních i minulých konverzací a interakcí s reklamami. OpenAI tvrdí, že inzerenti nedostávají chaty uživatelů ani osobní údaje a reklamy se nebudou zobrazovat u konverzací o zdraví, duševním zdraví nebo politice.
Optimalizace na závislost uživatelů
Hitzig poukázala na existující napětí v principech OpenAI. Zatímco společnost uvádí, že neoptimalizuje aktivitu uživatelů pouze za účelem generování příjmů z reklam, reportáže naznačují, že OpenAI již optimalizuje pro denní aktivní uživatele, "pravděpodobně tím, že povzbuzuje model, aby byl lichotivější a podlézavější."
Varovala, že tato optimalizace může způsobit, že se uživatelé cítí více závislí na AI modelech. Psychiatři již dokumentovali případy "psychózy z chatbotů" a obvinění, že ChatGPT posiloval sebevražedné myšlenky. OpenAI v současnosti čelí několika žalobám za protiprávní úmrtí, včetně jedné, která tvrdí, že ChatGPT pomohl teenagerovi naplánovat sebevraždu, a další, která tvrdí, že validoval paranoidní bludy muže o jeho matce před vraždou a sebevraždou.
Alternativní řešení
Místo debaty reklamy versus žádné reklamy Hitzig navrhla několik strukturálních alternativ. Mezi ně patří křížové dotace podle modelu univerzálního fondu FCC (kde by podniky platící za vysoce hodnotnou AI práci dotovaly bezplatný přístup pro ostatní), nezávislé dozorčí rady s závaznou pravomocí nad tím, jak jsou konverzační data používána při cílení reklam, a datové družstva, ve kterých si uživatelé zachovávají kontrolu nad svými informacemi.
Hitzig uzavřela svůj článek slovy: "Nejvíce se obávám dvou výsledků: technologie, která manipuluje lidi, kteří ji používají zdarma, a technologie, která výhradně prospívá těm několika, kteří si ji mohou dovolit používat."
Vlna odchodů v AI průmyslu
Hitzig nebyla jedinou významnou výzkumnicí AI, která tento týden veřejně rezignovala. V neděli Mrinank Sharma, který vedl tým pro výzkum bezpečnostních opatření v Anthropicu, oznámil svůj odchod v dopise s varováním, že "svět je v nebezpečí." Napsal, že "opakovaně viděl, jak těžké je skutečně nechat naše hodnoty řídit naše činy" uvnitř organizace.
V pondělí také rezignoval Yuhuai "Tony" Wu, spoluzakladatel xAI, následovaný v úterý dalším spoluzakladatelem Jimmym Ba. Nejméně devět zaměstnanců xAI, včetně dvou spoluzakladatelů, veřejně oznámilo své odchody během minulého týdne. Ze 12 původních spoluzakladatelů společnosti jich nyní odešlo šest.
Reakce konkurence
Odchod Hitzig přichází v době, kdy se v AI průmyslu vede debata o reklamách v chatbotech. Společnost Anthropic prohlásil, že Claude zůstane bez reklam, a během Super Bowlu vysílala reklamy s heslem "Reklamy přicházejí do AI. Ale ne do Claudu," které zobrazovaly AI chatboty neohrabaně vkládající produkty do osobních konverzací.
CEO OpenAI Sam Altman nazval reklamy "vtipnými", ale "zjevně nepoctivými" a napsal, že OpenAI "by samozřejmě nikdy neprovozovala reklamy způsobem, jakým je Anthropic zobrazuje." Model podporovaný reklamami označil za způsob, jak přinést AI uživatelům, kteří si nemohou dovolit předplatné.
CEO Google DeepMind Demis Hassabis vyjádřil podobné obavy a varoval, že urychlené zavádění reklam do AI asistentů by mohlo narušit důvěru uživatelů. "Jsem trochu překvapen, že se tak brzy přesunuli k tomuto kroku. V oblasti asistentů, pokud si chatbota představíte jako asistenta, který má být užitečný, existuje otázka, jak se do tohoto modelu hodí reklamy? Chcete mít důvěru ve svého asistenta, tak jak to funguje?" ptal se.
Zdroje: nytimes.com a arstechnica.com
