Caitlin Kalinowski, vedoucí hardwarového a robotického týmu OpenAI, oznámila svou rezignaci. Důvod? Firma uzavřela dohodu s americkým ministerstvem obrany, aniž by předem jasně definovala bezpečnostní záruky. A to Kalinowski prostě nemohla přejít mlčením.
Dohoda s Pentagonem
OpenAI uzavřelo dohodu s Pentagonem, která umožňuje nasazení jejích modelů umělé inteligence v utajovaných cloudových sítích americké armády. Firma to oznámila rychle, bez detailního vysvětlení, jaké konkrétní záruky zabrání zneužití technologie. A právě to byl problém.
Kalinowski svůj odchod oznámila přímo na sociálních sítích. Na LinkedIn napsala: „Tohle nebylo snadné rozhodnutí. Umělá inteligence má důležitou roli v národní bezpečnosti. Ale sledování Američanů bez soudního dohledu a smrtící autonomie bez lidské autorizace jsou hranice, které si zasloužily víc rozmyslu, než kolik dostaly."
Na síti X pak upřesnila, že její výhrada není namířena proti konkrétním lidem. „Moje výhrada je, že oznámení bylo uspěchané, aniž by byly definovány záruky. Jde především o otázku správy věcí veřejných. Tyto věci jsou příliš důležité na to, aby se dohody uzavíraly ve spěchu."
Kdo je Caitlin Kalinowski?
Nejde o žádnou řadovou zaměstnankyni. Kalinowski přišla do OpenAI v listopadu 2024 z Mety, kde vedla vývoj hardwaru pro brýle rozšířené reality Orion. V OpenAI budovala robotický tým od základů, najímala lidi a formovala směr fyzické umělé inteligence. Odejít po necelém roce a půl? To muselo být opravdu těžké rozhodnutí.
Přesto zdůraznila, že odchází ze zásady, ne kvůli lidem. „Hluboce si vážím Sama a celého týmu a jsem hrdá na to, co jsme společně vybudovali," napsala s odkazem na generálního ředitele Sama Altmana.
Anthropic vs. Pentagon
Aby bylo jasné, proč OpenAI dohodu uzavřelo tak rychle, musíme se vrátit o pár dní zpět. Pentagon původně jednal s konkurenční firmou Anthropic. Ta ale odmítla podepsat smlouvu bez jasných záruk, že její technologie nebude použita k masovému sledování obyvatel ani k plně autonomním zbraním. Pentagon na to reagoval tvrdě: označil Anthropic za bezpečnostní riziko v dodavatelském řetězci. Anthropic se rozhodl toto označení napadnout u soudu.
OpenAI pak vstoupilo do hry a dohodu s Pentagonem uzavřelo prakticky okamžitě. Firma tvrdí, že smlouva zahrnuje technické záruky a jasné „červené linie": žádné domácí sledování, žádné autonomní zbraně. Jenže právě rychlost celého procesu vyvolala vlnu kritiky uvnitř firmy.
Odchod uživatelů OpenAI
Skandál nezůstal jen v zákulisí technologického světa. Odinstalace aplikace ChatGPT vzrostly o 295 % v době, kdy se zpráva o dohodě s Pentagonem rozšířila. Konkurenční Claude od Anthropicu vyskočil na první místo v americkém App Store. Ještě v sobotu odpoledne si Claude a ChatGPT vyměňovaly první a druhé místo v žebříčku nejstahovanějších bezplatných aplikací. Dá se to číst jako jasný vzkaz: část uživatelů nechce, aby jejich oblíbený chatbot sloužil armádě bez jasně nastavených pravidel.
Firma reagovala opatrně, ale pevně. „Věříme, že naše dohoda s Pentagonem vytváří schůdnou cestu pro zodpovědné využití umělé inteligence v oblasti národní bezpečnosti, přičemž jasně vymezuje naše červené linie: žádné domácí sledování a žádné autonomní zbraně," uvedl mluvčí OpenAI.
Firma zároveň přiznala, že lidé mají na toto téma silné názory, a slíbila pokračovat v diskusi se zaměstnanci, vládou i společností. Jenže slova jsou jedno a činy druhé. Kalinowski odešla. A s ní odešel i jasný signál, že uvnitř OpenAI panují vážné pochybnosti o tom, jak firma nakládá s etickými otázkami.
Co bude dál?
Kalinowski naznačila, že v oboru zůstane. „Dávám si trochu času, ale zůstávám velmi zaměřená na budování zodpovědné fyzické umělé inteligence," napsala. Kde přistane, zatím není jasné.
Celý případ ale otevírá mnohem větší otázku: Dokáže OpenAI udržet důvěru svých zaměstnanců i uživatelů, pokud bude uzavírat vojenské dohody bez dostatečné transparentnosti? Rezignace jedné manažerky možná nezlomí firmu. Ale pokud za ní přijdou další, bude to pro OpenAI mnohem větší problém než jakýkoliv pokles v App Store.
