Anthropic oznámil, že po vlně připomínek od firemních zákazníků mění sporná pravidla ukládání dat a nahrazuje je řešením s názvem Enterprise Frontier Safeguards. Podle nového uspořádání si firmy budou moct nechávat data ve své vlastní cloudové infrastruktuře, jako je Amazon S3, Azure Blob Storage nebo Google Cloud Storage, a to pod vlastními šifrovacími klíči a s vlastními pravidly přístupu. Automatické bezpečnostní kontroly sice dál hledají známky zneužití, ale žádný zaměstnanec Anthropicu už do dat nahlížet nebude.
Proč se data ukládala
Původní pravidla začala platit letos v červnu. Anthropic je zavedl současně se spuštěním modelů Claude Fable 5 a Mythos 5 a požadoval, aby se veškerý provoz u těchto modelů ukládal po dobu třiceti dnů. Zdůvodnil to obranou proti zneužití a novým, dosud neznámým kybernetickým útokům.
Firma argumentovala tím, že některé útoky lze rozpoznat až z většího počtu požadavků. Jako příklad uvedla takzvané best-of-N obcházení pojistek, kdy útočník posílá stovky drobných variací téhož zadání a doufá, že jedna projde. Rozsáhlejší kampaně, například státem podporovaná špionáž nebo vydírání pomocí ukradených dat, se ukážou až v momentě, kdy mohou klasifikátory porovnat více požadavků mezi sebou. Nejsofistikovanější zneužití se podle Anthropicu prolíná desítkami úkolů, různých relací a účtů, takže analýza jednotlivých interakcí s okamžitým smazáním nestačí. Detekce zkrátka potřebuje časové okno k propojení souvislostí. Firma zároveň znovu zdůraznila, že jí nešlo o trénovací materiál a dodala, že na firemních datech bez výslovného svolení nikdy netrénovala a trénovat nebude.
Zákazníci ale vnímali hlavně to, že jejich zadání a odpovědi někde měsíc leží. Podniky, s nimiž Anthropic mluvil, bezpečnostní přínos ukládání dat většinou chápaly. Mnohé z nich, obzvlášť ty svázané přísnými pravidly svého odvětví, si však takové modely nemohly dovolit používat. Kate Jensenová, která v Anthropicu vede americkou obchodní divizi, řekla, že hledání jiného řešení zabralo se zákazníky stovky hodin práce. Podle ní teď firma dokáže provádět potřebné kontroly přímo v systémech a datech zákazníka, takže nikdo nemusí slevovat ze svých zásad ochrany soukromí.
Co se tedy mění
Enterprise Frontier Safeguards ukládá data pro sledování v cloudu, který ovládá zákazník, nikoli Anthropic. Detekce zůstává na Anthropicu, ale správa dat, klíče a rozhodování o přístupu k nim zůstávají u firmy. Za tuto službu si Anthropic nic neúčtuje a kontroly fungují stejně, ať už zákazník využívá technologii přímo, nebo přes cloudovou platformu. Za samotné úložiště se ovšem platí běžnému poskytovateli cloudu, tedy za kapacitu, čtení, zápisy i přenos dat ven, stejně jako u jakékoli jiné položky. Nasazení probíhá po etapách, širší dostupnost se plánuje na letošní podzim a zákazníci, kteří ještě nepřišli na řadu, mají u modelů Fable 5 a Fable 5.1 zajištěné nulové ukládání dat.
Původní červnová pravidla nadále platí pro odběratele mimo firemní programy, kteří používají modely třídy Mythos. Běžné tarify Claude Free, Pro a Max se změnou nijak nezabývají, protože u nich se vstupy a výstupy ukládaly už dříve.
Dokumentace k původním pravidlům popisuje i pojistky, které měly obavy zmírnit. Do uložených konverzací se ve výchozím nastavení nedostane nikdo z Anthropicu. Člověk je může otevřít jen schváleným postupem, typicky když obsah označí automatické systémy jako potenciálně škodlivý, a přístup má jen malá skupina prověřených zaměstnanců. Každé takové nahlédnutí se zapisuje do záznamu, který nelze smazat ani upravit. Po třiceti dnech se data automaticky mažou s výjimkou nahlášených případů nebo situací, kdy je musí firma uchovávat ze zákona.
Vyšly nové modely
Anthropic spolu s oznámením představil i modely Claude Fable 5.1 a Claude Mythos 5.1, které popisuje jako své nejlepší nástroje na programování, znalostní práci a výzkum. Oba stojí na stejném základu a liší se přísností pojistek. Verze Fable 5.1 je běžně dostupná, zatímco Mythos 5.1 funguje jen v režimu důvěryhodného přístupu a nabízí ochrany zaměřené na kyberbezpečnost a biologické vědy. Šéf Anthropicu Dario Amodei nová pravidla nastínil už minulý týden při zmínce o rozšířené spolupráci se Salesforce, kdy zdůrazňoval snahu udržet data zákazníků v soukromí a modely pod kontrolou. Firemní zakázky jsou pro Anthropic hlavním zdrojem příjmů, na tento trh cílí i před plánovaným vstupem na burzu. Tlak navíc přichází od konkurence, protože OpenAI přišlo s vlastním řešením ukládání dat už začátkem tohoto měsíce.
Zdroje: cnbc.com a finance.yahoo.com
