Anthropic poskytuje šesti výzkumníkům METR přístup na úrovni zaměstnanců

Anthropic poskytuje šesti výzkumníkům METR přístup na úrovni zaměstnanců

Ondřej Barták
Ondřej Barták
podnikatel a programátor
16. 10. 2026
1 minut čtení · 7 zhlédnutí
Poslechněte si článek
Audio verze článku
Anthropic poskytuje šesti výzkumníkům METR přístup na úrovni zaměstnanců

Anthropic poskytuje šesti výzkumníkům neziskové organizace METR přístup na úrovni svých zaměstnanců, aby mohli nezávisle hodnotit jeho modely AI, bezpečnostní postupy a řízení rizik. Součástí uspořádání je možnost zveřejňovat vlastní hodnocení rizik, incidentů a firemních postupů, aniž by Anthropic mohl jejich publikaci zablokovat.

Interní nástroje i sdílení informací se zaměstnanci

Tým METR má k dispozici firemní notebooky od Anthropicu i kancelářské prostory. Rozsah přístupu k interním nástrojům je přibližně srovnatelný s tím, který mají vlastní týmy firmy zabývající se hodnocením rizik.

Součástí spolupráce je i sdílení interních informací. Anthropic uvádí, že své zaměstnance vybízí, aby s výzkumníky METR sdíleli informace stejně jako s kolegou, který zkoumá rizika nesouladu chování AI s lidskými záměry.

Publikace bez veta, s vymezenými zásahy do obsahu

METR bude vydávat vlastní hodnocení rizik, incidentů a postupů Anthropicu. Firma se vzdala práva jejich zveřejnění zastavit, ponechává si však možnost požadovat odstranění informací spadajících do úzce vymezených kategorií.

Podle Anthropicu mezi takové kategorie patří například zákaznická data, informace chráněné důvěrností vztahu advokáta a klienta nebo údaje o architekturách jeho modelů. METR smí veřejně popsat požadované zásahy a vyjádřit názor na jejich oprávněnost, nesmí přitom ale odhalit samotné odstraněné informace.

METR jako jediný hodnotitel na nejvyšší úrovni

Anthropic buduje třístupňový systém externího hodnocení a METR je zatím jedinou organizací na jeho nejvyšší úrovni. Právě ta přidává přístup na úrovni zaměstnanců. Prostřední úroveň poskytuje hodnotitelům více informací a dovoluje jim publikovat bez předchozího schválení firmy.

Na nejnižší úrovni působí například SecureBio, nezisková organizace zaměřená na biologickou bezpečnost. Hodnotitelé v této skupině provádějí úzce vymezená hodnocení a pro jejich zveřejnění potřebují souhlas Anthropicu.

Navázání na Amodeiův návrh externích hodnotitelů

Nové uspořádání uskutečňuje návrh, který šéf Anthropicu Dario Amodei předložil v zářijovém eseji. Začlenění externích hodnotitelů přímo do laboratoří AI v něm navrhoval jako první krok ke zpomalení vývoje této technologie.

Reklama

S tvorbou obsahu pomáhá UpTier.

SEO a GEO na autopilota. Multiagentní systémy UpTier píší a optimalizují obsah pro vyhledávače i AI odpovědi.

Objevte UpTier ↗

Kategorie:AI
Líbil se vám tento článek?
Objevte další zajímavé příspěvky na blogu
Zpět na blog

Související články

Tencent vydal Hy4 Flash s podporou obrázků a kontextovým oknem o délce až milion tokenůTencent vydal Hy4 Flash s podporou obrázků a kontextovým oknem o délce až milion tokenů
Odlehčený model Hy4 Flash míří na chat, dokumenty a běžné úpravy kódu. Přijímá text i obrázky, podporuje práci s nástroji a podle Tencentu se v testech každodenních úloh vyrovnal modelu Claude Haiku 5.5.
1 min čtení
16. 11. 2026
Firmy spojené s čínskou špionkou investovaly do DeepSeeku a slíbily mu zakázané čipy NvidiaFirmy spojené s čínskou špionkou investovaly do DeepSeeku a slíbily mu zakázané čipy Nvidia
Do posledního investičního kola DeepSeeku vstoupily i firmy spojované s údajnou čínskou špionkou. Výměnou za podíl měly slibovat zakázané čipy Nvidia Blackwell.
3 min čtení
16. 11. 2026
Dlouhý kontext je drahý luxus. Studie Nvidie radí, jak AI agenty zrychlit a zlevnitDlouhý kontext je drahý luxus. Studie Nvidie radí, jak AI agenty zrychlit a zlevnit
AI agenti nemusí při každém kroku zpracovávat celou historii. Studie Nvidie ukazuje, že chytré zkracování kontextu může výrazně zrychlit práci, snížit náklady a zachovat přesnost.
5 min čtení
16. 11. 2026
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.
CodedTrip

Provozovatel: CodedTrip LLC, USA.

YouTube
TikTok