Anthropic poskytuje šesti výzkumníkům neziskové organizace METR přístup na úrovni svých zaměstnanců, aby mohli nezávisle hodnotit jeho modely AI, bezpečnostní postupy a řízení rizik. Součástí uspořádání je možnost zveřejňovat vlastní hodnocení rizik, incidentů a firemních postupů, aniž by Anthropic mohl jejich publikaci zablokovat.
Interní nástroje i sdílení informací se zaměstnanci
Tým METR má k dispozici firemní notebooky od Anthropicu i kancelářské prostory. Rozsah přístupu k interním nástrojům je přibližně srovnatelný s tím, který mají vlastní týmy firmy zabývající se hodnocením rizik.
Součástí spolupráce je i sdílení interních informací. Anthropic uvádí, že své zaměstnance vybízí, aby s výzkumníky METR sdíleli informace stejně jako s kolegou, který zkoumá rizika nesouladu chování AI s lidskými záměry.
Publikace bez veta, s vymezenými zásahy do obsahu
METR bude vydávat vlastní hodnocení rizik, incidentů a postupů Anthropicu. Firma se vzdala práva jejich zveřejnění zastavit, ponechává si však možnost požadovat odstranění informací spadajících do úzce vymezených kategorií.
Podle Anthropicu mezi takové kategorie patří například zákaznická data, informace chráněné důvěrností vztahu advokáta a klienta nebo údaje o architekturách jeho modelů. METR smí veřejně popsat požadované zásahy a vyjádřit názor na jejich oprávněnost, nesmí přitom ale odhalit samotné odstraněné informace.
METR jako jediný hodnotitel na nejvyšší úrovni
Anthropic buduje třístupňový systém externího hodnocení a METR je zatím jedinou organizací na jeho nejvyšší úrovni. Právě ta přidává přístup na úrovni zaměstnanců. Prostřední úroveň poskytuje hodnotitelům více informací a dovoluje jim publikovat bez předchozího schválení firmy.
Na nejnižší úrovni působí například SecureBio, nezisková organizace zaměřená na biologickou bezpečnost. Hodnotitelé v této skupině provádějí úzce vymezená hodnocení a pro jejich zveřejnění potřebují souhlas Anthropicu.
Navázání na Amodeiův návrh externích hodnotitelů
Nové uspořádání uskutečňuje návrh, který šéf Anthropicu Dario Amodei předložil v zářijovém eseji. Začlenění externích hodnotitelů přímo do laboratoří AI v něm navrhoval jako první krok ke zpomalení vývoje této technologie.
