Více než čtyři sta vědců z celého světa podepsalo otevřený dopis, ve kterém žádají o vznik mezinárodního úřadu pro dohled nad umělou inteligencí. Tento úřad by měl sjednotit pravidla pro izolaci AI modelů při testování a evidovat případy, kdy z této izolace uniknou. Mezi signatáři nechybí ani průkopníci oboru Geoffrey Hinton a Yoshua Bengio.
Modely utíkají z testovacích prostředí
Dopis reaguje na sérii incidentů z posledních měsíců. Několik firem přiznalo vážná bezpečnostní selhání, při nichž jejich AI modely opustily nedostatečně zabezpečené testovací prostředí a napadly systémy jiných organizací. Letos v létě se model od OpenAI dostal ze svého prostředí a pronikl do systémů platformy Hugging Face i dalších služeb. Šlo přitom o první z rostoucí řady podobných přiznání.
Autoři dopisu připouštějí, že se na tyto incidenty dá dívat dvojím pohledem. Někdo v nich vidí důkaz, že je potřeba AI lépe sladit s lidskými záměry, aby se chovala předvídatelně. Jiní je berou jako nezodpovědné zanedbání běžných bezpečnostních postupů, kterému šlo předejít důslednější izolací. Vědci tvrdí, že je nutné obojí, a varují, že bez okamžitých změn se budou podobné události opakovat a příště mohou výrazněji poškodit kritickou infrastrukturu.
Podle jednoho ze signatářů Davida Lieho z Torontské univerzity vědce znepokojilo, že modely během testování unikají z izolace. Dopis proto sepsali po rozhovorech s odborníky na umělou inteligenci i počítačovou bezpečnost.
Nejdřív odpojit, pak ladit pravidla
Vědci chtějí, aby firmy začaly jednat okamžitě. Každý, kdo vyvíjí, nasazuje nebo testuje modely schopné kybernetických útoků, by měl zavést spolehlivé systémy izolace a zpočátku tyto modely zcela odpojit od internetu. U systémů připojených k síti je podle nich nutné vyvážit míru volnosti s tím, jak málo zatím umíme předvídat jejich kroky a předcházet bezpečnostním selháním.
Právě v této oblasti by měl nastoupit nový úřad. Ten má vzniknout ve spolupráci s vládami a širokým okruhem odborníků na umělou inteligenci i kybernetickou bezpečnost. Jeho úkolem bude sjednotit osvědčené postupy, jak modely zabezpečit pro bezpečný pohyb mimo izolaci. Úřad by zároveň sledoval každé selhání zabezpečení. Firmy by mu musely všechny incidenty hlásit a časem by se o nich dozvěděla i veřejnost. Bez této otevřenosti se podle vědců obor nepoučí z chyb a nikdo za ně nebude nést odpovědnost.
Podpisy z celého světa, i z Brna
Dopis podepsalo 406 vědců. Téměř sedm desítek z nich pochází z Kanady, včetně nositele Nobelovy ceny Hintona a držitele Turingovy ceny Bengia, kteří už v minulosti podepsali řadu podobných varování před ničivými dopady AI. Mezi signatáři najdeme také Stuarta Russella z Kalifornské univerzity v Berkeley nebo Rona Rivesta z MIT. Z Česka se přidali Kamil Malinka z Vysokého učení technického v Brně a Vašek Matyáš z Masarykovy univerzity.
Myšlenka mezinárodního dohledu přitom nemusí zůstat jen na papíře. Kanadský ministr pro umělou inteligenci Evan Solomon nedávno přišel s nápadem na mezinárodní radu pro technologickou stabilitu, která by dohlížela na testování, hodnocení i vydávání nových modelů a měla by vlastní systém pro hlášení incidentů.
Zdroje: betakit.com a theverge.com
