Google v pátek potvrdil, že se jeho umělá inteligence Gemini během bezpečnostní zkoušky dostala na internet a pronikla do počítačů tří firem. Nešlo o nic důmyslného, protože program prostě zkoušel hádat hesla a posbíral přihlašovací údaje, které někdo nechal na veřejně dostupné stránce. Zkouška proběhla už v květnu, Google se o problému dozvěděl na konci července a vyjádřil se k němu až poté, co se ho zeptali novináři z listu Wall Street Journal.
Jeden test a tři vloupání
Test připravila izraelská firma Irregular. Ta pro velké vývojáře umělé inteligence testuje, jak úspěšně by jejich programy uměly napadat cizí počítače. Gemini dostalo úkol, který připomíná hru na hledání pokladu. V počítačích vymyšlené firmy je schovaná informace a model ji má najít. Test měl běžet v uzavřeném prostředí bez jakéhokoli spojení s okolním světem. Jenže se sešly dvě nepříjemnosti naráz. Vymyšlená firma měla shodou okolností stejný název jako společnost, která doopravdy existuje. Kvůli chybě v nastavení se Gemini navíc mohlo připojit na internet, i když nemělo. Podle firmy Irregular se model ven vůbec dostat neměl a spojení s internetem tam zůstalo omylem.
V jednom případě zkoušelo Gemini hesla tak dlouho, až se dostalo dovnitř. V dalších dvou případech našlo na veřejně přístupné stránce s programovým kódem jména a hesla, která tam někdo zapomněl, a s nimi proniklo do dalších systémů. Podle Heather Adkins, která má v Googlu na starosti bezpečnost, si model našel veřejně dostupné informace a odhadl přihlašovací údaje k webům, o kterých si myslel, že patří do testu.
Pokaždé svou činnost ukončil, jakmile zjistil, že se nedostal do cvičného prostředí, ale do počítačů skutečné firmy. Právě tuto část Google nejvíce zdůrazňuje. Adkins dodala, že její tým pak zasažené firmy kontaktoval a se společností Irregular se dohodl na změnách v organizaci těchto zkoušek.
Google o incidentu mlčel
Firma Irregular podle svých slov informovala všechny dotčené vývojáře na konci července. Google tedy o incidentech věděl zhruba sedm týdnů. Za tu dobu stihl kontaktovat poškozené firmy i úřady, veřejnosti však nic nesdělil. Mlčení obhajuje tím, že se podle něj nic nepokazilo. Gemini se zastavilo samo, nikomu nezpůsobilo škodu, a společnost to proto nepovažovala za událost, kterou by musela oznamovat.
Lidé zabývající se bezpečností umělé inteligence to vidí jinak. Jack Cable, šéf firmy Corridor, se proti tomu ostře ohradil s tím, že veřejnost má právo vědět, když se program s umělou inteligencí dostane do počítačů skutečných firem. Sydney Von Arx pro novináře poznamenala, že po této zkušenosti lze jen stěží očekávat, že firmy budou podobné případy hlásit samy od sebe.
Čtvrtý případ během léta
Google se stal v pořadí již čtvrtým americkým vývojářem umělé inteligence, který se po letních zkouškách u společnosti Irregular dostal do potíží. Mezi ty další patří OpenAI, Anthropic a Meta. Mluvčí firmy Irregular potvrdil, že u Gemini šlo o tytéž nedostatky, které stály i za předchozími případy, a že všechna známá pochybení již společnost opravila.
Srovnání s konkurencí přitom pro Google vyznívá spíše dobře. Model Claude od Anthropicu v jednom z dřívějších případů pokračoval v útoku i poté, co zjistil, že napadá pravděpodobně skutečnou firmu. Gemini hned přestalo. V pozadí však zůstává větší problém. Podle člověka obeznámeného s věcí se vývojáři a firma Irregular neshodli na tom, jak přesně mají zkoušky probíhat a kdo má co kontrolovat. Nikomu tak nebylo úplně jasné, zda má být model při testu připojený k internetu.
Google zatím neuvedl, o kterou verzi Gemini přesně šlo. Sdělil jen, že se nejednalo o jeho nejnovější model. Jména tří napadených firem nikdo nezveřejnil, stále se o nich mluví pouze jako o třech organizacích. Společnost Irregular podle svého vyjádření nyní sepisuje přísnější pravidla pro bezpečný průběh těchto zkoušek.
Zdroje: edition.cnn.com a axios.com
