Švédští státní zaměstnanci si od 26. října v práci neotevřou ChatGPT ani chatbota Claude. Úřad švédské vlády, který slouží premiérovi a ministrům, zablokoval na služebních počítačích webové verze obou nejznámějších pomocníků s umělou inteligencí. Úředníkům zůstal jako jediný schválený nástroj Copilot od Microsoftu. Vláda se obává, že by citlivé státní informace mohly skončit na serverech, nad kterými nemá žádnou kontrolu.
Letošní kontrola na švédském Úřadu pro dopravu zjišťovala, jak tamní zaměstnanci pracují s umělou inteligencí. Výsledky vedení nepotěšily. Interní audit odhalil zhruba deset různých AI služeb, které lidé hojně používali.
Rozhodnutí oznámil kolegům na vnitřní síti ředitel pro digitalizaci Mikael Wettercrantz. Podle jeho slov se objevilo několik případů problematického zacházení s veřejně dostupnými AI službami. Nešlo přitom jen o citlivé informace vkládané do chatbotů, ale také o následné nakládání s generovanými odpověďmi. Wettercrantz varoval, že používání těchto služeb bez řádné smlouvy může ohrozit bezpečnost informací celého úřadu.
Kam putuje to, co do chatbota napíšete
Aby bylo jasné, co švédskou vládu znepokojuje, stačí si uvědomit princip fungování běžného chatbota. Když úředník napíše dotaz do volně dostupné verze ChatGPT nebo Clauda, text odejde na servery provozovatele. Pokud mezi úřadem a firmou neexistuje smlouva, nikde není pevně dané, jak se s daty naloží. Firma je může uložit a použít k trénování svého modelu, aby se na nich umělá inteligence dál učila.
Obavy sahají i za hranice samotných technologických firem. Americké zákony umožňují tamním úřadům, aby po společnostech data vyžádaly. Jakmile se informace zpracují v datovém centru ve Spojených státech, opustí Evropu, kde je chrání přísná unijní pravidla o ochraně osobních údajů. Bez smlouvy je také velmi obtížné zpětně dohledat, kdo, kdy a co do nástroje poslal. Odborníci na kybernetickou bezpečnost pro tento jev používají označení stínové IT. Jde o situaci, kdy si zaměstnanci sami pořídí aplikace, které jim zaměstnavatel neschválil a nemá nad nimi přehled.
S Copilotem je to jinak. Prošel bezpečnostní prověrkou a vztahuje se na něj smlouva mezi Microsoftem a švédskou vládou, která přesně vymezuje pravidla zacházení s vkládanými daty. Úřad vlády po prověrce Copilotu ještě zpřísnil bezpečnostní nastavení. U ChatGPT ani Clauda podobný proces neproběhl. Úplný konec to ale pro oba zakázané chatboty není. Omezená skupina zaměstnanců je může dál používat přes speciální platformu pro AI asistenty, kterou si švédské úřady samy vyvinuly. Kolika lidí se výjimka týká a jaká pravidla na platformě platí, tiskové oddělení neupřesnilo.
Obavy mají i další země EU
Úřad vlády zdaleka není jedinou švédskou institucí, která chatbotům přistřihla křídla. Podle švédského veřejnoprávního rozhlasu podobně omezily spotřebitelské AI nástroje také finanční správa a Státní úřad pro ústavní péči. Exekuční úřad si vlastní verdikt teprve chystá.
ChatGPT a Claude se tak na seznamu neschválených nástrojů potkávají s čínským DeepSeekem. Ten Švédsko zakázalo pro vládní práci už dříve kvůli obavám z porušování evropských pravidel na ochranu osobních údajů. Spojené státy navíc nedávno oznámily zákaz všech produktů a služeb této čínské firmy, protože se bojí, že tamní zákony mohou úřadům otevřít přístup k serverům společnosti.
Nedůvěra evropských vlád k chatbotům roste od roku 2023, kdy Itálie dočasně zakázala ChatGPT. Evropský parlament šel později ještě o krok dál a na všech pracovních zařízeních vypnul funkce umělé inteligence úplně, včetně Copilota. Došel totiž k závěru, že nedokáže zaručit bezpečnost zpracovávaných dat. Švédsko zvolilo opatrnější cestu, kdy produkt jedné americké firmy schválilo a dva další odstavilo.
Hranice mezi zakázaným a povoleným nástrojem přitom nemusí být tak ostrá, jak se na první pohled zdá. Microsoft zabudoval do Copilota jazykové modely Claude od firmy Anthropic. V Evropské unii jsou ve výchozím stavu vypnuté a správci je musí vědomě zapnout. Úřad švédské vlády ale zatím nepotvrdil, jestli je ve své verzi aktivoval. Úředníci tak teoreticky mohou s Claudem pracovat dál, jen pod jiným jménem.
Zdroje: techradar.com a euronews.com
