Umělá inteligence se již stala běžnou součástí práce ve firmách. Jenže s každou novou technologií přibývají i nové cesty, které mohou ohrozit citlivá data. Složitost celé situace dokazuje i to, že s nástrahami AI bojují nejen uživatelé, ale také samotní vývojáři. A to včetně samotného Googlu. Jaká jsou nejčastější rizika a jak jim předcházet?
Bezpečnost se nedá „dodělat později“
Celou problematiku hezky shrnul Francis de Souza, jeden ze šéfů Google Cloud, v rozhovoru pro TechCrunch. Jeho hlavní myšlenka zní jednoduše: bezpečnost se musí řešit od začátku, ne až když nastane problém. Je to podobné jako se stavbou domu. Zámky a alarmy je třeba nainstalovat hned, ne až potom, co vám dům vykradou.
V praxi poukazuje hlavně na dvě věci, se kterými drtivá většina firem bojuje. Zaprvé by si podle něj měla firma vybírat AI nástroje tak, aby v nich byla ochrana dat zabudovaná rovnou a nemusela se k nim složitě doplňovat. A za druhé varuje, že bezpečnost nelze nechat na zaměstnancích, aby si ji řešili sami.
Druhým bodem se totiž dostáváme k jevu zvanému „shadow AI“. Tedy k situaci, kdy zaměstnanci k práci volně používají běžné veřejné nástroje typu ChatGPT a kopírují do nich třeba firemní smlouvy nebo data zákazníků, aniž by o tom kohokoliv informovali.
A rozhodně se nejedná o výjimky. Podle zprávy společnosti Menlo Security ze srpna 2025 využívá bezplatné AI nástroje až 68 % zaměstnanců a 57 % z nich do těchto nástrojů vkládá citlivá data.
Útoky jsou rychlejší a míří na nová místa
De Souza upozornil i na to, že hackeři dnes útočí mnohem rychleji, než tomu bylo dřív. Průměrná doba mezi prvním průnikem a další fází útoku klesla z osmi hodin na 22 sekund, což celou situaci ještě zhoršuje.
Navíc stále vznikají nová zranitelná místa. Zatímco dříve firmám stačilo chránit své počítače a vnitřní síť, dnes „vstupních dveří“ do firem přibývá. Jsou jimi samotné AI modely, tréninková data, AI agenti i textové příkazy, které jim zadáváme. Každé z těchto míst totiž může být napadeno.
Firmy často opomíjejí také roky stará data na jejich serverech. Obvykle jde o archivované dokumenty nebo tabulky, na které se dávno zapomnělo. Ale automatizovaní AI pomocníci se v tomto prostředí obvykle pohybují zcela volně a tyto zapomenuté soubory mohou najít a vytěžit.
A že nejde o nic levného, ukazují i čísla. Podle dat IBM z roku 2025 stojí firmu únik dat způsobený „shadow AI“ v průměru o 670 tisíc dolarů více a jeho vyřešení trvá o deset dní déle než u běžného incidentu.
I tvůrci AI se učí za pochodu
A teď to nejzajímavější. Zatímco velké firmy radí, jak si nastavit bezpečnostní mechanismy, samy občas narážejí na vlastní chyby.
Podle TechCrunch popsal server The Register sérii případů, kdy vývojářům přišly od Googlu několikatisícové účty za AI služby, které nikdy vědomě nezapnuli. Nakonec vyplynulo, že se útočníci zmocnili jejich přístupových klíčů a začali na cizí účet využívat placenou AI. Jednomu z postižených vznikl dokonce účet přes 10 tisíc dolarů během pouhých 30 minut.
Co si z toho odnést? Bezpečnost AI se jeví jako velmi složitá disciplína. I samotná bezpečnostní šéfka LinkedInu Lea Kissner řekla, že firmy budou potřebovat odborníky na zvládání nových typů chyb.
Ačkoliv se může zdát, že v AI tápou menší firmy bez silných IT oddělení, opak je pravdou. I velké technologické společnosti totiž momentálně mají mezeru mezi tím, co radí ostatním, a tím, jak rychle se samy přizpůsobují.
