Americká policie se potýká s problémem, který nikdo nečekal. Oddělení v městě Heber City ve státě Utah začalo testovat umělou inteligenci na psaní policejních zpráv a výsledek? Jeden z dokumentů prohlásil, že policista se při výkonu služby fyzicky proměnil v žábu. Oddělení to následně muselo veřejně vysvětlovat.
Oddělení Heber City Police se rozhodlo vyzkoušet dva softwarové nástroje poháněné umělou inteligencí: Draft One od technologické firmy Axon a konkurenční produkt Code Four, který vyvinuli dva devatenáctiletí odpadlíci z MIT. Oba programy fungují na stejném principu: policista zapne tělesnou kameru, program zachytí zvuk, a ze záznamu automaticky vytvoří policejní zprávu. Méně psaní, více hlídkování. Aspoň tak to zní v marketingových materiálech. Testování probíhalo v prosinci 2024.
Žába v úředním dokumentu
Jeden ze strážníků měl při výkonu služby v pozadí spuštěný film. Konkrétně šlo o animovanou komedii od Disneye z roku 2009 Princezna a žába. Tělesná kamera snímala vše, co se dělo, tedy i dialogy z televize. Umělá inteligence to celé vstřebala a do výsledné policejní zprávy zakomponovala příběh, ve kterém se strážník proměnil v žábu.
Sergeant Rick Keel to popsal místní televizi Fox 13 takto: „Software tělesné kamery a software pro psaní zpráv zachytily film, který hrál v pozadí. Byla to Princezna a žába. Tehdy jsme pochopili, jak důležité je tyto AI zprávy kontrolovat." Oddělení muselo vydat opravu a potvrdilo, že mezi jeho strážníky žádní obojživelníci neslouží.
Incident by mohl být jen vtipnou anekdotou. Jenže není. Ukazuje přesně to, před čím experti varují od chvíle, kdy se tyto nástroje začaly šířit mezi policejní sbory nejen ve Spojených státech. Umělá inteligence nemá rozum. Nemá kontext. Bere zvuk, slova, věty a skládá z nich text. Nerozlišuje mezi tím, co řekl podezřelý, co říkal strážník a co říkal někdo další v pozadí nebo dokonce co právě hrálo v televizi. Prostě to všechno zpracuje a vydá jako úřední dokument.
Profesor práva Andrew Ferguson z American University na to upozorňoval už v roce 2024: automatizace a snadnost technologie mohou vést k tomu, že policisté přestanou být při psaní pečliví. AI zpráva se stane výchozí verzí pravdy, aniž by ji někdo důkladně přečetl.
AI nasazují po celé Americe
Axon spustil Draft One na začátku roku 2024. Program využívá jazykové modely od OpenAI, stejnou technologii jako ChatGPT, a generuje celé policejní zprávy ze zvuku tělesné kamery. Firma tvrdí, že čas na psaní zpráv se zkrátí přibližně na polovinu. Keel potvrdil, že mu nástroj ušetří šest až osm hodin týdně. To je reálný přínos pro sbory, kde každý strážník tráví prý až 15 hodin týdně papírováním.
Axon zdůrazňuje bezpečnostní opatření: každou zprávu musí zkontrolovat a podepsat člověk, systém ukládá záznamy o tom, kdo co vygeneroval a z jakého záznamu. Standardně je nástroj omezený na méně závažné případy. Praxe ale vypadá jinak.
Nezisková organizace Electronic Frontier Foundation zveřejnila v červenci 2025 výsledky svého šetření. Draft One je navržen tak, aby auditům odolával, ne aby jim vyhovoval. Podařilo se jim zjistit, že z jednoho utažského oddělení vzešlo mezi zářím 2024 a dubnem 2025 přes 900 zpráv vygenerovaných touto umělou inteligencí, a to i v případech jako únos nebo napadení. Přitom firma sama říká, že pro závažné trestné činy by se nástroj neměl používat.
Klíčový problém: z výsledného dokumentu často nelze poznat, které části napsal strážník a které vygeneroval stroj. Pokud se v takovém spisu objeví chyba nebo zkreslení, strážník může svést vinu na software a firma ukáže na podpis strážníka zodpovědného za kontrolu dokumentu. Časopis Mother Jones zase zjistil, že některá oddělení záměrně vypínají kontrolní nástroje, které Axon do systému zabudoval.
Budoucnost AI u policie
Nejde jen o žáby a překlepy. Generativní umělá inteligence prokazatelně reprodukuje předsudky vůči ženám a lidem jiné než bílé pleti. Když takový systém píše policejní zprávy, může nepozorovaně měnit tón popisu, vybírat určitá slova nebo vyhlazovat chaos skutečné situace do příliš čistého, příliš přesvědčivého příběhu.
Aurelius Francisco, spoluzakladatel organizace Foundation for Liberating Minds z Oklahomy, upozornil: fakt, že technologii dodává stejná firma, která policii prodává paralyzéry Taser, sám o sobě stojí za zamyšlení.
Testovací období Code Four v oddělení brzy skončí. Vedení ještě nerozhodlo, který nástroj případně ponechá. Keel naznačil, že v nějaké podobě umělá inteligence v oddělení zůstane. Pravděpodobně ne ta, která proměňuje policisty v žáby.
Ve státě Kalifornie mezitím zákonodárci projednávají návrh SB 524, který by zavedl povinné zveřejňování informací o tom, kdy a jak byl generativní AI nástroj při psaní zprávy použit. Pokud projde, byl by to první zákon svého druhu v USA. A kauza ze Heber City? Ta zatím slouží jako nejslavnější příklad toho, co se stane, když technologie běží napřed a nikdo se neptá, jestli je na to připravena.
Zdroje: yahoo.com a forbes.com
