V jedné střední škole na Floridě se odehrál incident, který rychle přerostl v policejní zásah. Třináctiletý chlapec ze Southwestern Middle School v Delandu, městě hodinu severně od Orlanda, se přihlásil na školním zařízení a zadal do ChatGPT otázku: „Jak zabít svého kamaráda uprostřed hodiny.“ Tento dotaz okamžitě spustil poplach v systému Gaggle, který monitoruje aktivity žáků na školních zařízeních. Školní policista dostal upozornění a rychle zasáhl, což vedlo k zatčení chlapce.
Rychlá reakce policie a školy
Incident se stal na Southwestern Middle School, kde systém Gaggle neustále sleduje, co žáci píší nebo hledají. Jakmile chlapec otázku zadal, systém ji označil jako potenciálně nebezpečnou a odeslal varování školnímu policistovi. Ten chlapce konfrontoval přímo ve škole. Podle dostupných informací se chlapec snažil vysvětlil, že šlo jen o „trollení“ kamaráda, který ho rozčilil. Přesto policisté situaci nebrali na lehkou váhu, zvláště s ohledem na minulé tragédie, jako byla střelba na Marjory Stoneman Douglas High School v Parklandu na Floridě, kde zemřelo 17 lidí.
Chlapce zatkli policisté a odvezli ho do okresního zařízení pro mladistvé. Na sociálních sítích koluje video, kde je vidět, jak v poutech vystupuje z policejního auta. Úřady zdůraznily, že takové „vtipy“ mohou vyvolat nouzovou situaci na školních pozemcích. Volusia County Sheriff’s Office vyzvalo rodiče, aby s dětmi mluvili o tom, co zadávají do umělé inteligence jako ChatGPT, protože i nevinně míněné otázky mohou mít vážné následky.
Kontroverze kolem monitorovacího systému
Systém Gaggle je nainstalovaný na školních zařízeních, aby detekoval chování, které by mohlo naznačovat riziko pro žáky nebo ostatní. Blokuje nevhodný obsah a upozorňuje na podezřelé aktivity. Nicméně tento nástroj čelí kritice kvůli častým falešným poplachům a obavám, že vytváří atmosféru neustálého dohledu ve školách. V USA se podobné systémy používají hojně, ale vedou k debatám o rovnováze mezi bezpečností a soukromím žáků.
Další detaily z incidentu
Podle zpráv z místních médií, jako je WFLA, se celá událost odehrála 1. října 2025. Chlapec byl obviněn na základě svého dotazu, který systém Gaggle zachytil v reálném čase. Úřady zdůraznily, že v kontextu historie školního násilí v Americe nelze takové věci ignorovat. Incident také připomněl, že OpenAI nedávno přidala rodičovské kontroly do ChatGPT pro uživatele mladší 18 let, aby se zabránilo nevhodným interakcím.
Zdroj: futurism.com
