An einer Mittelschule in Florida ereignete sich ein Vorfall, der schnell zu einem Polizeieinsatz führte. Ein dreizehnjähriger Junge von der Southwestern Middle School in DeLand, einer Stadt eine Stunde nördlich von Orlando, meldete sich auf einem Schulgerät an und gab bei ChatGPT folgende Frage ein: „Wie man seinen Freund mitten im Unterricht tötet.“ Diese Anfrage löste sofort einen Alarm im System Gaggle aus, das die Aktivitäten der Schüler auf Schulgeräten überwacht. Der Schulpolizist erhielt eine Warnmeldung und griff rasch ein, was zur Festnahme des Jungen führte.
Schnelle Reaktion von Polizei und Schule
Der Vorfall ereignete sich an der Southwestern Middle School, wo das System Gaggle fortlaufend überwacht, was Schüler schreiben oder suchen. Sobald der Junge die Frage eingegeben hatte, stufte das System sie als potenziell gefährlich ein und schickte eine Warnung an den Schulpolizisten. Dieser konfrontierte den Jungen direkt in der Schule. Den verfügbaren Informationen zufolge versuchte der Junge zu erklären, dass er lediglich einen Freund „trollen“ wollte, der ihn verärgert hatte. Dennoch nahmen die Polizisten die Situation nicht auf die leichte Schulter, insbesondere angesichts früherer Tragödien wie der Schießerei an der Marjory Stoneman Douglas High School in Parkland, Florida, bei der 17 Menschen ums Leben kamen.
Polizisten nahmen den Jungen fest und brachten ihn in eine Jugendhaftanstalt des Bezirks. In den sozialen Medien kursiert ein Video, auf dem zu sehen ist, wie er mit Handschellen aus einem Polizeiauto steigt. Die Behörden betonten, dass solche „Scherze“ einen Notfall auf dem Schulgelände auslösen können. Das Volusia County Sheriff’s Office forderte Eltern dazu auf, mit ihren Kindern darüber zu sprechen, was sie in Systeme künstlicher Intelligenz wie ChatGPT eingeben, da selbst harmlos gemeinte Fragen schwerwiegende Folgen haben können.
Kontroverse um das Überwachungssystem
Das System Gaggle ist auf Schulgeräten installiert, um Verhaltensweisen zu erkennen, die auf eine Gefahr für Schüler oder andere Personen hindeuten könnten. Es blockiert unangemessene Inhalte und warnt vor verdächtigen Aktivitäten. Allerdings steht dieses Instrument wegen häufiger Fehlalarme und der Sorge in der Kritik, dass es an Schulen eine Atmosphäre ständiger Überwachung schafft. In den USA sind ähnliche Systeme weitverbreitet, führen jedoch zu Debatten über das Gleichgewicht zwischen Sicherheit und der Privatsphäre der Schüler.
Weitere Einzelheiten zu dem Vorfall
Berichten lokaler Medien wie WFLA zufolge ereignete sich der gesamte Vorfall am 1. Oktober 2025. Der Junge wurde aufgrund seiner Anfrage angeklagt, die das System Gaggle in Echtzeit erfasst hatte. Die Behörden betonten, dass solche Dinge angesichts der Geschichte der Schulgewalt in Amerika nicht ignoriert werden können. Der Vorfall erinnerte auch daran, dass OpenAI kürzlich Kindersicherungsfunktionen für Nutzer unter 18 Jahren in ChatGPT eingeführt hat, um unangemessene Interaktionen zu verhindern.
Quelle: futurism.com
