Die US-amerikanische Polizei hat mit einem Problem zu kämpfen, mit dem niemand gerechnet hatte. Die Polizeibehörde in Heber City im Bundesstaat Utah begann, künstliche Intelligenz zum Verfassen von Polizeiberichten zu testen – und das Ergebnis? In einem der Dokumente hieß es, ein Polizist habe sich während seines Dienstes körperlich in einen Frosch verwandelt. Die Behörde musste dies anschließend öffentlich erklären.
Die Polizeibehörde von Heber City beschloss, zwei KI-gestützte Softwaretools auszuprobieren: Draft One des Technologieunternehmens Axon und das Konkurrenzprodukt Code Four, das von zwei neunzehnjährigen MIT-Studienabbrechern entwickelt wurde. Beide Programme funktionieren nach demselben Prinzip: Der Polizist schaltet seine Körperkamera ein, das Programm zeichnet den Ton auf und erstellt aus der Aufnahme automatisch einen Polizeibericht. Weniger Schreibarbeit, mehr Streifendienst. Zumindest klingt es in den Marketingmaterialien so. Die Tests fanden im Dezember 2024 statt.
Ein Frosch im amtlichen Dokument
Bei einem der Beamten lief während des Dienstes im Hintergrund ein Film. Konkret handelte es sich um die Disney-Animationskomödie aus dem Jahr 2009 Küss den Frosch. Die Körperkamera zeichnete alles auf, was geschah, also auch die Dialoge aus dem Fernseher. Die künstliche Intelligenz nahm all das auf und baute in den daraus entstandenen Polizeibericht eine Geschichte ein, in der sich der Beamte in einen Frosch verwandelte.
Sergeant Rick Keel beschrieb es gegenüber dem lokalen Fernsehsender Fox 13 so: „Die Software der Körperkamera und die Software zum Verfassen von Berichten erfassten den Film, der im Hintergrund lief. Es war Küss den Frosch. Da wurde uns klar, wie wichtig es ist, diese KI-Berichte zu überprüfen.“ Die Behörde musste eine Korrektur veröffentlichen und bestätigte, dass unter ihren Beamten keine Amphibien Dienst tun.
Der Vorfall könnte lediglich eine lustige Anekdote sein. Das ist er jedoch nicht. Er zeigt genau das, wovor Fachleute warnen, seit sich diese Tools bei Polizeibehörden nicht nur in den Vereinigten Staaten verbreiten. Künstliche Intelligenz besitzt keinen Verstand. Sie versteht keinen Kontext. Sie nimmt Geräusche, Wörter und Sätze auf und setzt daraus einen Text zusammen. Sie unterscheidet nicht zwischen dem, was ein Verdächtiger gesagt hat, dem, was ein Beamter gesagt hat, und dem, was jemand anderes im Hintergrund gesagt hat oder sogar gerade im Fernsehen lief. Sie verarbeitet einfach alles und gibt es als amtliches Dokument aus.
Der Rechtsprofessor Andrew Ferguson von der American University warnte bereits 2024 davor: Die Automatisierung und einfache Handhabung der Technologie könnten dazu führen, dass Polizisten beim Verfassen von Berichten weniger sorgfältig werden. Der KI-Bericht werde zur maßgeblichen Version der Wahrheit, ohne dass ihn jemand gründlich gelesen habe.
KI wird in ganz Amerika eingesetzt
Axon brachte Draft One Anfang 2024 auf den Markt. Das Programm nutzt Sprachmodelle von OpenAI, dieselbe Technologie wie ChatGPT, und erstellt aus dem Ton der Körperkamera vollständige Polizeiberichte. Das Unternehmen behauptet, dass sich die für das Verfassen von Berichten benötigte Zeit ungefähr halbiert. Keel bestätigte, dass ihm das Tool sechs bis acht Stunden pro Woche einspart. Das ist ein echter Vorteil für Polizeibehörden, in denen jeder Beamte angeblich bis zu 15 Stunden pro Woche mit Schreibarbeit verbringt.
Axon betont die Sicherheitsmaßnahmen: Jeder Bericht muss von einem Menschen überprüft und unterzeichnet werden, und das System speichert Aufzeichnungen darüber, wer was und aus welcher Aufnahme erstellt hat. Standardmäßig ist das Tool auf weniger schwerwiegende Fälle beschränkt. In der Praxis sieht es jedoch anders aus.
Die gemeinnützige Organisation Electronic Frontier Foundation veröffentlichte im Juli 2025 die Ergebnisse ihrer Untersuchung. Draft One ist so konzipiert, dass es Prüfungen standhält, nicht damit es ihnen gerecht wird. Die Organisation konnte feststellen, dass eine Polizeibehörde in Utah zwischen September 2024 und April 2025 mehr als 900 von dieser künstlichen Intelligenz erstellte Berichte produzierte, auch in Fällen wie Entführung oder Körperverletzung. Dabei erklärt das Unternehmen selbst, dass das Tool bei schweren Straftaten nicht eingesetzt werden sollte.
Das zentrale Problem: Im fertigen Dokument lässt sich häufig nicht erkennen, welche Teile ein Beamter geschrieben und welche eine Maschine erstellt hat. Wenn sich in einer solchen Akte ein Fehler oder eine Verzerrung findet, kann der Beamte der Software die Schuld geben, während das Unternehmen auf die Unterschrift des für die Überprüfung des Dokuments verantwortlichen Beamten verweist. Das Magazin Mother Jones stellte wiederum fest, dass einige Polizeibehörden die von Axon in das System integrierten Kontrollwerkzeuge absichtlich deaktivieren.
Die Zukunft der KI bei der Polizei
Es geht nicht nur um Frösche und Tippfehler. Generative künstliche Intelligenz reproduziert nachweislich Vorurteile gegenüber Frauen und nicht weißen Menschen. Wenn ein solches System Polizeiberichte verfasst, kann es unbemerkt den Ton der Beschreibung verändern, bestimmte Wörter auswählen oder das Chaos einer realen Situation zu einer allzu glatten, allzu überzeugenden Geschichte formen.
Aurelius Francisco, Mitbegründer der Organisation Foundation for Liberating Minds aus Oklahoma, wies darauf hin: Allein die Tatsache, dass die Technologie von demselben Unternehmen geliefert wird, das der Polizei Taser-Elektroschocker verkauft, gibt Anlass zum Nachdenken.
Die Testphase von Code Four bei der Behörde endet bald. Die Leitung hat noch nicht entschieden, welches Tool sie gegebenenfalls behalten wird. Keel deutete an, dass künstliche Intelligenz in irgendeiner Form bei der Behörde bleiben werde. Wahrscheinlich nicht jene, die Polizisten in Frösche verwandelt.
Im Bundesstaat Kalifornien beraten die Gesetzgeber unterdessen über den Entwurf SB 524, der eine verpflichtende Offenlegung darüber einführen würde, wann und wie ein generatives KI-Tool beim Verfassen eines Berichts verwendet wurde. Sollte er verabschiedet werden, wäre dies das erste Gesetz dieser Art in den USA. Und der Fall aus Heber City? Er dient vorerst als bekanntestes Beispiel dafür, was passiert, wenn die Technologie vorauseilt und niemand fragt, ob sie dafür bereit ist.
Quellen: yahoo.com und forbes.com
