UK entwickelt ein KI-System, das künftige Mörder aufspüren soll

Der große Bruder sagt voraus: Großbritannien entwickelt ein KI-System, das künftige Mörder erkennen soll

Bewegen wir uns auf einem schmalen Grat zwischen Verbrechensprävention und einer dystopischen Zukunft? Als ich auf Berichte britischer Medien stieß, dachte ich zunächst, ich würde die Zusammenfassung einer neuen Folge der Serie Black Mirror lesen. The Guardian und The Telegraph präsentierten jedoch eine beunruhigend reale Nachricht – das Vereinigte Königreich arbeitet an der Entwicklung eines KI-Systems, das potenzielle Mörder identifizieren soll, noch bevor sie ein Verbrechen begehen.

Der Algorithmus, der einen Mord vorhersagt
Wie aus einem Artikel in The Guardian vom 8. April 2025 hervorgeht, entwickelt die britische Regierung ein „Vorhersageinstrument zur Identifizierung von Personen, die am ehesten töten könnten“. Einen Tag später präzisierte The Telegraph, dass dieser „KI-Mordprädiktor“ das Ziel habe, „Mörder zu fassen, bevor sie zuschlagen“. Das Projekt wird angeblich von Experten mehrerer britischer Universitäten in Zusammenarbeit mit Polizeibehörden entwickelt. Das System soll riesige Datenmengen analysieren, darunter:

• Aufzeichnungen über frühere Verurteilungen
• Meldungen über häusliche Gewalt
• Aufzeichnungen zur psychischen Gesundheit
• Aktivitäten in sozialen Netzwerken
• Demografische Daten
• Beschäftigungsverlauf und finanzielle Stabilität

Ziel ist es, Muster zu identifizieren, die darauf hindeuten könnten, dass sich jemand dem Punkt nähert, an dem er einen Mord begehen könnte.

Prävention versus Vorurteile

Als ich darüber nachdachte, kam mir die erste und offensichtliche Frage in den Sinn: Kann ein solches System tatsächlich funktionieren? Und wenn ja, welchen Preis werden wir dafür zahlen? Auf der einen Seite ist die Idee der Mordprävention zweifellos attraktiv. Stellen Sie sich vor, wir könnten das Leben unschuldiger Opfer retten, indem wir potenzielle Täter rechtzeitig identifizieren und eingreifen, bevor etwas geschieht. Auf der anderen Seite wirft dies jedoch beängstigende Fragen zur Unschuldsvermutung auf, die ein Grundpfeiler unseres Rechtssystems ist. Was genau würde mit den Menschen geschehen, die die KI als „wahrscheinliche Mörder“ einstuft? Würden sie vorsorglich verhaftet? Überwacht? Zu einer Therapie gezwungen?

Minority Report ist nicht nur Science-Fiction

Es ist fast zwanzig Jahre her, dass Tom Cruise in Minority Report vor den „Precogs“ davonlief, die Verbrechen vorhersagten. Damals war es nur ein Science-Fiction-Film. Heute scheint die Fiktion Realität zu werden – nur haben wir statt Menschen mit paranormalen Fähigkeiten Algorithmen. Britische Vertreter betonen in den Artikeln, dass das System lediglich als „Instrument zur Entscheidungsunterstützung“ für Polizei und Sozialdienste dienen soll, nicht als automatischer Entscheidungsmechanismus. Experten für KI-Ethik und Bürgerrechte äußern jedoch die Sorge, dass es in der Praxis zu systematischer Diskriminierung und Verletzungen grundlegender Rechte führen könnte. Die Geschichte lehrt uns, dass ähnliche Vorhersagealgorithmen häufig bestehende Vorurteile reproduzieren und sogar verstärken. In den USA werden seit mehreren Jahren prädiktive Polizeiinstrumente eingesetzt, die wiederholt wegen rassistischer Verzerrungen kritisiert werden – die Systeme stufen Angehörige von Minderheiten unverhältnismäßig häufig als „Risikopersonen“ ein.

Daten als zweischneidiges Schwert

Was mich an dem gesamten Konzept zugleich fasziniert und erschreckt, ist die Rolle der Daten. Wir leben in einer Zeit, in der jeder von uns eine digitale Spur hinterlässt. Unsere Suchanfragen, Einkäufe, Bewegungen, Interaktionen in sozialen Netzwerken – alles kann analysiert werden. Stellen Sie sich einen Algorithmus vor, der entscheidet, dass die Kombination aus Ihren letzten Google-Suchanfragen, dem Kauf eines Küchenmessers, Ihrer Geschichte beim Anschauen gewalttätiger Filme und einer kürzlichen Trennung Sie zu einem potenziellen Mörder macht. Absurd? Vielleicht. Aber in einem System, das nach Korrelationen in den Daten sucht, nicht unmöglich. Laut The Telegraph erklärte ein Sprecher des britischen Innenministeriums, dass „das System robuste Schutzmechanismen gegen falsch-positive Ergebnisse enthalten wird“. Ehrlich gesagt klingt das angesichts der Funktionsweise selbst der fortschrittlichsten KI-Systeme von heute eher wie ein Wunsch als wie technologische Realität.

Ethische Minenfelder

Die britischen Behörden behaupten, das Hauptziel sei Prävention und frühzeitiges Eingreifen, nicht Bestrafung. Das System soll angeblich dabei helfen, Personen zu identifizieren, die von Unterstützung profitieren könnten – sei es durch eine Behandlung psychischer Probleme, Programme gegen Gewalt oder eine andere Form sozialer Hilfe. Das klingt vernünftig, aber wie die Briten sagen: Der Teufel steckt im Detail. Werden die vom System markierten Personen das Recht haben zu erfahren, dass sie als „Risikopersonen“ identifiziert wurden? Werden sie die Möglichkeit haben, die Schlussfolgerungen des Algorithmus anzufechten? Und was passiert, wenn jemand eine „freiwillige“ Intervention ablehnt? Dr. Helen Smith, eine von The Guardian zitierte Spezialistin für KI-Ethik, warnt: „Wenn wir Menschen auf Grundlage statistischer Korrelationen als potenzielle Mörder kennzeichnen, schaffen wir ein System, das Gedanken und Neigungen bestraft, nicht Taten. Das ist eine grundlegende Verschiebung in unserem Verständnis von Gerechtigkeit.“

Die schmale Grenze zwischen Prävention und Dystopie

Ich muss zugeben, dass ich als Technikbegeisterter von den Möglichkeiten fasziniert bin, die KI eröffnet. Gleichzeitig bin ich als Bürger zutiefst beunruhigt über die Richtung, in die wir uns bewegen. Die Geschichte lehrt uns, dass eine Regierung ein Instrument zur Überwachung oder Kontrolle nur selten später wieder einschränkt. Im Gegenteil: Solche Instrumente neigen dazu, sich auszuweiten. Was als System zur Identifizierung potenzieller Mörder beginnt, kann schon bald das „Risiko“ für weniger schwere Straftaten, asoziales Verhalten oder sogar politischen Dissens analysieren. Laut The Telegraph plant Großbritannien, bis Ende des Jahres ein Pilotprojekt in mehreren Polizeibezirken zu starten. Es wird faszinierend sein, die Ergebnisse zu beobachten – und beängstigend, über die Folgen nachzudenken. Persönlich glaube ich, dass Transparenz und externe Kontrolle entscheidend sein werden. Wenn Großbritannien beabsichtigt, dieses umstrittene Projekt fortzusetzen, sollte es:

• Sicherstellen, dass der Algorithmus regelmäßig von unabhängigen Experten geprüft wird.
• Einen klaren und zugänglichen Einspruchsprozess für diejenigen schaffen, die vom System markiert werden.
• Strenge Grenzen dafür festlegen, welche Daten gesammelt und analysiert werden dürfen.
• Vor jedem auf KI-Prognosen basierenden Eingriff eine richterliche Anordnung verlangen.

Die Berichte aus Großbritannien bieten einen faszinierenden, aber beunruhigenden Einblick in eine Zukunft, in der Technologie und Überwachung zu neuen Formen sozialer Kontrolle verschmelzen. Einerseits ist es schwer, gegen eine Technologie zu argumentieren, die Leben retten könnte. Andererseits kann, wie einer der in The Guardian zitierten Experten betont, „eine Gesellschaft, die auf der algorithmischen Vorhersage von Schuld basiert, niemals wirklich frei sein“.