Niederländische Polizei stellt prädiktives Polizeisystem nach einem Jahrzehnt ohne Wirksamkeitsnachweise ein

Hintergrund

Das Crime Anticipation System (CAS) wurde ab 2013 vom Datenwissenschaftler Dick Willems für die niederländische Polizei entwickelt, als Teil einer umfassenden Transformation hin zur „intelligence-led policing“. Der Algorithmus, der aus einem Geschäftsmodell zur Vorhersage von Kundenabwanderung entstand, wurde 2015 eingeführt, um Kriminalitätshotspots zu klassifizieren und Polizeikräfte zuzuweisen. Ursprünglich für Amsterdam konzipiert, wurde er zum Standard für prädiktive Polizeiarbeit in den gesamten Niederlanden.
Das System wurde Ende 2025 eingestellt, nachdem ein vernichtender interner Bericht vom September 2025, der „Kraai“-Bericht (Quality and Risk Management System for Algorithms and AI), darlegte, dass sein „Mehrwert“ „unklar“ sei und dass nur 1 von 50 Vorfällen in Amsterdam vom Algorithmus korrekt vorhergesagt wurde, 11,5 % weniger als die ursprünglichen Behauptungen.
CAS unterteilte Städte in 125 Quadratmeter große Raster, sammelte Daten über vergangene Verbrechen, nahegelegene Verdächtige und sozioökonomische Daten, um „heiße Zeiten“ und „Hotspots“ zu identifizieren, an denen Patrouillen eingesetzt werden sollten. Es war ein geschlossenes System, was bedeutete, dass die Beamten nicht sehen konnten, welche Daten das Modell für die Vorhersagen verwendete. Die Polizei gab zu, dass es unmöglich war zu beweisen, dass Diebstähle durch den Einsatz des Systems zurückgingen.

Warum es wichtig ist

Das niederländische prädiktive Polizeisystem, das Crime Anticipation System (CAS), wurde Anfang 2026 eingestellt, nachdem es ein Jahrzehnt lang ohne nachweisliche Wirksamkeit bei der Kriminalitätsreduzierung betrieben wurde; in Amsterdam wurde nur 1 von 50 Vorfällen korrekt vorhergesagt. Dieser Fall zeigt, wie die Investition in algorithmusbasierte Systeme ohne solide wissenschaftliche und operative Validierung zu einem erheblichen und nutzlosen Verbrauch öffentlicher Ressourcen für jede Organisation führen kann, die technologische Lösungen sucht. Bevor Organisationen, insbesondere jene im öffentlichen Sektor und große Unternehmen, KI-Lösungen für die Operationsführung einführen, sollten sie sich fragen: Haben wir konkrete Beweise dafür, dass diese Technologie unser Problem wirklich löst und nicht nur eine ineffektive 'Black Box' ist? Was sind die Erfolgsparameter und wie messen wir diese vor und nach der Implementierung?

Was zu tun ist

• Vor der Implementierung konkrete Wirksamkeitsnachweise von Algorithmen und KI-Systemen anfordern und bewerten.
• Klare und messbare Metriken zur Bewertung des tatsächlichen Einflusses von KI-Systemen auf die Zielerreichung festlegen.
• Wo immer möglich, Transparenz bezüglich der Daten und Entscheidungslogiken von Algorithmen für die Nutzer sicherstellen (Vermeidung von 'geschlossenen Systemen').
• KI-Systeme regelmäßigen und strengen internen Überprüfungen unterziehen, wie einem 'Quality and Risk Management System', um deren 'Mehrwert' zu bewerten.

Was zu vermeiden ist

• Operative Entscheidungen oder erhebliche Investitionen auf Algorithmen stützen, ohne einen klaren und überprüfbaren Wirksamkeitsnachweis.
• Prädiktive Systeme einführen, deren interne Logiken für Endnutzer und Stakeholder nicht transparent oder verständlich sind.
• Ein System über längere Zeit weiterverwenden, ohne eingehende Überprüfungen oder Bewertungen seiner tatsächlichen Auswirkungen und Leistungen durchzuführen.
• Technologien als 'Pioniere' darstellen oder bewerben, ohne solide Beweisgrundlagen für ihre Wirksamkeit zu besitzen.

Praktische Auswirkungen

Organisationen, die den Einsatz von KI-Systemen, insbesondere prädiktiven, in Betracht ziehen, müssen sich der Realität stellen, dass nicht alle KI-Lösungen ihre Versprechen halten. Der Fall der niederländischen Polizei verdeutlicht das Risiko, in komplexe Technologien zu investieren, die auf dem Papier zwar innovativ erscheinen, sich aber als ineffektiv erweisen und eine Verschwendung von Zeit und Geld darstellen. Es bedarf eines kritischen und evidenzbasierten Ansatzes zur Bewertung der tatsächlichen Auswirkungen und des 'Mehrwerts' dieser Systeme, insbesondere wenn es um die Verwaltung von Daten und wichtigen operativen Entscheidungen geht, um zu vermeiden, Ressourcen für Instrumente zu verwenden, die nicht die erwarteten Ergebnisse liefern.

Empfohlene Maßnahmen

• Einen KI-Governance-Rahmen implementieren, der die Validierung und kontinuierliche Überprüfung der Algorithmusleistung einschließt.
• Klare, messbare und auf konkreten Beweisen basierende Erfolgsmetriken vor der Implementierung jedes KI-Systems definieren.
• Die Transparenz und Verständlichkeit von KI-Systemen, wo möglich, für Endnutzer sowie interne und externe Stakeholder gewährleisten.
• Regelmäßige und unabhängige Audits zur Wirksamkeit und den Auswirkungen von KI-Systemen durchführen, um eine kontinuierliche Überwachung zu gewährleisten.

Zu vermeidende Fehler

• KI-Lösungen ausschließlich auf Anbieterangaben oder unrealistischen Erwartungen basierend einführen, ohne eine gründliche Due Diligence durchzuführen.
• Fehlende umfassende Dokumentation über Methodologien, erwartete Leistungen und Wirksamkeitsnachweise eines KI-Systems.
• Zulassen, dass 'Black-Box'-Systeme kritische Entscheidungen beeinflussen, ohne dass die Organisation deren Logiken und potenzielle Voreingenommenheiten vollständig versteht.

Fragen zur Selbsteinschätzung

• Welche konkreten Beweise haben wir für die Wirksamkeit und den 'Mehrwert' dieses KI-Systems für unsere Organisation und unsere spezifischen Ziele?
• Wie messen wir den Erfolg und die Auswirkungen dieses Algorithmus auf unsere operativen Prozesse und die definierten Geschäftsmetriken?
• Verstehen unsere Mitarbeiter und Führungskräfte, wie das KI-System seine Entscheidungen trifft, oder wird es als unverständliche 'Black Box' wahrgenommen?
• Haben wir einen klaren und strukturierten Plan für die Überprüfung, Aktualisierung und mögliche Stilllegung eines KI-Systems, falls es sich als ineffektiv oder nicht leistungsfähig erweist?