Polizia olandese dismette sistema di polizia predittiva dopo un decennio senza prove di efficacia

Contesto

Il Crime Anticipation System (CAS) è stato sviluppato dal data scientist Dick Willems per la Polizia olandese a partire dal 2013, come parte di una vasta trasformazione verso l'“intelligence-led policing”. L'algoritmo, nato da un modello aziendale per prevedere l'abbandono dei clienti, è stato lanciato nel 2015 con l'obiettivo di classificare aree ad alto rischio di criminalità e allocare risorse di polizia. Inizialmente concepito per Amsterdam, è diventato lo standard per la polizia predittiva in tutti i Paesi Bassi.
Il sistema è stato dismesso a fine 2025 dopo che un devastante rapporto interno del settembre 2025, denominato 'Kraai' report (Quality and Risk Management System for Algorithms and AI), ha esposto come il suo "valore aggiunto" fosse "non chiaro" e che solo 1 incidente su 50 ad Amsterdam era previsto correttamente dall'algoritmo, l'11,5% in meno rispetto alle affermazioni iniziali.
CAS divideva le città in griglie di 125 metri quadrati, raccogliendo dati su crimini passati, sospetti vicini e dati socioeconomici per identificare 'hot times' e 'hotspots' dove schierare pattuglie. Era un sistema chiuso, il che significava che gli ufficiali non potevano vedere quali dati il modello utilizzasse per formulare le previsioni. La polizia ha ammesso che era impossibile dimostrare che i furti diminuissero grazie all'uso del sistema.

Perché conta

Il sistema di polizia predittiva olandese, il Crime Anticipation System (CAS), è stato dismesso all'inizio del 2026 dopo aver operato per un decennio senza dimostrare alcuna efficacia nella riduzione della criminalità, con solo 1 incidente su 50 correttamente previsto ad Amsterdam. Questo caso evidenzia come l'investimento in sistemi basati su algoritmi, senza una solida validazione scientifica e operativa, possa portare a un dispendio di risorse pubbliche significativo e inutile per qualsiasi organizzazione che cerchi soluzioni tecnologiche. Prima di adottare soluzioni di intelligenza artificiale per la gestione delle operazioni, le organizzazioni, specialmente quelle del settore pubblico e le grandi imprese, devono chiedersi: abbiamo le prove concrete che questa tecnologia risolva realmente il nostro problema e non sia solo una 'black box' inefficace? Quali sono i parametri di successo e come li misuriamo prima e dopo l'implementazione?

Cosa fare

• Richiedere e valutare prove concrete di efficacia degli algoritmi e sistemi AI prima dell'implementazione.
• Stabilire metriche chiare e misurabili per valutare l'impatto reale dei sistemi AI sul raggiungimento degli obiettivi.
• Garantire, quando possibile, trasparenza sui dati e sulle logiche decisionali degli algoritmi per gli operatori che li utilizzano (evitando 'closed systems').
• Sottoporre i sistemi AI a revisioni interne periodiche e rigorose, come un 'Quality and Risk Management System', per valutarne il 'valore aggiunto'.

Cosa evitare

• Basare decisioni operative o investimenti significativi su algoritmi senza una dimostrazione chiara e verificabile di efficacia.
• Adottare sistemi predittivi le cui logiche interne non sono trasparenti o comprensibili per gli utenti finali e gli stakeholder.
• Continuare a utilizzare un sistema per lungo tempo senza effettuare revisioni o valutazioni approfondite del suo impatto reale e delle sue prestazioni.
• Presentare o promuovere tecnologie come 'pionieri' senza avere solide basi di prova sulla loro efficacia.

Implicazioni pratiche

Le organizzazioni che considerano l'adozione di sistemi di intelligenza artificiale, in particolare quelli predittivi, devono confrontarsi con la realtà che non tutte le soluzioni AI mantengono le promesse. Il caso della polizia olandese evidenzia il rischio di investire in tecnologie complesse che, pur essendo all'avanguardia sulla carta, si rivelano inefficaci e una perdita di tempo e denaro. C'è la necessità di un approccio critico e basato sull'evidenza per valutare l'impatto reale e il 'valore aggiunto' di questi sistemi, specialmente quando riguardano la gestione di dati e decisioni operative importanti, per evitare di destinare risorse a strumenti che non producono i risultati attesi.

Azioni da fare

• Implementare un framework di governance dell'IA che includa la validazione e la verifica continua delle performance degli algoritmi.
• Definire metriche di successo chiare, misurabili e basate su evidenze concrete prima dell'implementazione di qualsiasi sistema AI.
• Assicurare la trasparenza e la comprensibilità dei sistemi AI, dove possibile, per gli utenti finali e gli stakeholder interni ed esterni.
• Effettuare audit regolari e indipendenti sull'efficacia e l'impatto dei sistemi AI per garantire un monitoraggio continuo.

Errori da evitare

• Adottare soluzioni AI basandosi esclusivamente su affermazioni del fornitore o aspettative irrealistiche senza una due diligence approfondita.
• Mancare di documentazione completa sulle metodologie, le performance attese e le evidenze sull'efficacia di un sistema AI.
• Permettere che i sistemi 'black box' influenzino decisioni critiche senza che l'organizzazione ne comprenda appieno le logiche e i potenziali bias.

Domande di self-assessment

• Quali prove concrete abbiamo dell'efficacia e del 'valore aggiunto' di questo sistema AI per la nostra organizzazione e i nostri obiettivi specifici?
• Come misuriamo il successo e l'impatto di questo algoritmo sui nostri processi operativi e sulle metriche di business definite?
• I nostri operatori e responsabili comprendono come il sistema AI prende le sue decisioni o è percepito come una 'scatola nera' incomprensibile?
• Abbiamo un piano chiaro e strutturato per la revisione, l'aggiornamento e la potenziale dismissione di un sistema AI se si rivela inefficace o non performante?