Rivista.AI ha recentemente trattato il tema della polizia predittiva, con particolare focus sul software X-Law, ideato da Elia Lombardo. Questo sistema rappresenta un approccio innovativo nella prevenzione dei crimini, utilizzando algoritmi probabilistici per analizzare dati provenienti da denunce e informazioni socio-economiche. L’obiettivo è prevedere con alta precisione il verificarsi di crimini, in particolare quelli di tipo predatorio come furti e rapine

In questo vogliamo analizzare Patternizr, un innovativo strumento di analisi dei crimini sviluppato internamente dal NYPD, implementato nel dicembre 2016 e recentemente rivelato attraverso un articolo pubblicato nell’INFORMS Journal on Applied Analytics.

Questo sistema utilizza un insieme di modelli di apprendimento automatico per identificare pattern tra i crimini, analizzando centinaia di migliaia di segnalazioni in tutti i 77 distretti della città.

Un “pattern” è definito come una serie di crimini che probabilmente sono stati commessi dallo stesso autore o da autori simili, basandosi su caratteristiche identificative. Prima dell’adozione di Patternizr, gli analisti erano costretti a esaminare manualmente i rapporti, un processo lungo e inefficiente, limitato a singoli distretti e soggetto a errori umani.

Con l’introduzione di questo strumento, il NYPD ha assunto circa 100 nuovi analisti formati per utilizzare Patternizr nella loro routine quotidiana, migliorando notevolmente l’efficienza nell’identificazione dei crimini correlati.

Devora Kaye, portavoce del NYPD, ha sottolineato l’importanza dell’analisi avanzata nel garantire la sicurezza pubblica, affermando che essa deve essere trasparente e soggetta a valutazione continua per garantirne l’equità e l’efficacia. Tuttavia, l’uso di Patternizr ha sollevato preoccupazioni riguardo ai potenziali bias nell’analisi dei dati, evidenziando la necessità di mantenere un controllo umano sui risultati generati dal sistema.

Funzionalità principali

Analisi dei dati avanzata:

  • Patternizr utilizza algoritmi di machine learning e data mining per analizzare set di dati multi-dimensionale. Gli algoritmi possono includere tecniche di clustering, regressione e classificazione, permettendo di categorizzare e analizzare i dati in modo efficiente.
  • L’analisi predittiva consente di anticipare potenziali eventi o minacce, migliorando la preparazione e la risposta.
  • Visualizzazione dei dati:
    • Le funzionalità di visualizzazione di Patternizr vanno oltre semplici grafici. Utilizza rappresentazioni visive interattive, come mappe termiche e grafici a rete, che possono illustrare le relazioni tra variabili in modo più intuitivo.
    • Queste visualizzazioni non solo facilitano la comprensione dei dati, ma permettono anche agli utenti di esplorare e interagire con i risultati in tempo reale.
  • Automazione e integrazione:
    • Patternizr può essere integrato con altre piattaforme di intelligence e sistemi di gestione dei dati, facilitando un flusso di lavoro più fluido e una collaborazione efficace tra diversi team di analisi.
    • Le capacità di automazione aiutano a ridurre il tempo necessario per l’analisi e a migliorare l’efficienza operativa.
  • Interfaccia utente intuitiva:
    • L’interfaccia di Patternizr è progettata per essere user-friendly, consentendo agli analisti, anche con una formazione tecnica limitata, di navigare facilmente tra le funzionalità del software.

Approccio metodologico

  • Tecniche di Data Mining:
    • Patternizr utilizza diverse tecniche di data mining, come l’analisi delle associazioni e l’apprendimento supervisionato e non supervisionato. Questi metodi consentono di estrarre informazioni utili da set di dati apparentemente disordinati.
  • Machine Learning:
    • Implementa modelli di machine learning per migliorare continuamente le sue capacità analitiche. Ad esempio, il software può apprendere dai dati storici per migliorare la sua precisione nella previsione di eventi futuri.
    • Le tecniche di deep learning possono anche essere utilizzate per analizzare dati non strutturati, come testi, immagini o video, ampliando ulteriormente le capacità analitiche del software.
  • Feedback e miglioramento continuo:
    • Gli utenti possono fornire feedback sui risultati generati, permettendo al sistema di affinare ulteriormente i suoi algoritmi. Questo ciclo di feedback è essenziale per l’adattamento del software alle esigenze specifiche degli utenti e alle nuove minacce emergenti.

Implicazioni per la sicurezza

  • Identificazione precoce delle minacce:
    • La capacità di Patternizr di identificare schemi nei dati consente una risposta proattiva a minacce potenziali. Ad esempio, può rilevare anomalie nei dati di comunicazione che potrebbero suggerire un attacco imminente.
  • Decisioni informate:
    • Fornendo agli analisti informazioni dettagliate e contestualizzate, Patternizr consente decisioni più informate e rapide. Ciò è particolarmente critico in situazioni di emergenza, dove il tempo è essenziale.
  • Applicazioni nei settori civili:
    • Oltre alla difesa, Patternizr ha potenziali applicazioni in ambiti civili, come la sicurezza pubblica e la gestione delle crisi. Può essere utilizzato per analizzare dati relativi a eventi naturali, traffico o comportamenti della folla.

Esempi di utilizzo

  • Analisi di intelligence militare: Patternizr può essere utilizzato per analizzare dati provenienti da fonti di intelligence diverse (come rapporti di sorveglianza o dati di comunicazione), identificando schemi che possono indicare attività nemiche.
  • Sicurezza pubblica: Le forze di polizia possono utilizzare Patternizr per analizzare dati su crimini passati, identificando aree ad alto rischio e migliorando la pianificazione delle pattuglie.
  • Monitoraggio delle attività online: In un contesto di sicurezza nazionale, il software può analizzare i dati provenienti da social media e altre fonti online per identificare potenziali minacce o attività illecite.

La questione dell’uso di algoritmi di analisi avanzata e apprendimento automatico da parte dell’NYPD è di grande rilevanza, poiché il rischio di perpetuare pregiudizi esistenti è elevato.

Darin Stewart, analista di Gartner, ha espresso preoccupazioni riguardo a Patternizr, un sistema di riconoscimento dei pattern sviluppato per identificare crimini attraverso dieci anni di dati storici. Sebbene l’NYPD abbia rimosso attributi sensibili come genere e razza dai dati di addestramento, Stewart ha avvertito che queste misure potrebbero non essere sufficienti a prevenire il bias: “Rimuovere razza e genere come fattori espliciti nei dati di training sono fondamentalmente delle poste in gioco, il minimo indispensabile”.

Stewart ha sottolineato che se i pregiudizi razziali o di genere hanno influenzato le azioni della polizia in passato, le previsioni del modello saranno comunque influenzate da questi fattori. Ha avvertito che l’uso crescente di Patternizr potrebbe portare a conseguenze negative, come l’incarcerazione di persone innocenti: “Nella migliore delle ipotesi, questo sarà un insulto e un inconveniente. Nella peggiore, persone innocenti saranno incarcerate” .

In risposta alle preoccupazioni, l’NYPD ha affermato di aver condotto test di equità sul sistema, dichiarando che Patternizr non raccomanda crimini con sospettati di alcuna razza a un tasso superiore a quello casuale. Tuttavia, la New York Civil Liberties Union ha chiesto una revisione indipendente del sistema per garantire equità e trasparenza .

L’NYPD sta pianificando di espandere l’uso di Patternizr ad altri tipi di crimine, aumentando ulteriormente la posta in gioco per garantire che i pregiudizi vengano esclusi. Fortunatamente, ci sono ancora diversi livelli di revisione umana necessari per stabilire un pattern.

Elia Lombardo (inventore di XLAW intelligenza artificiale di Polizia Predittiva) intervistato da Rivista.AI sostiene che, in un mondo sempre più complesso dove le soluzioni tradizionali alla sicurezza falliscono, sia necessario accogliere le innovazioni come la polizia predittiva, piuttosto che respingerle per paura. 

La polizia predittiva, basata su modelli di intelligenza artificiale, per Alcuni Crimini come quelli Predatori rappresenta un’evoluzione della polizia di prevenzione, concentrandosi sulla previsione attraverso l’analisi di pattern criminali. 

Tuttavia, Elia Lombardo critica l’uso eccessivo del metodo statistico, che considera fallimentare per via della sua complessità e opacità, preferendo invece approcci euristici, più semplici e mirati. La prevenzione dovrebbe puntare a intervenire prima che il crimine avvenga, analizzando i meccanismi criminali e agendo selettivamente.

Kaye dell’NYPD ha affermato che è cruciale mantenere un essere umano nel ciclo decisionale per migliorare l’accuratezza e la responsabilità del sistema: “Preservare la decisione finale con un individuo non solo aiuta la tecnologia a essere più accurata, ma chiarisce anche la responsabilità quando si verificano degli errori” .

Debra Piehl, analista senior della polizia di New York, ha confermato che Patternizr funziona meglio quando è affiancato da analisi umane: “Consente comunque agli analisti che lavorano per me di applicare il proprio pensiero e la propria analisi”.