La città di East Palo Alto, una comunità operaia che sembra lontana anni luce dai vicini di Silicon Valley, è uno dei primi dipartimenti di polizia in California ad adottare un nuovo strumento di intelligenza artificiale (AI) per la stesura di rapporti di polizia. L’ufficiale Wendy Venegas ha recentemente affrontato una situazione delicata con una quattordicenne trovata in lacrime lungo una strada residenziale. Il padre della ragazza, dopo averla sorpresa con il fidanzato, aveva aggredito quest’ultimo, portando all’intervento della polizia. Nulla di straordinario in un contesto di routine operativa, ma la vera novità è emersa quando Venegas ha dovuto redigere il rapporto sull’incidente. (the Guardian)
Invece di affidarsi unicamente alla propria memoria e alle note sul campo, Venegas ha utilizzato un assistente innovativo: Draft One, un software di intelligenza artificiale sviluppato dalla società Axon, leader nel settore delle telecamere indossabili e dei taser. Questo strumento rappresenta una delle ultime frontiere tecnologiche integrate nelle forze di polizia, con la promessa di rendere più efficiente la stesura dei rapporti e potenzialmente eliminare i pregiudizi.
Axon sta commercializzando Draft One come un “moltiplicatore di forza” per i dipartimenti di polizia, molti dei quali stanno lottando per reclutare e mantenere gli agenti. Jeff Liu, capo della polizia di East Palo Alto, conferma che la sua agenzia sta affrontando problemi di personale, con otto posizioni vacanti su 36 agenti previsti. Liu spera che questo strumento possa permettere agli ufficiali di trascorrere meno tempo a scrivere rapporti e più tempo sul campo.
Un AI per una maggiore efficienza: sogno o realtà?
Il software Draft One funziona trascrivendo i filmati delle telecamere indossabili dagli agenti e producendo un resoconto scritto degli eventi. Questo, secondo Axon, permette di risparmiare tempo e di creare documenti più oggettivi. Ad esempio, l’ufficiale Venegas ha trovato il software particolarmente utile per superare il “blocco dello scrittore”, soprattutto dopo lunghe giornate di pattuglia. Basta un click sul pulsante Draft One, e in pochi secondi appare una narrazione basata sull’audio della sua telecamera.
In alcune località, i risparmi di tempo promessi sembrano confermati. A Campbell, nella contea di Santa Clara, il capitano della polizia Ian White ha riferito che, dopo un mese di utilizzo, Draft One ha fatto risparmiare complessivamente circa 50 ore di lavoro ai suoi agenti. Anche a Fort Collins, in Colorado, la polizia ha scoperto che i rapporti scritti con l’ausilio di Draft One richiedevano in media otto minuti, contro i 23 minuti necessari senza l’uso del software.
Tuttavia, una recente ricerca pubblicata nel Journal of Experimental Criminology ha sollevato dubbi. Un esperimento controllato randomizzato condotto presso un dipartimento di polizia del New Hampshire non ha rilevato alcun risparmio di tempo significativo nell’uso di Draft One rispetto ai metodi tradizionali. Ian Adams, l’assistente professore che ha guidato lo studio, ha dichiarato che il team sta ancora analizzando i dati per capire il motivo di questo risultato sorprendente. Tuttavia, ha sottolineato che i risultati dello studio rappresentano solo un piccolo tassello nel quadro generale.
Un futuro dominato dall’Intelligenza Artificiale?
Sebbene Draft One sia stato progettato per rendere i rapporti di polizia più oggettivi, rimangono molte domande su quanto sia saggio affidare così tanto potere decisionale a un algoritmo. Andrew Ferguson, professore di diritto penale presso l’American University, ha sottolineato che i rapporti di polizia rappresentano le fondamenta del sistema giudiziario penale. Le decisioni su chi accusare, su quale cauzione fissare, e persino sulla difesa degli imputati, spesso dipendono da questi documenti iniziali.
“Se parte di quel processo viene influenzata dall’IA, sorgono preoccupazioni reali riguardo all’affidabilità del sistema”, ha affermato Ferguson. Le potenziali distorsioni o errori introdotti dall’AI sono ancora oggetto di studio, ma le forze dell’ordine sono chiaramente attratte dal potenziale miglioramento dell’efficienza. La carenza di personale e la pressione sulle risorse fanno apparire Draft One come una soluzione promettente.
Nonostante il riscontro misto dei primi studi, molti agenti che lo utilizzano, come Venegas, riferiscono che lo strumento li aiuta a superare momenti di difficoltà nella stesura dei rapporti. L’adozione di strumenti come Draft One potrebbe estendersi rapidamente, specialmente in dipartimenti che faticano a rispettare le tempistiche e le procedure.
Le preoccupazioni etiche e le sfide future
Oltre all’efficienza, resta il dibattito etico. Il problema principale è se l’automazione possa compromettere la qualità dei rapporti e introdurre nuovi rischi. Se un software di AI può elaborare rapporti in modo rapido, il pericolo è che le sue conclusioni possano contenere pregiudizi invisibili, soprattutto se i dati di addestramento sono sbilanciati o incompleti. I rapporti di polizia, come afferma Ferguson, non sono semplicemente documenti burocratici, ma strumenti che incidono profondamente sulle vite delle persone.
Axon difende il proprio prodotto sostenendo che Draft One viene utilizzato solo per assistere nella redazione e che l’agente ha sempre l’ultima parola. I dati sono inoltre memorizzati in un cloud governativo sicuro sviluppato da Microsoft, cercando di tranquillizzare coloro che temono per la sicurezza delle informazioni.
Venegas e altri ufficiali, come il capo Liu, ritengono che, se utilizzato correttamente, Draft One possa essere un valido supporto senza compromettere la veridicità delle informazioni. Tuttavia, è evidente che il dibattito sull’integrazione dell’intelligenza artificiale nei processi di giustizia criminale è solo all’inizio.
Elia Lombardo intervistato da Rivista.AI ha espresso il suo apprezzamento per l’adozione di software come Draft One, considerandoli utili strumenti per ottimizzare il lavoro degli agenti di polizia nella redazione dei rapporti. Ha sottolineato che tali strumenti operano principalmente come trascrittori, estrapolando dati oggettivi raccolti attraverso telecamere o altri dispositivi, senza introdurre valutazioni o conclusioni. È stato ribadito che la responsabilità finale per la stesura dei rapporti resta nelle mani degli agenti e che la classificazione dei reati è un compito esclusivo dei pubblici ministeri.
Elia Lombardo ha inoltre riconosciuto che le preoccupazioni riguardo ai potenziali bias derivanti dall’uso dell’intelligenza artificiale possono essere comprensibili, ma ha precisato che nel caso di Draft One, il ruolo dell’AI è limitato alla trascrizione e alla raccolta di dati, riducendo così il rischio di compromettere il processo giudiziario.
Strumenti come Draft One possono rappresentare un’evoluzione tecnologica capace di aumentare l’efficienza delle forze dell’ordine, rimangono aperte molte questioni critiche. Il bilanciamento tra velocità, accuratezza e giustizia rimane delicato, e sarà necessario continuare a monitorare l’efficacia di questi strumenti man mano che vengono integrati nel sistema giudiziario.
Newsletter – Non perderti le ultime novità sul mondo dell’Intelligenza Artificiale. Iscriviti alla newsletter di Rivista.AI e accedi a un mondo di contenuti esclusivi direttamente nella tua casella di posta!