Inclusive AI vs Bias computazionale

Nell’esplorare il mondo dell’Intelligenza Artificiale, dobbiamo porci una domanda fondamentale: è veramente inclusiva?

“Non basta semplicemente incoraggiare le ragazze ad avvicinarsi alle discipline STEM.
Dobbiamo affrontare con determinazione i pregiudizi radicati all’interno dell’AI stessa.
Solo così potremo creare un futuro in cui tutti possano partecipare pienamente e equamente alla rivoluzione tecnologica.”

Parrot AI è il classico esempio di come l’AI, se usata nel modo sbagliato, può produrre un livello di disinformazione allarmante.

Oggi, molte istituzioni nel mondo si affidano sempre più a sistemi di Intelligenza Artificiale basati sull’apprendimento automatico (ML) per prendere decisioni cruciali.

Questi sistemi, attraverso una serie di algoritmi, analizzano enormi quantità di dati per identificare modelli e fare previsioni che possono influenzare significativamente le nostre vite.

Tuttavia, la presenza di pregiudizi impliciti nella società umana può facilmente trasferirsi agli algoritmi utilizzati da tali sistemi, creando così il rischio di pregiudizi algoritmici.

Per mitigare il bias computazionale, è necessario adottare approcci come la raccolta di dati rappresentativi e diversificati, la progettazione di algoritmi equi e trasparenti, l’analisi critica dei risultati prodotti e l’implementazione di misure correttive o di salvaguardia. Inoltre, è importante promuovere la diversità e l’inclusività nei team di sviluppo e nell’intero processo decisionale riguardante l’uso dell’AI.

Solo attraverso un approccio inclusivo e consapevole possiamo mitigare i pregiudizi algoritmici e creare sistemi di Intelligenza Artificiale equi e imparziali che rispecchino la diversità e la giustizia sociale.

Ci sono diversi tipi di bias computazionale che possono verificarsi:

Le distorsioni nei dati di addestramento rappresentano una delle sfide principali nell’ambito dell’Intelligenza Artificiale.

Queste distorsioni possono derivare da una serie di fattori, tra cui errori umani durante la raccolta dei dati, pregiudizi impliciti nel processo di annotazione e selezione dei dati, nonché disallineamenti nei dati stessi rispetto al contesto in cui l’AI sarà utilizzata.

Queste distorsioni possono portare a risultati distorti e non rappresentativi quando il modello viene esposto a nuovi dati.

Un caso di pregiudizio algoritmico ben documentato è quello di Amazon, che risale al 2018, Amazon ha dovuto abbandonare un sistema di selezione del personale basato sull’AI poiché tendeva a penalizzare le candidate donne. L’algoritmo, addestrato su dati storici che riflettevano una prevalenza maschile nell’industria tecnologica, finiva per scremare i curriculum delle candidate donne, penalizzandole per il semplice fatto di essere donne.

Un altro esempio di distorsione nei dati di addestramento che ha avuto un impatto negativo sulle donne è stato evidenziato nel settore finanziario, specificamente nei sistemi di valutazione del credito. Questi algoritmi sono progettati per analizzare i dati finanziari e comportamentali dei richiedenti al fine di determinare il loro merito creditizio e la loro affidabilità nel rimborsare i prestiti.

Il ciclo di feedback e correlazione è un fenomeno in cui le decisioni o le azioni basate su risultati di modelli di intelligenza artificiale possono influenzare i dati futuri che alimentano tali modelli.

Ad esempio, se un algoritmo di raccomandazione online suggerisce continuamente contenuti simili a quelli già visualizzati da un utente, questo può creare un ciclo di feedback in cui il modello continua a rinforzare determinati schemi di comportamento. Ciò può portare a una mancanza di diversità e ad una visione limitata delle opportunità per l’utente.

L’algoritmo Compass (Correctional Offender Management Profiling for Alternative Sanctions, ed è presentato così: «uno strumento flessibile, veloce ed efficace […] per ottimizzare il lavoro di giudici e magistrati» Un Lombroso 4.0, .) è un esempio significativo di come i pregiudizi algoritmici possano influenzare le donne e altre minoranze.

Compass è un software utilizzato da molti tribunali statunitensi per valutare il rischio di recidiva dei detenuti e determinare le decisioni relative alla cauzione e alla libertà vigilata.

Tuttavia, studi e indagini hanno rivelato che l’algoritmo ha una tendenza a discriminare in modo sproporzionato le persone di colore, nonché le donne.

I ricercatori hanno scoperto che l’algoritmo Compass assegnava erroneamente punteggi più alti di rischio a persone di colore, soprattutto se femmine, rispetto ai loro coetanei maschi bianchi, anche quando hanno un passato penale simile. Questo ha portato a una maggiore detenzione preventiva e a sentenze più severe per le donne e le persone di colore, aggravando le disuguaglianze già presenti nel sistema giudiziario.

Questo fenomeno è attribuito alla natura intrinsecamente discriminatoria dei dati di addestramento utilizzati dall’algoritmo, che possono riflettere pregiudizi storici nei confronti delle minoranze. Ad esempio, se i dati storici riflettono un trattamento ingiusto o discriminatorio nei confronti delle donne e delle persone di colore da parte del sistema giudiziario, l’algoritmo potrebbe involontariamente perpetuare tali ingiustizie.

Ciò ha sollevato importanti preoccupazioni etiche e legali riguardo all’uso degli algoritmi nel processo decisionale giudiziario, in particolare quando si tratta di questioni di libertà personale e diritti umani fondamentali. Il caso di Compass mette in luce la necessità di un’attenta valutazione dei sistemi di AI utilizzati nel sistema giudiziario per garantire l’equità, la trasparenza e la non discriminazione.

Affrontare il problema dei pregiudizi algoritmici richiede un impegno deciso per rivedere e migliorare i dati di addestramento, sviluppare modelli più equi e inclusivi e garantire la supervisione umana dei processi decisionali automatizzati.

Solo attraverso tali sforzi possiamo costruire un sistema giudiziario che rispetti pienamente i diritti e le dignità di tutte le persone, indipendentemente dal genere, dalla razza o dall’origine etnica.

Gli attacchi di manipolazione dei dati nell’Intelligenza Artificiale rappresentano una minaccia sempre più rilevante.

Questi attacchi possono assumere varie forme, tra cui l’inserimento di dati falsi o distorti nell’insieme di addestramento per influenzare il comportamento del modello, la rimozione selettiva di dati per alterare le sue prestazioni, o addirittura l’introduzione di pattern intenzionali progettati per trarre in inganno il modello.

Tali attacchi possono essere utilizzati per sabotare l’integrità del modello, influenzare le sue previsioni o persino compromettere la privacy degli utenti.

Gli attacchi di manipolazione dei dati nell’AI rappresentano una minaccia crescente che può avere implicazioni significative per le donne ad esempio.

Questi attacchi si verificano quando i dati utilizzati per addestrare i modelli di intelligenza artificiale vengono deliberatamente manipolati al fine di influenzare i risultati del modello in modo dannoso o fraudolento.

Prendendo le donne ad esempio, gli attacchi di manipolazione dei dati nell’AI possono comportare diversi rischi e conseguenze:

1. Discriminazione nel processo decisionale: se i dati utilizzati per addestrare i modelli AI contengono bias di genere o riflettono disuguaglianze di genere presenti nella società, i modelli risultanti possono perpetuare tali discriminazioni. Ad esempio, se i dati storici riflettono una sottorappresentazione delle donne in determinati settori o professioni, i modelli potrebbero tendere a discriminare le candidate femminili durante il processo decisionale.
   
2. Perpetuazione dei pregiudizi di genere: Gli attacchi di manipolazione dei dati possono anche essere utilizzati per rafforzare i pregiudizi di genere esistenti nella società. Ad esempio, se i dati vengono manipolati per enfatizzare stereotipi di genere negativi o per sottorappresentare le capacità e le competenze delle donne, i modelli di intelligenza artificiale possono prendere decisioni discriminatorie che danneggiano le opportunità delle donne.
   
3. Esclusione e marginalizzazione: Gli attacchi di manipolazione dei dati possono portare all’esclusione e alla marginalizzazione delle donne nei sistemi basati sull’AI. Se i modelli AI vengono addestrati su dati manipolati che non rappresentano accuratamente le esperienze e le prospettive delle donne, ciò può comportare la produzione di risultati distorti che ignorano o sottovalutano le esigenze e i diritti delle donne.

Per mitigare questi rischi, è essenziale adottare misure preventive e una governance per proteggere l’integrità e l’imparzialità dei dati utilizzati nei sistemi di intelligenza artificiale.

Sintetizzando la sfida consiste nell’assicurare che l’Intelligenza Artificiale sia inclusiva e non discriminatoria, mitigando i bias computazionali e promuovendo l’equità nelle applicazioni tecnologiche.

Ciò richiede un approccio olistico che coinvolga la raccolta di dati rappresentativi e diversificati, la progettazione di algoritmi che tengano conto delle specificità culturali e sociali, nonché la revisione etica e l’audit dei sistemi AI per identificare e correggere eventuali bias.

Inoltre, è importante coinvolgere le comunità interessate nel processo decisionale riguardante lo sviluppo e l’implementazione dell’AI, garantendo che le loro voci e preoccupazioni siano ascoltate e integrate nel processo. Solo attraverso un impegno collettivo per promuovere l’Inclusive AI e ridurre il bias computazionale possiamo realizzare il pieno potenziale dell’Intelligenza Artificiale nel rispetto dei principi di giustizia sociale, equità e dignità umana.

---