WOMEN IN AI : Intervista con la Prof.ssa Azzurra Ragone

Un approfondimento sul Trustworthy AI e il Responsible AI Engineering

Il lavoro della Prof.ssa Azzurra Ragone si concentra sullo sviluppo di framework e pratiche concrete per guidare lo sviluppo di sistemi di IA affidabili e responsabili, colmando il divario tra teoria ed etica dell’IA e la sua implementazione pratica.

Intervistatore: Benvenuta Prof.ssa Ragone, grazie per aver accettato questa intervista. Vorrei iniziare chiedendole del suo percorso e di come è arrivata a specializzarsi nell’intelligenza artificiale.

Azzurra Ragone: Grazie a voi per l’invito. Ho iniziato il mio dottorato di ricerca nel 2005, quando l’intelligenza artificiale non era ancora il termine di moda che è oggi. Era un campo di studio di nicchia, relegato principalmente all’ambito accademico. La mia “avventura” con l’AI è iniziata proprio con il dottorato di ricerca, che mi ha fatto scoprire questo mondo affascinante. Inizialmente mi sono concentrata sulla negoziazione automatica tra agenti, un tema che oggi sta vivendo una sorta di rinascita grazie all’avvento degli agenti potenziati dall’intelligenza artificiale generativa.

Dopo il dottorato, ho maturato esperienza in azienda, dove mi sono focalizzata su applicazioni pratiche dell’AI, in particolare nell’ambito dei data analytics. Tuttavia, la mia passione per la ricerca non si è mai spenta e ho sentito il bisogno di tornare in università, dove ho la libertà di dedicarmi a progetti di ricerca svincolati da logiche di profitto.

Intervistatore: Ci parli dei temi principali della sua ricerca attuale.

Azzurra Ragone: Attualmente mi concentro sul tema dell’AI responsabile (detta anche Trustworthy AI) e sull’ingegnerizzazione di tali sistemi (una nuova disciplina chiamata Responsible AI Engineering. Si tratta di un campo di studi che esplora la dimensione etica dell’intelligenza artificiale. Come sappiamo, questi strumenti sono potentissimi e sono stati lanciati sul mercato con l’obiettivo primario del profitto, spesso prima ancora di essere realmente pronti. Questo ha portato a diversi problemi, come la diffusione di pregiudizi e bias, la violazione della privacy e la generazione di codice con falle di sicurezza.

La ricerca che conduco si focalizza su quattro dimensioni principali dell’AI responsabile: privacy, security, fairness e transparency.

Per privacy si intende il rispetto dei dati sensibili, attraverso un’adeguata data governance, cosa che purtroppo non sempre è garantita (ad esempio con l’AI generativa, abbiamo assistito al “rigurgito” di diversi dati sensibili da parte di questi sistemi [1].

Ridurre al minino i rischi, anche quelli inattesi o non intenzionali, è lo scopo della security, ad esempio, sempre in ambito AI generativa, si è visto come spesso il codice generato da questi sistemi ha importanti falle di sicurezza e presenta vulnerabilità [2].

La fairness riguarda l’equità che dovrebbe essere sempre garantita dai sistemi di intelligenza artificiale, che non devono perpetuare o amplificare i pregiudizi presenti nei dati di addestramento [3].

Infine, la transparency si riferisce alla necessità di rendere questi sistemi spiegabili, ovvero spiegare perché un sistema di AI produce un determinato output dato un set di input [4].

Intervistatore: Lei ha parlato di Responsible AI engineering. Cosa si intende con questo termine?

Azzurra Ragone: Il Responsible AI engineering si differenzia dal software engineering tradizionale perché pone l’accento sulla responsabilità etica nello sviluppo e nell’utilizzo di sistemi di intelligenza artificiale. Oltre alle classiche caratteristiche funzionali e non funzionali del software, è necessario considerare anche le implicazioni etiche, garantendo il rispetto dei principi di privacy, security, fairness e transparency.

Intervistatore: In che modo l’intelligenza artificiale generativa può supportare gli sviluppatori di software?

Azzurra Ragone: L’intelligenza artificiale generativa non sostituirà gli sviluppatori, ma li supporterà in diverse fasi del ciclo di vita del software. Ad esempio, può essere utilizzata per generare codice, scrivere test di usabilità, elicitarne i requisiti e automatizzare task ripetitivi. Tuttavia, è fondamentale che gli sviluppatori mantengano un ruolo di supervisione e di giudizio critico, verificando la qualità e la correttezza del codice generato.

Intervistatore: Qual è l’obiettivo principale della sua ricerca nell’ambito del Responsible AI engineering?

Azzurra Ragone: Uno degli obiettivi principali è quello di studiare l’affidabilità dell’intelligenza artificiale generativa nelle diverse fasi del ciclo di vita del software. Ad esempio, stiamo analizzando la qualità del codice di test generato da questi sistemi, confrontandolo con quello prodotto da sviluppatori umani. Inoltre, stiamo esplorando il potenziale dell’AI generativa nel requirements engineering, ad esempio nella fase di requirement elicitaion si possono simulare le personas per la definizione dei requisiti. Stiamo portando avanti questa ricerca in stretta collaborazione con le aziende che ci forniscono casi di studio rivenienti dai loro progetti.

Intervistatore: Lei ha sottolineato l’importanza della collaborazione tra università e aziende in questo campo. Può approfondire questo aspetto?

Azzurra Ragone: La collaborazione tra università e aziende è fondamentale per garantire che la ricerca sull’intelligenza artificiale responsabile sia applicabile a scenari reali. Le aziende possono fornire dati e casi di studio reali, consentendo di validare l’efficacia delle soluzioni sviluppate in ambito accademico. Allo stesso tempo, le università possono contribuire con la loro esperienza e le loro conoscenze per guidare le aziende nell’adozione responsabile di queste tecnologie.

Intervistatore: Passiamo ora al tema della presenza femminile nel campo dell’intelligenza artificiale. Qual è la sua esperienza e quali strategie suggerisce per aumentare la partecipazione delle donne in questo settore?

Azzurra Ragone: Purtroppo, la scarsa presenza femminile nelle discipline STEM è un problema ben noto. Spesso ci si trova ad essere l’unica donna in contesti dominati da uomini. Le cause sono molteplici e vanno ricercate in stereotipi di genere radicati nella nostra società che influenzano le scelte educative e professionali delle ragazze fin dalla più tenera età.

Per invertire la rotta è fondamentale proporre role model femminili che possano ispirare le giovani generazioni. Donne che lavorano in ambito tecnologico devono farsi avanti e raccontare le loro esperienze, dimostrando che l’intelligenza artificiale non è un mondo esclusivamente maschile.

In questo senso, è essenziale il supporto degli uomini, che devono impegnarsi attivamente per promuovere la partecipazione delle donne in eventi, panel e discussioni. Solo attraverso un’azione congiunta sarà possibile creare un ambiente inclusivo e favorire una maggiore presenza femminile nel campo dell’intelligenza artificiale.

Intervistatore: Qual è il ruolo delle università nell’incoraggiare le ragazze a intraprendere studi in ambito STEM?

Azzurra Ragone: Le università hanno un ruolo fondamentale nell’orientamento e nell’incoraggiamento delle ragazze a scegliere percorsi di studio in ambito STEM. È importante organizzare attività di orientamento nelle scuole superiori, mostrando alle ragazze cosa significa studiare informatica e quali sono le concrete opportunità di carriera in questo settore.

Un’iniziativa che si è rivelata particolarmente efficace è quella di far “mettere le mani in pasta” alle ragazze, facendole partecipare a workshop pratici in cui possono sperimentare la creazione di un’applicazione o di un programma. Questo permette di abbattere i pregiudizi e di dimostrare che l’informatica è un campo accessibile e stimolante.

Una delle iniziative che ha dato più frutti, e che ha anche aumentato le iscrizioni alla facoltà di informatica, è stata quella di andare direttamente nelle scuole superiori e far costruire alle ragazze un’app da zero. Tra le varie iniziative lodevoli cito ad esempio quella di Progetto Nerd. [5]

Intervistatore: Wow, costruire un’app da zero sembra una sfida impegnativa. Come ha reagito inizialmente il gruppo di ragazze?

Azzurra Ragone: All’inizio molte di loro erano scettiche e dicevano cose come “io non sono portata per l’informatica”. Ma abbiamo utilizzato strumenti low code e no code, che sono più accessibili e facili da usare. E sapete una cosa? Alla fine del progetto, le ragazze erano entusiaste e sorprese di ciò che erano riuscite a realizzare.

Intervistatore: Fantastico! Quindi il segreto è stato farle mettere letteralmente “le mani in pasta”, dando loro l’opportunità di sperimentare in modo pratico cosa significa fare informatica.

Azzurra Ragone: Esattamente! Spesso le ragazze non sanno esattamente di cosa si occupa l’informatica e hanno una percezione errata della materia, pensando che sia qualcosa di troppo difficile o riservato ai geni. Ma quando hanno la possibilità di sperimentare in prima persona, si rendono conto che l’informatica può essere divertente e accessibile a tutti.

Azzurra Ragone: Il mio messaggio è: non abbiate paura di seguire le vostre passioni! L’intelligenza artificiale è un campo in continua evoluzione che offre enormi opportunità di crescita e di realizzazione. Non lasciatevi scoraggiare dagli stereotipi di genere, siate curiose, studiate, sperimentate e contribuite a costruire il futuro di questa disciplina affascinante.

Intervistatore: Ultima domanda, ha progetti futuri su cui vorrebbe concentrasi?

Azzurra Ragone: Sì, in realtà ho un progetto che non è strettamente legato alla ricerca, ma è più una mia volontà personale. Il mio obiettivo è quello di avvicinare ragazzi e ragazze al dottorato di ricerca. In Italia, purtroppo, uno dei problemi è che le aziende hanno un grande bisogno di persone con competenze nel campo IT, e i ragazzi spesso non continuano il loro percorso di studi dopo la triennale, figuriamoci il dottorato. Vorrei quindi promuovere la ricerca e far capire ai ragazzi quanto sia bello fare ricerca e quanta passione, entusiasmo e coinvolgimento richieda. O perlomeno vorrei che sapessero che esiste anche un’altra strada percorribile e che avessero tutte le informazioni per poter scegliere con competenza il loro futuro professionale.

Penso che sia importante che i ragazzi e le ragazze del nostro paese diano il loro contributo allo sviluppo dell’innovazione di domani.

Nei prossimi mesi esce il bando per i dottorati presso le singole università, e anche per i dottorati nazionali [6]. Penso che sia importante far capire la bellezza della ricerca, perché in realtà molti studenti non hanno idea di cosa significhi fare ricerca.

Se riuscissimo a spiegare loro cosa significa fare ricerca, forse potremmo trovare qualcuno che si appassiona e che porta avanti i nostri lavori. Vorrei quindi promuovere la ricerca e supportare i giovani che vogliono intraprendere questo percorso.

Intervistatore: Questo è un messaggio molto importante. Professoressa, la ringraziamo moltissimo per il suo tempo e per aver condiviso con noi il suo pensiero e le sue iniziative di successo. Restiamo in attesa di ulteriori aggiornamenti e la invitiamo a rimanere in contatto con Rivista.AI per condividere altri progetti futuri.

Azzurra Ragone:: Grazie a voi per l’opportunità. È stato un piacere condividere questa esperienza e spero davvero di poter ispirare più ragazze e ragazzi a esplorare il mondo affascinante dell’informatica. Certamente, rimaniamo in contatto e vi continuerò a seguire per tutti gli aggiornamenti e le novità.

(Pedice) Per chi volesse approfondire i temi citati dalla Prof.ssa Aragone di seguito i links :

_{[1] Scalable Extraction of Training Data from (Production) Language Models https://arxiv.org/pdf/2311.17035}

_{[2] Purple Llama CyberSecEval: A benchmark for evaluating the cybersecurity risks of large language models. https://ai.meta.com/research/publications/purple-llama-cyberseceval-a-benchmark-for-evaluating-the-cybersecurity-risks-of-large-language-models/}

_{[3] A Survey on Bias and Fairness in Machine Learning. https://arxiv.org/abs/1908.09635}

_{[4] Building Transparency into AI Projects. https://hbr.org/2022/06/building-transparency-into-ai-projects}

_{[5] Progetto NERD. IBM https://progettonerd.my.canva.site/}

_{[5] Progetto NERD Fondazione IBM Italia https://www.ibm.com/easytools/runtime/hspx/prod/public/X0027/PortalX/page/pageTemplate?c=a90d226d606a4c1c840fac43c038821e&s=3ee9674b01694bd4a6650354e3983eff[AR5]} 

_{[6] Dottorati di interesse nazionale https://www.dottoratinazionali.it/elenco-dei-din}

---