Nel 2023, Stati Uniti e Regno Unito hanno lanciato i primi Istituti di Sicurezza dell’Intelligenza Artificiale (AISI), creando un nuovo modello per garantire lo sviluppo sicuro e responsabile dell’IA. Sebbene altre giurisdizioni abbiano seguito questo esempio, la Cina non ha ancora istituito un’organizzazione ufficialmente analoga. Tuttavia, sono stati identificati enti cinesi con attività simili agli AISI, confermando l’interesse della Cina nel monitorare e mitigare i rischi legati all’IA. Di seguito, analizziamo le principali istituzioni cinesi attive nella sicurezza dell’IA, evidenziando le loro aree di lavoro, dalla ricerca tecnica agli standard di sicurezza, fino alla cooperazione internazionale.
Ricerca Tecnica e Valutazioni di Sicurezza
La Cina sta sviluppando piattaforme avanzate per la valutazione della sicurezza dei sistemi IA, con istituzioni chiave come l’Accademia Cinese per le Tecnologie dell’Informazione e delle Comunicazioni (CAICT) e il Laboratorio IA di Shanghai.
- CAICT – Parte del Ministero dell’Industria e della Tecnologia dell’Informazione, CAICT gestisce la piattaforma Fangsheng, progettata per valutare la sicurezza degli output IA. Fangsheng include controlli su vari aspetti etici e sociali, tra cui pregiudizi di genere e contenuti violenti. CAICT ha citato esplicitamente preoccupazioni internazionali, come quelle di Geoffrey Hinton sui rischi esistenziali dell’IA. Inoltre, la CAICT gioca un ruolo influente nell’industria cinese grazie alla sua leadership nell’Alleanza dell’Industria dell’Intelligenza Artificiale (AIIA).
- Laboratorio IA di Shanghai – Questo istituto di ricerca, sostenuto dal governo, è focalizzato su innovazioni tecniche nell’IA. La sicurezza non è il suo obiettivo principale, ma ha sviluppato strumenti rilevanti per le valutazioni di sicurezza, tra cui OpenCompass e SALAD-Bench. OpenCompass è un’importante piattaforma che incorpora benchmark come TruthfulQA e Adversarial GLUE, usati per testare la robustezza e la veridicità dei modelli IA. SALAD-Bench invece copre rischi come la produzione di contenuti tossici e l’assistenza alla creazione di armi chimiche e biologiche.
Standard di Sicurezza
La Cina ha un’ampia infrastruttura normativa per l’IA e la cybersecurity, guidata principalmente da TC260 (Comitato Tecnico di Standardizzazione della Sicurezza Informatica). Questo comitato ha sviluppato diversi documenti normativi rilevanti per la sicurezza IA, tra cui un framework volontario per la gestione del rischio IA. Tale framework tocca temi come bias, disinformazione e rischi associati alla riduzione del controllo umano sui sistemi avanzati di IA.
TC260 ha anche introdotto un standard tecnico per testare la sicurezza degli output generati dall’IA, includendo controlli su bias e privacy. Questo standard sta attualmente evolvendo verso uno status di norma nazionale autorevole, rafforzando ulteriormente la regolamentazione cinese sulla sicurezza dell’IA.
Oltre a TC260, altre organizzazioni di standardizzazione come TC28/SC42 e CESA potrebbero emergere come controparti rilevanti, anche se non hanno ancora sviluppato iniziative rilevanti per la sicurezza IA.
Cooperazione Internazionale e Governance
La Cina, benché da una prospettiva autonoma, sta perseguendo la cooperazione internazionale nell’ambito della governance dell’IA attraverso istituzioni come l’Istituto per la Governance Internazionale dell’IA (I-AIIG) e l’Accademia di Intelligenza Artificiale di Pechino (BAAI).
- I-AIIG – Affiliato all’Università Tsinghua, si concentra sulla ricerca politica per la governance internazionale dell’IA e organizza il Forum Internazionale sulla Cooperazione e Governance dell’IA, un evento di alto profilo che promuove la cooperazione tra esperti cinesi e stranieri. L’Istituto ha partecipato a numerosi eventi diplomatici dedicati all’IA, dimostrando un forte impegno per una regolamentazione collaborativa.
- BAAI – Questa istituzione di ricerca avanzata sostiene fortemente la cooperazione internazionale sulla sicurezza IA. I suoi eventi annuali, come il Forum sulla Sicurezza dell’IA, ospitano esperti internazionali come Stuart Russell e Victoria Krakovna, ponendo le basi per una visione condivisa sui rischi avanzati legati all’IA. Inoltre, BAAI è strettamente coinvolta nel Dialogo Internazionale sulla Sicurezza dell’IA (IDAIS), una serie di incontri tra esperti di IA cinesi e occidentali.
Anche il Laboratorio IA di Shanghai, pur principalmente orientato alla ricerca tecnica, mira a intensificare i suoi sforzi di cooperazione internazionale, anche se i suoi progressi in questo senso sono ancora limitati.
Ecco una tabella che riassume le principali controparti cinesi agli Istituti di Sicurezza IA (AISIs) occidentali, con le loro aree di attività principali.
| Istituzione | Funzione Principale | Dettagli Chiave |
|---|---|---|
| CAICT (China Academy for Information and Communications Technology) | Ricerca Tecnica | Gestisce la piattaforma Fangsheng per valutazioni di sicurezza su IA; include controlli su bias, ordine pubblico e moralità, influente nell’industria tramite l’Alleanza IA Cinese (AIIA). |
| Laboratorio IA di Shanghai | Ricerca Tecnica / Cooperazione Internazionale | Strumenti come OpenCompass e SALAD-Bench per valutazioni di sicurezza IA; ha piani per intensificare la cooperazione internazionale, ma progressi limitati finora. |
| TC260 (Comitato Tecnico Nazionale di Standardizzazione della Cybersecurity) | Standard di Sicurezza | Framework volontario per gestione del rischio IA; standard tecnico per testare bias, privacy e controllo sui contenuti IA. |
| I-AIIG (Istituto per la Governance Internazionale dell’IA, Università Tsinghua) | Cooperazione Internazionale | Organizza forum internazionali sulla governance dell’IA; coinvolto in eventi di diplomazia per promuovere la cooperazione globale su rischi IA. |
| BAAI (Accademia di Intelligenza Artificiale di Pechino) | Cooperazione Internazionale | Organizza forum sulla sicurezza IA con esperti globali; partecipa al Dialogo Internazionale sulla Sicurezza dell’IA (IDAIS) per dichiarazioni congiunte sui rischi avanzati dell’IA. |
Questa tabella evidenzia come le istituzioni cinesi, pur non costituendo AISIs formali, operino in settori affini, impegnandosi sia nella mitigazione dei rischi interni sia nella cooperazione internazionale.
L’approccio cinese alla sicurezza dell’IA si sta sviluppando attraverso istituzioni focalizzate su ricerca tecnica, creazione di standard e cooperazione internazionale, come CAICT, TC260, I-AIIG e BAAI. Sebbene questi enti non abbiano l’esatta configurazione degli AISIs occidentali, le loro attività rivelano un interesse strategico della Cina nel contribuire alla sicurezza globale dell’IA.
