I Principi Guida Internazionali per le Organizzazioni che Sviluppano Sistemi AI Avanzati mirano a promuovere l’IA sicura e affidabile a livello mondiale e a fornire orientamenti per le organizzazioni che sviluppano e utilizzano i sistemi AI più avanzati, compresi i sistemi di AI generativi. Per organizzazioni si intendono realtà del settore privato, del settore pubblico, della società civile e del mondo accademico.

Una lista non esaustiva di principi guida che viene proposta come un documento in costante aggiornamento in risposta agli sviluppi recenti nei sistemi AI avanzati e ha l’obiettivo di aiutare a cogliere i benefici e affrontare i rischi e le sfide portate da queste tecnologie. Principi che dovrebbero applicarsi a tutti gli attori dell’IA, quando e come applicabili, nella progettazione, sviluppo, implementazione e l’uso dei sistemi AI avanzati.

In buona sostanza, mentre sfruttano le opportunità dell’innovazione, le organizzazioni dovrebbero rispettare lo stato di diritto, i diritti umani, la diversità, l’equità, la non discriminazione, la democrazia e l’umanocentricità, nella progettazione, sviluppo e implementazione dei sistemi AI avanzati. Le organizzazioni non dovrebbero sviluppare o implementare sistemi AI avanzati in modo che minaccino i valori democratici, che siano particolarmente dannosi per individui o comunità, che facilitino il terrorismo, consentano un uso criminale o comportino rischi sostanziali per la sicurezza, la stabilità e i diritti umani, e quindi non siano accettabili.

Gli Stati dal canto loro debbono rispettare i loro obblighi ai sensi del diritto internazionale dei diritti umani per promuovere il pieno rispetto e la protezione dei diritti umani, mentre le attività del settore privato dovrebbero essere in linea con i quadri internazionali come i Principi Guida delle Nazioni Unite su Impresa e Diritti Umani e le Linee Guida dell’OCSE per le Imprese Multinazionali.

In particolare, viene chiesto alle organizzazioni di attenersi ai seguenti principi, commisurati ai rischi:

  1. Adottare misure adeguate lungo lo sviluppo dei sistemi AI avanzati, compreso prima e durante la loro implementazione e messa sul mercato, per identificare, valutare e mitigare i rischi lungo l’intero ciclo di vita dell’IA. Ciò include l’impiego di diverse misure di test interni ed esterni indipendenti, attraverso una combinazione di metodi come il red-teaming, e l’attuazione di adeguate misure di mitigazione per affrontare rischi e vulnerabilità identificati. Le misure di test e mitigazione dovrebbero, ad esempio, cercare di garantire l’affidabilità e la sicurezza dei sistemi per l’intero ciclo di vita, in modo che non comportino rischi irragionevoli. A sostegno di tali test, gli sviluppatori dovrebbero cercare di abilitare la tracciabilità, in relazione a set di dati, processi e decisioni prese durante lo sviluppo del sistema.
  2. Modelli di abuso, dopo l’implementazione inclusa la messa sul mercato. Le organizzazioni dovrebbero utilizzare, quando appropriato e commisurato al livello di rischio, i sistemi AI come previsto e monitorare vulnerabilità, incidenti, rischi emergenti e abusi dopo l’implementazione, prendendo le misure appropriate per affrontare questi problemi. Si incoraggiano le organizzazioni a considerare, ad esempio, come facilitare la scoperta e la segnalazione di problemi e vulnerabilità da parte di terze parti e utenti dopo l’implementazione. Le organizzazioni sono inoltre incoraggiate a mantenere una documentazione adeguata degli incidenti segnalati e mitigare i rischi e le vulnerabilità identificati, in collaborazione con altri stakeholder. I meccanismi per segnalare le vulnerabilità, dovrebbero essere accessibili a un insieme diversificato di stakeholder.
  3. Rendere pubbliche le capacità, i limiti e i domini di uso appropriato e inappropriato dei sistemi AI avanzati, per garantire una trasparenza sufficiente, contribuendo così ad aumentare la responsabilità. Questo dovrebbe includere la pubblicazione di rapporti di trasparenza contenenti informazioni significative per tutti i nuovi rilasci dei sistemi AI avanzati. Le organizzazioni dovrebbero rendere le informazioni nei rapporti di trasparenza sufficientemente chiare e comprensibili per consentire agli sviluppatori e agli utenti, secondo l’opportunità e la rilevanza, di interpretare l’output del modello/sistema e di utilizzarlo in modo appropriato, e la segnalazione di trasparenza dovrebbe essere supportata e informata da processi di documentazione esaustivi.
  4. Lavorare per la condivisione responsabile delle informazioni e la segnalazione degli incidenti tra le organizzazioni che sviluppano sistemi AI avanzati, comprese le industrie, i governi, la società civile e l’accademia. Ciò include la condivisione responsabile di informazioni, se appropriato, compresi, ma non solo, rapporti di valutazione, informazioni su rischi di sicurezza, rischi per la sicurezza, capacità pericolose, intenzionali o non intenzionali, e tentativi di attori AI di eludere le protezioni lungo l’intero ciclo di vita dell’IA.
  5. Sviluppare, implementare e divulgare politiche di governance e gestione dei rischi dell’IA, basate su un approccio basato sul rischio, comprese le politiche sulla privacy e misure di mitigazione, in particolare per le organizzazioni che sviluppano sistemi AI avanzati. Ciò include la divulgazione, quando opportuno, delle politiche sulla privacy, comprese le politiche per i dati personali, gli avvisi all’utente e gli output dei sistemi AI avanzati. Si prevede che le organizzazioni stabiliscano e divulghino le loro politiche di governance dell’IA e i meccanismi organizzativi per attuare tali politiche in conformità con un approccio basato sul rischio. Ciò dovrebbe includere processi di responsabilità e governance per valutare e mitigare i rischi, quando possibile, lungo l’intero ciclo di vita dell’IA.
  6. Investire ed implementare controlli di sicurezza robusti, inclusa la sicurezza fisica, la sicurezza informatica e le salvaguardie contro minacce interne lungo l’intero ciclo di vita dell’IA. Questi possono includere la sicurezza dei pesi e degli algoritmi del modello, dei server e dei set di dati, ad esempio attraverso misure di sicurezza operative per la sicurezza delle informazioni e controlli di accesso adeguati alla sicurezza fisica/cibernetica.
  7. Sviluppare e implementare meccanismi affidabili di autenticazione dei contenuti e di provenienza, quando tecnicamente possibile, come il watermarking o altre tecniche per consentire agli utenti di identificare i contenuti generati dall’IA. Ciò include, quando opportuno e tecnicamente possibile, meccanismi di autenticazione dei contenuti come la provenienza per i contenuti creati con il sistema AI avanzato di un’organizzazione. I dati di provenienza dovrebbero includere un identificatore del servizio o del modello che ha creato il contenuto, ma non devono includere informazioni sugli utenti. Le organizzazioni dovrebbero anche cercare di sviluppare strumenti o API per consentire agli utenti di determinare se un particolare contenuto è stato creato con il loro sistema AI avanzato, ad esempio tramite watermarking. Le organizzazioni sono inoltre incoraggiate a implementare altri meccanismi come etichettature o disclaimer per consentire agli utenti, quando possibile e appropriato, di sapere quando stanno interagendo con un sistema AI.
  8. Dare priorità alla ricerca per mitigare i rischi sociali, di sicurezza e di sicurezza e dare priorità agli investimenti in misure di mitigazione efficaci. Ciò include la conduzione, la collaborazione e l’investimento nella ricerca che supporta l’avanzamento della sicurezza, della sicurezza e della fiducia nell’IA, e l’affrontare rischi chiave, nonché investire nello sviluppo di strumenti di mitigazione appropriati.
  9. Dare priorità allo sviluppo di sistemi AI avanzati per affrontare le sfide più grandi del mondo, in particolare ma non solo la crisi climatica, la salute globale e l’istruzione. Questi sforzi sono intrapresi a sostegno dei progressi degli Obiettivi di Sviluppo Sostenibile delle Nazioni Unite e per incoraggiare lo sviluppo dell’IA a beneficio globale. Le organizzazioni dovrebbero dare priorità alla gestione responsabile dell’IA affidabile e umana e sostenere anche le iniziative di alfabetizzazione digitale.
  10. Promuovere lo sviluppo e, quando opportuno, l’adozione di standard tecnici internazionali. Ciò include il contributo allo sviluppo e, quando opportuno, l’uso di standard tecnici internazionali e buone pratiche, compresi quelli per il watermarking, e la collaborazione con le organizzazioni di sviluppo.
  11. Implementare adeguate misure di input e protezioni dei dati personali e della proprietà intellettuale. Si incoraggia le organizzazioni a prendere misure adeguate per gestire la qualità dei dati, compresi i dati di formazione e la raccolta di dati, per mitigare eventuali pregiudizi dannosi. Si dovrebbe anche sostenere la trasparenza adeguata dei set di dati di formazione e le organizzazioni dovrebbero conformarsi ai quadri giuridici applicabili.