Il Dipartimento del Commercio degli Stati Uniti, attraverso il National Institute of Standards and Technology (NIST), ha stabilito una collaborazione con i principali sviluppatori di intelligenza artificiale OpenAI e Anthropic tramite l’U.S. Artificial Intelligence Safety Institute (AISI). Questa partnership mira a migliorare la ricerca e la valutazione della sicurezza dell’AI, segnando un passo significativo nello sviluppo responsabile delle tecnologie AI.

Dettagli Chiave della Collaborazione

  • Accesso ai Modelli di AI: Gli accordi, formalizzati come Memorandum of Understanding, consentono all’AISI di accedere ai principali nuovi modelli di AI da entrambe le aziende prima e dopo la loro pubblicazione pubblica. Questo accesso è fondamentale per condurre valutazioni approfondite delle capacità e dei potenziali rischi per la sicurezza associati a questi modelli, inclusi ChatGPT di OpenAI e Claude di Anthropic.
  • Ricerca e Feedback: L’AISI non solo valuterà i modelli, ma fornirà anche feedback a OpenAI e Anthropic riguardo ai potenziali miglioramenti della sicurezza. Questa iniziativa si allinea con l’Ordine Esecutivo sulla Sicurezza dell’AI dell’amministrazione Biden, sottolineando l’importanza della sicurezza nel promuovere l’innovazione tecnologica.
  • Cooperazione Internazionale: L’U.S. AI Safety Institute prevede di collaborare con il suo omologo nel Regno Unito per condividere risultati di ricerca e migliorare gli standard globali di sicurezza dell’AI. Questa cooperazione è destinata ad affrontare varie aree di rischio, inclusa la privacy dei dati e l’uso etico dell’AI.
  • Contesto Normativo: La collaborazione avviene in un contesto di crescente scrutinio normativo sulle tecnologie AI. Gli sforzi dell’U.S. AI Safety Institute fanno parte di una tendenza più ampia nell’industria verso la priorità della sicurezza e della trasparenza nello sviluppo dell’AI, come evidenziato dagli impegni assunti presso la Casa Bianca da parte delle principali aziende di AI.

Elizabeth Kelly, direttrice dell’U.S. AI Safety Institute, ha dichiarato: “La sicurezza è essenziale per alimentare l’innovazione tecnologica rivoluzionaria. Con questi accordi in atto, non vediamo l’ora di iniziare le nostre collaborazioni tecniche con Anthropic e OpenAI per far progredire la scienza della sicurezza dell’AI.” Questo sentimento sottolinea la natura collaborativa dell’accordo e il suo potenziale per plasmare sviluppi futuri dell’AI in modo responsabile.

La collaborazione tra AISI, OpenAI e Anthropic rappresenta un approccio proattivo per affrontare le sfide poste dai sistemi avanzati di AI, garantendo che l’innovazione avvenga insieme a misure di sicurezza solide.