OpenAI sta attraversando cambiamenti strutturali significativi, tra cui la dissoluzione del suo team di “Safety AGI”, che si concentrava sulla valutazione della preparazione dell’organizzazione e del mondo per l’intelligenza artificiale generale (AGI). Miles Brundage, che guidava questo team, ha annunciato le sue dimissioni, citando alti costi opportunità e un desiderio di maggiore indipendenza nella sua ricerca sulle politiche relative all’IA come motivi principali per la sua partenza. Ha espresso preoccupazioni sul fatto che né OpenAI né altri laboratori di IA leader siano adeguatamente pronti per l’AGI, un sentimento che ritiene condiviso tra i vertici di OpenAI.
Cambiamenti e Uscite Chiave
Il team di Prontezza all’AGI è stato sciolto, con il suo sottogruppo di Ricerca Economica che passa sotto la guida di Ronnie Chatterji, il nuovo economista capo di OpenAI. Altri membri del team AGI saranno riassegnati a diversi dipartimenti all’interno dell’organizzazione.
Nel suo messaggio di addio, Brundage ha affermato che, sebbene avesse contribuito a sviluppare i quadri di sicurezza di OpenAI, si sentiva vincolato dalla direzione dell’organizzazione verso la commercializzazione. Intende avviare una nonprofit o unirsi a una già esistente focalizzata sulla ricerca e l’advocacy delle politiche relative all’IA.
L’uscita di Brundage riflette un cambiamento culturale più ampio all’interno di OpenAI, dove sono emerse preoccupazioni riguardo alla priorità data allo sviluppo dei prodotti rispetto alle pratiche di sicurezza. Questo segue una serie di partenze ad alto profilo dall’azienda, inclusi altri ricercatori focalizzati sulla sicurezza che hanno criticato il passaggio verso un approccio più orientato al profitto.
I commenti di Brundage evidenziano una prospettiva critica sullo stato attuale della preparazione per l’AGI:
Ha affermato senza mezzi termini che “né OpenAI né altri laboratori all’avanguardia sono pronti” per l’AGI, indicando seri lacune nelle misure di sicurezza e nelle considerazioni etiche riguardanti le tecnologie avanzate dell’IA.
Spostandosi al di fuori dell’industria, Brundage mira a promuovere un dialogo indipendente sulla governance e le politiche dell’IA senza vincoli aziendali. OpenAI ha espresso supporto per la sua decisione e prevede di assisterlo nei suoi futuri sforzi.
Con questi cambiamenti, OpenAI sembra riallineare il suo focus:
Sotto la guida di Ronnie Chatterji, il team di Ricerca Economica esplorerà gli impatti economici dell’IA e come garantire che i suoi benefici siano ampiamente distribuiti. Il background di Chatterji in politiche pubbliche ed economia lo posiziona bene per guidare questi sforzi.
La ristrutturazione avviene in un contesto di crescente scrutinio da parte dei regolatori e degli stakeholder riguardo alla sicurezza dell’IA. Mentre OpenAI affronta queste sfide, deve bilanciare innovazione con considerazioni etiche e fiducia pubblica.
La dissoluzione del team di Prontezza all’AGI e le dimissioni di Brundage sottolineano tensioni significative all’interno di OpenAI riguardo alla sua missione e approccio alla sicurezza dell’IA mentre si dirige verso un modello più orientato al commercio.