Helen Toner è una ricercatrice di politiche sull’intelligenza artificiale e ha ricoperto ruoli significativi, tra cui quello di membro del consiglio di OpenAI. Recentemente, ha evidenziato una disconnessione tra il mondo politico e i ricercatori nel campo dell’AGI (Intelligenza Artificiale Generale), affermando che i politici trattano l’AGI come un concetto fantascientifico, mentre i ricercatori lo considerano una possibilità imminente.

In una discussione su LessWrong, è emerso che Toner ha confermato che Altman avrebbe mentito al consiglio riguardo a questioni chiave, inclusa la sua partecipazione finanziaria nel fondo startup di OpenAI. Questo ha sollevato preoccupazioni sulla fiducia all’interno del consiglio

Toner ha anche condiviso su X che il consiglio non era stato informato in anticipo del lancio di ChatGPT, apprendendo della sua esistenza solo attraverso Twitter. Questo ha alimentato ulteriori critiche nei confronti della gestione di Altman

Conseguenze della Dissociazione Sociale

Sorpresa Sociale: Se l’AGI dovesse emergere più rapidamente del previsto, la società potrebbe trovarsi impreparata ad affrontare le sue implicazioni. Questo potrebbe includere sfide etiche, legali e di sicurezza che non sono attualmente adeguatamente discusse o pianificate dai decisori politici.

Impatto sul Lavoro: La previsione del rapido sviluppo dell’AGI implica che molte professioni potrebbero essere trasformate o addirittura eliminate. Le persone nel mondo del lavoro devono prepararsi a questi cambiamenti, ma senza un dialogo adeguato tra scienziati e politici, le misure di adattamento potrebbero essere inadeguate

Questa osservazione è stata espressa in diverse interviste e presentazioni, tra cui un TED Talk tenuto ad aprile 2024, dove ha discusso le sfide della governance dell’AI e l’importanza di prepararsi a cambiamenti rapidi nella tecnologia.

Inoltre, Toner ha pubblicato ricerche e commenti su piattaforme come X (ex Twitter) riguardo ai rischi associati alla corsa verso l’AGI senza adeguate misure di sicurezza. La sua posizione è emersa in un contesto più ampio di discussione sulla regolamentazione dell’intelligenza artificiale, in particolare dopo eventi significativi come il licenziamento e il successivo reintegro di Sam Altman in OpenAI nel novembre 2023.