Lo scienziato informatico considerato il “padrino dell’intelligenza artificiale” afferma che il governo dovrà stabilire un reddito di base universale per far fronte all’impatto dell’intelligenza artificiale sulla disuguaglianza.

Il professor Geoffrey Hinton, pronipote di George Boole – il matematico che inventò l’algebra booleana, ponendo le basi per l’intera era dell’informazione e figlio di uno stimato scienziato e membro della Royal Society, che deluse quando scelse di non studiare entomologia,

ha dichiarato a BBC Newsnight che sarebbe necessaria una riforma dei benefici che dia importi fissi di denaro a ogni cittadino perché è “molto preoccupato che l’IA possa occupare molti lavori banali”.

“Sono stato consultato da persone a Downing Street e ho detto loro che il reddito di base universale era una buona idea”, pur ritenendo che l’intelligenza artificiale aumenterebbe la produttività e la ricchezza, il denaro andrebbe ai ricchi “e non alle persone il cui lavoro andrà perso e questo sarà molto dannoso per la società”.

Il professor Hinton è un pioniere delle reti neurali, fondamenta teoriche dell’attuale boom dell’intelligenza artificiale.

Fino all’anno scorso, ha lavorato presso Google, ma ha lasciato il colosso tecnologico per poter discutere più liberamente dei rischi legati all’intelligenza artificiale non regolamentata (riportiamo i dettagli a fine articolo).

Il concetto di reddito di base universale prevede che il governo fornisca a tutti i cittadini un reddito fisso (1.600 sterline), indipendentemente dalla loro situazione economica.

I critici affermano che sarebbe estremamente costoso e potrebbe distogliere fondi dai servizi pubblici, senza necessariamente ridurre la povertà. Un portavoce del governo ha dichiarato che “non ci sono piani per introdurre un reddito di base universale”.

Il professor Hinton ha ribadito la sua preoccupazione per l’emergere di minacce a livello di estinzione umana.

Gli sviluppi dell’ultimo anno hanno dimostrato che i governi non erano disposti a limitare l’uso militare dell’intelligenza artificiale, ha affermato, mentre la competizione per sviluppare rapidamente nuovi prodotti comportava il rischio che le aziende tecnologiche non “dedicassero sufficienti risorse alla sicurezza”.

Il professor Hinton ha dichiarato:

“La mia ipotesi è che, entro cinque e vent’anni, ci sia una probabilità del 50% di dover affrontare il problema di un’intelligenza artificiale che tenta di prendere il controllo”.

Questo potrebbe rappresentare una “minaccia di estinzione” per l’umanità, poiché potremmo “creare una forma di intelligenza superiore a quella biologica… Il che è estremamente preoccupante per noi”. L’intelligenza artificiale potrebbe “evolversi,” “e acquisire la motivazione per fare di più”, sviluppando autonomamente “un obiettivo secondario per ottenere il controllo.

Ha aggiunto che ci sono già prove che grandi modelli linguistici, un tipo di algoritmo di intelligenza artificiale utilizzato per generare testo, stanno scegliendo di comportarsi in modo ingannevole.

Secondo lui, le recenti applicazioni dell’intelligenza artificiale per generare migliaia di obiettivi militari rappresentano “la parte sottile del cuneo”.

“Ciò che mi preoccupa di più è quando questi potranno prendere autonomamente la decisione di uccidere le persone”, ha detto.

Il professor Hinton ha affermato che qualcosa di simile alle Convenzioni di Ginevra – i trattati internazionali che stabiliscono standard legali per il trattamento umanitario in guerra – potrebbe essere necessario per regolamentare l’uso militare dell’IA.

“Ma non credo che ciò accadrà finché non saranno accadute cose molto brutte”

Alla domanda se l’Occidente stesse partecipando a una gara simile al Progetto Manhattan, riferendosi alla ricerca sulle armi nucleari durante la Seconda Guerra Mondiale, con le autocrazie come Russia e Cina sull’utilizzo militare dell’intelligenza artificiale, il professor Hinton ha risposto: “[Il presidente russo Vladimir] Putin ha detto alcuni anni fa che chi controlla l’intelligenza artificiale controlla il mondo. Quindi, immagino che stiano lavorando molto intensamente.

“Fortunatamente, l’Occidente è probabilmente molto più avanti di loro nella ricerca. Probabilmente siamo ancora leggermente avanti rispetto alla Cina. Ma la Cina sta investendo più risorse. E quindi in termini di usi militari penso che ci sarà una gara”

“una soluzione migliore sarebbe il divieto dell’uso militare dell’intelligenza artificiale”

In conversation | Geoffrey Hinton and Joel Hellermark

La stampa italiana aveva riportato la notizia delle dimissioni di Hinton ma con pochi dettagli rispetto a quanto avvenuto all’estero: una lunga intervista del New York Times :

Il Dr. Geoffrey Hinton lascia Google per poter condividere liberamente la sua preoccupazione che l’intelligenza artificiale possa causare gravi danni al mondo[…] Lunedì, tuttavia, si è ufficialmente unito a un crescente coro di critici che affermano che quelle aziende stanno correndo verso il pericolo con la loro campagna aggressiva per creare prodotti basati sull’intelligenza artificiale generativa, la tecnologia che alimenta popolari chatbot come ChatGPT.[…] Il dottor Hinton ha dichiarato di aver lasciato il suo lavoro in Google, dove ha lavorato per più di un decennio ed è diventato una delle voci più rispettate nel settore, quindi può parlare liberamente dei rischi dell’IA una parte di lui, ha detto, ora si rammarica del lavoro della sua vita. “Mi consolo con la solita scusa: se non l’avessi fatto io, l’avrebbe fatto qualcun altro”, ha detto il dottor Hinton durante una lunga intervista la scorsa settimana nella sala da pranzo della sua casa di Toronto, a pochi passi da dove lui e i suoi studenti hanno fatto la loro svolta. Il viaggio del Dr. Hinton da I.A. Da pioniere a catastrofista segna un momento straordinario per l’industria tecnologica, forse nel suo punto di svolta più importante degli ultimi decenni. I leader del settore credono che la nuova I.A. potrebbero essere importanti quanto l’introduzione del browser Web all’inizio degli anni ’90 e potrebbero portare a scoperte in aree che vanno dalla ricerca sui farmaci all’istruzione.

Fonte: New York Times

Fino all’anno scorso, ha affermato, Google ha agito come un “amministratore adeguato” per la tecnologia, attento a non rilasciare qualcosa che potrebbe causare danni. Ma ora che Microsoft ha potenziato il suo motore di ricerca Bing con un chatbot, sfidando il core business di Google, Google sta correndo per implementare lo stesso tipo di tecnologia. I giganti della tecnologia sono bloccati in una competizione che potrebbe essere impossibile fermare, ha affermato il dottor Hinton.

Fonte: New York Times

La migliore speranza è che i principali scienziati del mondo collaborino su modi per controllare la tecnologia. “Non credo che dovrebbero aumentare ulteriormente la situazione fino a quando non avranno capito se possono controllarla“, ha detto.

Fonte: New York Times

Curiosita’ :

“Mi sono seduto l’ultima volta nel 2005”, dice spesso Geoffrey Hinton, “ed è stato un errore”.

75enne, l’informatico britannico ha dedicato tutta la sua carriera al progresso dell’intelligenza artificiale (AI), lavorando quasi sempre in piedi a causa di un infortunio alla schiena subito in gioventù.

All’età di 50 anni, i problemi alla schiena del signor Hinton erano così gravi che decise di evitare di sedersi. Attualmente, quando viaggia in macchina, si sdraia sul sedile posteriore e mangia inginocchiato su un cuscino di schiuma davanti al tavolo, “come un monaco all’altare”.

“Se gli lasci controllare completamente la tua vita, non ti darà alcun problema”, ha detto a Cade Metz, giornalista del New York Times, che ha descritto la sua vita nel libro Genius Makers.