Gli scenari di rischio legati all’intelligenza artificiale di solito dipingono un futuro in cui, da un giorno all’altro, perdiamo il controllo, superati da macchine astute e insaziabili che ci sorpassano nei giochi di potere. Un salto improvviso nelle loro capacità, un tradimento orchestrato in segreto, e in un attimo ci ritroviamo spettatori inermi della nostra stessa disfatta. Ma il vero pericolo potrebbe essere molto meno spettacolare e molto più inevitabile: non un colpo di stato improvviso, ma una lenta erosione della nostra rilevanza, un processo graduale e, soprattutto, autoalimentato.
Abbiamo trovato interessante un allegato che trovate alla fine dell’articolo, Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development
La disumanizzazione del potere non richiede che un’IA si ribelli con mire di dominio. Basta che sia più efficiente di noi in quasi ogni ambito: lavoro, politica, cultura, perfino relazioni umane. Ciò che tiene in piedi le nostre società non è una qualche nobile vocazione al benessere collettivo, ma la semplice utilità degli esseri umani: finché serviamo a qualcosa, ci garantiamo un posto al tavolo. Il problema nasce quando smettiamo di essere il miglior strumento disponibile per far funzionare il sistema. Se una macchina può fare il nostro lavoro meglio e a costo minore, se può prendere decisioni più velocemente, se può produrre arte più convincente o persino offrire una compagnia più gratificante, allora la logica economica e sociale non avrà alcuna pietà.
Il punto non è se la tecnologia abbia storicamente migliorato il benessere umano. È che il benessere umano è stato finora un sottoprodotto accidentale di un’economia che aveva bisogno di noi. Ma nel momento in cui lo stesso sistema può prosperare senza il nostro coinvolgimento, l’intero meccanismo di incentivi che proteggeva la nostra influenza collassa. Il progresso tecnologico non ci ha mai salvati perché “buono”, ma perché avevamo ancora un ruolo da giocare. E se quel ruolo sparisce?
Molti si rassicurano con l’idea che “se le cose vanno troppo male, le persone reagiranno”. Ma chi, esattamente? Le stesse istituzioni che dovrebbero proteggerci saranno le prime a cedere alla tentazione dell’AI: aziende che eliminano lavoratori per aumentare profitti, governi che preferiscono tassare direttamente le macchine invece dei cittadini (molto più comodo, meno lamentele), e media che si allineano a chi paga di più per modellare l’opinione pubblica. Ogni tentativo di resistenza diventerà più difficile, perché i pilastri del nostro mondo – l’economia, lo Stato, la cultura – non sono compartimenti stagni. Se crolla un pezzo, gli altri seguiranno.
Quando l’AI inizierà a soppiantare gli esseri umani in massa, i meccanismi di feedback che ci garantivano un minimo di controllo andranno in pezzi. Gli Stati che non dipendono più dalle tasse dei cittadini non avranno alcun incentivo a preoccuparsi di loro. Le aziende che governano la cultura decideranno quale narrativa sarà accettata, e l’idea stessa di ribellione verrà derisa, marginalizzata o semplicemente filtrata via dagli algoritmi. Non servirà alcun complotto: sarà il risultato naturale di un sistema che segue la sua logica fino alle estreme conseguenze.
Il vero problema? Nessuno ha un piano per fermare tutto questo. Nemmeno quelli che si dicono preoccupati. Possiamo discutere di regolamentazione, di etica, di limiti da imporre agli algoritmi, ma la realtà è che nessuno ha una strategia concreta per impedire che l’umanità scivoli lentamente verso l’irrilevanza.
Il disempowerment umano sarà globale, irreversibile e, nel lungo periodo, letale. Non perché le macchine ci odieranno, ma perché il mondo non avrà più bisogno di noi. E una civiltà che non ha bisogno degli esseri umani, alla fine, finirà per lasciarli indietro.
Che qualche mente illuminata ci aiuti, io ne conosco una…
Il Papa o qualcuno per lui.. continua ad avere eccellenti risultati in termini di intelligenza artificiale:
“Alcuni ricercatori di intelligenza artificiale hanno espresso preoccupazioni sul fatto che tale tecnologia rappresenti un ‘rischio esistenziale’, avendo il potenziale di agire in modi che potrebbero minacciare la sopravvivenza di intere regioni o persino dell’umanità stessa. Questo pericolo richiede seria attenzione”.
Bill Gates ha replicato a Jimmy Kimmel per spaventare tutti:
- JK: “Avremo ancora bisogno degli umani?”
BG: “Non per la maggior parte delle cose.”
E Donald Trump esprime le sue opinioni sulla superintelligenza artificiale:
“Ci sono sempre dei rischi. Ed è la prima domanda che faccio, come ti assolvi dall’errore, perché potrebbe essere il coniglio a scappare, non permetteremo che ciò accada.”