L’Intelligenza Artificiale rischia di essere un sistema che si frappone tra l’essere umano e la realtà, diminuendo le nostre capacità di riflessione e discernimento, come dimostrano la nostra tendenza a cedere ai consigli di acquisto generati dalle nostre profilazioni in rete.

È questo il pensiero di padre Paolo Benanti espresso in occasione di una lezione sull’AI al Forum Internazionale della Pontificia Accademia di Teologia dell’Università Lumsa, in occasione del quale cita il premio Nobel Daniel Kahneman, che ha studiato la nostra razionalità. “Lui dice che la nostra razionalità gioca su due livelli, il sistema 1 e il sistema 2” afferma Benanti. “Nel sistema 1 che è attivo il 95% del tempo, l’uomo procede per un tipo di pensiero che è inconscio, veloce, associativo, intuitivo e istintivo. E’ più veloce, una sorta di pilota automatico delle nostre azioni. Quando invece interviene il sistema 2, quello razionale, si richiede molto più sforzo, tanto che è attivo per il 5% del tempo. In questo caso il sistema è più lento e spesso ci lascia indecisi“.

Per chiarire il funzionamento di questo nostro approccio mentale, Benanti ricorre ad una metafora sportiva. “Per semplificare il sistema 1 è Sinner quando risponde a 180 km orari ad un servizio dell’avversario e in modo veloce e diretto piazza la pallina nell’ angolino del campo. Il sistema 2 è invece quello di Kasparov quando pensa all’apertura di scacchi per vincere la partita“, osserva Benanti, “ahimè noi usiamo molto di più il sistema 1 e quando usiamo il sistema 2 non riusciamo a fare altre cose: se vi è mai capitato di camminare con qualcuno chiacchierando e vi siete dovuti fermare per guardare in faccia il vostro interlocutore, allora vuol dire che siete passati dal sistema 1 al sistema 2“.

Insomma, secondo Benanti, Kahneman ci dice che il sistema 1 è un pilota automatico che viene innescato dal tipo di esperienza che viviamo: esperienze ripetute, con un’idea che ne innesca un’altra e procede in automatico. Da questo punto di vista il pericolo, secondo Benanti, risiede proprio li, quando l’interazione con dei sistemi di linguaggio tipo Chat GPT ci portano ad innescare, in modo automatico e senza quasi che ce ne accorgiamo, il Sistema 1, veloce e istintivo. Questo cosa può comportare? Che l’utilizzo di questi strumenti, che si frappongono tra noi e la realtà, può diminuire la nostra capacità di ragionamento, quella riflessione più attenta, che richiede uno sforzo in più e maggiore discernimento. E di questo, avverte Benanti, “se ne sono accorte le agenzie commerciali: l’utilizzo dell’AI nello spazio commerciale a questo serve: questo tipo di pensiero produce un acquisto compulsivo, meno riflesso” riferendosi all’utilizzo di strumenti di profilazione, segmentazione e di analisi predittiva nei tool di marketing per la gestione delle campagne di online advertising.