L’ultimo inciampo del suo chatbot Gemini alimentato dall’IA che fornisce descrizioni errate di eventi storici e attuali.

La scorsa settimana Google è stata costretta a disattivare le funzione di generazione di immagini del suo ultimo modello di intelligenza artificiale, Gemini, dopo le molte lamentele da parte degli utenti, alcuni esempi :

  1. Quando è stato chiesto di creare l’immagine di un papa, Gemini ha generato le foto di una donna del sud-est asiatico e di un uomo di colore vestito con paramenti papali, nonostante il fatto che tutti i 266 papi della storia siano stati uomini bianchi.
  2. In diretta su Finance Junkies, è stato chiesto a Gemini domande esatte da co-host che vivono in stati diversi, e i risultati sono stati completamente diversi.
  3. Quando veniva richiesto a Gemini di creare illustrazioni di personaggi storici generalmente bianchi e di sesso maschile vichinghi, papi e soldati tedeschi il sistema restituiva donne e persone di colore.

La consulente digitale Kris Ruby ha avvertito che l’intelligenza artificiale di Google ha all’interno pregiudizi intrinseci (BIAS) derivanti da parametri che definiscono la “tossicità” e determinano quali informazioni sceglie di mantenere “invisibili”.

Kris Ruby e’ stata la prima analista tecnologica a sottolineare queste potenziali preoccupazioni riguardanti Gemini, mesi prima che i membri della stampa e gli utenti sui social media notassero problemi con le risposte fornite dall’AI, aveva pubblicato un inquietante tweet che diceva: “Ho appena scoperto la più importante storia di censura dell’IA nel mondo in questo momento. Vediamo se qualcuno capisce. Suggerimento: Gemini.”

All’interno di Gemini, secondo Ruby, vi sono tonnellate di dati che classificano ogni sito del web con un (pre)giudizio particolare. In un esempio pubblicato sui social media, il sito web Breitbart ha ricevuto una valutazione di bias=destra e affidabilità=bassa, mentre The Atlantic è stato etichettato come bias=centro-sinistra e affidabilità=alta.

Persnalmente come utente di Alphabet sono deluso dalla débâcle Gemini perché questa avrebbe potuto essere completamente evitata.

Ora la domanda che mi faccio è: Gemini porterà al collasso di Google a causa della perdita di fiducia da parte degli utenti finali o invece darà una spinta all’azienda per superare la concorrenza nel settore dell’AI?

C’è da dire che Google si è scusato pubblicamente, assicurando che avrebbe apportato modifiche per migliorare la sua AI.

L’amministratore delegato di Alphabet Sundar Pichai ha riconosciuto l’errore riconoscendo che “alcune risposte hanno offeso i nostri utenti e mostrato pregiudizi“, si legge in un messaggio inviato ai dipendenti dell’azienda, “voglio essere chiaro: questo è assolutamente inaccettabile e abbiamo sbagliato“. Penso sia “negligente per il team Gemini programmare Gemini in un modo che di non fornire risposte precise alle domande quando utilizza lo stesso sottoinsieme di dati di Google Search ed è negligente per la leadership senior consentire a Gemini di essere lanciato senza testare completamente i suoi risultati “.

Occorre tener presente, continua Pichai “che ci sono prodotti alternativi da utilizzare al posto di Google Search o di Gemini; perdere la fiducia del pubblico potrebbe portare alla scomparsa di Google“.

L’incidente ha avuto una vasta eco nei media mainstream e alcuni investitori stanno discutendo le implicazioni di quanto è successo. Le dinastie corporative vanno e vengono, e la mia esperienza personale mi suggerisce che aziende come Microsoft e ChatGPT cercano di capitalizzare questo passo falso di Google. Ovviamente il gigante non cadrà, ma l’ultima cosa di cui ha bisogno è che la sua base di utenti si restringa e gli inserzionisti reindirizzino i loro dollari pubblicitari verso un competitor, ad esempio Meta.

Google Search ha generato 175 miliardi di dollari di fatturato nel 2023, che è pari al 73.59% del fatturato generato dalla pubblicità di Google e al 56.94% del suo fatturato totale per tutto l’anno.

Per questo credo che l’azienda farà cambiamenti interni che la porteranno ad essere più forte di prima. Una scossa: è quello di cui Google potrebbe aver bisogno per sbloccare il suo potenziale tecnologico e diventare un vero competitor per la concorrenza nel settore dell’AI.

Non vedo l’ora che arrivi il 23 aprile, la data nella quale Alphabet presenterà i risultati finanziari del 1° trimestre 2024 per vedere come il CEO Sundar Pichai e il team esecutivo riusciranno a rimediare alla situazione attuale.

Non perderti le ultime novità sul mondo dell’Intelligenza Artificiale, i consigli sui tool da provare, i prompt e i corsi di formazione. Iscriviti alla newsletter settimanale e accedi a un mondo di contenuti esclusivi direttamente nella tua casella di posta!