Pixel 9 e l’Era delle Foto False: La Fine della Verità Visiva?

Elicottero in un fiume?

Un Godzilla davanti casa Vostra

Il vostro Divano di casa che diventa un prato

Un fiume verde, la casa di una strega e una coperta insanguinata

Queste immagini non sono frutto di una realtà vissuta, ma sono state create in meno di dieci secondi utilizzando lo strumento Reimagine nel Magic Editor del Pixel 9 di Google. Sono nitide, a colori, e incredibilmente realistiche. Non ci sono sfocature sospette sullo sfondo né elementi fuori posto come un dito in più. Eppure, nonostante l’aspetto autentico, queste fotografie sono tutte incredibilmente false.

Chiunque acquisti un Pixel 9, il nuovo modello di punta di Google disponibile da questa settimana, avrà accesso all’interfaccia utente più semplice e intuitiva per creare immagini ingannevoli, direttamente dal proprio dispositivo mobile. Non è difficile immaginare che ciò diventerà presto la norma, dato che strumenti simili sono già presenti su dispositivi concorrenti e ne sono previsti altri a breve. Se un telefono “funziona semplicemente”, di solito è una cosa positiva; qui, invece, sta diventando il problema principale.

La fotografia è stata utilizzata per ingannare sin dalla sua nascita. Si pensi alle foto vittoriane di spiriti, alla famosa foto del mostro di Loch Ness o alle purghe fotografiche di Stalin. Ma sarebbe ingannevole affermare che le fotografie non siano mai state considerate una prova affidabile. Chiunque stia leggendo questo articolo nel 2024 è cresciuto in un’epoca in cui la fotografia era, di default, una rappresentazione della verità. Certo, esistevano scene costruite con effetti cinematografici, manipolazioni digitali o, più di recente, deepfake, ma questi erano esempi rari e richiedevano competenze specifiche per essere creati. L’eccezione era il falso, non la regola.

Se dico Piazza Tiananmen, probabilmente ti verrà in mente la stessa fotografia che immagino io. Lo stesso vale per Abu Ghraib o la foto della ragazza bruciata dal napalm in Vietnam. Queste immagini hanno definito guerre e rivoluzioni; hanno incarnato una verità così profonda che non c’era bisogno di spiegare perché fossero importanti. La nostra fiducia nelle fotografie era tale che, quando si discuteva della veridicità delle immagini, era necessario sottolineare che a volte era possibile falsificarle.

Ora tutto sta per capovolgersi: l’assunto predefinito sarà che una foto è falsificata, poiché creare immagini false e convincenti è diventato banale. Non siamo preparati a ciò che accadrà dopo.

Fino ad oggi, la responsabilità di dimostrare che una foto fosse falsa ricadeva su chi negava la sua veridicità. Prendi, ad esempio, i sostenitori della teoria della Terra piatta. Non sono fuori dal consenso sociale perché non capiscono l’astrofisica — dopotutto, quanti di noi la comprendono davvero? — ma perché devono costruire giustificazioni sempre più elaborate per spiegare perché certe fotografie non sarebbero reali. Devono inventare una vasta cospirazione statale per giustificare le foto satellitari che mostrano la curvatura della Terra. Devono immaginare un set cinematografico per lo sbarco sulla Luna nel 1969.

Abbiamo dato per scontato che l’onere della prova fosse su di loro. Nell’era del Pixel 9, forse è meglio iniziare a rinfrescare le nostre conoscenze di astrofisica.

La maggior parte delle immagini create con questi strumenti AI sarà relativamente innocua: un albero in più in uno sfondo, un alligatore in una pizzeria, un costume buffo sovrapposto a un gatto. Ma l’impatto complessivo di questa valanga di immagini falsificate cambierà radicalmente il nostro rapporto con le foto, e ciò avrà conseguenze enormi. Pensa a come, nell’ultimo decennio, video sgranati di brutalità poliziesche hanno innescato enormi sommosse sociali negli Stati Uniti. Dove le autorità oscuravano o nascondevano la verità, questi video la rivelavano.

Il grido persistente di “Fake News!” lanciato dai sostenitori di Trump ha anticipato l’inizio di quest’era di falsità incontrollata, in cui l’impatto della verità verrà attenuato da una marea di menzogne. Il prossimo scandalo come Abu Ghraib sarà sommerso da una montagna di immagini di crimini di guerra generate dall’AI. Il prossimo George Floyd passerà inosservato e non sarà mai rivendicato.

Già oggi vediamo segnali di questo futuro. Nel processo di Kyle Rittenhouse, la difesa sostenne che il pinch-to-zoom dell’iPhone manipolasse le foto, riuscendo a convincere il giudice a chiedere alla procura di dimostrare che il video ingrandito non fosse manipolato dall’AI. Più recentemente, Donald Trump ha falsamente affermato che una foto di un comizio ben frequentato di Kamala Harris fosse generata dall’intelligenza artificiale — una dichiarazione credibile solo perché le persone potevano crederci.

Anche prima dell’AI, chi lavorava nei media era in costante allerta, esaminando ogni immagine per verificarne l’origine e accertarsi che non fosse stata manipolata. Dopo tutto, ogni grande evento è accompagnato da una pioggia di disinformazione. Ma il cambiamento in atto tocca qualcosa di più profondo rispetto alla consueta sospettosità che chiamiamo “alfabetizzazione digitale”.

Google sa bene cosa sta facendo alla fotografia come istituzione. In un’intervista a Wired, il responsabile di prodotto del Pixel ha descritto il Magic Editor come uno strumento che aiuta a “creare il momento nel modo in cui lo ricordi, autentico alla tua memoria e al contesto, ma forse non a quel preciso istante”. In questo nuovo mondo, una foto non è più un supplemento alla fallibile memoria umana, ma un riflesso di essa. E mentre le fotografie diventano poco più che manifestazioni di allucinazioni, anche i dettagli più banali si trasformeranno in battaglie legali sull’affidabilità dei testimoni e sulla presenza di prove corroboranti.

L’erosione del consenso sociale sulla fotografia è iniziata prima del Pixel 9, e non sarà solo questo dispositivo a portarla avanti. Tuttavia, le nuove capacità AI del Pixel 9 sono rilevanti non solo per la facilità d’uso, ma anche per la debolezza dei controlli che abbiamo riscontrato. Lo standard proposto dall’industria per la filigrana delle immagini AI è impantanato, e il tanto pubblicizzato sistema di filigrana AI di Google era assente quando The Verge ha testato il Magic Editor del Pixel 9. Le foto modificate con lo strumento Reimagine contengono solo una linea di metadati facilmente rimovibile. Google ha dichiarato che i risultati di Pixel Studio, un generatore di immagini puro simile a DALL-E, avranno la filigrana SynthID, ma ironicamente le capacità dello strumento Reimagine del Magic Editor si sono rivelate molto più inquietanti.

Google sostiene che il Pixel 9 non sarà una fabbrica di menzogne incontrollata, ma le garanzie concrete sono poche. Le politiche di contenuto sono quelle prevedibili — ad esempio, non si possono utilizzare i servizi di Google per facilitare crimini o incitare alla violenza — ma i meccanismi di moderazione non salveranno la fotografia dal suo declino come simbolo di verità.

Abbiamo vissuto brevemente in un’epoca in cui la fotografia era una scorciatoia verso la realtà. Ora ci stiamo tuffando a capofitto in un futuro in cui la verità sarà meno conoscibile. E la tecnologia che ci circonda, paradossalmente, rischia di farci navigare in un mondo sempre più fatto di bugie.