La situazione è talmente grottesca che sembra uscita da un episodio di Black Mirror 7, siamo sotto l’influenza ancora della serie, ma è tutto reale. Martin Wolf, una delle firme più rispettate del Financial Times, si ritrova trasformato in testimonial di investimenti truffaldini su Facebook e Instagram, vittima di deepfake pubblicitari che Meta, la presunta avanguardia mondiale dell’AI, non riesce o non vuole fermare. E qui sorge il dilemma: incapacità tecnica o negligenza sistemica?

L’accusa non viene lanciata da un blogger incazzato, ma dallo stesso Wolf, che nel suo pezzo (non a pagamento, raro per il FT) domanda se il problema sia davvero così complesso o se, come ipotizza Sarah Wynn-Williams nel suo libro Careless People, semplicemente a Meta non interessi intervenire. Difficile dargli torto, soprattutto dopo aver visto un grafico degno di una startup in fase di hypergrowth: il numero di deepfake è esploso dopo che il Financial Times aveva avvisato Meta della truffa. Un picco verticale da manuale, che farebbe invidia anche agli analisti di Wall Street.

Qui c’è un punto chiave: Meta si presenta al mondo come leader nell’intelligenza artificiale, ma non riesce a eliminare un singolo video fraudolento che sfrutta il volto di una figura pubblica per vendere fuffa finanziaria. E questo accade su piattaforme controllate centralmente, con algoritmi proprietari che analizzano ogni pixel caricato, ogni parola scritta, ogni reazione. C’è chi direbbe che se volessero fermare i deepfake, lo avrebbero già fatto. Invece, pare che il modello di business premi la viralità e l’engagement, anche quando questi vengono alimentati da contenuti falsi, ingannevoli o, come in questo caso, legalmente discutibili.

Il cinismo del sistema diventa quasi ammirevole nella sua coerenza: da una parte si investono miliardi in AI generativa, con CEO che annunciano mondi immersivi e avatar parlanti, dall’altra non si riesce a gestire un’invasione di video-truffa che mettono a rischio la reputazione di giornalisti e l’integrità dell’informazione. L’ipocrisia è talmente palese da essere trasparente. Eppure, nessun organo di controllo riesce a mettere un freno. L’AI di Meta è brava a suggerirti una maglietta che potresti amare, ma cieca di fronte a un deepfake che ti spinge a investire in una cripto inesistente.

Il caso Wolf è l’ennesima dimostrazione che queste piattaforme non sono tecnologie neutre. Sono infrastrutture commerciali che rispondono solo a una logica: massimizzare la permanenza dell’utente e monetizzare ogni millisecondo. Se un deepfake performa bene in termini di clic, like, e condivisioni, verrà premiato dall’algoritmo. Poco importa se dietro c’è una frode bella e buona.

Ecco l’articolo originale del Financial Times, che merita davvero di essere letto nella sua interezza:
Martin Wolf: The deepfake that wouldn’t die

Un consiglio? Tieniti stretto il tuo volto, prima che Zuckerberg ci faccia pubblicità per il prossimo schema Ponzi.