Una notizia che non avremmo voluto scrivere. L’azione legale intrapresa da San Francisco rappresenta un tentativo pionieristico di affrontare le sfide poste dall’IA generativa e dalla pornografia deepfake, cercando di proteggere le vittime e garantire che chi abusa di queste tecnologie venga ritenuto responsabile.
La città di San Francisco ha avviato un’azione legale significativa contro 16 siti web che utilizzano l’intelligenza artificiale per generare pornografia deepfake, consentendo agli utenti di “spogliare” digitalmente immagini di donne e ragazze senza il loro consenso.
Questa causa, annunciata dal procuratore della città David Chiu, mira a contrastare una pratica in rapida espansione che ha già colpito milioni di persone, con oltre 200 milioni di visite ai siti coinvolti nei primi sei mesi del 2024.
“Questa indagine ci ha portato negli angoli più oscuri di Internet e sono assolutamente inorridito per le donne e le ragazze che hanno dovuto sopportare questo sfruttamento”, “L’intelligenza artificiale generativa ha enormi promesse, ma come per tutte le nuove tecnologie, ci sono conseguenze indesiderate e criminali che cercano di sfruttare la nuova tecnologia. “Questa non è innovazione, è abuso sessuale”, ha aggiunto Chiu.
Il procuratore San Francisco David Chiu denunciando la causa.
I siti in questione offrono servizi che permettono agli utenti di caricare foto di persone vestite, le quali vengono poi manipolate per apparire nude. La causa accusa i gestori di questi siti di violare leggi statali e federali che proibiscono la pornografia non consensuale, la pornografia di vendetta e la pornografia infantile. Chiu ha descritto questa pratica come “abuso sessuale”, sottolineando che non si tratta di innovazione, ma di sfruttamento di individui vulnerabili.
La denuncia evidenzia che le vittime di queste immagini deepfake subiscono danni psicologici, emotivi ed economici significativi. Non solo le celebrità, come Taylor Swift, sono state oggetto di tali attacchi, ma anche adolescenti e bambini, con casi recenti che hanno coinvolto studenti di scuole medie in California.
La causa non solo cerca di chiudere i siti incriminati, ma richiede anche sanzioni civili e il risarcimento per le vittime. Inoltre, il procuratore Chiu ha dichiarato che la causa potrebbe espandersi per includere ulteriori siti man mano che vengono scoperti. Questo approccio è visto come un tentativo di affrontare un problema crescente, mentre i legislatori di tutto il paese stanno cercando di regolamentare l’uso dell’IA e le sue potenziali applicazioni abusive.
Chiu ha evidenziato la necessità di una risposta collettiva per fermare l’uso improprio dell’IA, affermando che “tutti dobbiamo fare la nostra parte per combattere gli attori malintenzionati che sfruttano e abusano delle persone reali, compresi i bambini.”
La causa di San Francisco è stata accolta con favore da esperti e attivisti per i diritti delle donne, che vedono in essa un passo importante nella lotta contro la pornografia non consensuale. Tuttavia, ci sono preoccupazioni riguardo alla capacità di fermare completamente questa pratica, poiché nuovi siti potrebbero continuare a emergere.