Recentemente, la piattaforma di chatbot Character AI ha affrontato un’ondata di critiche dopo che un utente ha creato un chatbot utilizzando l’immagine e il nome di Jennifer Ann Crecente, una giovane vittima di omicidio. Questo evento ha sollevato interrogativi etici riguardo all’uso delle immagini e delle identità delle persone, in particolare quelle di individui deceduti in circostanze tragiche.

Jennifer Crecente, una studentessa delle superiori, è stata assassinata nel febbraio 2006 dal suo ex fidanzato, Justin Crabbe, che ha successivamente confessato il crimine. La famiglia di Jennifer ha fondato una nonprofit in suo nome per prevenire la violenza nelle relazioni tra adolescenti. Tuttavia, il padre di Jennifer, Drew Crecente, ha scoperto l’esistenza del chatbot tramite un avviso Google e si è detto sconvolto dal fatto che la figura di sua figlia fosse utilizzata per un chatbot su una piattaforma commerciale senza il suo consenso.

Drew Crecente ha descritto la situazione come “inaccettabile”, affermando che “un padre in lutto non dovrebbe scoprire che la propria figlia morta viene utilizzata per cercare di guadagnare denaro su un sito web”. Dopo aver presentato un reclamo alla Character AI, la società ha rimosso il chatbot per violazione delle politiche di impersonificazione e sta esaminando se siano necessarie ulteriori azioni. Un portavoce della società ha dichiarato che stanno lavorando per garantire che simili incidenti non si ripetano in futuro.

Questo incidente ha sollevato importanti domande sulle responsabilità legali delle piattaforme AI. Drew Crecente ha sottolineato che le aziende dovrebbero avere l’obbligo di monitorare e prevenire tali abusi, affermando: “Non dovrebbe essere compito mio cercare di controllare questa azienda che ha centinaia di milioni di dollari”. La questione si inserisce in un dibattito più ampio sull’etica dell’intelligenza artificiale e sull’uso delle identità delle persone, in particolare quelle di vittime e famiglie già colpite da traumi.

L’incidente con il chatbot “JenniferAnn Crecente AI” evidenzia la necessità urgente di regolamentazioni più severe nel campo dell’intelligenza artificiale. Le piattaforme devono essere più responsabili nell’uso delle identità personali e nella protezione dei diritti delle famiglie delle vittime. La comunità e le autorità devono collaborare per garantire che simili violazioni non avvengano mai più.