L’Intelligenza Artificiale e l’AI generativa stanno ridefinendo rapidamente il panorama della sicurezza informatica, offrendo al contempo nuove opportunità di difesa e introducendo complesse minacce. Un recente report del Capgemini Research Institute, intitolato “New defenses, new threats: what AI and Gen AI bring to cybersecurity“, ha analizzato 1.000 aziende, rivelando come queste tecnologie siano diventate cruciali nelle strategie di sicurezza di due terzi delle organizzazioni.
AI: una priorità strategica
La capacità dell’AI di analizzare enormi quantità di dati e identificare schemi di attacco permette alle aziende di anticipare, rilevare e rispondere alle minacce con maggiore efficacia. Questa tecnologia avanzata si sta affermando come una priorità strategica per molte aziende, offrendo un vantaggio significativo nella difesa contro gli attacchi informatici.
Minacce della tecnologia generativa
Va anche considerato però che l’AI generativa, con la sua abilità nel creare contenuti sintetici altamente realistici, presenta nuove sfide. Quasi tutte le aziende intervistate (97%) hanno riportato violazioni o problemi di sicurezza legati all’uso della GenAI nell’ultimo anno. I cybercriminali sfruttano questa tecnologia per orchestrare attacchi più sofisticati e difficili da individuare, ampliando la superficie di attacco e scoprendo le vulnerabilità dei sistemi.
Impatto finanziario e deepfake
Il 43% delle aziende ha subito perdite finanziarie dovute all’uso di deepfake, contenuti multimediali falsi generati da software di intelligenza artificiale. Questo fenomeno evidenzia la necessità di rafforzare le difese informatiche, con circa il 60% delle organizzazioni intenzionate ad aumentare il budget destinato alla cybersecurity.
Rischi interni e formazione dei dipendenti
Il report del Capgemini Research Institute mette in luce anche i rischi legati all’uso improprio dell’AI e della GenAI da parte dei dipendenti. L’inesperienza può portare a violazioni dei dati e perdite finanziarie, con problematiche riscontrate in 12 settori e 13 paesi. Le cosiddette “allucinazioni”, risposte errate e fuorvianti generate dai modelli di linguaggio, e gli attacchi “prompt injection” sono solo alcuni esempi delle nuove minacce.
Necessità di un approccio olistico
Nonostante queste sfide, sia l’AI che la GenAI rimangono strumenti fondamentali per la cybersecurity. Le organizzazioni devono adottare un approccio olistico alla sicurezza, investendo in tecnologie avanzate e nella formazione dei dipendenti. Solo così sarà possibile mitigare i rischi e sfruttare appieno i benefici offerti da queste potenti tecnologie.
Da quello che emerge dal report si rileva che l’evoluzione della tecnologia richiede un adattamento costante delle strategie di cybersecurity. Le aziende devono essere pronte a fronteggiare le nuove minacce introdotte dall’AI generativa, garantendo al contempo la massima protezione dei propri sistemi e dati, perché è solo attraverso un approccio integrato e proattivo che sarà possibile mantenere la sicurezza in un panorama digitale in continua evoluzione.
Newsletter – Non perderti le ultime novità sul mondo dell’Intelligenza Artificiale: iscriviti alla newsletter di Rivista.AI e accedi a un mondo di contenuti esclusivi direttamente nella tua casella di posta!