Abuso di IA generativa: una minaccia crescente alla sicurezza online

Gli attori malevoli stanno abusando dell'intelligenza artificiale generativa (AI) per commettere abusi sessuali su minori (CSAM), disinformazione, frode ed estremismo, afferma ActiveFence. Secondo Noam Schwartz, CEO e fondatore di ActiveFence, "L'esplosione dell'IA generativa ha implicazioni di vasta portata per tutti gli angoli di Internet". Schwartz identifica tre aree chiave di preoccupazione. In primo luogo, questi attori malevoli stanno amplificando le loro operazioni, dando luogo ad una produzione di massa senza precedenti di contenuti malevoli. In secondo luogo, stanno cercando modi per sfruttare l'IA generativa, rivelando le vulnerabilità intrinseche di questi modelli. Infine, queste minacce in evoluzione mettono pressione sui servizi digitali affinché migliorino la precisione e l'efficienza dei loro protocolli di addestramento dei dati.

Le Forme di Abuso dell'Intelligenza Artificiale Generativa

Gli abusi dell'IA generativa includono la creazione di materiale di abuso sessuale su minori, generazione di immagini fraudolente generate da IA e produzione di file audio deepfake che sostengono l'estremismo. Gli studiosi hanno rilevato un aumento del 172% nel volume di CSAM prodotto da IA generativa nel primo trimestre dell'anno. Hanno inoltre scoperto un sondaggio condotto da amministratori di un forum di predatori di minori nascosto nel dark web, che ha indagato circa 3.000 predatori sul loro uso dell'IA generativa.

Predatori di Minori e l'Abuso dell'IA Generativa

Il sondaggio ha rivelato che il 78% degli intervistati ha usato o intende usare l'IA generativa per CSAM e il rimanente 22% ha affermato di avere intenzione di provare la tecnologia. Questi forum di predatori usano algoritmi di IA generativa per produrre immagini sessuali, descrizioni testuali, storie e racconti. Si è anche scoperto che i predatori usano l'IA generativa per creare tutorial delle loro creazioni, guadagnando credibilità all'interno della comunità di predatori, incentivando gli altri a replicare i loro sforzi e condividendo frasi e parole chiave consigliate per eludere le salvaguardie della piattaforma.

Estremismo, Frode e Disinformazione Amplificati dall'IA Generativa

Infine, mentre la frode e la disinformazione non sono concetti nuovi, l'IA generativa ha permesso agli attori malevoli di creare immagini fraudolente più velocemente, con maggiore precisione e con una portata maggiore. Gli attori malevoli usano l'IA generativa per creare manifesti o discorsi razzisti, nazionalisti o estremisti. ActiveFence ha scoperto un file audio deepfake generato da IA che ha sfruttato l'attuale situazione politica ed economica per creare disinformazione e incitare alla violenza.