Gli LLM riducono la barriera per l'ingresso nel cybercrime
La crescente minaccia dei chatbot nel campo del cybercrime: un nuovo alleato per i criminali informatici
L'uso di chatbot e modelli di linguaggio avanzati da parte dei cybercriminali rende le campagne di phishing sempre più efficaci, con minacce che evolvono costantemente. I tradizionali strumenti di sicurezza spesso non riescono a rilevare questi attacchi, causando una crescente preoccupazione nell'industria della cybersecurity.
Contribute to spreading the culture of prevention!
Support our cause with a small donation by helping us raise awareness among users and companies about cyber threats and defense solutions.
Secondo Egress, i cybercriminali utilizzano metodologie di attacco in continua evoluzione per violare le tradizionali sicurezze di rete, compresi i gateway di posta elettronica sicura. "Senza dubbio, i chatbot o i large language model (LLM) riducono la barriera per l'ingresso nel cybercrime, rendendo possibile creare campagne di phishing ben scritte e generare malware che gli sviluppatori meno capaci non potrebbero produrre da soli", ha dichiarato Jack Chapman, VP Threat Intelligence di Egress.
Tecniche di attacco in evoluzione
Mentre le minacce evolvono, l'industria della cybersecurity deve lavorare insieme per continuare a gestire i rischi umani nella posta elettronica. Dalle truffe di impersonificazione di RingCentral agli attacchi attraverso i social media, le minacce di software di sicurezza e il sextortion, non vi è stata penuria di attacchi di phishing nel 2023. Il tema principale dei phishing è stato quello delle chiamate vocali perse, che hanno rappresentato il 18,4% degli attacchi di phishing tra gennaio e settembre 2023, diventando il tema più diffuso dell'anno finora. Molti di questi attacchi utilizzano tecniche di oscuramento HTML per nascondere il loro carico utile.
Il potenziale uso dei chatbot da parte dei cybercriminali
La possibilità che i cybercriminali utilizzino i chatbot per creare campagne di phishing e malware è motivo di preoccupazione, ma è possibile stabilire se una email di phishing sia stata scritta da un chatbot? Il rapporto ha concluso che nessuna persona o strumento può dire con certezza se un attacco sia stato scritto da un chatbot. Poiché utilizzano large language model (LLM), l'accuratezza della maggior parte degli strumenti di rilevamento aumenta con campioni di testo più lunghi, spesso necessitando di almeno 250 caratteri per funzionare. Con il 44,9% delle email di phishing che non raggiungono il limite di 250 caratteri e un ulteriore 26,5% inferiore ai 500, attualmente i rilevatori di intelligenza artificiale o non funzionano in modo affidabile o non funzionano affatto nel 71,4% degli attacchi.
10/05/2023 07:17
Editorial AI