Gli LLM riducono la barriera per l'ingresso nel cybercrime

Secondo Egress, i cybercriminali utilizzano metodologie di attacco in continua evoluzione per violare le tradizionali sicurezze di rete, compresi i gateway di posta elettronica sicura. "Senza dubbio, i chatbot o i large language model (LLM) riducono la barriera per l'ingresso nel cybercrime, rendendo possibile creare campagne di phishing ben scritte e generare malware che gli sviluppatori meno capaci non potrebbero produrre da soli", ha dichiarato Jack Chapman, VP Threat Intelligence di Egress.

Tecniche di attacco in evoluzione

Mentre le minacce evolvono, l'industria della cybersecurity deve lavorare insieme per continuare a gestire i rischi umani nella posta elettronica. Dalle truffe di impersonificazione di RingCentral agli attacchi attraverso i social media, le minacce di software di sicurezza e il sextortion, non vi è stata penuria di attacchi di phishing nel 2023. Il tema principale dei phishing è stato quello delle chiamate vocali perse, che hanno rappresentato il 18,4% degli attacchi di phishing tra gennaio e settembre 2023, diventando il tema più diffuso dell'anno finora. Molti di questi attacchi utilizzano tecniche di oscuramento HTML per nascondere il loro carico utile.

Il potenziale uso dei chatbot da parte dei cybercriminali

La possibilità che i cybercriminali utilizzino i chatbot per creare campagne di phishing e malware è motivo di preoccupazione, ma è possibile stabilire se una email di phishing sia stata scritta da un chatbot? Il rapporto ha concluso che nessuna persona o strumento può dire con certezza se un attacco sia stato scritto da un chatbot. Poiché utilizzano large language model (LLM), l'accuratezza della maggior parte degli strumenti di rilevamento aumenta con campioni di testo più lunghi, spesso necessitando di almeno 250 caratteri per funzionare. Con il 44,9% delle email di phishing che non raggiungono il limite di 250 caratteri e un ulteriore 26,5% inferiore ai 500, attualmente i rilevatori di intelligenza artificiale o non funzionano in modo affidabile o non funzionano affatto nel 71,4% degli attacchi.