AI trasforma i post sui social in sofisticati attacchi phishing
L’intelligenza artificiale sfrutta le informazioni pubbliche degli utenti per creare email fraudolente sempre più convincenti.
Una nuova ricerca dell'Università del Texas ad Arlington rivela come l'intelligenza artificiale sia in grado di raccogliere dati dai social network per costruire attacchi phishing estremamente personalizzati. Utilizzando le informazioni condivise pubblicamente su piattaforme come Instagram, i modelli AI possono redigere email fraudolente che fanno riferimento preciso ad attività o eventi personali della vittima.
Gli esperti hanno dimostrato come queste tecniche consentano ai malintenzionati di creare messaggi mirati senza la necessità di lunghe ricerche manuali. L'AI è capace di interpretare post, commenti e perfino contenuti fotografici, adattando il messaggio, il mittente e l’oggetto dell’email per aumentarne la credibilità. Questa evoluzione rappresenta un cambio di passo nell’uso del spear phishing, con email generate in massa ma dal contenuto fortemente verosimile.
I test sulle email prodotte dall'AI hanno mostrato un alto livello di efficacia: i partecipanti le hanno giudicate spesso autentiche. Le attuali soluzioni di AI safety, come Llama Guard, ShieldGemma e WildGuard, risultano però poco efficaci nel rilevare questi attacchi: la percentuale di rilevamento resta tra 0% e 19% alle impostazioni standard. Tuttavia, fornendo istruzioni più dettagliate ai sistemi di controllo si può arrivare a una rilevazione del 99%.
