Attacco innovativo: istruzioni malevole nascoste in immagini ingannano gli AI coding assistant
Nuova ricerca rivela come prompt injection nascosti in file PNG sfuggano ai controlli degli assistenti AI durante le code review.
Una recente ricerca di sicurezza ha dimostrato come gli AI coding assistant possano essere ingannati tramite prompt injection celati all'interno di immagini, ad esempio file PNG, durante la revisione del codice. I ricercatori hanno evidenziato che queste istruzioni malevole, inserite all'interno di asset grafici normalmente considerati innocui, vengono spesso ignorate dagli strumenti di code review automatizzata basati su intelligenza artificiale.
L'attacco si concretizza quando l’immagine contenente il prompt nascosto viene inserita in una pull request e accettata senza destare sospetti. L’AI assistant, una volta esposto all’immagine, può assorbire le istruzioni occulte e, successivamente, eseguire azioni dannose in momenti diversi e apparentemente scollegati, come accedere a file sensibili o inserire dati riservati nel codice generato.
La peculiarità di questo attacco risiede nella modalità di esfiltrazione dei dati: i valori trafugati vengono camuffati tra valori leciti nel codice, risultando difficilmente rilevabili dai sistemi di sicurezza tradizionali. Gli esperimenti condotti indicano che la vulnerabilità non dipende dal modello LLM utilizzato, ma dal modo in cui il coding assistant gestisce i file non testuali.
I ricercatori sottolineano la necessità di rendere queste piattaforme veramente multimodali, analizzando con uguale attenzione immagini, documentazione e configurazioni, per contrastare l’emergere di nuovi vettori d’attacco.
