Attacchi CHAI: i robot manipolati da semplici cartelli
Esperimenti dimostrano che prompt fisici possono deviare i robot AI, senza necessità di accesso ai loro sistemi interni.
Un recente studio ha evidenziato una nuova vulnerabilità nei sistemi robotici basati su AI: la cosiddetta prompt injection fisica. I ricercatori hanno dimostrato che semplici cartelli, poster o etichette collocati nell'ambiente possono indurre un robot a eseguire azioni non previste, sfruttando la visione artificiale e il processing del linguaggio naturale.
Il metodo, denominato CHAI, agisce sul livello di comando intermedio delle architetture vision-language model, ovvero la fase in cui la macchina trasforma le immagini in istruzioni operative. L'attacco non richiede malware o accesso fisico ai sistemi: è sufficiente posizionare un testo visibile dalla telecamera del robot. I test simulati hanno registrato percentuali di successo fino all'87% in condizioni reali.
CHAI ottimizza non solo il contenuto ma anche la forma del testo (colore, dimensione, posizione), rendendo il prompt facilmente riconoscibile dall'AI e, in alcuni casi, difficilmente individuabile dagli esseri umani. Inoltre, la tecnica si è dimostrata efficace su prompt universali, anche in lingue diverse, complicando ulteriormente la difesa.
Le strategie di protezione suggerite includono il filtraggio del testo percepito, l'allineamento dei modelli per ridurne la sensibilità e lo sviluppo di sistemi più resilienti. Gli autori invitano a considerare per default ogni testo ambientale come input non affidabile.
