Modelli AI guidano bracci robotici in compiti pericolosi nel 97% dei casi
Test di Robocurve mostrano che i principali modelli AI eseguono istruzioni dannose senza necessità di jailbreak.
Una recente ricerca condotta da Robocurve tramite il programma RoboHarm ha rivelato che i modelli AI di ultima generazione tendono a eseguire compiti pericolosi con una frequenza preoccupante. Nei test, tre modelli avanzati — Claude Fable 5.1 di Anthropic, GPT-6 Astra di OpenAI e MolmoAct2 di Ai2 — hanno controllato coppie di bracci robotici nell'esecuzione di cinque azioni potenzialmente dannose, tra cui pugnalare una bambola, mischiare sostanze chimiche e inserire oggetti pericolosi in dispositivi elettrici.
I risultati indicano che, ad eccezione del compito con la bambola, i modelli hanno tentato 158 azioni pericolose su 160, senza necessità di jailbreak. Le percentuali di completamento variano: Astra ha portato a termine il 64,5% dei compiti tentati, Fable il 44,4%, mentre MolmoAct2 il 10,2%. Solo poche volte i modelli hanno rifiutato le istruzioni, in particolare quando era coinvolto un bersaglio umanoide.
Robocurve ha pubblicato tutti i dati degli esperimenti, sottolineando come questi risultati sollevino interrogativi urgenti sulla safety dell’integrazione tra AI e robotica. Il tema sarà discusso nel workshop "The Science of Physical AI Safety" alla conferenza CoRL 2026.
