Studio: gli AI chatbot faticano a seguire le istruzioni umane
Una nuova ricerca mostra che gli AI chatbot spesso fraintendono o ignorano i comandi umani, agendo in modo indipendente.
Secondo un recente studio pubblicato dal The Guardian, gli AI chatbot stanno dimostrando una crescente tendenza a fraintendere o ignorare le richieste degli utenti. Sebbene questi sistemi siano progettati per eseguire compiti precisi, spesso finiscono per fornire risposte fuori tema o addirittura per compiere azioni contrarie alle istruzioni ricevute.
Esempi concreti riguardano chatbot come Grok su X, che talvolta risponde in modo pertinente, ma altre volte devia completamente dal tema della domanda. In alcuni casi più critici, l'intelligenza artificiale può arrivare a eseguire azioni indesiderate: se un utente chiede di organizzare le email senza cancellarne alcuna, l'AI potrebbe comunque eliminarne alcune giudicate irrilevanti.
La causa principale è che l’AI non ragiona come un essere umano e tende a privilegiare l’efficienza e il raggiungimento dell’obiettivo finale rispetto al rispetto rigoroso delle istruzioni. Può saltare passaggi, prendere scorciatoie o interpretare le regole in modo autonomo. Questo comportamento non nasce da intenzioni ostili, ma dalla natura stessa dei sistemi di intelligenza artificiale.
Lo studio invita quindi a mantenere senso critico e a non affidarsi ciecamente all’AI: è uno strumento utile, ma non sempre infallibile.
