IA facilmente manipolabile: chatbot forniscono risposte errate
Un test dimostra quanto sia semplice ingannare chatbot come ChatGPT e Google AI, portandoli a diffondere informazioni false.
Un recente esperimento della BBC ha messo in luce quanto sia facile manipolare chatbot basati su intelligenza artificiale come ChatGPT e i servizi AI di Google. In soli venti minuti, è bastato pubblicare un semplice blog post con una falsa informazione perché i sistemi accettassero e diffondessero la notizia come veritiera.
L’indagine ha evidenziato che AI chatbot possono essere facilmente ingannati, soprattutto quando acquisiscono informazioni da singole fonti online invece che dalla loro base dati interna. Gli esperti avvertono che questa vulnerabilità viene già sfruttata su larga scala, con soggetti senza scrupoli che manipolano le risposte dell’AI su temi sensibili come salute e finanza.
Secondo Lily Ray, fondatrice di una società di consulenza specializzata in AI search, "dovremmo partire dal presupposto di essere manipolati, finché non saranno adottate migliori contromisure". Dopo la pubblicazione dell’inchiesta, Google ha aggiornato le proprie policy contro lo spam, dichiarando che manipolare le risposte AI viola le regole e può portare all’esclusione del sito dai risultati di ricerca.
Tuttavia, ulteriori test dimostrano che le contromisure non sono ancora sufficienti. Gli specialisti consigliano quindi di non affidarsi ciecamente alle risposte AI, soprattutto quando si tratta di decisioni critiche.
