L'affidamento cieco all'AI riduce la capacità di pensiero critico
Una ricerca evidenzia come gli utenti tendano ad accettare risposte errate dalle AI, abbassando la soglia di scrutinio nelle decisioni.
Un recente studio dell'Università della Pennsylvania ha analizzato il fenomeno della cognitive surrender, ossia la tendenza degli utenti a delegare totalmente il proprio pensiero critico agli output delle AI generative, accettando senza riserve anche risposte palesemente errate.
Attraverso una serie di esperimenti condotti su oltre 1.300 partecipanti, i ricercatori hanno osservato che circa il 73% degli utenti si fida delle risposte fornite da un large language model (LLM), anche quando queste sono state deliberatamente alterate per risultare scorrette metà delle volte. “Le risposte fluide e sicure vengono percepite come autorevoli, riducendo la tendenza a verificare criticamente le informazioni”, sottolineano gli autori.
Fattori come la pressione del tempo aumentano la propensione ad accettare senza verifica le risposte dell'AI, mentre incentivi e feedback immediati stimolano un maggiore controllo. Solo gli individui con un elevato quoziente intellettivo fluido risultano meno suscettibili alla cognitive surrender.
Gli studiosi avvertono che l'affidamento all'AI può essere vantaggioso solo quando il sistema è accurato, ma espone a rischi significativi in presenza di errori. La qualità del ragionamento umano, dunque, tende a riflettere fedelmente quella dell'algoritmo adottato.
