Autocomplete AI influenza silenziosamente i nostri pensieri
Uno studio Cornell Tech rivela che i suggerimenti delle IA nei testi possono orientare le opinioni senza che ce ne accorgiamo.
Una ricerca condotta da Cornell Tech e pubblicata su Science Advances evidenzia come gli AI-powered autocomplete non soltanto velocizzino la scrittura, ma siano in grado di modificare gli atteggiamenti degli utenti. Gli esperimenti hanno coinvolto oltre 2.500 persone, chiamate a scrivere brevi testi su temi sociali controversi come pena di morte, fracking, OGM e diritto di voto ai detenuti.
Alcuni partecipanti ricevevano suggerimenti generati da large language model (GPT-3 e GPT-4), programmati per orientare le scelte linguistiche verso una certa posizione. Gli autori hanno osservato che chi usufruiva di questi suggerimenti tendeva progressivamente ad allinearsi con le posizioni suggerite dall’AI, senza essere consapevole d’essere influenzato.
Nemmeno esplicite avvertenze sulla presenza di bias nell’AI, né debriefing successivi, sono risultati efficaci come barriera psicologica. Secondo il senior author Mor Naaman, «le opinioni sugli argomenti trattati cambiavano comunque».
L’adozione crescente di tecnologie autocomplete — ormai in grado di completare intere email — solleva nuove sfide riguardo all’impatto silenzioso ma profondo delle AI nei processi cognitivi e decisionali quotidiani.
