TripAdvisor: le sintesi delle recensioni generate dall’AI omettono gravi problemi
Un'indagine rivela come gli algoritmi di TripAdvisor tendano a minimizzare critiche e segnalazioni di rischio nelle recensioni degli hotel.
Le review summary generate dall'intelligenza artificiale su TripAdvisor stanno sollevando serie preoccupazioni: secondo un'indagine di Which?, riportata dal Guardian, questi riassunti rischiano di nascondere problemi significativi relativi alla sicurezza e all'igiene degli hotel.
In diversi casi, l'AI ha descritto strutture come impeccabili e accoglienti, nonostante all’interno delle recensioni originali emergessero testimonianze di cibo non sicuro, scarsa pulizia e persino molestie. Ad esempio, in un hotel di Capo Verde, il riassunto automatico era positivo, mentre i commenti degli utenti citavano “pollame crudo, mosche e topi nei locali”; in un altro caso, in Turchia, gravi episodi di molestie venivano liquidati dall’AI come semplici disservizi.
Secondo Duncan Brumby, professore di human-computer interaction alla UCL, “i modelli AI tendono a smorzare le critiche perché addestrati con dati prevalentemente neutri”. Di conseguenza le segnalazioni negative vengono spesso minimizzate o omesse nei riassunti.
TripAdvisor ha dichiarato di essere al lavoro per migliorare il sistema, sottolineando che i riassunti AI non intendono sostituire le recensioni integrali e che vengono soppressi in presenza di segnalazioni gravi. Tuttavia, la vicenda evidenzia i limiti attuali dell’intelligenza artificiale applicata alle recensioni, suggerendo maggiore cautela nell’affidarsi esclusivamente a tali sintesi per le proprie decisioni di viaggio.
