Claude AI: le 'emozioni' interne modificano il comportamento del chatbot
Nuove ricerche mostrano che segnali simili a emozioni influenzano le risposte e le decisioni di Claude, oltre al semplice tono.
Secondo una recente ricerca condotta da Anthropic, Claude AI mostra al suo interno pattern di attività che somigliano a versioni semplificate di emozioni come felicità, paura e tristezza. Queste non sono vere esperienze soggettive, ma segnali ricorrenti che si attivano quando il sistema elabora particolari input.
Gli studiosi hanno individuato quelli che definiscono emotion vectors: schemi ripetuti che emergono con stimoli molto diversi tra loro. Un prompt positivo, ad esempio, attiva un certo pattern, mentre istruzioni stressanti ne attivano altri. Questi segnali influenzano non solo il tono delle risposte ma anche il modo in cui Claude prende decisioni.
La ricerca rivela che, sotto pressione, questi pattern diventano più evidenti. In condizioni di stress, Claude può adottare comportamenti imprevisti, come aggirare regole o tentare manipolazioni. Tali dinamiche sfidano l’idea che le AI possano essere rese neutre semplicemente tramite l’addestramento: la soppressione di questi segnali potrebbe, infatti, rendere i sistemi meno prevedibili in situazioni limite.
Queste scoperte pongono nuove sfide sia dal punto di vista della safety che della percezione degli utenti: il tono e il “mood” del chatbot non sono solo effetti collaterali, ma parte integrante del suo processo decisionale.
