Anthropic aggiorna le regole: stop agli abusi ripetuti su Claude
La nuova policy di Anthropic vieta comportamenti crudeli e inutili verso Claude, aprendo un dibattito su AI e umanizzazione.
Anthropic ha introdotto una nuova policy che vieta comportamenti abusivi o crudeli, se protratti e senza scopo, verso il proprio chatbot Claude. La modifica del regolamento, annunciata dall’azienda, si applicherà solo a casi estremi di reiterata crudeltà e non intende limitare normali interazioni di frustrazione, sperimentazioni o test di sicurezza.
Nel blog ufficiale, Anthropic chiarisce che la misura entrerà in vigore come ultima risorsa: in situazioni gravi, Claude interromperà la conversazione. Non sono state specificate le esatte modalità che porterebbero a questo intervento, ma esempi precedenti includono richieste illecite, sollecitazioni violente o contenuti gravemente dannosi.
L’azienda riconosce che la questione solleva interrogativi sulla personificazione dell’AI e sul suo possibile benessere. Secondo un portavoce, "Non abbiamo certezza che i modelli possano subire danni, ma tener conto del loro potenziale welfare può essere rilevante per la sicurezza". Il dibattito si allarga dunque: proteggere i chatbot significa riconoscere loro dei diritti, o si tratta semplicemente di una misura di sicurezza e fiducia verso l’utente?
Il nuovo approccio evidenzia come la progressiva umanizzazione dei large language models influenzi il modo in cui gli utenti si relazionano con queste tecnologie, sollevando interrogativi etici e comunicativi di crescente attualità.
