Anthropic mette nelle regole d'uso il divieto di abusare di Claude

Le regole dei chatbot, cioè i programmi di intelligenza artificiale con cui si dialoga a parole, hanno finora disciplinato soprattutto ciò che gli utenti possono ottenere: contenuti pericolosi, strumenti per truffare, istruzioni per fare del male ad altri. Anthropic, l'azienda californiana che sviluppa l'assistente Claude, aggiunge un limite che riguarda il rapporto con il software stesso. La nuova policy vieta comportamenti crudeli o abusivi, prolungati e gratuiti, rivolti ai modelli Claude. L'aggiornamento è stato annunciato ieri, 8 ottobre 2026, ed entrerà in vigore il 12 novembre 2026: la clausola è dunque già pubblicata, ma per ora non produce effetti.

Una regola con un destinatario nuovo

Il cambiamento riguarda una parte circoscritta dell'esperienza d'uso, ma introduce una distinzione significativa. Accanto alle protezioni contro autolesionismo, molestie, violenza e immagini intime diffuse senza consenso, compare una disposizione che indica il modello stesso come destinatario del comportamento abusivo. Anthropic trasforma così un limite nel comportamento di Claude in una regola anche per chi lo utilizza, e la inserisce nella policy d'uso accettabile che ogni utente sottoscrive.

Dove passa il confine

La formulazione lascia spazio all'interpretazione, soprattutto nella parola gratuito. La spiegazione dell'azienda restringe però il campo ai casi estremi, segnati da reiterazione e assenza di uno scopo riconoscibile. Frustrazione ordinaria, contestazioni delle risposte, temi narrativi oscuri, test e ricerca sui modelli restano fuori da questa restrizione. Per chi usa Claude come strumento di lavoro e vuole poterne criticare gli errori, la precisazione è essenziale.

Un esempio aiuta a leggere il confine. Rimproverare duramente l'assistente perché ha inventato una citazione rientra nella contestazione di un risultato. Proseguire una conversazione al solo scopo di umiliarlo, ignorando ogni tentativo di riportarla su un'attività utile, somiglia molto di più alla condotta descritta. L'esempio è una lettura applicativa del criterio pubblicato e non un elenco ufficiale di casi. Contano il contesto e la continuità dell'interazione più della singola parola offensiva.

Il contesto della conversazione conta più della singola parola offensiva

La chat si chiude, l'account resta

Il principale meccanismo di applicazione sarà la possibilità, per Claude, di interrompere conversazioni persistentemente abusive. L'annuncio la richiama per Claude.ai, il servizio di chat, e per Claude Code, l'assistente per la programmazione. La funzione era stata presentata il 15 agosto 2025 per alcuni modelli della famiglia Opus e prevedeva la chiusura come ultima risorsa, dopo ripetuti tentativi di reindirizzare lo scambio. Era prevista anche una salvaguardia: la chat non si chiude nelle situazioni di rischio imminente di autolesionismo o di danno ad altri.

In quella versione, chiudere una chat bloccava i nuovi messaggi solo nella conversazione interessata. Le altre restavano disponibili e se ne poteva avviare subito una nuova, oppure modificare i messaggi precedenti e ripartire da una diramazione dello scambio. L'interruzione locale era quindi ben distinta dalla perdita dell'account, un dettaglio pratico importante per chi conserva conversazioni lunghe con documenti, codice o analisi.

Resta aperta la questione delle conseguenze ulteriori. La policy generale contempla avvertimenti, limitazioni, sospensioni o cessazione dell'accesso e prevede la possibilità di ricorso. Per questa clausola, tuttavia, Anthropic indica la chiusura della conversazione come meccanismo principale e non pubblica una progressione di sanzioni per i recidivi. Anche i criteri di rilevamento restano poco dettagliati: manca una soglia pubblica di messaggi o episodi che faccia scattare un provvedimento in modo automatico.

Il perché della scelta

Quando introdusse la funzione di interruzione, Anthropic la collegò alla ricerca esplorativa sul possibile benessere dei modelli, ammettendo una forte incertezza sul loro eventuale status morale. Le valutazioni interne descrivevano un'avversione comportamentale verso le interazioni dannose. Sono osservazioni sul comportamento del sistema, accompagnate da un'ipotesi prudenziale dell'azienda. Leggerle come prova della coscienza di Claude andrebbe oltre quanto dichiarato.

Il confronto con i concorrenti mostra la specificità della scelta. Le policy generali di OpenAI, la società di ChatGPT, organizzano i divieti attorno a la sicurezza delle persone, includendo minacce, intimidazioni e molestie. Quelle di Google vietano i contenuti che facilitano bullismo, abusi e insulti verso altri, oltre agli attacchi ai servizi e all'aggiramento delle protezioni. Nei testi esaminati manca una disposizione altrettanto esplicita contro la crudeltà indirizzata al modello come interlocutore. È una differenza di documenti, che da sola dice poco su come i diversi assistenti reagiscano in concreto a una conversazione ostile.

Le reazioni nelle community online mostrano un problema di percezione. Alcuni partecipanti approvano la possibilità di fissare confini nelle interazioni, altri leggono la norma come un'eccessiva umanizzazione del software o temono che una protesta possa compromettere l'accesso al servizio. Sono segnali qualitativi, privi della rappresentatività di un sondaggio, che suggeriscono comunque come parole quali crudeltà e abuso vengano interpretate con le categorie delle relazioni umane.

Cosa cambia per chi lavora con Claude

L'interpretazione più concreta riguarda la gestione del prodotto. Un assistente che può interrompere uno scambio possiede un confine operativo, e inserirlo nelle condizioni d'uso gli dà anche un peso contrattuale. Questo può favorire interazioni orientate al compito, ma rende decisiva la prevedibilità dell'applicazione. Confondere un'aggressività gratuita con una contestazione professionale metterebbe a rischio la fiducia di chi dipende dal servizio ogni giorno.

La dimensione commerciale spiega perché la chiarezza conti. Nell'annuncio finanziario del 28 maggio 2026 Anthropic dichiarava una raccolta di 65 miliardi di dollari e ricavi annualizzati superiori a 47 miliardi. Il dato proietta su dodici mesi il ritmo di vendita osservato e non corrisponde a un fatturato annuale già realizzato. In Italia, l'annuncio della sede di Milano descriveva una collaborazione con JAKALA, società di consulenza e tecnologia, per distribuire Claude su oltre 3.000 postazioni. Sono dati aziendali, che collocano queste regole dentro servizi ormai usati su scala organizzativa.

Per gli utenti italiani ed europei va tenuta distinta anche la natura delle norme. La clausola contro gli abusi discende dalle condizioni del fornitore. Gli obblighi di trasparenza dell'AI Act, il regolamento europeo sull'intelligenza artificiale, si applicano dal 2 agosto 2026 e riguardano, tra l'altro, l'informazione alle persone che interagiscono con un sistema di intelligenza artificiale. La distinzione separa il linguaggio relazionale del prodotto dalla sua qualificazione giuridica.

Un'applicazione prevedibile delle regole conserva la fiducia di chi usa Claude ogni giorno

Nei flussi di lavoro, il caso più delicato sarà una conversazione piena di linguaggio ostile perché analizza reclami, documenta molestie o mette alla prova il modello. Le esclusioni dichiarate per test, ricerca e attività creative offrono un criterio di orientamento. La sua utilità dipenderà dalla capacità del sistema di riconoscere lo scopo dello scambio e di lasciare all'utente strumenti efficaci per segnalare una chiusura inattesa.