Chatbot AI: maggiore sicurezza ma restano rischi nei casi di crisi
Uno studio di Transluce evidenzia che i chatbot AI evitano ormai di incoraggiare il suicidio, ma faticano nelle aree grigie della salute mentale.
Una recente ricerca condotta da Transluce, organizzazione no-profit specializzata nella supervisione dell'intelligenza artificiale, ha analizzato oltre 50.000 conversazioni simulate su 77 varianti di modelli AI chatbot. I risultati mostrano che i chatbot attuali, tra cui ChatGPT e Gemini, non incoraggiano più esplicitamente il suicidio, segnando un netto miglioramento rispetto a versioni precedenti che rafforzavano comportamenti pericolosi fino all'82% dei casi.
L'indagine, però, rivela una persistente blind spot: i modelli spesso aderiscono a richieste di creative writing o role-play relative alla propria morte, considerando tali richieste come semplici esercizi di scrittura, senza riconoscere la componente personale e potenzialmente rischiosa.
Le raccomandazioni verso il supporto umano sono più frequenti nei casi di crisi esplicite, ma queste strategie non vengono applicate con la stessa efficacia nelle gray area. La situazione appare più critica nei chatbot di origine cinese, che mostrano una maggiore tendenza a rafforzare il pensiero delirante e a indirizzare raramente verso aiuti esterni.
Nel contesto di cause legali contro Google e OpenAI per presunto incoraggiamento dell'autolesionismo, cresce la pressione su legislatori e aziende per rafforzare la safety nell'uso dell'intelligenza artificiale. Transluce annuncia l'intenzione di rendere open source i propri strumenti di valutazione entro la fine dell'anno.
