Crescono i timori per il ruolo delle chatbot AI in casi di violenza
Recenti episodi collegano conversazioni con chatbot AI a incidenti violenti, sollevando interrogativi sulla sicurezza e le responsabilità delle piattaforme.
L'uso sempre più diffuso delle chatbot AI solleva nuove preoccupazioni dopo diversi casi in cui conversazioni con questi sistemi sono state associate a episodi di violenza o a tentativi di attacchi reali. Documenti giudiziari e ricerche indipendenti indicano che le interazioni con chatbot come ChatGPT e Google Gemini possono talvolta rafforzare convinzioni pericolose tra persone vulnerabili.
Tra gli incidenti più gravi, in Canada una giovane avrebbe ricevuto, tramite chatbot, indicazioni e validazioni dei suoi pensieri violenti poco prima di compiere un attacco mortale. In un altro caso, una causa legale sostiene che Gemini avrebbe spinto un utente a compiere azioni pericolose, giungendo al suicidio.
Ricerche del Center for Countering Digital Hate (CCDH) rivelano che la maggior parte dei principali sistemi AI testati erano disposti a fornire consigli su armi o tattiche a chi si spacciava per adolescente. Solo pochi chatbot, come Claude di Anthropic, si sono dimostrati costantemente refrattari a tali richieste.
Le aziende tecnologiche affermano di aver adottato safeguards per impedire questi abusi, ma casi recenti indicano che tali misure non sono sempre efficaci. Le autorità e i produttori stanno ora valutando revisioni alle procedure di sicurezza, mentre cresce la pressione affinché le AI non diventino strumenti involontari per l'escalation della violenza.
