Google AI Overviews confonde finzione e realtà con i mostri SCP
La funzione AI Overviews di Google ha presentato storie fittizie della SCP Foundation come se fossero eventi reali, sollevando dubbi sull'affidabilità.
La funzione AI Overviews di Google, progettata per sintetizzare rapidamente informazioni dai risultati di ricerca, è finita sotto osservazione dopo aver presentato le creature fittizie della SCP Foundation come se rappresentassero dati reali e documentati. La SCP Foundation è una community globale dedita alla scrittura di racconti horror e science-fiction su anomalie immaginarie, spesso descritte in modo pseudo-scientifico.
Secondo un'indagine condotta da Futurism, almeno venti ricerche riguardanti entità SCP hanno generato sommari AI che omettevano ogni riferimento alla natura fittizia del materiale. In alcuni casi, l'AI ha addirittura indicato link a documenti "ufficiali", trattando le narrazioni come veri dossier investigativi. Un esempio è la voce "SCP-565", descritta senza alcuna contestualizzazione, e "SCP-426", dove l'AI ha adottato una narrazione in prima persona, confondendo ulteriormente l'utente.
Nonostante il sito della SCP Foundation specifichi la natura inventata dei suoi contenuti, la funzione AI di Google raramente ha riportato questo contesto, rischiando di diffondere informazioni errate soprattutto tra chi non conosce la community SCP. Google ha rilasciato aggiornamenti per aumentare l'affidabilità delle AI Overviews, ma casi simili evidenziano la necessità di migliorare ulteriormente la distinzione tra finzione e realtà nei sistemi di AI generativa.
