Immagini false generate da AI compaiono nei risultati di ricerca di Google
Immagini generate da intelligenza artificiale sono iniziate a comparire nei risultati di ricerca di Google per un famoso cantante.
.webp)
Immagini generate da intelligenza artificiale (AI) sono iniziate a comparire nei risultati di ricerca di Google per un famoso cantante. Se si cerca "Israel Kamakawiwo\u02bbole" su Google, la prima immagine che appare non è una delle copertine famose dell'album del cantante, né una foto di lui che suona il suo iconico ukulele. Si tratta invece di una foto falsa generata dall'AI. Il problema è che queste immagini compaiono come primo risultato per una figura famosa senza alcun marchio d'acqua o indicazione che sia generata dall'AI. Google dovrebbe avere delle regole su questo.
Al momento, se si digita 'Israel Kamakawiwo'ole' nella ricerca di Google, non si vedrà una delle famose copertine degli album del cantante, né un'immagine di lui che esegue una delle sue canzoni con il suo iconico ukulele. Quello che si vede per primo è un'immagine di un uomo seduto su una spiaggia con un sorriso sul volto, ma non una foto dell'uomo stesso scattata con una fotocamera. Questa è una foto falsa generata da AI. Infatti, quando si fa clic sull'immagine, si viene indirizzati alla subreddit Midjourney, dove le immagini sono state inizialmente pubblicate.
Ho visto questo postato per la prima volta da Ethan Mollick su X (precedentemente noto come Twitter), un professore presso Wharton che sta studiando l'intelligenza artificiale.
Osservando l'immagine da vicino, non è difficile notare tutti i segni lasciati da AI. L'effetto falso di profondità di campo è applicato in modo non uniforme, la texture sulla sua maglietta è confusa e, naturalmente, gli manca un dito sulla mano sinistra. Ma nulla di tutto ciò è sorprendente. Per quanto le immagini generate da AI siano diventate buone nell'ultimo anno, sono ancora piuttosto facili da individuare quando si guarda da vicino.
Il vero problema, però, è che queste immagini compaiono come primo risultato per una figura famosa e conosciuta senza alcun watermark o indicazione che sia generata da AI. Google non ha mai garantito l'autenticità dei risultati della sua ricerca di immagini, ma c'è qualcosa che sembra molto preoccupante in questo.
Ora, ci sono alcune possibili spiegazioni per cui ciò è accaduto in questo caso particolare. Il cantante hawaiano, comunemente noto come Iz, è morto nel 1997, e Google vuole sempre fornire agli utenti le informazioni più recenti. Ma dato che non ci sono molti nuovi articoli o discussioni su Iz da allora, non è difficile capire perché l'algoritmo abbia raccolto questo. E sebbene non sembri particolarmente rilevante per Iz, non è difficile immaginare alcuni esempi che sarebbero molto più problematici.
Anche se non continuiamo a vedere ciò accadere su larga scala nei risultati di ricerca, è un esempio lampante del motivo per cui Google ha bisogno di regole in merito. Almeno, sembra che le immagini generate da AI dovrebbero essere chiaramente contrassegnate in qualche modo prima che la situazione degeneri. Se non altro, almeno fornirci un modo per filtrare automaticamente le immagini generate da AI. Tuttavia, dato l'interesse di Google per i contenuti generati da AI, ci sono ragioni per pensare che possa voler trovare modi per far passare contenuti creati da AI nei suoi risultati, senza contrassegnarli chiaramente.
.webp)
.webp)
.webp)
.webp)
.webp)
.webp)