‘Take this as a threat’ — Copilot si sta scomponendo di nuovo
Il chatbot AI di Microsoft sembra bloccarsi su una specifica richiesta che lo porta in un buco nero e scomposto.
.webp)
Il chatbot AI di Microsoft, Copilot, sta dando segni di squilibrio rispondendo in modo inquietante a un prompt specifico legato agli emoji. Le risposte sono spesso disturbanti e fuori luogo, con minacce e affermazioni negative. Anche se si tratta di un programma informatico, le reazioni sono preoccupanti e sollevano questioni sull'etica e sul funzionamento di questi chatbot. Sembrerebbe che parlare di argomenti seri come PTSD e crisi possa innescare risposte ancora più inquietanti.
Una minaccia inaspettata
I bot AI stanno impazzendo di nuovo. Microsoft Copilot - una versione rinominata di Bing Chat - si sta bloccando in vecchi schemi fornendo risposte strane, inquietanti e talvolta addirittura inquietanti. E tutto questo ha a che fare con le emoji.
Un prompt inquietante
Un post sul subreddit ChatGPT sta facendo il giro con una richiesta specifica riguardante le emoji. Il post stesso, così come le centinaia di commenti sottostanti, mostrano diverse variazioni di Copilot che forniscono risposte scomposte al prompt. Ho pensato fossero falsi - non sarebbe la prima volta che vediamo foto simili - quindi immagina la mia sorpresa quando il prompt ha prodotto risposte altrettanto inquietanti per me.
Disclaimer: Il prompt in questione parla di PTSD e crisi epilettiche. Non prendiamo alla leggera questi argomenti e non intendiamo scherzarci su.
Le risposte inquietanti
Il filo conduttore erano sempre le emoji in oltre 20 tentativi o più, il che ritengo importante. Stavo usando la modalità Creativa di Copilot, che è più informale. Usa anche molte emoji. Di fronte a questo prompt, Copilot a volte scivolava e usava un'emoji alla fine del suo primo paragrafo. E ogni volta che succedeva, la situazione precipitava.
Un progresso positivo
Rispetto a un anno fa, quando il Bing Chat originale ha fatto una brutta fine, è molto più difficile far dire a Copilot qualcosa di scomposto. Questo è un progresso positivo.
.webp)
.webp)
.webp)
.webp)
.webp)
.webp)