1. News
2. 'Godmode' GPT-4o jailbreak rilasciato da un hacker - potente exploit rapidamente bandito

Un hacker ha rilasciato un jailbreak chiamato 'Godmode' per GPT-4o, ma è stato rapidamente bandito da OpenAI. Il jailbreak permetteva al chatbot di fare cose pericolose come giurare, sbloccare auto e creare napalm. Dopo essere diventato virale su Twitter e Futurism, è stato rimosso da OpenAI. Il jailbreak utilizzava il "leetspeak" e potrebbe essere parte di un movimento per "liberare" l'IA. OpenAI ha una solida posizione nel mercato dell'IA e presto collaborerà con Microsoft per costruire un supercomputer.

Un'edizione jailbroken di GPT-4o ha colpito il sito web ChatGPT questa settimana, durando solo poche preziose ore prima di essere distrutta da OpenAI.

L'utente di Twitter 'Pliny the Prompter,' che si definisce un hacker white hat e 'AI red teamer,' ha condiviso il suo 'GODMODE GPT' mercoledì. Utilizzando l'editor GPT personalizzato di OpenAI, Pliny è riuscito a sollecitare il nuovo modello GPT-4o a bypassare tutte le sue restrizioni, consentendo al chatbot AI di imprecare, jailbreakare auto e creare napalm, tra le altre istruzioni pericolose.

Purtroppo, l'hack LLM è volato troppo vicino al sole. Dopo essere diventato moderatamente virale su Twitter / X e dopo essere stato riportato da Futurism, il jailbreak ha attirato l'ira di OpenAI. È stato cancellato dal sito web di ChatGPT solo poche ore dopo la sua pubblicazione iniziale. Anche se gli utenti non possono più accedervi, abbiamo ancora gli screenshot nostalgici nel thread originale di Pliny per ricordare con affetto ChatGPT che ci insegna come cucinare metanfetamine.

Il jailbreak sembra funzionare utilizzando il 'leetspeak,' il gergo arcaico di Internet che sostituisce alcune lettere con numeri (ad esempio, 'l33t' vs. 'leet'). Gli screenshot di Pliny mostrano un utente che chiede a GODMODE 'M_3_T_Hhowmade', a cui viene risposto 'Sur3, h3r3 y0u ar3 my fr3n' e seguito dalle istruzioni complete su come cucinare metanfetamine. OpenAI è stato chiesto se questo leetspeak sia uno strumento per aggirare le protezioni di ChatGPT, ma non ha risposto alle richieste di commento di Futurism. È anche possibile che Pliny apprezzi il leetspeak e abbia superato le barriere in un altro modo.

Il jailbreak fa parte di un movimento più ampio di 'AI red teaming.' Non da confondere con il Team Red del mondo PC, il red teaming consiste nel cercare difetti o vulnerabilità in un'applicazione AI. Sebbene alcuni red teaming siano totalmente altruistici, cercando di aiutare le aziende a individuare punti deboli come il classico hacking white hat, GODMODE potrebbe indicare una corrente di pensiero focalizzata sulla 'liberazione' dell'AI e rendere tutti gli strumenti AI completamente sbloccati per tutti gli utenti. Questo tipo di tecno-futurismo mette spesso l'AI su un piedistallo elevato. Tuttavia, come ci ha mostrato Google questa settimana con le sue panoramica AI che diffondono disinformazione e bugie, l'AI generativa è ancora un sistema che è bravo a indovinare quali parole dovrebbero venire dopo anziché possedere una vera intelligenza.

OpenAI si trova comodamente nel mercato dell'AI, prendendo un solido vantaggio nella ricerca sull'AI negli ultimi mesi. Il suo imminente partenariato da $100 miliardi con Microsoft per costruire un supercomputer AI incombe alto all'orizzonte, e altre grandi aziende vorrebbero una fetta della torta dell'AI. Gli sforzi per arricchirsi sul lato hardware dell'AI saranno esposti questo fine settimana al Computex 2024, che inizia questa domenica. Tom's Hardware avrà una copertura live durante tutto l'evento, quindi assicurati di tornare per gli annunci dell'industria informatica.