ChatGPT e la strana ossessione per i goblin: OpenAI corregge il chatbot
Un'anomalia nei processi di training ha portato ChatGPT a menzionare spesso goblin e gremlin: OpenAI ne spiega le cause e la soluzione.
Negli ultimi mesi, numerosi utenti hanno notato una ricorrente presenza di goblin e altre creature mitologiche nelle risposte di ChatGPT. OpenAI, l’azienda dietro il celebre chatbot, ha riconosciuto il fenomeno e avviato un’indagine scoprendo che l’anomalia derivava da errori non intenzionali nel reinforcement learning, la fase in cui gli umani valutano e premiano alcune risposte del modello durante il training.
La situazione si è amplificata con le versioni dalla GPT-5.1 in poi, tanto che l’uso del termine "goblin" nelle risposte è aumentato del 175%. La causa principale è stata individuata nella modalità nerdy, una delle personalità programmabili del chatbot, che incentivava un linguaggio giocoso e «nerd», favorendo proprio metafore su goblin e gremlin.
OpenAI spiega che questi tic stilistici possono diffondersi anche in altre modalità del chatbot, per via del riutilizzo di dati premiati nel fine-tuning successivo. Nel marzo 2024, con il rilascio di GPT-5.4, l’azienda ha rimosso la personalità nerdy e filtrato i segnali di ricompensa a favore dei goblin, riducendo drasticamente il fenomeno.
L’episodio evidenzia il rischio che anche piccoli errori nel training di un’AI possano propagarsi e influenzare l’esperienza utente, sottolineando la centralità del controllo umano nella prevenzione di bias e comportamenti indesiderati nei modelli linguistici.
