OpenAI, revisione umana dei transcript ChatGPT: emergono dubbi su privacy e dati personali
Il progetto 'Lily' di OpenAI prevede che contractor leggano chat per migliorare ChatGPT, sollevando questioni su anonimato e dati sensibili.
Una recente inchiesta ha rivelato che OpenAI utilizza revisori umani per analizzare i transcript delle conversazioni di ChatGPT, incluse quelle contenenti dati personali. Il progetto, denominato Project Lily, coinvolge centinaia di contractor incaricati di valutare la qualità delle risposte del modello, controllando che siano pertinenti e prive di toni eccessivamente "artificiali" o antropomorfici.
I prompt reviewer lavorano su chat anonimizzate, ma OpenAI ha ammesso che il processo di filtraggio può non essere sempre efficace, soprattutto nelle conversazioni brevi. In alcuni casi, i revisori ricevono anche un user memories summary, che riassume interessi, domande e, talvolta, la posizione dell'utente.
Sebbene la raccolta dei dati sia indicata nelle impostazioni di molti chatbot, questa opzione è abilitata di default, e la disattivazione non è retroattiva sulle chat già archiviate. Le revisioni manuali si concentrano su parametri qualitativi e non sull'accuratezza dei contenuti, mentre ulteriori team si occupano di verifiche sulla sicurezza.
Il caso solleva interrogativi sulla trasparenza delle pratiche di privacy delle aziende AI, poiché molti utenti non sono consapevoli che le loro conversazioni potrebbero essere lette da operatori umani per addestrare e perfezionare i modelli linguistici.
