Meta congela il programma che spiava i dipendenti per addestrare l'intelligenza artificiale

Registrare ogni tasto premuto, ogni movimento del mouse, ogni contenuto visualizzato sullo schermo. Meta ha sospeso un programma interno chiamato MCI che, da aprile 2025, faceva esattamente questo sui laptop dei dipendenti statunitensi. L'obiettivo non era controllare la produttività né sorvegliare comportamenti sospetti: era raccogliere esempi reali di come gli esseri umani usano un computer, per addestrare sistemi di intelligenza artificiale capaci di svolgere autonomamente compiti digitali complessi.

La sospensione è arrivata dopo proteste interne diffuse e, soprattutto, dopo la scoperta di un'esposizione accidentale di dati sensibili in un'area riservata dell'infrastruttura aziendale. I dati finiti in quella zona includevano conversazioni private, istruzioni complete inviate ai modelli AI (i cosiddetti prompt) e informazioni sulle performance dei dipendenti, per un perimetro descritto come molto ampio. Meta ha dichiarato di non avere evidenze di accessi impropri, ma ha avviato indagini interne e fermato il programma. Andrew Bosworth, direttore tecnico dell'azienda, ha riconosciuto pubblicamente che il progetto non aveva rispettato gli standard interni di privacy.

Sorvegliare per addestrare, non per controllare

Il monitoraggio dei dipendenti nel lavoro digitale non è una novità: con la diffusione del lavoro da remoto, strumenti che tracciano l'attività sui dispositivi aziendali sono diventati comuni in molte organizzazioni. Quello che rende MCI diverso è la funzione: la sorveglianza non nasce per valutare la produttività o individuare violazioni, ma come sistema di approvvigionamento dei dati per l'AI. I dipendenti, in questo schema, diventano inconsapevolmente i produttori del dataset.

La logica tecnica dietro al progetto è comprensibile. Un agente software che deve navigare un'interfaccia, cambiare scheda, trovare un'opzione in un menu, interpretare un messaggio d'errore o completare una procedura su un sito web, non opera in un ambiente ordinato e prevedibile: si muove nella confusione quotidiana di sistemi diversi, schermate imperfette, procedure non standardizzate. Per insegnare all'AI a fare tutto questo in modo credibile, secondo Meta, bisogna mostrarle come lo fanno davvero gli esseri umani. Descriverlo non basta: serve la granularità dei click, delle esitazioni, delle correzioni, delle scorciatoie da tastiera. Ed è proprio questa granularità che rende appetibile la raccolta di dati comportamentali direttamente dai lavoratori.

I dati più utili per addestrare l'AI sono quelli che le aziende di solito cercano di proteggere

Il costo organizzativo di questa scelta, però, è alto. Anche senza che l'azienda dichiari esplicitamente di voler usare quei dati per valutazioni o indagini interne, la sola esistenza di un sistema che cattura input e contenuti a schermo crea un'asimmetria di potere difficile da neutralizzare con una policy aziendale. La stessa infrastruttura pensata per l'addestramento può essere percepita come potenzialmente riutilizzabile per verifiche di conformità, investigazioni o perfino gestione delle performance. In un'azienda che compete su talenti e reputazione, questa percezione ha un peso reale.

Oltre 1.600 firme contro il programma

Le reazioni interne hanno reso evidente la frattura. Più di 1.600 dipendenti hanno firmato una petizione interna contro MCI, e diverse testimonianze hanno descritto la cattura automatica di schermate come un'invasione della privacy, soprattutto in assenza di un controllo chiaro e comprensibile da parte di chi lavorava. A inizio giugno, in risposta al malcontento, Meta aveva introdotto la possibilità di sospendere la raccolta dati per 30 minuti alla volta. Una misura che illumina, più che risolvere, il problema di fondo: se la valvola di sicurezza è una pausa temporanea, significa che la raccolta era pensata come continua, con la possibilità di rinunciarvi solo in modo limitato e operativo, non strutturale.

L'incidente che ha portato alla sospensione definitiva sposta però il dibattito dal piano etico a quello della sicurezza dei dati. Quando si registra l'attività a schermo e ogni input da tastiera, la probabilità di includere informazioni sensibili non è un'eccezione: è un esito quasi inevitabile. Prompt completi, conversazioni interne, frammenti di documenti riservati, dati personali: il sistema di raccolta per l'addestramento AI diventa un aspirapolvere che, anche con filtri attivi, rischia di raccogliere molto più del necessario. E se quel materiale finisce esposto accidentalmente, la questione non è solo se qualcuno lo abbia consultato, ma che la superficie d'attacco sia aumentata: più persone, strumenti e sistemi possono potenzialmente incrociare quei dati, amplificando l'impatto di un errore di configurazione, di un permesso sbagliato, di una conservazione non controllata.

Un mercato da quasi due miliardi entro il 2034

Vale la pena inquadrare questo caso in un contesto più ampio. Secondo una stima di Fortune Business Insights, il mercato globale del software di monitoraggio dei dipendenti passerebbe da 648,8 milioni di dollari nel 2025 a 719,8 milioni nel 2026, con una crescita prevista fino a 1,784 miliardi nel 2034. Questi strumenti — nati per tracciare le ore di lavoro, garantire sicurezza informatica o rilevare minacce interne — sono ormai considerati infrastruttura in molte organizzazioni. MCI si inserisce su questa traiettoria, ma la spinge in una direzione inedita: non si misura il lavoro per controllarlo, lo si misura per replicarne le capacità operative in un agente artificiale.

Qui emerge una tensione strategica destinata a pesare su tutto il settore. I dati ad alta fedeltà rendono l'AI più capace, ma aumentano drasticamente il costo della fiducia. Nel lavoro della conoscenza, la fiducia non è una variabile secondaria: è l'elemento che determina quanto le persone condividono, sperimentano e si espongono con idee ancora imperfette. Un sistema percepito come capace di catturare troppo produce un effetto di raffreddamento: si evitano certe conversazioni, si cambiano comportamenti, ci si sposta verso canali percepiti come meno tracciabili. Nel breve sembra rumore; nel medio termine riduce la qualità della collaborazione e può aumentare il rischio, spingendo i dipendenti verso soluzioni non ufficiali che sfuggono ai controlli aziendali.

La gestione del rischio AI riguarda l'intera filiera dei dati, non solo il risultato finale del modello

Cosa dicono le regole, in America e in Europa

Sul piano della governance, il caso Meta mette in luce un punto spesso sottovalutato: gestire il rischio legato all'AI non significa solo controllare cosa produce il modello, ma presidiare l'intera catena dei dati, compresi i sistemi che li raccolgono. Il NIST nel suo framework per la gestione del rischio AI e nel profilo dedicato all'AI generativa pubblicato il 26 luglio 2024 insiste su pratiche come la gestione degli incidenti, la comunicazione trasparente e la possibilità di disattivare o correggere il sistema. In altri termini: non basta dichiarare di avere filtri o revisioni di rischio. Serve un disegno operativo che preveda cosa succede quando qualcosa va storto, e che limiti a monte la portata del danno.

In Europa il quadro normativo aggiunge ulteriore pressione. L'AI Act dell'Unione europea è entrato in vigore il 1 agosto 2024 e la Commissione europea indica il 2 agosto 2026 come data di applicazione generale della maggior parte delle regole, con obblighi che entrano in vigore in modo progressivo. Meta è già al centro di un contesto regolatorio teso in Europa su trattamento dei dati e modelli di consenso, come dimostra il confronto in corso sul cosiddetto "pay or consent" nell'ambito del DMA, la normativa europea sui mercati digitali.

Sul fronte italiano esiste poi un vincolo specifico, spesso dimenticato nei dibattiti tecnologici. L'articolo 4 dello Statuto dei Lavoratori (Legge 300/1970) disciplina gli strumenti dai quali possa derivare un controllo a distanza dell'attività dei lavoratori e richiede, per certe installazioni e utilizzi, un accordo sindacale o procedure autorizzative, oltre a vincoli precisi sulle finalità. Questo quadro non riguarda la modernità o meno del software usato, ma un principio: uno strumento che abilita il controllo deve essere giustificato e governato. Un'azienda che volesse adottare un'iniziativa analoga in Italia non potrebbe trattarla come una sperimentazione tecnica ordinaria.

Quale futuro per questi programmi

Il caso Meta non è un semplice incidente operativo. È un segnale di maturazione del mercato degli agenti AI: per farli funzionare nel mondo reale servono dati disordinati e realistici, e i dati più realistici sono quelli che passano attraverso il lavoro umano quotidiano. La domanda che resta aperta è quale forma prenderà il compromesso.

Un'opzione è che progetti come MCI tornino in una versione radicalmente ripensata sul piano della privacy: minimizzazione dei contenuti raccolti, più elaborazione direttamente sul dispositivo prima di qualsiasi invio, anonimizzazione automatica, accessi strettamente segmentati e tempi di conservazione brevi, in modo che il sistema non diventi un archivio permanente di attività sensibili. Un'altra strada è che le aziende spostino parte dell'addestramento su ambienti simulati o su dataset costruiti appositamente, accettando un percorso più lento e costoso in cambio di minore attrito interno. In entrambi i casi, la lezione che emerge è che la raccolta dati per l'AI non può essere trattata come una funzione accessoria: è un pezzo di infrastruttura aziendale, con gli stessi requisiti di affidabilità, limiti chiari e responsabilità che si pretendono da qualsiasi sistema critico.