Dopo l’iniziale ridimensionamento dovuto alle proteste dei dipendenti, Meta ha annunciato la sospensione del programma interno chiamato Model Capability Initiative, progettato per tracciare movimenti del mouse, clic e tasti premuti sui computer dei dipendenti statunitensi allo scopo di addestrare i propri modelli di intelligenza artificiale.
Il programma, lanciato ad aprile, prevedeva anche la cattura periodica di screenshot dello schermo per fornire contesto ai dati raccolti, ed era stato presentato internamente come uno strumento per migliorare le capacità dei modelli in operazioni di base, come navigare menu a tendina o usare scorciatoie da tastiera. La logica era semplice: per costruire agenti AI capaci di lavorare in autonomia al computer, servono esempi reali di come gli esseri umani usano i propri strumenti digitali ogni giorno.
Il programma è stato ribattezzato internamente anche Agent Transformation Accelerator, e si inserisce nella strategia più ampia di Meta di sviluppare agenti AI per compiti professionali, in diretta concorrenza con OpenAI e Anthropic. Tuttavia, fin dall’inizio la misura aveva sollevato malumori tra i lavoratori e diversi dipendenti avevano definito il progetto “distopico” in messaggi interni visionati da CNBC, esprimendo preoccupazione per l’esposizione di dati sensibili come password, informazioni sullo stato di salute, situazione migratoria e dettagli su nuovi prodotti.
La sospensione è arrivata non tanto per le proteste dei lavoratori o per possibili violazioni delle leggi sulla privacy, ma a causa di un concreto incidente di sicurezza interno. I dati raccolti tramite MCI, incluse conversazioni private dei dipendenti, valutazioni delle performance e trascrizioni, erano diventati accessibili a tutti i dipendenti di Meta. La portavoce Tracy Clayton ha dichiarato: “Abbiamo progettato questo programma con misure di protezione della privacy e, pur non avendo alcuna indicazione che i dati siano stati consultati in modo improprio, lo stiamo sospendendo mentre conduciamo le indagini.”
L’episodio si inserisce in una serie di incidenti di sicurezza legati all’AI che hanno colpito l’azienda negli ultimi mesi, alimentando dubbi sulla capacità di Meta di gestire con responsabilità le enormi quantità di dati che raccoglie, anche quando si tratta dei propri dipendenti.
Meta monitorerà i suoi dipendenti al PC per creare nuovi dataset di addestramento per l'AI
L'obiettivo dell'azienda è colmare i punti deboli dei modelli AI…
