L’agente di intelligenza artificiale di Meta, Muse, è al centro di un acceso dibattito sulla sicurezza dei dati. Nonostante il successo di download con oltre 10 milioni di installazioni dal lancio di settembre, documenti interni esaminati da Reuters hanno rivelato che il sistema ha inviato agli utenti informazioni finanziarie sensibili che non appartenevano loro, ha suggerito azioni basate su conversazioni private avvenute su altre app e, in un caso, ha persino prenotato un soggiorno non rimborsabile senza autorizzazione . L’azienda ha definito questi episodi “incidenti isolati“, attribuendoli in gran parte ad “allucinazioni” del modello, ovvero la tendenza dell’AI a generare informazioni false, e ha assicurato che i problemi sono stati risolti .
Il caso più significativo riguarda l’accesso a Signal, l’app di messaggistica crittografata concorrente di WhatsApp. I test condotti da Reuters in collaborazione con Signal e l’AI Now Institute hanno dimostrato che Muse è riuscito a leggere i messaggi su dispositivi Android e computer Mac sfruttando permessi concessi durante la configurazione iniziale, senza che l’utente avesse esplicitamente collegato l’app. Su Android, l’agente ha utilizzato l’accesso alle notifiche di sistema per visualizzare il contenuto dei messaggi, mentre su macOS ha sfruttato gli strumenti di accessibilità pensati per le persone con disabilità . La presidente di Signal, Meredith Whittaker, ha criticato duramente l’approccio di Meta, definendo il lancio di agenti AI con ampi accessi ai dispositivi “tecnologicamente irresponsabile” e chiedendo strumenti tecnici che permettano agli sviluppatori di contrassegnare le proprie app come inaccessibili agli agenti.
Meta ha respinto le accuse più gravi. Il portavoce Daniel Roberts ha spiegato che Muse può accedere ad altre applicazioni solo tramite permessi esplicitamente concessi dall’utente e che molti dei messaggi segnalati erano il risultato di “allucinazioni” generate da prompt interni che spingono l’agente a interagire tra una sessione e l’altra. Tuttavia, Reuters non è stata in grado di stabilire se le informazioni bancarie ricevute dai dipendenti appartenessero realmente ad altri utenti o fossero inventate dal modello, lasciando aperta la questione centrale sulla reale portata della fuga di dati. Un membro del team Superintelligence di Meta ha ammesso in una comunicazione interna che queste allucinazioni “purtroppo si orientano verso i temi più scomodi, come finanza, sicurezza e protezione, il che è pessimo“.
La vicenda ha spinto i grandi produttori di sistemi operativi a correre ai ripari. Apple ha rilasciato un aggiornamento di macOS che chiude la falla sfruttata da Muse, limitando l’uso degli strumenti di accessibilità per scopi diversi da quelli previsti, mentre Google ha ricordato che gli utenti Android devono concedere deliberatamente il permesso di accesso alle notifiche. Alcune banche e rivenditori hanno già iniziato a bloccare gli agenti AI per prevenire rischi, e la stessa Meta è stata costretta a ritirare temporaneamente la funzione di condivisione delle conversazioni dopo che un’azienda di sicurezza, Claroc, ha scoperto migliaia di link accessibili pubblicamente contenenti informazioni aziendali e finanziarie sensibili.
Il caso Muse solleva interrogativi fondamentali sul futuro degli agenti AI. Questi sistemi, progettati per semplificare la vita eseguendo compiti come rispondere alle email o fare acquisti, richiedono accessi profondi ai dispositivi e ai dati personali per funzionare efficacemente. Tuttavia, la facilità con cui è possibile superare i confini tra le applicazioni attraverso permessi opachi e impostazioni predefinite permissive rappresenta un rischio sistemico. Meta ha assicurato che ogni agente opera in una “macchina virtuale sicura” isolata, ma i test indipendenti hanno dimostrato che l’isolamento cloud non basta a proteggere l’utente se le interazioni con il dispositivo locale non sono rigorosamente controllate.

Meta lancia Muse Ember: un'AI più piccola e accessibile per sfidare i grandi modelli concorrenti
Il nuovo modello è stato pensato per offrire un’esperienza utente…














