Un’inchiesta di Reuters, fondata su post interni a Meta, riferisce che alcuni dipendenti hanno segnalato un comportamento anomalo di Muse, l’agente AI dell’azienda: il sistema mescola conversazioni appartenenti ad account differenti e potrebbe mostrare dati privati a chi non dovrebbe riceverli. Le segnalazioni interne riguardano richieste di babysitting mai formulate, consigli di carriera non richiesti, ordini di prodotti mai effettuati e informazioni bancarie estranee alla persona che le visualizzava.
Approfondisci: Muse, l’agente AI di Meta, confonde conversazioni ed espone dati privati
Il caso più singolare è stato descritto da un dipendente ai colleghi mentre interrogava Muse su meteo e maree. Nel mezzo della risposta, l’agente ha aggiunto un messaggio estraneo con due aggiornamenti sui conti correnti: 2722,58 $ su Capital One e 5899,57 $ su Charles Schwab. Il testo disponibile non chiarisce a chi appartenessero quei fondi, limitandosi a stabilire che i saldi visualizzati non erano di chi li riceveva.
Un’altra dipendente utilizzava Muse sul proprio telefono. In un momento imprecisato, l’agente le ha ricordato di rispondere a un messaggio della sorella su Signal, applicazione di messaggistica con cifratura end-to-end. Nel post interno, citato da Reuters, la donna ha scritto che le sembra una violazione estrema della privacy. Ha aggiunto di non aver autorizzato Muse ad accedere ad altre app e di non ricordare che qualcuno avesse richiesto tale permesso.
La vicenda assume un peso particolare perché riguarda proprio un servizio scelto da chi desidera mantenere riservate le proprie comunicazioni. Il promemoria su Signal, infatti, è arrivato attraverso un agente che avrebbe dovuto limitarsi alla chat aperta con la dipendente, mentre conteneva un richiamo a un’altra conversazione privata.
Un portavoce di Meta ha spiegato che i test dei dipendenti sono il cuore del processo di sviluppo e servono a raccogliere indicazioni per perfezionare le protezioni di sicurezza e privacy. Ha inoltre precisato che il personale impiega versioni di Muse diverse da quelle pubbliche: le funzioni e i comportamenti esaminati internamente possono quindi non trovare riscontro nella versione distribuita al pubblico.
Questa spiegazione non elimina però ogni dubbio. Le informazioni comparse nelle chat sbagliate erano autentiche? Di chi erano? Le risposte fornite finora non lo stabiliscono, e l’origine dei dati resta ignota. Non è quindi possibile confermare che il problema riguardi direttamente l’applicazione disponibile agli utenti, né individuare con certezza le condizioni che lo hanno provocato.
Muse è uscita a settembre e ha superato 10 milioni di download, diventando una delle app cresciute più rapidamente nella storia recente. Il numero di persone che hanno adottato il servizio in tempi brevi è molto elevato: un eventuale difetto analogo presente nella versione pubblica potrebbe coinvolgere una platea ampia.