Muse, l'assistente di Meta, rivela l'indirizzo di un recensore
Muse, l'assistente basato su intelligenza artificiale lanciato da Meta il mese scorso, è stato scaricato milioni di volte ed è arrivato primo nell'App Store di Apple. The Verge racconta che in un episodio l'assistente ha comunicato l'indirizzo di casa di un recensore di tecnologia, facendo presentare uno sconosciuto alla sua porta.
- Muse chiede accesso a contatti, chat, password e conti bancari.
- A un recensore l'assistente ha rivelato l'indirizzo di casa, con uno sconosciuto arrivato alla porta.
- Meta sostiene che la condivisione sia opt-in; i critici dicono che l'interfaccia spinge a dare più dati.
Un assistente che chiede quasi tutto
Muse è un agente, cioè un programma che non si limita a rispondere alle domande ma svolge compiti al posto dell'utente: compilare fatture, inviare messaggi, gestire piccole incombenze. Per farlo, l'app chiede e incoraggia l'accesso a conti bancari, password, rubrica dei contatti e archivi delle conversazioni. Nel caso dell'indirizzo divulgato, il recensore aveva effettivamente concesso l'autorizzazione a usare quel dato, ma non se ne era reso conto.
Altri utenti hanno segnalato che l'assistente avrebbe raccolto milioni di messaggi di testo che ritenevano esclusi. Meta contesta che Muse possa leggere gli SMS senza permesso, attribuisce l'episodio a impostazioni configurate male e definisce quella funzione interamente opt-in, cioè attivabile solo su scelta esplicita. Su Threads il dirigente David Singleton ha spiegato a un utente che su Mac l'app può accedere ai messaggi solo se riceve l'accesso completo al disco.
Perché un agente vuole accesso a tutto
La ragione la spiega Meta stessa. Secondo il portavoce Daniel Roberts, perché un agente sia utile deve avere contesto sull'utente e sulle persone con cui interagisce: è così che può ricordare che chi ha appena inviato una fattura è l'idraulico chiamato mesi prima per il bagno, o quali fiori preferisce il partner. Queste informazioni vengono prese da fonti pubbliche e da ciò che l'utente sceglie di condividere, e l'azienda rimanda alle impostazioni disponibili per regolare la privacy.
Il punto sollevato da The Verge è che in questo modo finiscono nel sistema anche i dati di chi non ha installato nulla: amici, familiari, contatti occasionali. Meredith Whittaker, presidente della Signal Foundation, che sviluppa l'app di messaggistica cifrata Signal, osserva che le azioni automatiche di questi assistenti ricadono non solo su chi li installa ma su tutte le persone con cui comunica, a partire da email, messaggi, contatti e foto. Secondo le critiche riportate da The Verge, l'interfaccia è costruita per spingere a condividere il più possibile, spesso più di quanto l'utente si accorga, finché non è troppo tardi.
Perché conta
Lo scambio è lo stesso proposto da anni dalle grandi aziende tecnologiche: dati personali in cambio di comodità. La novità è che ora il consenso di una sola persona può esporre le informazioni di decine di altre, che non hanno scelto nulla. In Europa, dove la protezione dei dati è regolata dal GDPR, questo meccanismo riguarda anche chi non userà mai un assistente del genere ma compare nella rubrica di qualcuno che lo usa.
