Muse, l'assistente di Meta, crea una scheda per ogni tuo contatto
IA · Contenuto generato con l'intelligenza artificiale, rivisto da una personaAlcuni ricercatori hanno estratto le istruzioni interne di Muse, il nuovo assistente personale di Meta, e le hanno condivise con Wired. Tra queste c'è la creazione di una pagina dedicata a ogni persona presente nella vita dell'utente.
- Le istruzioni interne di Muse prevedono una scheda aggiornata per ogni persona nella vita dell'utente.
- Le pagine includono date importanti, episodi passati e consigli per rafforzare i rapporti.
- Meta afferma di aver reso accessibili quei file per trasparenza.
Che cosa dicono le istruzioni
Muse è l'agente di intelligenza artificiale di Meta diventato un successo virale: milioni di persone lo hanno scaricato e in molti casi lo hanno collegato a conti bancari, messaggi o dati sulla salute perché svolga compiti al posto loro. Il ricercatore indipendente di sicurezza Karan Joshi è riuscito a farsi consegnare dall'assistente stesso, tramite la normale chat, i suoi file di configurazione e i system prompt, cioè le istruzioni di base che definiscono il comportamento del modello. Meta sostiene di aver voluto rendere questi file accessibili per trasparenza.
Secondo i documenti, ogni ora Muse aggiorna una scheda per familiari, partner, amici, colleghi, collaboratori e persone che l'utente segue. Le pagine possono contenere sezioni come fatti, storia, la relazione, cose in comune, questioni aperte e rafforzamento. Vi finiscono dove vive una persona, che lavoro fa, le date che contano come compleanni e anniversari, episodi passati come un viaggio o una lite risolta, e suggerimenti su come migliorare il rapporto: un motivo per telefonare, qualcosa da riprendere in una conversazione. Le istruzioni precisano che il modello deve usare solo le prove di cui dispone e che una pagina vuota è preferibile a dettagli inventati.
Perché conta
Che un chatbot tenga traccia di informazioni sociali non è una novità, ma qui il profilo riguarda persone che non hanno scelto di usare il servizio. Per Joshi l'obiettivo sembra essere conoscere l'utente come farebbe un amico, cosa che definisce inquietante. Carissa Véliz, docente all'Institute for Ethics in AI di Oxford, osserva che diamo ai sistemi di IA molte più informazioni su di noi di quante ne riceviamo, comprese quelle che possono dedurre o ricostruire da altre fonti, con il rischio che siano sbagliate.
Wired riferisce che Muse è progettato in modo che ogni utente abbia una propria macchina virtuale dedicata, dove vengono conservati dati e contesto. Resta però il tema di fondo per chi vive in Europa, dove il GDPR tutela anche i dati di terzi: una scheda su amici e colleghi significa trattare informazioni di persone che non hanno dato alcun consenso.
