Block non apre Dessa al pubblico: prima i test dei ricercatori di sicurezza
Dessa, il modello vocale presentato da Block, può girare sul portatile di casa ma non è disponibile al pubblico. L'azienda ha scelto di aprire l'accesso solo a un piccolo gruppo di ricercatori di sicurezza, che dovranno individuare i rischi imprevisti prima di un eventuale rilascio più ampio.
- Dessa non è accessibile al pubblico: Block cerca prima ricercatori di sicurezza.
- Il rischio principale è che una voce così realistica inganni l'interlocutore.
- Il modello può funzionare in locale su un computer di fascia alta.
Un accesso limitato e una chiamata ai ricercatori
Block, l'azienda di Jack Dorsey proprietaria di Square e Cash App, ha pubblicato esempi audio e dettagli tecnici su Dessa, ma non un modo per provarlo. Chi è interessato a testarlo deve compilare un modulo: secondo The Decoder l'azienda sta cercando specificamente ricercatori di sicurezza dell'intelligenza artificiale, mentre The Verge parla di accesso anticipato riservato a un piccolo gruppo di esperti.
La ragione è intuibile guardando le dimostrazioni. Dessa è un modello da voce a voce, cioè elabora direttamente l'audio senza trasformarlo in testo, ed è capace di risate, pause ed esitazioni che lo fanno somigliare a una persona. TechCrunch osserva che il test serve probabilmente a esplorare i casi in cui un agente vocale di questo tipo potrebbe ingannare l'interlocutore dall'altro capo della linea.
Perché una voce credibile è un problema di sicurezza
Il paradosso è che Block indica la sicurezza anche tra le ragioni per cui ha costruito Dessa, ma in senso opposto. Secondo l'azienda, gli assistenti vocali attuali sono quasi sordi alle emozioni: appiattiscono quello che diciamo in testo e non si accorgono se chi parla sta provando dolore o disagio. Dessa, nelle intenzioni del team, sarebbe un passo verso la soluzione di questo problema.
Resta il rovescio della medaglia: una voce sintetica che sa esitare, ridere o sembrare commossa è anche più convincente quando viene usata per manipolare. A questo si aggiunge il fatto che, secondo Block, il modello può funzionare in locale su un computer di fascia consumer come un MacBook Pro M4 Max o superiore, senza connessione a un servizio centrale. Girare sul dispositivo porta vantaggi di costo e privacy, ma rende anche più difficile controllare come viene usato uno strumento del genere.
Perché conta
Le truffe telefoniche con voci clonate sono già una realtà, e in Italia le chiamate che imitano operatori bancari o familiari in difficoltà sono un fenomeno noto. Un modello che non si limita a riprodurre un timbro ma sostiene una conversazione fluida, ascoltando e parlando insieme, alza l'asticella del realismo.
La scelta di Block di rallentare il rilascio è anche un segnale su come le aziende stanno affrontando la pressione competitiva: pubblicare una dimostrazione per mostrare i risultati, ma tenere chiuso l'accesso finché qualcuno di esterno non ha provato a romperlo. Quanto questo approccio sia efficace dipenderà da chi parteciperà ai test e da cosa verrà reso pubblico dei loro risultati.
