FlashProve di Anthropic: una prova crittografica del modello usato
Anthropic ha pubblicato FlashProve, un sistema open source che usa la crittografia per dimostrare che una risposta e stata generata davvero dal modello dichiarato. Per ora si tratta di un prototipo di ricerca, con limiti importanti.
- FlashProve dimostra con la crittografia quale modello ha generato una risposta.
- L'impronta dei pesi non rivela i parametri segreti del modello.
- Resta un prototipo: contesti fino a 1.024 token e nessun piano di adozione.
Il problema: chi ha davvero risposto
Oggi chi invia una domanda a un modello di intelligenza artificiale non ha modo di verificare che la risposta arrivi dal modello scelto. Un servizio di instradamento potrebbe sostituire in silenzio un modello piu economico per risparmiare, oppure inserirne uno piu costoso per gonfiare i risultati nei test. Anche un attacco informatico potrebbe manomettere il flusso di dati.
FlashProve punta a risolvere questo problema con quella che i ricercatori chiamano provable inference, cioe inferenza dimostrabile: una garanzia matematica sull'origine di un output. Il meccanismo ricorda le firme crittografiche delle email, che permettono di verificare che un messaggio provenga davvero dal mittente dichiarato, ed e progettato per reggere anche nel caso in cui a barare sia il laboratorio stesso che gestisce il modello.
Come funziona e quali limiti ha
Il fornitore pubblica un'impronta digitale dei pesi del modello, cioe dei parametri numerici interni che ne determinano il comportamento e che aziende come Anthropic e OpenAI tengono segreti. A ogni risposta allega poi una prova compatta, costruita con una tecnica crittografica chiamata zkSNARK, che dimostra l'origine senza rivelare nulla dei parametri. Cosi il sistema puo funzionare anche con modelli commerciali chiusi.
Secondo il report tecnico citato da The Decoder, su una singola GPU H100 le prove vengono generate a circa 110 token al secondo per Llama 4 Maverick di Meta, un modello da 400 miliardi di parametri. Ogni prova pesa circa 19 megabyte e si verifica in 17 secondi su una normale CPU, con un costo aggiuntivo di circa 70-95 volte rispetto a un'inferenza normale. Il sistema open source paragonabile piu avanzato richiedeva oltre 14 ore per mille token e produceva una prova da 93,6 gigabyte.
I limiti restano rilevanti: FlashProve copre contesti fino a 1.024 token, molto meno delle finestre di contesto dei modelli attuali; nasconde i pesi ma non l'architettura; e funziona solo quando il modello sceglie sempre il token piu probabile, non con le risposte casuali tipiche dei chatbot. Codice e documentazione sono su GitHub con licenza Apache 2.0, e Anthropic precisa che non ci sono piani di adozione, nemmeno interni.
Perche conta
Se la tecnica maturasse, le autorita di controllo potrebbero verificare che un fornitore esegua solo i modelli autorizzati, e le aziende potrebbero dimostrare che un codice e stato davvero revisionato da un modello specifico di sicurezza.
E un tema concreto anche per chi in Italia compra servizi di intelligenza artificiale per lavoro o per la pubblica amministrazione: oggi si paga per un modello fidandosi del fornitore. Una prova verificabile sposterebbe il rapporto dalla fiducia alla verifica.
