Come si riconosce il chip che ha addestrato un modello di IA
Dietro l'accusa che alcuni modelli cinesi siano stati addestrati su chip Nvidia vietati c'è una tecnica curiosa: l'impronta lasciata dalla scheda grafica nei numeri casuali con cui il modello parte. Resta visibile anche a addestramento finito.
- I pesi di un modello partono da numeri casuali distribuiti sui nuclei della GPU.
- Hopper usa 132 nuclei, Blackwell 148 o 152: il motivo resta riconoscibile.
- DePue dice di aver riprodotto l'impronta su chip reali e pubblicato il codice.
Dai numeri casuali all'impronta
Un modello linguistico è fatto di miliardi di valori numerici chiamati pesi. Prima che l'addestramento cominci, quelle caselle sono vuote e vengono riempite con numeri casuali generati da un valore di partenza detto seme. A occuparsene è PyTorch, il principale strumento software con cui si costruiscono i modelli di IA.
Per riempire una quantità enorme di caselle in fretta, la GPU, cioè il processore grafico usato per i calcoli dell'IA, divide il lavoro tra i suoi nuclei di calcolo. Poiché modelli diversi di chip hanno un numero diverso di nuclei, la distribuzione dei numeri casuali assume un motivo caratteristico. Le GPU Hopper, come H100 e H800, usano 132 nuclei; le più recenti Blackwell ne impiegano esattamente 148 oppure 152, a seconda che si tratti di B200 e B300 o dei sistemi rack di punta raffreddati a liquido GB200 e GB300.
Perché l'impronta sopravvive all'addestramento
Durante l'addestramento i pesi vengono corretti milioni di volte, quindi ci si aspetterebbe che ogni traccia iniziale sparisca. Secondo il report di Will DePue, però, alcune caselle, per esempio quelle riservate a parole o simboli mai utilizzati, conservano il valore casuale di partenza. E anche nelle parti più allenate resterebbe un debole eco statistico della distribuzione iniziale.
DePue afferma di aver ricostruito il motivo a ritroso e di aver riprodotto esattamente i risultati per DeepSeek-V4-Flash e Kimi K3 su veri chip Blackwell. Dice inoltre che il metodo ha identificato correttamente tutti i 24 modelli di controllo di cui si conosceva l'hardware, compreso Llama 3.1 di Meta, addestrato su H100, e che la casualità può essere esclusa su base statistica. L'analisi assegna DeepSeek-V4-Flash e MiniMax-M3 ai chip da 148 nuclei, mentre DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro e Ling-3.1-flash di Ant Group mostrerebbero il motivo a 152 nuclei.
Perché la notizia conta
Finora capire su quale hardware fosse stato addestrato un modello richiedeva informazioni riservate o fonti di intelligence. Un metodo pubblico, con codice di verifica disponibile su GitHub, sposta il controllo sui pesi che chiunque può scaricare.
È un punto rilevante anche per chi, in Italia, lavora con modelli aperti: la trasparenza sull'origine di un sistema di IA non riguarda solo i dati di addestramento, ma anche l'infrastruttura che lo ha reso possibile. E potrebbe diventare uno strumento in più per chi deve far rispettare i limiti all'esportazione dei chip.



