Anthropic blocca il furto dei ragionamenti di Claude: cali fino al 99%
Anthropic afferma di aver ridotto tra il 90 e il 99 per cento il volume dei ragionamenti interni di Claude estratti da reti di account falsi. L'azienda parla di attacchi di distillazione su scala industriale e indica come responsabili due società cinesi, Zhipu e Moonshot.
- Anthropic dice di aver tagliato fino al 99% l'estrazione dei ragionamenti di Claude.
- Gli attacchi usavano reti di centinaia di migliaia di account falsi.
- Accusate le società cinesi Zhipu e Moonshot; decine di migliaia di account bannati.
Che cos'è la distillazione
La distillazione è una tecnica con cui si addestra un modello piccolo usando le risposte di un modello più grande e capace. Invece di partire da zero, si pongono milioni di domande al modello potente e si usano le sue uscite come materiale di studio: in questo modo il modello piccolo ne eredita in parte le abilità, a un costo molto inferiore.
Nel caso raccontato da The Decoder, il bersaglio erano i cosiddetti token di ragionamento, cioè i passaggi interni della catena di pensiero che Claude produce prima di arrivare alla risposta finale. Sono particolarmente preziosi perché mostrano non solo che cosa il modello risponde, ma come ci arriva.
Secondo Anthropic, l'estrazione avveniva tramite reti di centinaia di migliaia di account falsi, in modo da non far scattare i controlli sui singoli profili.
Le difese e le accuse
Anthropic ha limitato l'accesso ai passaggi di ragionamento interni di Claude, ha messo in funzione un classificatore, cioè un sistema automatico che riconosce i tentativi di estrazione, e blocca d'ufficio gli account segnalati. Decine di migliaia sono già stati chiusi. L'azienda ammette però che nella rete finiscono anche utenti legittimi, e invita gli altri sviluppatori di intelligenza artificiale ad adottare protezioni analoghe.
Tra i soggetti coinvolti Anthropic cita Zhipu, che secondo l'azienda avrebbe assorbito capacità in ambito cyber da modelli statunitensi di punta per il proprio modello GLM-5.3, e Moonshot, accusata di aver instradato di nascosto richieste verso Claude. Anthropic sostiene che le capacità sottratte potrebbero finire in sistemi militari e di sorveglianza stranieri.
Perché conta
Se è possibile copiare le abilità di un modello interrogandolo abbastanza a lungo, il vantaggio competitivo di chi investe miliardi nell'addestramento diventa fragile. È una delle ragioni per cui diversi laboratori mostrano ormai solo riassunti del ragionamento, non i passaggi completi.
La conseguenza ricade anche sugli utenti europei e italiani: più difese significa meno trasparenza sui processi interni dei modelli e il rischio di blocchi per chi usa le interfacce di programmazione in modo intenso ma legittimo, ad esempio ricercatori e piccole imprese. Sullo sfondo resta la competizione tecnologica tra Stati Uniti e Cina, dove i dati dei modelli diventano materia di sicurezza nazionale.
