Anthropic apre i suoi uffici a un valutatore esterno indipendente
Anthropic ha concesso a valutatori esterni un accesso paragonabile a quello di un dipendente per analizzare i rischi dei suoi modelli. Il non profit METR ha ora un team insediato negli uffici dell'azienda che sviluppa Claude.
- METR ha un team dentro gli uffici di Anthropic con accesso simile a quello di un dipendente.
- Anthropic paragona il modello alla vigilanza bancaria; i critici temono conflitti di interesse.
- Per Hugging Face i test di sicurezza sono ancora poco riproducibili e difficili da confrontare.
Un controllore dentro il laboratorio
METR è un'organizzazione senza scopo di lucro che ha già collaborato con i principali laboratori di intelligenza artificiale, tra cui OpenAI, Anthropic, Google e Meta. Ora dispone di un gruppo di persone all'interno degli uffici di Anthropic, con accesso all'hardware e ai sistemi interni. È il primo passo concreto verso gli impegni annunciati nei mesi scorsi: a settembre l'amministratore delegato di Anthropic, Dario Amodei, aveva proposto di inserire revisori esterni nei grandi laboratori e la proposta aveva ottenuto il sostegno di Sam Altman di OpenAI ed Elon Musk. OpenAI, per ora, non ha illustrato piani analoghi.
Anthropic sostiene che modelli più potenti richiedono tutele più solide e valutazioni dei rischi più difficili, e che l'azienda vuole rendere conto pubblicamente delle proprie scelte pur non potendo divulgare tutte le informazioni sul lavoro di sicurezza, che potrebbero avvantaggiare malintenzionati o concorrenti. Il paragone usato è quello della vigilanza bancaria, dove gli ispettori lavorano stabilmente dentro gli istituti più grandi. I critici replicano che un assetto simile può generare conflitti di interesse, come già accaduto nella revisione contabile, e che servirebbe piuttosto una regolamentazione pubblica.
Il dubbio: sappiamo davvero misurare la sicurezza?
I valutatori interni sono la risposta dei laboratori a chi chiede controlli veri, ma Irene Solaiman, responsabile delle politiche di Hugging Face, la piattaforma dove si condividono modelli di AI aperti, invita alla prudenza. Parlando al TechCrunch Disrupt ha spiegato che i metodi dei benchmark, cioè i test standard con cui si confrontano i modelli, sono complessi e ancora acerbi: un problema centrale è la riproducibilità, la possibilità di ottenere di nuovo gli stessi risultati, che dipende anche dal livello di accesso al modello. Non si sa nemmeno come confrontare in modo sensato un test con un altro, e i test invecchiano in fretta.
Secondo Solaiman manca inoltre una standardizzazione su chi possa essere considerato un valutatore qualificato e per quali compiti. Le valutazioni, aggiunge, si stanno spostando dal singolo modello all'intero sistema che lo circonda, incluso lo strumento con cui l'utente vi accede: un modello meno avanzato con un'interfaccia migliore può superare un modello di punta. La scelta di Anthropic di ingaggiare Accenture come primo valutatore, ricorda TechCrunch, aveva suscitato critiche.
Perché conta
Chi controlla l'intelligenza artificiale, e con quali strumenti, è una questione aperta anche in Europa, dove l'AI Act prevede obblighi di valutazione per i modelli più potenti. Se i test non sono riproducibili né comparabili, le rassicurazioni delle aziende restano difficili da verificare da parte di regolatori e cittadini.
