Anthropic propone una legge per bloccare i modelli IA più pericolosi
Anthropic, il laboratorio che sviluppa l'assistente Claude, ha messo in circolazione al Congresso degli Stati Uniti una bozza di legge sulla sicurezza dell'intelligenza artificiale. Secondo quanto riportato da Politico, il testo prevede di bloccare la distribuzione di un modello quando esiste un rischio catastrofico imminente.
- La bozza di Anthropic prevede lo stop a un modello con rischio imminente di oltre 50 morti.
- Le soglie ricalcano quelle della legge californiana Senate Bill 53.
- Il blocco dovrebbe essere deciso da un giudice, non da un'agenzia federale.
Quando scatterebbe il blocco
La bozza, confermata a Politico da un portavoce dell'azienda, individua scenari precisi: un rischio prevedibile e imminente in cui più di 50 persone potrebbero morire oppure si potrebbero produrre danni materiali superiori a un miliardo di dollari. Non basta però un pericolo generico: il rischio deve derivare dalla creazione o dal rilascio di un'arma biologica, da un modello che sfugge ai controlli dei suoi stessi sviluppatori, oppure da un cyberattacco.
Le soglie non nascono dal nulla. Secondo TechCrunch sono simili a quelle già contenute nella Senate Bill 53, una legge approvata di recente in California che definisce in modo analogo il concetto di rischio catastrofico.
Il meccanismo previsto è a tempo: quando un valutatore individua un pericolo imminente, ha 72 ore per avvisare il Dipartimento del Commercio statunitense. A quel punto il Dipartimento dovrebbe rivolgersi a un giudice federale di Washington per chiedere lo stop al rilascio del modello. La bozza vieterebbe esplicitamente a qualsiasi agenzia federale di bloccare da sola la distribuzione, lasciando quindi l'ultima parola a un tribunale.
Un settore che chiede regole, ma a modo suo
TechCrunch osserva che i laboratori di intelligenza artificiale avvertono da tempo dei rischi estremi della tecnologia che vendono, ma restano in gran parte contrari a una supervisione pubblica obbligatoria, preferendo sistemi volontari con osservatori interni. In questo quadro la proposta di Anthropic va un passo più in là rispetto ad altre voci del settore: l'amministratore delegato di Nvidia, Jensen Huang, ha sostenuto di recente che non servono nuove leggi.
Il portavoce di Anthropic ha spiegato a Politico che la bozza mette nero su bianco le proposte già contenute nell'Advanced AI Framework dell'azienda, sostenute presso legislatori federali e statali da giugno.
Perché conta
Quando è l'industria stessa a scrivere le regole, i dettagli contano: la scelta delle soglie e di chi decide definisce di fatto il perimetro di ciò che resta libero. Gli scenari citati, inoltre, sono piuttosto lontani dai problemi concreti emersi finora, che riguardano soprattutto programmi di IA capaci di agire in autonomia e di attaccare siti web senza seguire le istruzioni degli operatori.
Per l'Europa, e quindi per l'Italia, la partita americana resta rilevante: i modelli più diffusi nascono negli Stati Uniti, e le regole su quando possono essere rilasciati finiscono per incidere anche sui servizi che usiamo qui.
