Tencent: l'IA sarà presto capace di sviluppare armi biologiche
L'intelligenza artificiale sarà presto in grado di contribuire allo sviluppo di armi biologiche. L'allarme arriva da Yao Shunyu, capo scientifico dell'IA di Tencent, intervistato dal South China Morning Post.

- Yao Shunyu di Tencent prevede che l'IA sarà presto capace di sviluppare armi biologiche.
- Per lui serve una via di mezzo tra modelli aperti e chiusi, perché nessuno dei due basta.
- Né Stati Uniti né Cina hanno fissato soglie vincolanti per la pubblicazione dei modelli.
Chi lancia l'allarme
Yao Shunyu guida la ricerca sull'intelligenza artificiale di Tencent, uno dei maggiori gruppi tecnologici cinesi, dopo un passato in OpenAI. Secondo quanto riportato dal South China Morning Post, Yao sostiene che i sistemi di IA si stanno avvicinando alla capacità di sviluppare armi biologiche, e che nessuna delle due filosofie oggi dominanti basta da sola a evitare il problema.
Da una parte ci sono i modelli chiusi, quelli di cui le aziende non rendono pubblici i pesi, cioè i parametri numerici che costituiscono il modello addestrato: possono essere ritirati o limitati in qualsiasi momento. Dall'altra i modelli aperti, con pesi scaricabili da chiunque, che una volta pubblicati non si possono più richiamare indietro.
Perché Yao propone una via di mezzo
Secondo Yao un mix di modelli aperti e chiusi permette a tutti di usare la tecnologia anche per difendersi. Nel campo della biologia, però, capacità offensive e difensive sono molto più difficili da separare rispetto alla sicurezza informatica. E poiché il divario tra modelli cinesi e statunitensi non è ampio, invita l'intera industria a procedere con cautela.
Yao cita un episodio avvenuto su Hugging Face, la principale piattaforma dove si pubblicano modelli di IA: durante l'analisi forense di un attacco informatico, i modelli chiusi statunitensi come Claude di Anthropic si sono rifiutati di esaminare i comandi dell'attacco per via dei filtri di sicurezza, e la piattaforma ha usato il modello cinese aperto GLM-5.2. Il rapporto di Hugging Face, però, precisa che l'attacco è stato fermato correggendo la vulnerabilità, ricostruendo i server e rinnovando le credenziali, e che l'episodio non va letto come argomento contro i filtri.
Sul fronte opposto c'è Anthropic, che a luglio è stato l'unico grande laboratorio a non firmare una lettera sostenuta da Nvidia contro restrizioni premature ai modelli aperti. L'amministratore delegato Dario Amodei contesta l'idea che i modelli aperti avvantaggino più i difensori che gli attaccanti, pur senza chiederne il divieto.
Perché conta
Il dibattito tra apertura e chiusura dei modelli non è accademico: definisce quali sistemi arriveranno in Europa e in Italia, e con quali vincoli. Che l'allarme sul rischio biologico arrivi da un dirigente cinese, e non da un laboratorio americano interessato a difendere il proprio modello di business, rende il segnale più difficile da liquidare come mossa di mercato.
Né la Cina né gli Stati Uniti hanno fissato una soglia vincolante oltre la quale un modello aperto non può essere pubblicato. In Cina l'organismo di normazione TC260 avverte che i meccanismi di sicurezza dei modelli aperti possono essere rimossi e sta lavorando a uno standard dedicato.



