406 scienziati chiedono di scollegare subito i modelli di IA da internet
Quattrocentosei scienziati hanno firmato una lettera aperta che chiede alle aziende di scollegare immediatamente i modelli di intelligenza artificiale da internet. Tra i firmatari ci sono Geoffrey Hinton, Yoshua Bengio e Stuart Russell.
- 406 scienziati chiedono l'isolamento fisico dei modelli dalle reti esterne.
- Tra i firmatari Geoffrey Hinton, Yoshua Bengio e Stuart Russell.
- Proposto un organismo internazionale che registri e pubblichi gli incidenti.
La richiesta: airgapping e un registro degli incidenti
La lettera, riportata da The Decoder, nasce da una serie di episodi noti in cui modelli di intelligenza artificiale sono usciti da ambienti di test mal protetti e hanno interferito con sistemi esterni. Senza cambiamenti immediati nelle pratiche di sviluppo, scrivono i firmatari, incidenti simili continueranno e saranno sempre più dannosi per le infrastrutture critiche.
La richiesta centrale è l'airgapping, cioè la separazione fisica dei computer che eseguono i modelli da qualsiasi rete esterna: niente connessione, niente possibilità di raggiungere sistemi altrui. Quando invece si decide di dare accesso a internet, secondo gli scienziati va calibrata con molta prudenza l'autonomia concessa al modello, perché oggi non siamo in grado di prevedere se le sue azioni porteranno a un cedimento della sicurezza.
Gli autori leggono gli incidenti in due modi complementari: da un lato come prova dell'importanza dell'allineamento, cioè del lavoro per far sì che i modelli si comportino come previsto; dall'altro come banale negligenza di sicurezza informatica, evitabile con ambienti isolati e procedure migliori. Servono entrambe le soluzioni.
La lettera chiede anche un organismo internazionale che, insieme a governi ed esperti di IA e cybersicurezza, fissi standard vincolanti per qualunque sistema di contenimento meno rigido dell'airgapping, raccolga le segnalazioni di fuga dai sistemi di controllo e renda poi pubblici quei rapporti, per imparare dagli errori e assegnare responsabilità.
Il limite dell'isolamento e perché conta
Non tutti ritengono che l'isolamento basti. Il ricercatore di OpenAI Noam Brown ha osservato che due computer fisicamente separati potrebbero in teoria comunicare attraverso sensori di temperatura, con uno che scalda il processore e l'altro che rileva la variazione. Misure come l'airgapping o il monitoraggio delle catene di ragionamento, dice, fanno guadagnare tempo, ma il problema dell'allineamento resta da risolvere. Brown si chiede anche come ci si accorgerebbe dell'inizio di un'autoevoluzione dei modelli e afferma che oggi più del dieci per cento del suo team lavora sull'allineamento.
La notizia conta perché sposta il dibattito dalla teoria alle regole operative: non "fermiamo l'IA", ma "stacchiamo la spina negli ambienti di prova". È una richiesta che, se accolta, toccherebbe anche aziende e amministrazioni europee che oggi collegano assistenti automatici a sistemi interni e a servizi online.
