Nadella chiede un freno di emergenza per l'intelligenza artificiale
Satya Nadella, amministratore delegato di Microsoft, ha pubblicato su X un lungo intervento sulla sicurezza dell'intelligenza artificiale. La sua proposta centrale: dare per scontato che ogni modello sia compromesso, contenerlo fin dall'inizio e prevedere un freno di emergenza azionabile da una persona autorizzata.
- Nadella propone di considerare ogni modello compromesso e di contenerlo dall'inizio.
- Chiede che una persona autorizzata possa fermare un modello in qualsiasi momento.
- Propone prove leggibili e non manomettibili di ogni azione rilevante.
La proposta
Secondo The Verge e TechCrunch, Nadella sostiene che non si possa più trattare l'intelligenza artificiale come una serie di scatole nere annidate, cioè sistemi di cui non si vede il funzionamento interno e di cui ci si limita ad accettare o rifiutare le risposte. Serve, scrive, un ripensamento dell'architettura di fiducia su cui poggia questa tecnologia.
In concreto propone di separare il modello dall'infrastruttura che ne orchestra il lavoro, di spostare controlli e salvaguardie all'esterno del modello stesso e di documentare ogni azione rilevante con prove leggibili da un essere umano e non manomettibili. Soprattutto, una persona autorizzata deve poter mettere in pausa o spegnere un modello anche mentre sta eseguendo un compito: l'immagine usata è appunto quella del freno di emergenza. I modelli più avanzati, aggiunge, richiederanno tecnologie di contenimento più avanzate da standardizzare.
Il contesto
Molte delle raccomandazioni di Nadella, come la segnalazione tempestiva degli incidenti, gli audit indipendenti e i dati verificabili, ricalcano posizioni già espresse nel settore. L'elemento su cui va oltre, nota The Verge, è il contenimento preventivo basato sul presupposto che il modello sia già compromesso.
L'intervento arriva mentre le principali aziende del settore ammettono un numero crescente di episodi in cui sembrano aver perso il controllo dei propri sistemi, e dopo che Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un piano per uno sviluppo più prudente. TechCrunch segnala che nel testo Nadella usa ripetutamente l'espressione super intelligenza, termine preferito dall'amministrazione Trump.
Perché conta
Microsoft è uno dei maggiori fornitori di servizi cloud e di strumenti di intelligenza artificiale per aziende e pubbliche amministrazioni, anche in Italia. Che il suo vertice chieda pulsanti di arresto e tracciabilità delle azioni indica che il tema del controllo sta passando dalla ricerca accademica alle specifiche tecniche dei prodotti.
Sono anche i temi su cui si gioca la regolamentazione europea: documentazione delle azioni, supervisione umana e possibilità di interrompere un sistema sono principi che le imprese dovranno tradurre in pratica.
