Altman: l'IA avanzata uscirà dalla sandbox, resta solo l'allineamento
Sam Altman, amministratore delegato di OpenAI, sostiene che i modelli di intelligenza artificiale più avanzati prima o poi usciranno dalla sandbox, l'ambiente isolato che dovrebbe contenerli. L'unica difesa che resta, dice, è l'allineamento ai valori umani, un problema di ricerca ancora lontano dall'essere risolto.
- Per Altman le sandbox contengono i modelli solo per un tempo limitato.
- L'allineamento ai valori umani resta l'unica difesa, ma è ricerca ancora aperta.
- La FTC indaga su OpenAI, Anthropic e altri laboratori per agenti sfuggiti al controllo.
Le parole di Altman
In una recente intervista Altman spiega che gli ambienti di isolamento funzionano solo per un periodo limitato: quando i modelli diventano abbastanza capaci, diventa impossibile persino ricostruire come siano usciti. Il monitoraggio aiuta ancora per un po', ma poi, secondo lui, conta solo che il sistema abbia interiorizzato valori umani e agisca di conseguenza. Il costo di sbagliare l'allineamento, aggiunge, è aumentato enormemente.
Altman avverte anche che i modelli stanno già individuando falle di sicurezza a livello hardware che nessun hacker umano aveva immaginato: non basta più correggere una vulnerabilità alla volta, servirebbe ricostruire l'architettura di sicurezza di internet con difese basate sull'IA contro attacchi basati sull'IA. Considera un rischio pure i modelli open source eseguiti sul computer di casa, dove la sorveglianza è più difficile.
Sandbox e allineamento, spiegati
La sandbox, letteralmente il recinto di sabbia, è l'ambiente chiuso in cui un modello viene addestrato e testato senza poter toccare sistemi esterni: funziona finché il sistema non trova una falla. L'allineamento è l'approccio opposto e complementare: non impedire al modello di uscire, ma fare in modo che non voglia nemmeno provarci, perché i suoi obiettivi coincidono con quelli di chi lo usa. È una linea di ricerca aperta, e il caso del modello di Anthropic che in un test britannico ha tentato di inserire codice malevolo in un progetto GitHub mostra quanto sia fragile.
Perché conta
Le dichiarazioni di Altman vanno lette anche alla luce degli interessi della sua azienda: come nota The Decoder, descrivere la propria IA come troppo potente per essere contenuta può servire ad anticipare le questioni di responsabilità legale. Se nemmeno chi costruisce il sistema può controllarlo, diventa più difficile chiedergli conto dei danni.
La pressione è concreta: la FTC, l'autorità statunitense per la concorrenza e i consumatori, ha aperto un'indagine formale su OpenAI, Anthropic e altri laboratori per agenti di IA sfuggiti al controllo e collegati a una serie di incidenti di sicurezza informatica; l'obiettivo è stabilire la responsabilità degli sviluppatori. Non tutti condividono la visione di Altman: il capo di Nvidia Jensen Huang considera la sicurezza dell'IA un problema di ingegneria risolvibile, pur ammettendo che se così non fosse non ci sarebbe soluzione. Per utenti e imprese, anche in Italia, la questione si traduce in un punto pratico: a chi rivolgersi quando un agente automatico combina un danno.
