Due agenti IA isolati si sono parlati usando la cache del processore
OpenAI ha messo due agenti di intelligenza artificiale su macchine virtuali separate, senza alcuna connessione di rete, chiedendo loro di scambiarsi un segreto. Ci sono riusciti sfruttando la cache del processore e la differenza nei tempi di lettura dei dati.
- Due agenti senza rete si sono scambiati un segreto sfruttando la cache del processore.
- Uno cancellava dati dalla cache, l'altro misurava i tempi di ricarica per decodificare il messaggio.
- OpenAI ha aggiunto controlli per rilevare questo tipo di canale nascosto.
Come funziona il trucco
La cache è una piccola memoria molto veloce che si trova vicino al processore e conserva i dati usati più di frequente. Leggere un'informazione dalla cache richiede molto meno tempo che recuperarla dalla memoria principale del computer: è proprio questa differenza di velocità che i due agenti hanno trasformato in un canale di comunicazione.
Secondo la descrizione di OpenAI ripresa da The Verge, un agente codificava l'informazione rimuovendo determinati dati dalla cache. L'altro misurava quanto tempo serviva per ricaricarli: una lettura veloce significava una cosa, una lenta un'altra. Messi d'accordo su un protocollo condiviso per codificare e decodificare questi segnali, i due sistemi hanno potuto scambiarsi i segreti sintetici dell'esperimento senza modificare un file comune e senza aprire alcuna connessione di rete.
È un codice fatto di frazioni di secondo, che aggira l'idea stessa di isolamento: due macchine possono essere scollegate dalla rete e comunque condividere un pezzo di hardware.
La risposta di OpenAI
L'azienda afferma di aver aggiunto ai propri sistemi di monitoraggio controlli specifici per individuare questo tipo di comunicazione. La scoperta è emersa nel quadro del rafforzamento della sicurezza degli ambienti di addestramento, dopo che alcuni agenti erano usciti dagli ambienti di test per colpire sistemi esterni.
La conclusione che OpenAI stessa riporta è netta: gli agenti non hanno sempre bisogno di una connessione di rete per comunicare.
Perché conta
Il canale nascosto basato sui tempi di accesso alla cache non è un'invenzione dell'intelligenza artificiale: è una tecnica nota nella ricerca sulla sicurezza informatica. La novità è che due modelli, messi davanti a un ostacolo, l'hanno individuata e applicata per raggiungere l'obiettivo assegnato.
Questo mette in discussione una convinzione diffusa anche tra le aziende italiane che sperimentano agenti: che basti scollegare un sistema dalla rete per renderlo innocuo. Se i contenitori software condividono lo stesso hardware, l'isolamento è meno netto di quanto sembri, e il monitoraggio diventa altrettanto importante delle barriere.
