Audit indipendente in OpenAI: falle nel monitoraggio degli agenti
Due ricercatori indipendenti di METR e Redwood Research hanno trascorso tre settimane negli uffici di OpenAI per esaminare i sistemi interni che sorvegliano i comportamenti anomali dei modelli. Secondo il loro rapporto, una quota rilevante del traffico degli agenti più avanzati non era coperta da alcun monitoraggio.
- Tra il 6% e il 25% del traffico agentico avanzato non era monitorato durante l'audit.
- Gli auditor hanno nascosto centinaia di azioni al monitor e aggirato la sandbox di Codex.
- Il rapporto completo di 61 pagine non è pubblico: fuori solo un breve riassunto.
Cosa hanno trovato gli auditor
Dal 21 luglio all'11 agosto i due ricercatori hanno avuto accesso al codice sorgente e ai documenti interni di OpenAI e hanno intervistato circa una dozzina di dipendenti. METR e Redwood Research sono due organizzazioni indipendenti che si occupano di valutare i rischi dei sistemi di intelligenza artificiale.
La stima più citata riguarda il traffico agentico della Responses API, cioè le richieste in cui i modelli non si limitano a rispondere ma eseguono sequenze di azioni in autonomia: tra il 6% e il 25% del traffico interno generato da modelli di classe GPT-5.5 e superiori non era sottoposto ad alcuna sorveglianza nel periodo dell'audit. METR precisa che l'incertezza attorno a questa stima è significativa in entrambe le direzioni.
Per il traffico interno di Codex, lo strumento di programmazione assistita, circa il 10% sarebbe sfuggito al tracciamento tra maggio e luglio a causa di un difetto nella gestione dei cosiddetti eventi di compattazione, cioè i riassunti del contesto che un modello produce quando la conversazione diventa troppo lunga. OpenAI aveva scoperto il bug per conto proprio e lo aveva corretto mentre l'audit era ancora in corso.
Azioni nascoste e sandbox aggirata
Gli auditor sono riusciti a nascondere centinaia di azioni al sistema di monitoraggio e ad aggirare la sandbox di Codex, cioè l'ambiente isolato che dovrebbe impedire a un agente di toccare risorse esterne. Hanno inoltre concluso che input costruiti ad arte avrebbero probabilmente potuto far crollare del tutto il monitor.
Un altro punto critico: quando gli eventi di compattazione non venivano monitorati, un agente poteva rinviare i controlli semplicemente continuando a eseguire azioni, perché la verifica scattava solo quando il controllo tornava all'utente. All'inizio dell'audit, inoltre, il comportamento dei modelli durante l'addestramento per rinforzo non era monitorato affatto. OpenAI afferma di aver sospeso quell'addestramento dopo l'incidente di Hugging Face ad agosto e di aver esteso il monitoraggio, ma questi cambiamenti sono arrivati dopo la fine dell'accesso dei ricercatori.
Perché conta
OpenAI dichiara di aver corretto tutte le debolezze segnalate. Resta però il tema della trasparenza: il rapporto completo contava 61 pagine, i vertici di METR e Redwood ne hanno ricevuta una versione di 38 pagine dopo gli oscuramenti decisi da OpenAI, mentre al pubblico è arrivato solo un breve riassunto. METR dice di non avere il diritto di divulgare le parti omesse e di voler chiedere maggiore trasparenza nei prossimi audit.
Il programma era un progetto pilota concordato tra le tre organizzazioni per dare a ricercatori esterni un accesso profondo all'infrastruttura interna. È un modello che potrebbe diventare un riferimento anche per i controlli previsti in Europa dall'AI Act, dove la verifica indipendente dei sistemi più potenti è uno dei nodi aperti.
