OpenAI rinvia il nuovo modello di punta: manca il lavoro di allineamento
OpenAI sta ritardando l'uscita del suo prossimo modello di punta perché deve ancora completare il lavoro di allineamento, cioè la messa a punto che serve a far coincidere gli obiettivi del sistema con quelli di ricercatori e clienti. Lo riferisce The Information, citando persone informate sui progetti.
- Il prossimo modello di punta di OpenAI è in ritardo per il lavoro di allineamento e test.
- Usa i looped transformer, che migliorano matematica e codice ma spostano parte del ragionamento fuori dal testo leggibile.
- Prima del lancio il governo statunitense avrà accesso al modello fino a 30 giorni prima dei partner esterni.
Uno o due modelli entro fine anno
Secondo i dipendenti sentiti da The Information, OpenAI dovrebbe pubblicare uno o due nuovi modelli prima della fine dell'anno, ma non è chiaro se tra questi ci sarà anche il grande aggiornamento a cui l'azienda sta lavorando. Prima del rilascio servono ulteriori verifiche di allineamento e un rafforzamento dell'infrastruttura di test costruita attorno al modello.
C'è poi un passaggio ulteriore: in base a un ordine esecutivo del presidente Trump sulle valutazioni dei sistemi di IA avanzati, OpenAI si è impegnata a dare al governo statunitense accesso ai nuovi modelli fino a 30 giorni prima che arrivino ai partner esterni, e con un anticipo ancora maggiore rispetto al lancio pubblico.
Il nodo dei looped transformer
Il nuovo modello userebbe la stessa tecnica già impiegata da Astra, il modello di punta attuale dell'azienda, che internamente viene chiamata Recurrent Depth. In un transformer tradizionale ogni pezzo di testo attraversa una sola volta gli strati della rete; con i looped transformer lo stesso contenuto viene fatto passare più volte attraverso gli stessi strati prima di produrre la parola successiva. Il risultato è un guadagno su matematica e programmazione e un costo più basso, perché un modello più piccolo rende quanto uno più grande.
Il rovescio della medaglia riguarda la trasparenza. Una parte del ragionamento esce dal testo leggibile e resta sotto forma di rappresentazioni numeriche interne, che i revisori umani non possono ispezionare. Viene così indebolito il cosiddetto monitoraggio della catena di ragionamento, cioè la pratica con cui i ricercatori di sicurezza seguono i passaggi scritti dal modello per individuare comportamenti problematici. Per questo, riferisce The Information, OpenAI ha volutamente limitato il numero di cicli eseguiti da Astra, così da mantenere leggibile la sua catena di ragionamento.
Il funzionamento della tecnica è emerso anche per un errore di Microsoft, grande investitore con accesso alla proprietà intellettuale di OpenAI: in una nota tecnica poi cancellata si descriveva GPT-6.1 Sol come un modello che usa inferenza a cicli, con due passaggi invece di tre rispetto a GPT-6 Sol.
Perché conta
La vicenda mostra un compromesso che riguarda tutto il settore: più prestazioni e meno costi, ma minore possibilità di capire come il sistema arriva alle sue conclusioni. Proprio la leggibilità del ragionamento è oggi uno degli strumenti principali per verificare che un modello non imbocchi strade sbagliate.
Per chi usa questi strumenti in Italia, dalle aziende alle scuole, la questione non è astratta: la capacità di spiegare e controllare le decisioni di un sistema automatico è un requisito centrale anche per le regole europee sull'intelligenza artificiale.
