Che cos'è la catena di pensiero e perché i ricercatori la difendono
I tre ricercatori licenziati da OpenAI lavoravano su un tema tecnico diventato politico: la chain of thought, cioè i passaggi intermedi che un modello scrive mentre elabora una risposta. Leggere quelle tracce è oggi il modo principale per capire perché un sistema si comporta in un certo modo.
- La chain of thought è la sequenza di passaggi intermedi che un modello di ragionamento annota.
- Leggere quelle tracce è oggi il principale strumento di monitoraggio della sicurezza.
- I modelli più recenti tendono a mostrarne sempre meno.
Un blocco per gli appunti interno
Dalla fine del 2024 una parte dei sistemi più avanzati appartiene alla famiglia dei cosiddetti modelli di ragionamento: invece di rispondere subito, scompongono il problema in passaggi e li annotano su una sorta di blocco per gli appunti interno. Quella sequenza è la chain of thought, letteralmente catena di pensiero.
Per le aziende e per i ricercatori di sicurezza quelle tracce sono preziose: permettono di ricostruire come un modello è arrivato a una conclusione, di individuare errori e di accorgersi se il sistema sta perseguendo un obiettivo diverso da quello richiesto. È un controllo indiretto, ma al momento è il più accessibile.
Il problema dei modelli recenti
Secondo quanto riportato da The Decoder, nel corso dell'estate nei laboratori di IA si è iniziato a discutere di modelli che ragionano più a lungo ma scrivono meno passaggi intermedi: più capaci, quindi, e al tempo stesso più opachi. Il caso emblematico è quello del modello di OpenAI chiamato Astra, descritto in questi termini da The Information il 1° settembre.
Nel 2025 Mikita Balesni, Tomek Korbak e Jasmine Wang avevano firmato insieme a ricercatori di vari laboratori un documento che chiedeva di preservare l'accesso a questa possibilità di monitoraggio. Lo stesso capo scienziato di OpenAI, Jakub Pachocki, aveva messo in guardia in passato da una corsa dell'intero settore verso modelli che non si riescono più a controllare.
Perché conta
Se la catena di pensiero sparisce o diventa illeggibile, viene meno la finestra più comoda sul funzionamento interno dei sistemi che stanno entrando in ospedali, tribunali, scuole e aziende. Chi verifica la sicurezza di un modello si ritroverebbe a giudicare solo l'output finale, senza poter osservare il percorso che lo ha prodotto.
È un punto rilevante anche per chi vive in Italia: le norme europee sull'intelligenza artificiale si basano sull'idea che i sistemi più rischiosi siano documentabili e verificabili. Più i modelli diventano opachi, più difficile diventa per enti indipendenti e autorità fare il proprio lavoro.
