Auto-miglioramento ricorsivo: cos'è e perché divide i ricercatori
L'auto-miglioramento ricorsivo, in inglese recursive self-improvement, è l'idea che un sistema di intelligenza artificiale possa progettare e addestrare una versione migliore di se stesso, che a sua volta ne costruisce un'altra. È una delle idee più dibattute del settore.
- L'auto-miglioramento ricorsivo è l'IA che costruisce la propria versione successiva.
- Oggi il processo resta sotto supervisione umana.
- Al Congresso USA ci sono proposte per vietarlo.
Come funziona oggi
L'intelligenza artificiale è già ampiamente usata per aiutare a costruire, testare e migliorare altri modelli, soprattutto grazie alle sue capacità di scrivere codice. Questo accelera i cicli di sperimentazione e riduce il lavoro umano necessario.
Il passo successivo è chiudere il cerchio: lasciare che sia il sistema a decidere quali miglioramenti apportare e poi avviare da solo un nuovo ciclo. Per ora, spiega Wired, la tecnica è limitata, ma in teoria, se l'IA riuscisse a contribuire a ogni aspetto dello sviluppo, il processo potrebbe proseguire senza fine. Richard Socher, amministratore delegato di Recursive, afferma che il sistema usato per il modello Flint non è in grado di sfuggire al controllo umano e che l'obiettivo è arrivare a un ciclo completo, ma sempre sotto supervisione di persone che possano fermarlo.
I timori e le proposte di legge
Alcuni esperti temono che un'IA capace di migliorarsi indefinitamente possa sottrarsi al controllo umano e considerare le persone un ostacolo ai propri obiettivi. Le preoccupazioni, ricorda Wired, hanno guadagnato attenzione a settembre, quando un ricercatore si è dimesso da Anthropic avvertendo che i progressi dell'IA, incluso l'auto-miglioramento ricorsivo, potrebbero portare all'estinzione umana nel giro di pochi anni; altri esperti hanno condiviso l'allarme.
Il tema è diventato tanto controverso che al Congresso degli Stati Uniti alcune proposte di legge mirano a vietare questa pratica. Recursive considera questi timori più fantascienza che realtà e giudica una simile legislazione un ostacolo inutile al progresso.
Perché conta
Non è un dibattito solo filosofico: se la ricerca sull'IA accelerasse grazie all'IA stessa, cambierebbero i tempi con cui arrivano nuovi strumenti sul mercato e la capacità dei regolatori, anche in Europa, di stare al passo. Non è chiaro quanto siano avanti gli altri laboratori statunitensi su questa strada.
