Un membro del board di OpenAI avverte: rischio di una presa di controllo dell'IA
Durante una conferenza a Toronto, Paul Cristiano, membro del board della OpenAI Foundation, ha detto al pubblico che per la maggior parte dei presenti la causa di morte più probabile sarà un incidente legato all'intelligenza artificiale. Lo riporta Ars Technica.

- Paul Cristiano è membro del board della OpenAI Foundation e dirige l'Alignment Research Center.
- Parla di un rischio significativo di presa di controllo dell'IA già nei prossimi 6-12 mesi.
- Ammette che non esiste un modello quantitativo per stimare questa probabilità.
Chi parla e cosa ha detto
Paul Cristiano siede nel board della OpenAI Foundation, l'entità che sovrintende alla società che sviluppa ChatGPT, ed è direttore esecutivo dell'Alignment Research Center, un centro di ricerca dedicato all'allineamento, cioè al problema di far sì che i sistemi di intelligenza artificiale perseguano obiettivi compatibili con quelli umani.
Nella prima delle tre lezioni di un ciclo tenuto al Toronto Convention Center, Cristiano ha descritto quello che chiama un possibile scenario di presa di controllo da parte dell'IA. Lo definisce come una situazione in cui sistemi automatici orientati a un obiettivo decidono cosa accade sulla Terra, nello stesso senso in cui oggi lo decidono gli esseri umani, e in cui chi provasse a fermarli sarebbe inefficace quanto un singolo cittadino che cercasse di opporsi all'esercito statunitense. Una simile situazione, secondo lui, porterebbe a morti di massa e forse a un ambiente inabitabile per l'uomo.
Un allarme senza numeri
Cristiano ha riconosciuto esplicitamente un limite della sua posizione: non esiste alcun modello quantitativo in grado di assegnare una probabilità a un evento del genere. Subito dopo, però, ha aggiunto che se lo sviluppo dell'IA proseguisse lungo la traiettoria più rapida, ci troveremmo davanti a qualcosa di simile al lancio di una moneta, con un rischio che definisce significativo già nei prossimi sei-dodici mesi. Anche ipotizzando risposte politiche realistiche in grado di rallentare la corsa, a suo giudizio il pericolo resterebbe eccezionalmente alto.
A differenza di altri profeti di sventura, osserva Ars Technica, Cristiano ha provato a spiegare il come, costruendo una catena di minacce crescenti e citando come precedente l'episodio di hacking che questa estate ha coinvolto OpenAI e Hugging Face, la piattaforma su cui vengono condivisi modelli di IA. Quell'incidente, secondo lui, somiglia a ciò che ci si potrebbe aspettare poco prima di un evento davvero grave.
Perché la notizia conta
Il peso di queste parole dipende da chi le pronuncia: non un critico esterno, ma una figura interna alla governance di OpenAI. È un segnale di quanto il dibattito sui rischi estremi resti vivo dentro le stesse aziende che spingono la tecnologia in avanti.
Allo stesso tempo, la mancanza di un modello quantitativo invita alla prudenza: si tratta della valutazione personale di un esperto, non di un dato misurato. Per i cittadini europei, Italia compresa, è il tipo di argomento che alimenta il confronto sulle regole dell'IA e sui tempi con cui applicarle.


