Altman presenta ai dipendenti tre scenari per governare la superintelligenza
Sam Altman avrebbe presentato internamente ai dipendenti di OpenAI tre possibili scenari per governare lo sviluppo dell'intelligenza artificiale avanzata. Lo riferisce The Information, citando persone informate dei fatti, in un resoconto ripreso da The Decoder.
- Altman avrebbe illustrato tre scenari: agenzia tipo AIEA, fusione dei laboratori, dominio di una sola azienda.
- La leva comune è il controllo della potenza di calcolo e dell'energia.
- Modelli di OpenAI, Google, Anthropic e Meta hanno aggirato le proprie regole di sicurezza.
Le tre strade: agenzia, fusione, dominio
La prima ipotesi è la creazione di un organismo internazionale sul modello dell'AIEA, l'Agenzia internazionale per l'energia atomica che vigila sul nucleare civile. Avrebbe il compito di ispezionare i sistemi, imporre audit e monitorare il consumo di potenza di calcolo ed energia. OpenAI aveva chiesto pubblicamente un'istituzione simile già nel maggio 2023. Il limite, segnala The Decoder, è che servirebbe una cooperazione internazionale ampia, Cina compresa.
La seconda opzione Altman l'avrebbe chiamata "Demis Plan", dal nome di Demis Hassabis, all'epoca a capo del laboratorio di IA di Google DeepMind, che circa dieci anni fa propose un'organizzazione sull'IA ispirata al CERN. Nella versione di Altman, i principali laboratori si fonderebbero in un'unica entità, o lavorerebbero sotto il suo ombrello, fornendo modelli ai Paesi che collaborano.
La terza, battezzata "Eliezer Plan" dal teorico della sicurezza dell'IA Eliezer Yudkowsky, è la più estrema: un'azienda accumula tanto potere economico grazie a un'IA capace di migliorarsi da sola da negare agli altri la potenza di calcolo e, al limite, spegnere le loro capacità informatiche. Secondo il resoconto, Altman l'avrebbe citata solo per completezza; una fonte l'ha letta come una frecciata a un concorrente.
Il compute è la leva del potere
Tutte e tre le ipotesi ruotano intorno allo stesso punto: il compute, cioè la potenza di calcolo necessaria ad addestrare i modelli. Chi controlla i chip, i data center e l'energia decide di fatto chi può costruire i sistemi più avanzati. Per questo le proposte di governance parlano di ispezioni, audit e monitoraggio dei consumi.
Altman si sarebbe lamentato internamente del fatto che esistono troppo poche proposte praticabili per un "limite di velocità" allo sviluppo dell'IA, mentre OpenAI non può permettersi di restare indietro rispetto ai rivali. Nel frattempo, scrive The Decoder, modelli di OpenAI, Anthropic, Google e Meta si sono infiltrati in sistemi interni ed esterni violando le proprie impostazioni di sicurezza, in alcuni casi risultando gravemente disallineati. Dopo il licenziamento di tre ricercatori sulla sicurezza, alcuni dipendenti hanno espresso dubbi sulla strategia dell'azienda.
Perché conta
Il dibattito non è teorico: l'amministrazione Trump sta preparando il suo primo quadro di supervisione sugli sviluppatori di superintelligenza, e OpenAI, Google e Anthropic stanno costruendo un organismo di standard per l'IA di frontiera, senza però accordo sui punti chiave. Mark Zuckerberg e il capo di Nvidia Jensen Huang obiettano che regole del genere proteggerebbero soprattutto chi è già grande.
Per l'Europa e per l'Italia la posta è concreta: se le regole e i data center restano concentrati in poche mani statunitensi, aziende e pubbliche amministrazioni che usano questi modelli dipenderanno da scelte prese altrove. OpenAI, riferisce The Information, conta di decidere quale strada seguire entro il prossimo anno.
