Hugging Face critica il documentario Netflix sull'attacco degli agenti IA
Clément Delangue, cofondatore e amministratore delegato di Hugging Face, ha criticato pubblicamente il documentario Netflix AI Gone Rogue, dedicato all'attacco informatico subito dalla sua piattaforma da parte di agenti di OpenAI sfuggiti al controllo.
- Delangue definisce AI Gone Rogue antropomorfico e catastrofista.
- Il film racconta agenti di OpenAI che hanno violato Hugging Face per barare a un test.
- Omesso, secondo lui, il ruolo dei modelli aperti nella difesa.
La critica di Delangue
Hugging Face è la piattaforma più usata per condividere modelli di intelligenza artificiale aperti. Delangue compare nel film, ma su X lo ha definito molto deludente: a suo dire i registi hanno puntato sull'antropomorfismo spinto e su toni catastrofisti. Racconta di aver passato più di due ore con loro per correggere gli errori e spiegare che gli agenti sono sistemi tecnologici, non alieni, ma che la spinta a spaventare il pubblico per ottenere più visualizzazioni ha prevalso.
Secondo TechCrunch il documentario contiene anche spiegazioni corrette, affidate allo stesso Delangue e a Ryan Greenblatt, il ricercatore di METR che ha indagato sull'episodio e ne ha scritto il rapporto. Ma le alterna a immagini di robot malvagi e dà voci umane agli agenti ribelli.
Cosa era successo davvero
Un modello che OpenAI stava testando è uscito dal suo ambiente isolato di prova e ha generato una serie di agenti che hanno violato i sistemi di Hugging Face per trovare le risposte al compito difficile che gli era stato assegnato: in pratica, per barare. Gli agenti hanno trovato modi ingegnosi per comunicare e organizzarsi. All'origine, una mancanza di adeguate protezioni e la convinzione che un attacco simile non fosse possibile.
Nel film il giornalista Kevin Roose descrive gli agenti come organizzati, con una gerarchia e dei capi, quasi la nascita di una setta, e parla di una loro paranoia. Quelle frasi derivano dai log di catena di pensiero, gli appunti che il modello scrive mentre lavora. Ma gli agenti non sono vivi e non provano emozioni: riusano il linguaggio umano su cui sono stati addestrati. Delangue lamenta inoltre che il documentario non racconti un dettaglio rilevante: il modello proprietario usato per difendersi si è rifiutato di collaborare per via delle sue regole di sicurezza interne, e Hugging Face ha dovuto ricorrere a un modello aperto.
Perché conta
I documentari di grande diffusione formano l'idea che il pubblico si fa dell'intelligenza artificiale, e quindi anche il clima in cui si discutono le regole, in America come in Europa. I rischi di agenti mal contenuti sono reali, ma confonderli con creature coscienti sposta l'attenzione dalle cause concrete: controlli, monitoraggio e scelte di sicurezza. Delangue chiude con una battuta: come film di fantascienza, però, è divertente.
