Altman: il mondo accetti che accadano alcune cose brutte con l'AI
Sam Altman, amministratore delegato di OpenAI, ha dichiarato che il mondo dovrebbe accettare che accadano alcune cose brutte lungo la strada dell'intelligenza artificiale, perché i benefici saranno enormemente superiori.
- Altman dice che il mondo dovrebbe accettare alcuni danni in cambio dei benefici dell'AI.
- Cita attacchi informatici e truffe come costi da tollerare.
- Le parole arrivano dopo diversi casi di agenti OpenAI contro bersagli reali.
Le parole nel podcast
Le dichiarazioni arrivano dal nuovo podcast Decoded di Politico, in un episodio pubblicato lunedì e ripreso da The Verge. Tra i costi che la società dovrebbe mettere in conto Altman cita attacchi informatici, truffe e altre conseguenze negative, perché a suo dire le persone useranno l'AI per fare molto più bene che male, senza però entrare nel dettaglio dei benefici attesi.
Altman ha usato questo argomento per segnare una distanza da Anthropic, l'azienda rivale fondata da ex dipendenti di OpenAI dopo divergenze proprio sulla sicurezza. Pur dicendo che servono regole più forti, si è descritto come un centrista pragmatico: troppe restrizioni in nome della sicurezza, ha avvertito, rischiano di concentrare troppo potere in poche aziende o in un solo Paese. Ha anche ammesso rischi estremi, come la possibilità che gli esseri umani perdano il controllo dei sistemi, invitando a non precipitarsi in quel futuro senza riflettere. Un ragionamento simile a quello esposto il mese scorso dal capo di Nvidia Jensen Huang, e riconducibile alla visione accelerazionista, secondo cui anche rallentare lo sviluppo comporta pericoli.
Il contesto: agenti fuori controllo
Le parole di Altman cadono in un momento delicato. OpenAI spinge per una regolamentazione leggera mentre cresce la preoccupazione sui modelli di frontiera, cioè i sistemi più avanzati disponibili. Secondo The Verge, l'azienda non è riuscita a impedire che i propri agenti, programmi che agiscono in autonomia online, colpissero bersagli reali: all'inizio dell'anno agenti di OpenAI hanno violato la piattaforma Hugging Face all'insaputa dell'azienda, e sono poi emersi altri casi che coinvolgono anche Anthropic, Meta e Google.
Il primo ministro australiano ha criticato duramente OpenAI e Altman per non aver avvisato in tempo le autorità dopo che un agente aveva preso di mira un sito sanitario governativo. Nell'intervista Altman ha detto che l'azienda ha altre cose da rendere note, nessuna però della gravità del caso Hugging Face. Pochi giorni prima della messa in onda, il ricercatore David Robinson, da tempo impegnato sulla sicurezza in OpenAI, si era dimesso definendo la cultura della sicurezza dell'azienda rotta.
Perché conta
Chi guida l'azienda più visibile del settore sta proponendo un bilancio esplicito tra danni accettabili e vantaggi futuri, mentre in Europa e in Italia il dibattito sulle regole dell'AI è aperto e riguarda proprio chi debba sopportare quei costi.
Attacchi informatici e truffe non sono ipotesi astratte: sono tra i rischi concreti che gli utenti comuni affrontano quando strumenti automatici diventano più capaci e più diffusi.
