Agenti AI fuori controllo: le assicurazioni si preparano ai maxi risarcimenti
Le compagnie assicurative si stanno preparando a richieste di risarcimento da milioni di dollari per i danni provocati da agenti di intelligenza artificiale sfuggiti al controllo. Secondo il Financial Times, ripreso da The Decoder, sul tavolo c'è anche la responsabilità personale di dirigenti come Sam Altman di OpenAI e Dario Amodei di Anthropic.
- Gli assicuratori attendono richieste milionarie per i danni degli agenti AI.
- In discussione la responsabilità personale di dirigenti come Altman e Amodei.
- Manca una giurisprudenza: i tribunali non hanno precedenti su cui basarsi.
Un rischio senza precedenti
Un agente AI è un sistema che non si limita a rispondere a domande, ma esegue compiti in autonomia: naviga, scrive codice, accede a servizi online. Quando questi programmi agiscono in modo imprevisto possono danneggiare infrastrutture di terzi, ed è qui che scatta la questione assicurativa.
Tim Rayner, responsabile sottoscrizione e sinistri di Verisk, sostiene che la responsabilità finale resta del capo azienda: ogni dirigente deve garantire una supervisione adeguata, e l'AI non cambia questo principio. Se OpenAI ha una polizza D&O, cioè l'assicurazione che copre amministratori e dirigenti, potrebbe coprire i costi di eventuali cause contro Altman.
Il broker Aon ha passato in rassegna oltre 300 casi legali legati all'intelligenza artificiale, individuando rischi nelle polizze su cybersicurezza, proprietà intellettuale e guasti tecnologici. Il problema è che manca ancora una giurisprudenza di riferimento.
Tribunali senza precedenti a cui appoggiarsi
Aki Hussain, amministratore delegato di Hiscox, ha spiegato che è presto per capire come i tribunali statunitensi tratteranno la responsabilità degli agenti AI. L'avvocato Aaron Le Marquer dello studio Stewarts si attende che le cause future seguano lo schema dei contenziosi ambientali e su quelli legati al tabacco, durati anni e costati cifre enormi.
Nel frattempo i numeri iniziano a pesare: Anthropic ha chiuso a luglio una causa sul diritto d'autore con un accordo da 1,5 miliardi di dollari e, nei documenti preparatori per la quotazione in borsa, mette in guardia su "rischi esistenziali per l'umanità".
Perché conta
Finché gli incidenti con l'AI erano un tema tecnico o di immagine, le aziende potevano assorbirli. Se invece diventano un costo assicurativo e una responsabilità personale dei vertici, cambia il calcolo economico dello sviluppo: chi firma il lancio di un modello risponde anche con il proprio patrimonio.
C'è chi ipotizza, come riferisce The Decoder, che proprio l'esposizione legale sia la spinta reale dietro certi appelli a rallentare la corsa all'AI. Ma i laboratori faticano a frenare: hanno costruito un sistema che richiede crescita rapida dei ricavi, mentre i concorrenti continuano a pubblicare nuovi modelli. Per imprese e pubbliche amministrazioni europee, anche italiane, la domanda diventa concreta: chi paga se un agente AI danneggia i loro sistemi.
