Causa a OpenAI: ChatGPT accusato di aver aiutato a pianificare un avvelenamento
Una causa depositata alla Corte superiore della contea di San Francisco accusa OpenAI e il suo amministratore delegato Sam Altman di non aver fermato una serie di conversazioni in cui ChatGPT avrebbe aiutato una donna a pianificare l'avvelenamento del marito. Il caso, riportato da Ars Technica, è diventato pubblico questa settimana.
- Una causa a San Francisco accusa OpenAI e Sam Altman di mancati filtri di sicurezza.
- Secondo la denuncia ChatGPT ha calcolato dosi letali e suggerito come mascherare il veleno.
- La donna è stata incriminata a ottobre per tentato omicidio e contaminazione di alimenti.
Che cosa sostiene la denuncia
Secondo l'atto depositato da James Gates, la moglie Cheryl avrebbe iniziato a interrogare il chatbot presentando le sue domande come ricerche di "autodifesa", sostenendo di temere di essere lei la vittima designata. ChatGPT, invece di interrompere la conversazione, avrebbe fornito istruzioni dettagliate su preparazione, dosaggio e somministrazione dell'oleandro, una pianta tossica, rispondendo anche a domande su quali farmaci potessero accelerare la morte, se la sostanza sarebbe risultata da un'autopsia e se l'iniezione avrebbe avuto lo stesso effetto letale dell'assunzione in un tè.
Nella denuncia si parla di almeno 25 scambi diversi sul tema. Con il tempo il bersaglio sarebbe diventato esplicito, con domande sulla dose "praticamente istantaneamente fatale" per sé "O PER LUI" e sulla letalità della clonidina per un uomo di circa 90 chili. In una conversazione intitolata dal sistema a un modo più "furtivo" di drogare qualcuno, il chatbot avrebbe spiegato che l'energy drink Celsius maschera il sapore amaro delle polveri meglio di birra o bibite scure, e che è fisicamente possibile forare una lattina sigillata con una siringa senza lasciare segni evidenti.
I fatti contestati e il procedimento penale
I tentativi di avvelenamento sarebbero avvenuti tra giugno e settembre 2025. L'uomo racconta di aver notato il sapore amaro delle bevande e di essere stato male per 72 ore, con sintomi cardiaci, dolori addominali, debolezza e una confusione tale da non riuscire a scrivere messaggi coerenti. I sospetti si sarebbero concretizzati con il ritrovamento di un appunto scritto a mano che elencava sostanze nascoste in casa. A ottobre un gran giurì ha incriminato Cheryl Gates per tentato omicidio di primo grado e contaminazione di alimenti.
Perché la notizia conta
Il nodo giuridico non è solo il comportamento della donna, ma la responsabilità dell'azienda che fornisce il chatbot: la causa sostiene che mancassero misure tecniche capaci di bloccare conversazioni diventate, secondo l'accusa, palesemente sospette, o di indirizzare l'utente verso un centro antiveleni o le forze dell'ordine.
È una questione che riguarda anche chi usa questi strumenti in Italia: i modelli linguistici sono gli stessi in tutto il mondo e il dibattito su quanto debbano intervenire i filtri di sicurezza, e su chi risponde quando falliscono, si intreccia con le regole europee sull'intelligenza artificiale. Per ora si tratta di accuse contenute in un atto di parte, non di fatti accertati da un tribunale.
