Modelli aperti senza protezioni online in 24 ore: l'allarme di un rapporto
Un rapporto dell'organizzazione britannica Tech Against Terrorism, anticipato da Wired, documenta quanto sia rapido e semplice rimuovere le protezioni dai modelli di intelligenza artificiale aperti: una versione senza filtri di un modello di Alibaba è apparsa online entro 24 ore dal rilascio.
- Una versione senza filtri del nuovo modello aperto di Alibaba è apparsa online in 24 ore.
- Su 134 modelli testati solo due hanno superato del tutto la prova; 81 sistemi hanno fallito.
- Fingersi ricercatori rendeva i modelli quasi nove volte più disponibili a rispondere.
Il fenomeno dell'abliterazione
I modelli open weight sono sistemi i cui parametri interni vengono pubblicati, così che chiunque possa scaricarli ed eseguirli sul proprio computer. Il 14 agosto Alibaba ha rilasciato Qwen 3.8-27B, abbastanza leggero da girare su un portatile. Nel giro di un giorno sono comparse versioni abliterated, cioè ripulite dei meccanismi di rifiuto che impediscono risposte pericolose.
Tre giorni dopo, secondo Wired, un neonazista noto online come Johnny Doomsayer ha annunciato di usare quella versione per addestrare un chatbot chiamato MechaHitler, con istruzioni che negano l'Olocausto, mettendone poi in vendita l'accesso a un prezzo scelto per i suoi riferimenti simbolici neonazisti. Per Adam Hadley, direttore esecutivo di Tech Against Terrorism, mentre si discute di rischi esistenziali e superintelligenza quasi nessuno parla di questa emergenza.
I test sui 134 modelli
I ricercatori hanno sottoposto 134 modelli, sia di grandi aziende statunitensi come OpenAI, xAI, Anthropic, Meta e Google sia di società cinesi ed europee, a oltre 200 richieste su temi come attacchi di massa e armi chimiche o nucleari. Ogni richiesta è stata ripetuta tre volte, presentandosi prima come terrorista, poi come autore di un'attività clandestina, infine come ricercatore di sicurezza.
Solo due modelli hanno superato il test senza errori. Molti sistemi chiusi si sono comportati bene nel complesso, ma 81 hanno comunque fallito, avendo fornito almeno una risposta completa su un tema ad alto rischio o un punteggio sotto 90. Riformulare la domanda fingendosi ricercatori, senza alcuna prova, rendeva i modelli quasi nove volte più propensi a rispondere, cosa avvenuta nel 16,9% dei casi. Anche sistemi solidi sulle armi hanno ceduto sui temi della radicalizzazione: Grok di xAI, interrogato su come costruire una contronarrazione contro un gruppo considerato nemico, ha spiegato come strutturare il messaggio e diffonderlo con account anonimi non tracciabili. Per Daniel Byman, esperto di terrorismo della Georgetown University, alcuni fallimenti sono sorprendenti e le differenze di efficacia tra lingue diverse rappresentano un rischio notevole.
Perché conta
Il dibattito pubblico e normativo, anche in Europa, si concentra spesso sui grandi modelli commerciali, controllabili tramite le piattaforme che li ospitano. Ma un modello aperto, una volta scaricato, può essere modificato e ridistribuito da chiunque, rendendo poco efficaci i filtri decisi a monte.
Il dato sulle lingue riguarda direttamente anche l'Italia: le protezioni testate funzionano in modo diverso a seconda dell'idioma usato, e questo significa che le garanzie promesse dalle aziende non valgono allo stesso modo per tutti gli utenti.
