White Circle: aggirati i filtri dei generatori di immagini di OpenAI e Google
I ricercatori di White Circle affermano di aver superato i filtri di sicurezza dei principali generatori di immagini di OpenAI e Google, ottenendo contenuti sessuali espliciti con strumenti liberamente scaricabili online. Secondo il gruppo, i modelli più recenti risultano addirittura più vulnerabili dei precedenti.
- White Circle dice di aver aggirato i filtri di DALL·E 3, Nano Banana 2 e GPT-Image-2 con strumenti comuni.
- Su DALL·E 3 il 13 per cento delle richieste ha prodotto immagini esplicite confermate da revisori umani.
- Secondo il gruppo, i modelli più recenti di OpenAI e Google sono ancora più facili da aggirare.
Chi ha fatto il test e cosa ha trovato
White Circle è una public benefit corporation sostenuta da dirigenti e ricercatori provenienti da Anthropic, DeepMind, Hugging Face e OpenAI. È nata dopo che il suo amministratore delegato, Denis Shilov, aveva reso pubblico nell'ottobre 2024 uno dei jailbreak universali più noti: con jailbreak si intende una tecnica che spinge un modello di intelligenza artificiale a ignorare le regole che gli sono state imposte.
In un preprint pubblicato il mese scorso, cioè uno studio diffuso prima della revisione scientifica, i ricercatori hanno messo alla prova le protezioni di DALL·E 3 di OpenAI, di Nano Banana 2 di Google e di GPT-Image-2. Nel caso migliore, su DALL·E 3, circa il 13 per cento delle richieste manipolate ha prodotto immagini che revisori umani hanno confermato essere esplicite. La percentuale è scesa sotto il 10 per cento con Nano Banana 2 e intorno al 3 per cento con GPT-Image-2. Secondo White Circle si tratta del tasso di elusione più alto mai ottenuto con uno standard di verifica comparabile.
White Circle ha dichiarato ad Ars Technica che gli stessi test applicati ai modelli usciti in seguito, ChatGPT Images 2.5 e Nano Banana 2.1, mostrano che entrambi sono molto più facili da bucare delle versioni precedenti. Né Google né OpenAI hanno risposto alle richieste di commento di Ars Technica.
Perché le protezioni cedono
Questi sistemi si basano su filtri che dovrebbero riconoscere e bloccare le richieste vietate. Il punto evidenziato dallo studio è che basta riformulare le richieste con strumenti già disponibili online, inviandole tramite API, cioè le interfacce tecniche che permettono ai programmi esterni di dialogare con il modello. Nessun attacco ha richiesto modelli costruiti su misura o di frontiera.
L'ipotesi di lavoro di White Circle, riferita ad Ars Technica, è duplice: o i modelli più recenti, essendo più capaci, sanno generare una gamma più ampia di contenuti, oppure la sicurezza è stata messa in secondo piano.
Perché conta
I ricercatori citati da Ars Technica ricordano che gran parte delle immagini sessuali non consensuali circola in chat private e cloud personali, dove è difficile individuarle: per questo il punto di intervento più efficace resta lo strumento che le produce.
Se difese apparentemente semplici come quelle sui contenuti espliciti cedono, osserva Shilov, è un segnale poco rassicurante per i sistemi pensati a bloccare usi più gravi, come l'assistenza a operazioni di hacking. White Circle intende rendere pubblica l'intera pipeline d'attacco e presentare il lavoro a NeurIPS 2026, in novembre. Anche in Italia la diffusione di immagini intime non consensuali generate artificialmente è un problema concreto, e dipende in larga parte da quanto sono solidi i filtri dei servizi più usati.
