OpenAI mette una filigrana invisibile nei testi di ChatGPT nell'UE
OpenAI ha annunciato che inizierà ad applicare una filigrana invisibile ai testi generati da ChatGPT e Codex, ma solo nell'Unione Europea, per rispettare l'AI Act. La tecnologia si chiama textGrain e lascia un'impronta statistica nelle parole scelte dal modello.
- OpenAI attiva la filigrana invisibile textGrain su ChatGPT e Codex nella sola UE.
- Il marchio nasce dalle scelte di parole del modello e resiste al copia e incolla.
- Sostituendo il 10% delle parole con sinonimi il rilevamento scende dal 92% al 66%.
Che cos'è textGrain
La filigrana, o watermark, non è un simbolo visibile né una scritta: è un modo sottile di orientare le scelte lessicali del modello. Una chiave segreta ordina le previsioni sulla parola successiva, e sommando centinaia di piccole spinte si forma uno schema che un rilevatore può riconoscere avendo solo il testo e la chiave. Poiché l'impronta vive dentro le parole, resiste al copia e incolla. OpenAI ha pubblicato un rapporto tecnico scritto insieme a ricercatori dell'Università della Pennsylvania e di Yale, e afferma che il sistema ha eguagliato o superato approcci concorrenti come SynthID per il testo di Google DeepMind, su cui si basa anche la filigrana annunciata ad agosto da Anthropic per Claude.
L'attivazione nell'UE avverrà nelle prossime settimane per gli utenti di tutti i piani. Chi usa le API, cioè gli sviluppatori che integrano i modelli nei propri prodotti, può attivarla ovunque nel mondo ma solo volontariamente: è spenta per impostazione predefinita. OpenAI ha chiarito che la filigrana non sarà l'impostazione globale al lancio.
Basta cambiare qualche parola
Il limite principale è la fragilità. Secondo i test della stessa OpenAI, sostituendo il 10% delle parole con sinonimi il rilevamento su passaggi di 400 token scende da circa il 92% al 66%; cambiandone un quarto crolla al 17%. I testi brevi, le risposte matematiche e le traduzioni sono più difficili da riconoscere. Per questo l'accesso al rilevatore è riservato per ora a ricercatori e organizzazioni approvate caso per caso: lo strumento dirà solo se ha trovato una filigrana OpenAI, senza identificare l'utente né mostrare le conversazioni.
L'azienda avverte inoltre che l'assenza di filigrana non dimostra che a scrivere sia stato un essere umano, e che la presenza non dice quanto lavoro umano ci sia dietro un testo.
Perché conta
Le regole di trasparenza dell'AI Act, in vigore dal 2 agosto, chiedono ai fornitori di marcare i contenuti generati in un formato leggibile dalle macchine. Il fatto che OpenAI applichi la misura solo in Europa rende l'Unione un banco di prova: chi vive in Italia userà una versione di ChatGPT diversa da quella statunitense. Per scuole, università e redazioni resta però un punto fermo: oggi nessuno strumento garantisce di distinguere con certezza un testo umano da uno generato, e qualche sinonimo basta a cancellare le tracce.
