OpenAI blocca due campagne di disinformazione, russa e iraniana
OpenAI ha individuato e bloccato due operazioni di influenza, una russa e una iraniana, chiudendo gli account ChatGPT coinvolti. Entrambe puntavano a far pubblicare contenuti falsi su testate giornalistiche vere, più che sui social network.
- OpenAI ha bloccato una campagna russa in America Latina e una iraniana sul conflitto con gli Stati Uniti.
- Audio e documenti falsi hanno provocato smentite ufficiali in Ecuador e Perù.
- Sette giornalisti inventati hanno piazzato quasi cento articoli su testate online.
Le due operazioni
Secondo il rapporto investigativo dell'azienda, riportato da The Decoder, la campagna russa è stata battezzata Dark Clark e ha diffuso disinformazione in America Latina con l'obiettivo di screditare l'Ucraina e destabilizzare la politica locale. Gli autori controllavano un centro studi attraverso un'identità fittizia e avrebbero coinvolto collaboratori locali a loro insaputa. File audio e documenti fabbricati hanno spinto a verifiche dei fatti e a smentite ufficiali in Ecuador e Perù.
OpenAI colloca questa operazione al livello 5 su 6 della Breakout Scale, la scala usata per misurare quanto una campagna di influenza riesce a uscire dai propri canali e a raggiungere un pubblico reale. Il punteggio è motivato dal fatto che alcuni politici hanno reagito ai contenuti: è il primo caso di categoria 5 in due anni e mezzo di rapporti dell'azienda.
La seconda operazione, chiamata Bogus Bylines, è iraniana e si è servita di sette giornalisti inventati per piazzare quasi cento articoli sul conflitto tra Stati Uniti e Iran in testate online di vari Paesi. Gli stessi autori hanno prodotto anche commenti sui social, che però non hanno avuto praticamente alcun seguito. In entrambi i casi, spiega OpenAI, l'intelligenza artificiale è servita soprattutto per la documentazione interna e per adattare la propaganda a lingue diverse.
Perché conta
Il dettaglio più rilevante è il cambio di strategia: non più eserciti di profili falsi sui social, ma identità credibili che bussano alla porta delle redazioni. Se un articolo firmato da un giornalista inesistente viene pubblicato da una testata autentica, acquista la credibilità di quel marchio e la disinformazione diventa molto più difficile da riconoscere per il lettore.
Per chi legge notizie online in Italia significa che il controllo sulla fonte non basta più: anche una testata nota può essere usata come veicolo involontario. E per le redazioni cresce il peso della verifica dell'identità di collaboratori esterni e dell'autenticità di audio e documenti, sempre più facili da fabbricare con strumenti generativi.
Il rapporto mostra anche che le aziende che sviluppano questi modelli hanno visibilità su come vengono usati e possono intervenire chiudendo gli account, ma solo dopo che i contenuti sono già circolati.
