OpenAI userà per l'addestramento i dati di Daybreak Blue
Dal 29 novembre OpenAI utilizzerà per l'addestramento dei suoi modelli i dati delle sessioni di Daybreak Blue, il programma di cybersicurezza dell'azienda, finora esclusi. La decisione ha provocato proteste immediate.
- Dal 29 novembre i dati delle sessioni Daybreak Blue entrano nell'addestramento dei modelli OpenAI.
- Prima erano esclusi, anche per chi aveva disattivato il miglioramento del modello.
- Dopo le proteste OpenAI ha promesso un opt-out separato per questi dati.
Il cambio di rotta
La novità è stata comunicata con una email ai membri del programma Trusted Access, l'accesso riservato a partner selezionati. Fino a oggi i dati delle sessioni di Daybreak Blue erano tenuti fuori dall'addestramento, cioè dal processo con cui un modello di intelligenza artificiale impara dai testi che gli vengono dati in pasto. L'esclusione valeva anche per gli utenti che avevano disattivato l'impostazione con cui si acconsente a migliorare il modello per tutti.
Secondo The Decoder, dopo le reazioni negative OpenAI ha inviato una seconda email promettendo un opt-out separato, cioè la possibilità di rifiutare in modo specifico l'uso di questi dati. Restano comunque utilizzabili per finalità di sicurezza le interazioni segnalate durante le revisioni dedicate.
Il precedente che preoccupa i ricercatori
Il timore nella comunità scientifica è che si ripeta il caso Buckmaster-Alpöge. I matematici Tristan Buckmaster e Levent Alpöge avevano caricato su Codex, lo strumento di programmazione di OpenAI, bozze di lavoro sulle equazioni di Navier-Stokes. Poco dopo OpenAI ha presentato una propria dimostrazione, negando di avere usato quei materiali per l'addestramento.
Il sospetto, pur non confermato, è bastato a mostrare quale sia il rischio percepito: affidare a un servizio commerciale ricerche inedite e vedersele potenzialmente assorbite dal modello.
Perché conta
Chi usa strumenti di intelligenza artificiale per lavoro, in Italia come altrove, si muove sulla base di una promessa: che certi dati, soprattutto quelli sensibili legati alla sicurezza informatica o alla ricerca, restino fuori dall'addestramento. Se quella promessa può cambiare con una email, la fiducia diventa più difficile da costruire, specialmente per aziende, studi professionali e centri di ricerca che trattano materiali riservati.
Il caso mostra anche quanto pesi la pressione degli utenti: la reazione rapida ha portato l'azienda a introdurre un rifiuto esplicito e separato, invece di un'unica impostazione generale. Per chi partecipa a programmi di accesso riservato, la lezione pratica è verificare periodicamente quali dati vengono trattati e come, senza dare per acquisite le condizioni iniziali.
