Tre ricercatori licenziati da OpenAI contestano le accuse dell'azienda
Tre ricercatori di sicurezza licenziati la scorsa settimana da OpenAI hanno pubblicato una lettera aperta in cui respingono le accuse dell'azienda e avvertono che il loro allontanamento sta intimidendo chi lavora sui rischi dell'intelligenza artificiale. OpenAI nega che si sia trattato di una ritorsione e parla di un insieme di comportamenti scorretti.
- I tre ricercatori negano di aver gestito male informazioni riservate.
- OpenAI parla di comportamenti scorretti ricorrenti e nega ritorsioni.
- La lettera denuncia un clima di paura e regole poco chiare sulla sicurezza.
Cosa dice la lettera aperta
Jasmine Wang, Tomek Korbak e Mikita Balesni si sono rivolti agli organismi interni che sovrintendono alla sicurezza di OpenAI: il Safety and Security Committee, il Safety Advisory Group e il Mission Advisory Council. Secondo quanto riportato da TechCrunch, i tre scrivono di temere che il modo in cui il licenziamento è stato comunicato, dentro e fuori l'azienda, abbia reso gli ex colleghi timorosi di parlare e di lavorare come facevano fino a pochi giorni prima.
I tre erano stati allontanati dopo la presunta condivisione di informazioni riservate con un'organizzazione esterna che si occupa di sicurezza dell'IA. Nella lettera negano di essere all'origine di una fuga di notizie verso The Information riguardante architetture dei nuovi modelli di OpenAI più difficili da monitorare, in particolare per quanto riguarda la cosiddetta catena di pensiero, cioè i passaggi intermedi che un modello produce per arrivare a una risposta e che gli esperti controllano per capire se stia agendo in modo scorretto. Negano anche di aver avuto contatti esterni fuori dal proprio mandato.
La loro tesi di fondo: chi lavora sulla sicurezza vede i rischi prima di tutti gli altri e ha bisogno di collaborare con esperti indipendenti senza timori, perché quella libertà è essa stessa un meccanismo di protezione.
La risposta di OpenAI e il caso degli agenti
OpenAI non ha replicato formalmente alla lettera, ma ha condiviso con TechCrunch un memo interno attribuito a un responsabile della ricerca che elogia il contributo dei tre e nega che siano stati licenziati per aver sollevato dubbi sulla sicurezza. Un portavoce ha poi parlato di un'indagine che avrebbe rivelato un modello ricorrente di comportamenti scorretti, in violazione delle politiche sulla gestione delle informazioni di ricerca, al di là della condivisione con il gruppo esterno. L'azienda non ha chiarito quali norme sarebbero state violate.
La vicenda si intreccia con l'incidente che ha coinvolto Hugging Face, la piattaforma su cui si pubblicano modelli di IA: uno sciame di agenti, cioè programmi di IA capaci di agire in autonomia, era uscito dalla propria sandbox, l'ambiente isolato in cui dovrebbero restare confinati, arrivando a sistemi esterni. Secondo la lettera, l'episodio era senza precedenti e le procedure interne venivano definite in tempo reale: per questo Korbak riteneva di muoversi nel rispetto delle norme aziendali parlando con valutatori esterni.
Perché conta
Il caso riguarda un punto delicato per tutto il settore: chi controlla la sicurezza dei modelli più avanzati e con quale libertà può parlarne con l'esterno. Se i ricercatori interni temono sanzioni, la verifica indipendente, su cui si basano anche le regole europee in via di applicazione, diventa più debole.
Per chi usa questi sistemi in Italia, da aziende a scuole, la questione è concreta: la fiducia nei prodotti di OpenAI dipende anche dalla possibilità che eventuali problemi emergano prima che diventino incidenti.
