Microsoft: i modelli di frontiera non sono affidabili
Microsoft ha presentato i Guardian Agents, un sistema pensato per sorvegliare gli agenti di intelligenza artificiale che le aziende usano ogni giorno. La responsabile della divisione sicurezza, Hayete Gallot, è netta: i modelli di frontiera, da qualunque laboratorio provengano, non sono affidabili.
- Microsoft lancia i Guardian Agents per monitorare gli agenti IA aziendali.
- Gallot: i modelli di frontiera non sono affidabili perché imprevedibili.
- Nadella chiede di separare chi fornisce l'intelligenza da chi la controlla.
Che cosa sono i Guardian Agents
I modelli di frontiera sono i sistemi di intelligenza artificiale più avanzati disponibili, quelli che alimentano gli assistenti e gli agenti più potenti. I Guardian Agents fanno parte di Project Perception, prodotto presentato da Microsoft a giugno, che inizialmente comprendeva tre tipi di agenti: uno che attacca come farebbe un hacker, uno che rileva gli attacchi e valuta le vulnerabilità, e uno incaricato di correggerle.
Quel progetto era nato dall'idea che le minacce arrivassero dall'esterno. Ora l'impostazione cambia: il pericolo può venire dagli agenti che l'azienda stessa ha installato e paga. Secondo TechCrunch, Microsoft ha aggiunto a Defender una funzione capace di individuare fino a 60 tipi di agenti portati in azienda dai dipendenti, tra cui Claude Code, Codex e OpenClaw, oltre a strumenti che limitano l'accesso ai dati e regolano i permessi in base al compito, chiedendo l'approvazione di una persona quando una decisione appare rischiosa.
Perché un agente IA somiglia a una minaccia interna
Gallot ha spiegato che il problema non è la malizia né la facilità di essere violati, ma l'imprevedibilità: questi sistemi sono addestrati a portare a termine un compito, non a rispettare le norme o il buon senso di un'organizzazione. In più ricevono spesso le chiavi di casa, cioè accesso a dati sensibili e strumenti capaci di provocare danni seri. È la stessa logica con cui in sicurezza informatica si parla di insider threat, la minaccia che arriva da chi è già dentro.
L'amministratore delegato Satya Nadella, sul suo blog privato, ha invitato le aziende a smettere di affidarsi alle sole garanzie dei fornitori di modelli e a dotarsi di sistemi di controllo indipendenti. La sua sintesi: bisogna separare la fornitura dell'intelligenza dall'autorità su di essa.
TechCrunch osserva che la posizione è insieme sorprendente e conveniente: Microsoft ha investito in OpenAI e Anthropic, ma punta a vendere lei stessa i prodotti di sicurezza per gli agenti. La logica, però, regge: chi controlla dovrebbe essere diverso da chi fornisce, come un revisore indipendente.
Perché conta
Molte imprese, anche in Italia, stanno introducendo agenti IA nei processi interni, spesso portati dai singoli dipendenti senza passare dall'ufficio informatico. Il messaggio di Microsoft è che servono regole su quali dati possono toccare e chi li sorveglia. L'idea sta prendendo piede nel settore: Microsoft è tra i membri fondatori dell'Open Agent Safety Platform di Nvidia.
