In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è garantire una maggiore sicurezza e controllo sugli agenti AI, prevenendo errori e manipolazioni.
- Come funzionano i Guardian Agents?
- Utilizzano controlli deterministici e evidenze indipendenti per monitorare identità, permessi e comportamenti degli agenti.
Microsoft ha recentemente presentato i Guardian Agents, una serie di strumenti innovativi pensati per monitorare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, non possono essere considerati l’unica autorità di sicurezza.
La proposta di Microsoft si inserisce nell’ambito di un’evoluzione delle iniziative già avviate, come il Project Perception e la cyber stack dell’azienda, che coordinano agenti specializzati per analizzare dati di sicurezza, individuare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza viene estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365, al fine di offrire una visione coerente di agenti e rischi.
I controlli proposti si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Tali controlli agiscono su sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Inoltre, perseguono quattro responsabilità chiave: conoscere l’esistenza, la proprietà e il comportamento degli agenti; contenere l’accesso e le azioni prima che avvengano; proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti; e adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 nuovi tipi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto un ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per il controllo operativo, sono state introdotte le Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; il Dynamic Agent Risk, che valuta potenziali minacce; e il Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti associati agli agenti e ad adattare le contromisure in tempo reale.
