In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è separare la fornitura di intelligenza dall'autorità che controlla l'accesso e le azioni degli agenti AI.
- Come funzionano i controlli dei Guardian Agents?
- I controlli operano su sette aspetti chiave e perseguono responsabilità come la protezione dei dati e l'adattamento delle misure di sicurezza.
Microsoft lancia Guardian Agents: nuovi strumenti per gestire i rischi degli agenti AI
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha evidenziato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Per questo motivo, è fondamentale non considerarli come l’unica autorità di sicurezza.
La proposta di Microsoft si inserisce in un contesto più ampio di iniziative già in atto, come il Project Perception e la cyber stack dell’azienda, che coordinano agenti specializzati per analizzare dati di sicurezza, identificare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipologie di agenti (red, blue e green) per testare, investigare e risolvere minacce; ora, l’architettura viene ampliata per proteggere gli “agentic insiders” attraverso i Guardian Agents, che condividono segnali, contesto e un registro unificato con Microsoft Agent 365, garantendo così una visione coerente di agenti e rischi.
I controlli proposti da Microsoft si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità perseguite includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la capacità di contenere l’accesso e le azioni prima che avvengano; la protezione di dati, strumenti, runtime e risorse utilizzate dagli agenti; e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID è stato ampliato per includere nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per il controllo operativo, sono state introdotte Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza per comprendere i rischi emergenti degli agenti e adattare le contromisure in tempo reale.
