In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo principale è garantire che gli agenti AI non siano lasciati come unica autorità di sicurezza.
- Quali funzionalità offrono i Guardian Agents?
- Offrono controlli su identità, permessi, dati e altro, con meccanismi per limitare l'accesso e valutare i rischi.
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa nasce dalla consapevolezza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi. Pertanto, Microsoft sottolinea l’importanza di non lasciare tali modelli come unica autorità di sicurezza.
La proposta di Guardian Agents si inserisce in un contesto più ampio di evoluzione delle iniziative di sicurezza informatica già avviate dall’azienda, come il Project Perception e la cyber stack. Questi progetti coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. In particolare, Project Perception impiega tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura si espande per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365, per fornire una visione coerente di agenti e rischi.
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi meccanismi operano su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità di questi controlli includono: conoscere l’esistenza, la proprietà e il comportamento degli agenti; contenere l’accesso e le azioni prima che si verifichino; proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti; e adattare continuamente le protezioni in base a comportamento, contesto e rischio.
Tra le funzionalità innovative annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato il Microsoft Entra Agent ID, introducendo nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per quanto riguarda il controllo operativo, sono state implementate Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in modo efficace.
redazione
Redazione Diarioeconomico.