Microsoft lancia Guardian Agents: la nuova frontiera nella sicurezza degli agenti AI

Microsoft ha recentemente annunciato il lancio dei Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto in cui l’uso di intelligenze artificiali sta crescendo rapidamente, ma con esso anche le preoccupazioni legate alla loro sicurezza.

L’azienda sottolinea che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati. Per questo motivo, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni, affidando la sorveglianza continua a meccanismi esterni al modello stesso.

Un’evoluzione della sicurezza informatica

Questa proposta si inserisce in un quadro più ampio di iniziative già avviate da Microsoft, come il Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. In particolare, Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Ora, l’architettura viene estesa per proteggere gli “agentic insiders” tramite i Guardian Agents, i quali condividono segnali, contesto e un registro unificato con Microsoft Agent 365 per offrire una visione coerente di agenti e rischi.

Controlli e responsabilità

I controlli proposti dai Guardian Agents si fondano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che si verifichino;
• Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
• Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Funzionalità avanzate

Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per il controllo operativo, Microsoft ha introdotto:

• Dynamic Permissions: limitano l’accesso di un agente alle risorse necessarie per un compito specifico;
• Dynamic Agent Risk: valuta potenziali minacce;
• Dynamic Conditional Access: può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano.

In scenari estremi, un agente può essere fermato e isolato per prevenire danni.

Un passo avanti nella sicurezza informatica

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in tempo reale.

Con questa innovazione, Microsoft si propone di stabilire un nuovo standard nella sicurezza degli agenti AI, garantendo un approccio proattivo e integrato per affrontare le sfide future nel campo della cybersecurity.