L’Importanza della Governance per gli Agenti AI: Rischi e Soluzioni

Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le reti vengono gestite. Questi sistemi possono risolvere problemi durante la notte senza alcuna notifica, lasciando la verifica delle azioni all’ispezione successiva da parte di un operatore umano. Tuttavia, questa pratica, definita come Human-on-the-Loop, presenta delle criticità. In scenari alternativi, agenti costruiti in modo improvvisato possono eseguire correzioni simili, ma senza fornire tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log possono mostrare il “cosa” è stato fatto, ma non sempre il “perché” o le modifiche collaterali necessarie per raggiungere un obiettivo.

Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea l’importanza di stabilire vincoli adeguati. Senza di essi, le deleghe progressive a sistemi agentici possono accumularsi, creando livelli di autonomia non esplicitamente approvati. Secondo ricerche recenti, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.

È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Ciò implica che richiedano credenziali, politiche, limiti operativi, spiegabilità e audit trail simili a quelli degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone, e applicare soluzioni informali agli agenti può generare accessi “ombra” e rischi non quantificabili. Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute, delle autorizzazioni e delle motivazioni alla base delle scelte.

La fiducia nell’autonomia degli agenti deve essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totali sin dall’inizio. Con l’aumento delle decisioni autonome in volume e complessità, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.

Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si passano contesto rende difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario conoscere cosa ciascun agente sapeva oltre a cosa ha fatto. Il lavoro, considerato noioso — come impostare permessi rigorosi, controlli d’identità e audit trail — è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.