In Breve

Qual è il rischio principale associato agli agenti AI autonomi?
La mancanza di governance adeguata può portare a decisioni autonome non controllate, con conseguenti rischi per la sicurezza.
Come possono essere gestiti gli agenti AI?
Gli agenti AI devono essere trattati come entità dotate di identità, richiedendo credenziali e audit trail.
Qual è l'approccio consigliato per la fiducia nell'autonomia degli agenti?
La fiducia dovrebbe essere graduale, iniziando con capacità limitate e aumentando sulla base di prove e limiti definiti.

I sistemi di remediation automatica stanno rivoluzionando il modo in cui gestiamo le reti, permettendo di risolvere problemi anche durante la notte, senza necessità di intervento umano immediato. Tuttavia, questo approccio solleva interrogativi cruciali sulla governance e sull’identità degli agenti AI autonomi.

Come evidenziato da Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, la mancanza di vincoli adeguati nella delega a sistemi agentici può portare a livelli di autonomia non esplicitamente approvati. Ricerche recenti mostrano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal processo decisionale entro un anno, mentre il 79% considera gli agenti AI come “utenti” che necessitano di una gestione delle identità e controlli di governance.

È fondamentale trattare gli agenti che operano sulle reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi e audit trail, analogamente agli operatori umani. Le infrastrutture di gestione degli accessi, spesso progettate per le persone, possono generare accessi “ombra” e rischi non quantificati se applicate in modo informale agli agenti AI.

Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un principal con permessi limitati, accesso temporizzato e percorsi di revoca chiari. È essenziale mantenere un registro completo delle azioni eseguite, delle autorizzazioni e delle motivazioni che hanno guidato le decisioni.

La fiducia nell’autonomia degli agenti deve essere graduale. Inizialmente, gli agenti possono operare in modalità suggerimento, guadagnando capacità operative basate su prove e limiti definiti, piuttosto che ricevere autonomie illimitate fin dall’inizio. Con l’aumento della complessità e del volume delle decisioni autonome, è necessaria una supervisione umana accompagnata da infrastrutture che integrino identità, enforcement delle policy e responsabilità, per garantire trasparenza e allineamento con gli obiettivi organizzativi.

Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi rispetto a un singolo agente. È fondamentale sapere non solo cosa ha fatto ogni agente, ma anche cosa conosceva al momento delle sue azioni. Pertanto, il lavoro di impostare permessi rigorosi e controlli d’identità è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.