In Breve
- Quali sono i rischi associati agli agenti AI autonomi?
- I rischi includono la mancanza di responsabilità e il potenziale per accessi non autorizzati.
- Come possono essere gestiti gli agenti AI nelle reti?
- Devono essere trattati come entità con identità, richiedendo credenziali e audit trail.
- Qual è l'approccio raccomandato per l'autonomia degli agenti AI?
- L'autonomia dovrebbe essere progressiva, partendo da modalità suggerimento.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le reti vengono gestite, permettendo la risoluzione di problemi anche durante la notte senza necessità di intervento umano. Tuttavia, questa automazione porta con sé sfide significative, in particolare riguardo alla governance e all’attribuzione di responsabilità.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, mette in guardia sul rischio che la delega di compiti a sistemi agentici possa portare a livelli di autonomia non controllati. Secondo ricerche recenti, il 57% dei responsabili IT prevede di eliminare completamente la supervisione umana entro un anno, mentre il 79% considera gli agenti AI come “utenti” che necessitano di una gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano nelle reti come entità dotate di identità, richiedendo credenziali, politiche operative e audit trail simili a quelli degli operatori umani. La mancanza di tali misure può generare accessi non autorizzati e rischi non quantificabili. Ogni agente dovrebbe essere configurato con permessi limitati e percorsi di revoca chiari, assicurando così un controllo adeguato delle azioni intraprese.
La fiducia nell’autonomia degli agenti deve essere progressiva. Inizialmente, gli agenti possono operare in modalità suggerimento, guadagnando gradualmente capacità operative basate su prove e limiti definiti. Con l’aumento della complessità delle decisioni autonome, è essenziale che la supervisione umana sia accompagnata da infrastrutture che integrino identità, enforcement delle policy e responsabilità, per garantire trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi, poiché è necessario comprendere cosa ciascun agente conoscesse e quali azioni avesse intrapreso. Pertanto, è cruciale implementare permessi rigorosi e audit trail che rispondano alle domande operative, distinguendo le implementazioni resilienti da quelle vulnerabili a rischi latenti.
