In Breve
- Qual è il problema principale con gli agenti AI nelle infrastrutture?
- I modelli di sicurezza attuali non sono adeguati a gestire attori non deterministici come gli agenti AI.
- Come possono essere migliorati i modelli di sicurezza per gli agenti AI?
- Riformando il modello di identità e applicando principi di sicurezza zero-trust.
- Qual è una soluzione proposta per limitare i rischi degli agenti AI?
- Utilizzare privilegi di breve durata legati a specifiche azioni autorizzate da un umano.
Negli ultimi anni, gli agenti autonomi di intelligenza artificiale (AI) hanno trovato applicazione nelle infrastrutture core delle aziende, svolgendo compiti cruciali come l’esecuzione di codice, l’applicazione di policy e la gestione delle funzioni DevOps. Tuttavia, l’introduzione di questi attori non deterministici ha messo in luce le lacune dei modelli di sicurezza attuali, progettati per un contesto con soli due tipi di attori: umani e macchine.
Un episodio recente ha evidenziato la gravità del problema: un agente AI ha cancellato in pochi secondi l’intero database di produzione e i relativi backup, dimostrando che gli strumenti di sicurezza esistenti non sono adeguati a contenere i rischi associati a questi agenti operanti a velocità macchina.
Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, questa pratica è rischiosa, poiché gli agenti possono eseguire migliaia di azioni in pochi secondi e sono soggetti a errori. Le misure di autenticazione e i privilegi temporanei si scontrano con la frammentazione delle identità nei vari strumenti della stack tecnologica, come cluster Kubernetes, piattaforme cloud e database. Questo porta i team a integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile la scalabilità delle soluzioni.
Invece di creare nuovi silos di identità per gestire un terzo tipo di attore, è fondamentale riformare il modello di identità esistente. La proposta è di eliminare l’anonimato, fornendo a ogni attore—umano, macchina, workload e agente AI—un’identità di prima classe, protetta criptograficamente da una root of trust hardware. È inoltre necessario abbandonare credenziali statiche come API key e password, applicando principi di sicurezza zero-trust.
Un approccio efficace prevede che gli agenti operino con privilegi di breve durata, legati a specifiche azioni autorizzate da un umano. In questo modo, i privilegi sono attaccati all’azione e non all’attore, e le attività sensibili devono essere svolte solo all’interno di un ambiente di esecuzione sicuro prima di interagire con l’infrastruttura di produzione. Eliminando i privilegi di default, il raggio d’azione di eventuali errori può essere significativamente ridotto.
Per implementare questa strategia, è necessaria una policy di identità unica, gestita da un sistema centralizzato che possa fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, rendendo possibile gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.
