In Breve
- Quali sono i rischi associati al pulsante "Approvo" negli agenti AI?
- Il rischio principale è che l'approvazione automatica delle azioni degli agenti AI possa portare a malfunzionamenti senza una chiara attribuzione di responsabilità.
- Come devono essere gestiti gli agenti AI autonomi?
- Gli agenti AI devono essere trattati come entità con identità, richiedendo credenziali e audit trail simili a quelli degli operatori umani.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è fondamentale per garantire che le decisioni autonome siano allineate con gli obiettivi organizzativi e per mitigare i rischi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le loro reti. Questi sistemi possono risolvere problemi durante la notte, senza richiedere notifiche agli operatori umani. Tuttavia, questa automazione solleva interrogativi critici sulla governance e sull’identità degli agenti AI autonomi.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, mette in guardia sul rischio di delegare progressivamente compiti a sistemi agentici senza vincoli adeguati. Senza un’adeguata supervisione, si possono accumulare livelli di autonomia che non sono stati esplicitamente approvati. Ricerche recenti rivelano che il 57% dei responsabili IT prevede di eliminare gli esseri umani dal processo decisionale entro un anno, mentre il 79% considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti AI come entità dotate di identità. Questi sistemi richiedono credenziali, politiche operative, spiegabilità e audit trail simili a quelli degli operatori umani. Le infrastrutture di gestione degli accessi, progettate per le persone, possono generare rischi non quantificati se applicate in modo informale agli agenti. Ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati e un registro completo delle azioni e delle motivazioni delle scelte effettuate.
La fiducia nell’autonomia degli agenti deve essere progressiva. È consigliabile che gli agenti inizino in modalità suggerimento e guadagnino capacità operative in base a prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento della complessità delle decisioni autonome, è essenziale affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. La catena di agenti che si passano il contesto rende difficile ricostruire gli eventi, poiché è necessario comprendere cosa ciascun agente conosceva e quali azioni ha intrapreso. Pertanto, è cruciale impostare permessi rigorosi, controlli d’identità e audit trail che rispondano alle domande operative, distinguendo le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
