Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Gli agenti autonomi in Copilot Studio estendono il valore dell'orchestrazione generativa, consentendo all'IA di agire senza aspettare un prompt da parte dell'utente. Questi agenti percepiscono eventi, prendono decisioni ed eseguono attività in modo indipendente usando trigger, istruzioni e misure di sicurezza definiti dall'utente. Invece di rispondere solo nelle conversazioni, operano continuamente in secondo piano: monitorano i dati, reagiscono alle condizioni ed eseguono flussi di lavoro su larga scala.
Negli scenari aziendali, l’autonomia consente agli agenti di gestire attività urgenti o di routine, come l’elaborazione degli aggiornamenti, la gestione degli eventi o l'avvio di azioni di completamento, restando allineati ai criteri dell'organizzazione. Copilot Studio garantisce che l'autonomia rimanga controllata. Ogni agente opera con autorizzazioni limite ad ambiti, limiti decisionali espliciti e processi controllabili.
Procedure consigliate per l'implementazione
Definisci ambito e obiettivi chiari: assegna all'agente un'attività ben definita o un preciso dominio. Specifica chiaramente gli obiettivi che l'agente deve raggiungere e dove finisce la sua autorità. Un ambito esplicito e ristretto impedisce all'agente di deviare verso azioni non previste.
Specifica istruzioni e dati di qualità: assicurati che l'agente disponga di regole e dati rilevanti e accurati. Tieni a mente il principio del garbage in, garbage out: l'intelligence e le decisioni dell'agente sono valide se e quanto lo sono le informazioni e il training che gli fornisci. Fonti delle informazioni e test case ben curati portano a prestazioni migliori.
Esegui test completi e accurati e distribuisci gradualmente: testa l'agente in un ambiente sicuro e controllato prima di distribuirlo su larga scala. Inizia con simulazioni o in un ambiente sandbox per osservare come si comporta l'agente in vari scenari. Correggi eventuali comportamenti imprevisti e poi distribuisci per fasi. Monitora attentamente le decisioni dell'agente inizialmente per avere la certezza che operi come previsto.
Implementa la supervisione umana per le azioni critiche: per le attività ad alto rischio, assicurati che vi sia la supervisione di un operatore umano. Configura l'agente in modo che richieda approvazione o conferma a una persona prima di eseguire azioni che potrebbero essere sensibili. Questo approccio garantisce che il controllo finale rimanga agli esperti umani quando conta davvero.
Itera e migliora: gestisci un agente autonomo come un progetto in evoluzione. Rivedi regolarmente le prestazioni e i feedback. Aggiorna le sue istruzioni o espandi le sue capacità gradualmente man mano che dimostra attendibilità. Introdurre piccoli aumenti progressivi della responsabilità è più sicuro che concedere all'agente troppa autonomia tutta insieme.
Considerazioni sulla sicurezza e misure di protezione
Accesso con privilegi minimi: Limita le autorizzazioni dell'agente solo a ciò che è assolutamente necessario per svolgere il suo compito. Questo principio del privilegio minimo significa che, se l'agente deve solo leggere un database, non serve concedergli anche l'accesso in scrittura. Una limitazione intelligente dell'accesso riduce i potenziali danni in caso di malfunzionamento o uso improprio.
Convalida e autenticità dell'input: assicurati che gli eventi o i dati che attivano l'agente siano autentici e previsti. Ad esempio, se un agente reagisce ai messaggi e-mail in arrivo, usa controlli di verifica (come la convalida del mittente o parole chiave specifiche) in modo che un utente malintenzionato non possa facilmente falsificare un trigger. Allo stesso modo, proteggi l'agente con l'autenticazione: solo i sistemi o gli utenti autorizzati dovrebbero poter richiamare le sue funzioni.
Misure di sicurezza e alternative solide: programma limiti severi sulle azioni dell'agente. Questo limite può includere istruzioni come "invia un messaggio e-mail solo dopo aver consultato una fonte delle informazioni".
Registrazione dei controlli e monitoraggio: mantieni log dettagliati di tutto ciò che fa l'agente, come i trigger ricevuti, le decisioni prese e le azioni intraprese. I controlli regolari di questi log aiutano a garantire che l'agente segua i criteri e permetta l'analisi in caso di errori. Molte organizzazioni integrano l'attività dell'agente nei propri sistemi di monitoraggio della sicurezza. Un comportamento sospetto, come l'agente che accede a dati a cui normalmente non dovrebbe avere accesso, dovrebbe generare un allarme immediato.