Supervisão humana do uso do computador

Note

Os recursos deste artigo são alimentados pelo chicote padrão, que utiliza as opções de faturamento descritas em Licenciamento para agentes alimentados pelo chicote padrão. Aprenda como acessar recursos padrão em agentes e fluxos de agentes padrão do Access.

Quando você usa a supervisão humana, o agente que usa computador escala para a pessoa que você configura nas configurações de supervisão humana quando precisa de confirmação ou mais informações.

Note

Agentes que utilizam computadores podem encontrar ataques de injeção de prompt, nos quais instruções ocultas em capturas de tela, páginas web ou outras entradas tentam influenciar ações de formas não intencionais. Para minimizar esse risco, opere esses agentes em ambientes confiáveis e isolados e aplique verificações de validação robustas antes de executar qualquer instrução.

Suporte a funcionalidades por modelo

A tabela a seguir lista quais modelos suportam o recurso de supervisão humana.

Fornecedor de modelos Versão Status Apoia a supervisão humana
OpenAI do Azure Computador OpenAI usando o Agente V1 Aposentado Yes
OpenAI do Azure Agente que Usa Computador (CUA) Ativo Yes
Anthropic Claude Soneto 4.5 Ativo Yes

Revisar a atividade de uso do agente e do computador

Durante a execução, quando o agente que usa o computador precisar de confirmação ou informações adicionais, ele pode enviar uma solicitação de revisão ao revisor humano configurado por e-mail do Outlook. Também pode exibir um cartão de revisão inline no painel de atividades avançadas para uso de computador.

O comportamento do modelo de IA probabilística desencadeia pedidos de revisão humana. Esse comportamento significa que o modelo pode não disparar essas solicitações em todas as situações em que a pessoa gostaria de pausar, e também pode disparar essas solicitações quando a pausa não é necessária. Não confie em pedidos de revisão ou esclarecimento humanos como medida de segurança ou como garantia de que o sistema sempre solicita a entrada humana antes de prosseguir.

Note

  • Somente o fabricante da ferramenta de uso de computador recebe solicitações de revisão humana e tem acesso a logs detalhados por meio do painel avançado de atividades de uso de computador. Se você selecionar Credenciais de usuário final nas configurações da máquina, a pessoa que configurou a conexão originalmente recebe esses pedidos, mas somente se ela também estiver incluída como um dos revisores humanos designados.
  • Para revisar os pedidos de revisão humana no painel lateral de atividade do agente dentro do mapa de atividades do agente, você precisa ativar o registro avançado de uso do computador no seu ambiente. Se a experiência da atividade de uso do computador avançada não for exibida no mapa de atividade, o administrador poderá ter desativado esse recurso para o ambiente.

A tabela a seguir mostra as principais informações incluídas em uma solicitação por email de revisão feita por humanos:

Campo Description
Agente usando a ferramenta O nome do agente do Copilot Studio.
Ferramenta de uso do computador O nome da ferramenta de uso do computador que disparou a solicitação.
Conversa O link direto para a atividade do agente onde a ferramenta de uso do computador está sendo executada.
Tempo limite de solicitação A data e hora de expiração do pedido
Solicitado por O criador (proprietário da conexão) da ferramenta de uso de computador.
Fornecer informações ausentes A caixa de texto para a resposta a ser enviada à ferramenta para uso do computador.
Enviar O botão para enviar a resposta de texto digitada. Para um pedido de confirmação, digite Sim para confirmar ou Não para recusar.

Responder a solicitações de revisão humana

Para responder às solicitações de revisão humana, você pode responder por email ou na linha usando o painel de atividades de uso do computador no mapa de atividades do agente. Respostas em linha exigem que o registro avançado do uso do computador seja ativado no ambiente. Em ambos os casos, se você não fornecer uma resposta, o fluxo de trabalho permanecerá em pausa e será interrompido automaticamente quando o tempo limite especificado no email for atingido.

Importante

O sistema de supervisão humana baseia-se no comportamento probabilístico do modelo de IA. Embora o sistema inclua um prompt do sistema e talvez outras restrições, ele pode ocasionalmente gerar solicitações de esclarecimento desnecessárias. O sistema pode falhar ao acionar quando uma ação é esperada, ou pode solicitar informações que não deveriam ser fornecidas no contexto dado, incluindo informações potencialmente sensíveis.

Como resultado, os revisores devem aplicar julgamento ao responder a solicitações de supervisão humana e não devem enviar informações sensíveis como nomes de usuário, senhas, PINs, dados de cartão de crédito ou números de seguridade social. Dependendo da configuração da sua organização, respostas a solicitações de revisão humana podem persistir no ambiente Dataverse ou nos logs de auditoria do Purview, e podem ser visíveis para usuários autorizados dentro da sua organização.

Responder por email

O email de solicitação de revisão humana inclui detalhes sobre o agente, a ferramenta e a conversa, juntamente com as informações específicas ou esclarecimentos solicitados. Examine a solicitação cuidadosamente para determinar se você tem informações suficientes para responder. Se apropriado, insira sua resposta no campo de texto designado e selecione Enviar.

Responder em linha

  1. Selecione o link Conversa no email de solicitação de avaliação humana para abrir o mapa de atividades do agente.
  2. Localize a ação de uso de computador que corresponda à ferramenta de uso de computador configurada e abra seu painel lateral.
  3. Na seção Atividade do painel lateral, revise a lista de atividades. As atividades que aguardam revisão humana são marcadas com um indicador de espera ao lado da resposta do modelo.
  4. Examine a solicitação cuidadosamente e determine se você tem informações suficientes para responder. Se apropriado, insira sua resposta no campo de texto designado e selecione Enviar.

Desligue a supervisão humana

Importante

Desligar a supervisão humana não torna o agente que usa o computador totalmente autônomo. O agente ainda faz uma pausa quando precisa de confirmação ou esclarecimento. Se nenhum revisor estiver configurado, essas requisições não têm para onde serem roteadas, então a sessão falha quando o agente pausa. Configure pelo menos um revisor.

Para desativar a supervisão humana, vá à seção de Supervisão Humana da ferramenta de uso de computador e remova todos os revisores da lista de solicitações de Atribuição .

Perguntas frequentes sobre a ferramenta de uso do computador

  • Last updated on