Protegendo agentes de IA no Windows

À medida que os agentes baseados em IA se tornam parte integrante da maneira como trabalhamos e criamos, o Windows está comprometido em tornar essas experiências mais produtivas e seguras para indivíduos e empresas. Recentemente, anunciamos Tornando cada PC com Windows 11 um PC com IA que facilita a IA poderosa no Windows 11. Uma das novas experiências que apresentamos é um recurso experimental chamado Ações do Copilot. As Ações do Copilot no Windows 11 se baseiam em nosso anúncio de maio, onde anunciamos as Ações do Copilot na Web, permitindo que o Copilot execute ações reais em seu nome, como reservar uma mesa em seu restaurante favorito ou pedir mantimentos.

Em breve para Windows Insiders no Copilot Labs, vamos visualizar um modo experimental para Ações do Copilot para expandir além do navegador para executar ações diretamente em arquivos locais no Windows.

O que são Ações do Copilot?

O Copilot Actions é um agente de IA que conclui tarefas para você interagindo com seus aplicativos e arquivos, usando a visão e o raciocínio avançado para clicar, digitar e rolar como um humano faria. Esse recurso transforma os agentes de assistentes passivos em colaboradores digitais ativos que podem realizar tarefas complexas para aumentar a eficiência e a produtividade, como atualizar documentos, organizar arquivos, reservar passagens ou enviar e-mails. Depois de conceder acesso ao agente, quando integrado ao Windows, o agente poderá aproveitar o que você já tem no computador, como aplicativos e dados, para concluir tarefas para você.

Por que a segurança é importante

A IA agêntica tem recursos poderosos hoje. Por exemplo, ele pode concluir muitas tarefas complexas em resposta a solicitações do usuário, transformando a forma como os usuários interagem com seus PCs. À medida que introduzimos novos recursos, os modelos de IA ainda enfrentam limitações funcionais em termos de como se comportam. Ocasionalmente, elas podem estar incorretas e produzir resultados inesperados. Além disso, os aplicativos de IA agenciais apresentam novos riscos de segurança, como a XPIA (injeção de prompt cruzado), em que o conteúdo malicioso incorporado em elementos ou documentos da interface do usuário pode substituir as instruções do agente, levando a ações não intencionais, como exfiltração de dados ou instalação de malware. Consulte Protegendo o protocolo de contexto de modelo: criando um futuro agencial mais seguro no Windows para obter mais informações. À medida que começamos a criar recursos agenciais no Windows, nosso compromisso é incluir controles robustos de segurança e privacidade que capacitem os clientes a explorar seu potencial com confiança com o suporte de orientações claras e proteções apropriadas.

Princípios de segurança e privacidade agenciais

Enfrentar os desafios de segurança dos agentes de IA requer a adesão a um forte conjunto de princípios de segurança para garantir que os agentes atuem em alinhamento com a intenção do usuário e protejam suas informações confidenciais. Estamos estabelecendo um conjunto de princípios de privacidade e segurança duráveis que você deve atender para usar os novos recursos agenciais no Windows:

• Contas de agente distintas: estamos criando a capacidade dos agentes no Windows de operar com contas de agente dedicadas, distintas da conta de usuário em seu dispositivo. Esse recurso facilita a aplicação de política específica do agente que pode ser diferente das regras aplicadas a outras contas, como as para usuários humanos. Você pode compartilhar o acesso a arquivos e outros recursos para essas contas de agente dedicadas da mesma forma que faz com outros usuários em seu dispositivo, como familiares ou colegas de trabalho.
• Privilégios agenciais limitados: um agente começa com permissões limitadas e obtém acesso apenas aos recursos aos quais você fornece permissão explicitamente, como seus arquivos locais. Há um limite bem definido para as ações do agente e ele não tem capacidade de fazer alterações em seu dispositivo sem sua intervenção. Você pode revogar esse acesso a qualquer momento.
• Confiança operacional: os agentes que se integram ao Windows devem ser assinados por uma fonte confiável para que agentes mal-intencionados ou mal comportados possam ser revogados e bloqueados com uma variedade de medidas de defesa aprofundadas, como validação de certificado e antivírus.
• Design que preserva a privacidade: o Windows foi projetado para ajudar os agentes a aderir aos compromissos da Microsoft assumidos na Política de Privacidade da Microsoft e no Responsible AI Standard. O Windows oferece suporte aos agentes na coleta e no processamento de dados apenas para fins claramente definidos, garantindo transparência e confiança. Consulte o Relatório de Privacidade da Microsoft para obter detalhes sobre nossos compromissos com o avanço da IA com responsabilidade, ao mesmo tempo em que protegemos a privacidade e outros direitos fundamentais.

O desenvolvimento de agentes e a segurança relacionada à IA continuam a ser um campo de pesquisa em rápida evolução, com a participação ativa da Microsoft em parceria com a comunidade de segurança mais ampla. Como parte do compromisso da Secure Future Initiative da Microsoft, ajudar usuários, empresas e desenvolvedores a enfrentar esses desafios é nossa principal prioridade à medida que as pessoas começam a interagir com os agentes como parte de seus fluxos de trabalho diários.

Controles de segurança

As Ações do Copilot colocam nossos princípios de segurança e privacidade em prática. Aprendemos e refinamos continuamente nossa abordagem à medida que coletamos comentários do mundo real a partir da visualização quando ela se torna disponível. Adicionamos quatro novos blocos de construção ao Windows 11 para dar suporte a essa exploração. Durante o período de visualização, continuamos a adicionar controles de segurança e privacidade mais granulares antes de disponibilizar esses recursos amplamente:

• Controle do Usuário: as Ações do Copilot estão desabilitadas por padrão e só são habilitadas quando o usuário ativa a seguinte configuração do Windows em Configurações>:Componentes> de IA dosistema>: Ferramentas> do agente, Recursos agenciais experimentais.
• Contas de agente: uma conta padrão separada em seu dispositivo que os agentes usam ao agir em seu nome, permitindo a autorização no nível do agente e o controle de acesso.
• Agent workspace: um ambiente independente onde os agentes podem trabalhar em paralelo com um usuário humano, permitindo o isolamento do tempo de execução e permissões granulares. Esse ambiente fornece ao agente recursos como sua própria área de trabalho, limitando a visibilidade e o acesso que o agente tem à atividade da área de trabalho do usuário. O espaço de trabalho do agente é construído em limites de segurança reconhecidos que a Microsoft defende de acordo com nossos critérios de manutenção de segurança de longa data. Para obter mais informações sobre workspaces de agente, consulte Recursos do Agentic Experimental – Saiba mais.
• Transparência do usuário: uma maneira de os usuários autorizarem, monitorarem e assumirem as ações do agente no espaço de trabalho do agente.

Mais blocos de construção, como o suporte de identidade do Microsoft Entra e da MSA, serão disponibilizados em breve.

Os aplicativos e ações conduzidos pelo Copilot Actions são executados na conta do agente, em vez da conta do usuário de computador conectado. Essa distinção separa claramente o trabalho realizado pelo agente de outras ações no sistema, como aquelas executadas pelo usuário do PC. As contas de agente são provisionadas apenas quando os usuários habilitam o espaço de trabalho do agente.

Durante a visualização experimental das Ações do Copilot, o agente tem acesso a um conjunto limitado de pastas conhecidas locais do usuário, como Documentos, Downloads, Área de Trabalho ou Imagens, e outros recursos acessíveis a todas as contas no sistema. As ações do Copilot podem acessar dados fora dessas pastas somente quando o usuário fornece autorização. Mecanismos de segurança Standard do Windows, como listas de controle de acesso (ACLs), ajudam a impedir o uso não autorizado.

Enquanto as Ações do Copilot estão funcionando, os usuários podem monitorar seu progresso, manter-se informados a cada passo e assumir o controle a qualquer momento. Quando ações confidenciais ou decisões importantes estão envolvidas, as ações do Copilot podem solicitar aprovação adicional do usuário para executar essas etapas específicas, garantindo seu consentimento e colocando-o no comando antes que algo crítico aconteça.

Olhando para o futuro

A segurança é um compromisso contínuo. À medida que expandimos os recursos agenciais no Windows, continuamos a desenvolver nossas defesas. Com a próxima versão prévia do Copilot Actions para Windows Insiders no Copilot Labs, estamos ansiosos para coletar comentários valiosos que nos ajudem a moldar a experiência ainda mais antes de um lançamento mais amplo. Além disso, a plataforma Windows e seus controles de segurança estarão disponíveis para outros desenvolvedores em versão prévia em breve para testar e fornecer informações.

O Windows 11 é a versão mais segura do Windows já criada. À medida que entramos nesta nova era agentica, nosso compromisso é claro: o Windows será a plataforma mais segura, confiável e centrada no usuário para computação agente.