Application card: Gerenciamento de Postura de Segurança de Dados do Microsoft Purview Gerenciamento da Postura de Segurança de Dados do Microsoft Purview

O que é um Cartão de Aplicativo ou Plataforma?

Os cartões de aplicativo e plataforma da Microsoft têm como objetivo ajudá-lo a entender como nossa tecnologia de IA funciona, as escolhas que os proprietários de aplicativos podem fazer que influenciam o desempenho e o comportamento do aplicativo e a importância de considerar todo o aplicativo, incluindo a tecnologia, as pessoas e o ambiente. Os cartões de aplicativo são criados para aplicativos de IA e os cartões de plataforma são criados para serviços de plataforma de IA. Esses recursos podem dar suporte ao desenvolvimento ou à implantação de seus próprios aplicativos e podem ser compartilhados com usuários ou partes interessadas afetadas por eles.

Como parte de seu compromisso com a IA responsável, a Microsoft adere a seis princípios fundamentais: imparcialidade, confiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilidade. Esses princípios estão incorporados no Responsible AI Standard, que orienta as equipes no projeto, na criação e no teste de aplicativos de IA. Os cartões de aplicativo e plataforma desempenham um papel fundamental na operacionalização desses princípios, oferecendo transparência em torno dos recursos, usos pretendidos e limitações. Para obter mais informações, os leitores são incentivados a explorar o Relatório de Transparência de IA Responsável e o Código de Conduta da Microsoft, que descrevem como clientes corporativos e indivíduos podem interagir com a IA de maneira responsável.

Visão Geral

Gerenciamento da Postura de Segurança de Dados do Microsoft Purview é um aplicativo de segurança de dados no portal Microsoft Purview que ajuda as organizações a descobrir, proteger e investigar riscos de dados confidenciais em seu patrimônio digital. Em vez de se concentrar na infraestrutura ou nos endpoints, o Gerenciamento da Postura de Segurança de Dados se concentra nos próprios dados, identificando onde eles residem, quem pode acessá-los, como são usados e se estão adequadamente protegidos. Ele usa IA para analisar padrões de acesso, comportamentos de compartilhamento e lacunas de políticas, a fim de revelar riscos acionáveis e recomendar etapas de correção.

O Gerenciamento da Postura de Segurança de Dados aborda um desafio crescente nos locais de trabalho orientados por IA de hoje: a crescente complexidade e volume de dados torna difícil para as equipes de segurança manter a visibilidade e o controle. O aplicativo resolve esse problema consolidando insights de várias soluções do Microsoft Purview, incluindo DLP (prevenção contra perda de dados), Gerenciamento de Risco Interno, proteção de informações com rótulos de confidencialidade e Investigações de Segurança de Dados, em uma única exibição para monitorar riscos de dados, cobertura de política e tendências de postura. Essa abordagem unificada substitui a necessidade de várias ferramentas e auditorias manuais, ajudando os administradores a fechar as lacunas de segurança de dados com mais eficiência.

Gerenciamento da Postura de Segurança de Dados foi projetado para funcionar de forma confiável em ambientes corporativos onde as organizações precisam monitorar e proteger dados confidenciais em vários locais. O aplicativo inclui uma experiência incorporada do Microsoft Security Copilot que permite que esses usuários façam perguntas em linguagem natural sobre sua postura de segurança de dados, bem como agentes de IA do Security Copilot que podem executar ações de correção guiadas em riscos detectados. Para obter uma introdução geral, consulte o vídeo do Microsoft Mechanics: Novo Gerenciamento da Postura de Segurança de Dados.

Principais termos

A lista a seguir fornece um glossário dos principais termos relacionados ao Gerenciamento da Postura de Segurança de Dados:

Observabilidade de IA: um recurso no Gerenciamento da Postura de Segurança de Dados que fornece um inventário de aplicativos e agentes de IA com atividade recente, mostrando quantos são de alto risco e o total com interações confidenciais, juntamente com um detalhamento de agentes individuais e as políticas que os regem.

Política de coleção: uma política que captura prompts e respostas de interações de IA para o Copilot no Fabric e o Security Copilot e para aplicativos de IA que não são do Copilot, para que possam ser gerenciados em soluções do Microsoft Purview.

Interações do Copilot: Prompts e respostas de Copilots e agentes que o Microsoft Purview dá suporte para segurança de dados e proteções de conformidade. Inclui o Microsoft 365 Copilot, o Security Copilot, o Copilot no Fabric e o Copilot Studio.

Prevenção contra perda de dados (DLP): uma solução do Microsoft Purview que ajuda a impedir que os usuários compartilhem dados confidenciais de forma inadequada usando técnicas de análise de conteúdo, incluindo correspondência de palavras-chave, avaliação de expressões e algoritmos de aprendizado de máquina.

Avaliação de risco de dados: uma verificação automatizada ou personalizada que identifica e ajuda a corrigir possíveis riscos de compartilhamento excessivo de dados, especialmente para sites do SharePoint e espaços de trabalho do Fabric. As avaliações padrão são executadas semanalmente para os 100 principais sites com base no uso.

Objetivos de segurança de dados: fluxos de trabalho guiados no Gerenciamento da Postura de Segurança de Dados, cada um representando uma meta de segurança específica, como evitar a exposição de dados em interações do Copilot ou evitar o compartilhamento excessivo. Cada objetivo agrupa soluções relevantes do Microsoft Purview e ações priorizadas.

Agente de postura de segurança de dados: um agente Microsoft Security Copilot exclusivo da versão atual do Gerenciamento da Postura de Segurança de Dados que usa pesquisa em linguagem natural em arquivos nas interações do SharePoint, OneDrive, Teams, Exchange e Copilot. Ele é projetado para verificações pré-investigação e não para casos formais.

Gerenciamento de Risco Interno: uma solução do Microsoft Purview que usa o serviço interno e indicadores de terceiros para ajudar a identificar, fazer a triagem e agir sobre atividades potencialmente arriscadas dos usuários em uma organização.

Política de um clique: uma política pré-configurada em Gerenciamento da Postura de Segurança de Dados que pode ser ativada com um único clique para obter insights rapidamente e proteger dados, sem a necessidade de configuração manual de política.

Promptbook: uma sequência interna de prompts para o Microsoft Security Copilot que ajuda os usuários a investigar rapidamente cenários específicos de segurança de dados, como comportamento de usuário arriscado ou proteção de dados confidenciais.

Security Copilot: o Microsoft Security Copilot e seus agentes são uma solução de segurança generativa baseada em IA que ajuda os profissionais de segurança de dados a investigar e responder a incidentes de segurança. No Gerenciamento da Postura de Segurança de Dados, ele fornece uma experiência de prompt aberta para fazer perguntas em linguagem natural sobre segurança de dados.

Rótulo de confidencialidade: um rótulo da Proteção de Informações do Microsoft Purview que pode ser aplicado ao conteúdo para definir e aplicar políticas de proteção para dados confidenciais em nuvens, aplicativos e dispositivos.

Principais recursos ou capacidades

Os principais recursos e capacidades descritos aqui descrevem o que o Gerenciamento da Postura de Segurança de Dados foi projetado para fazer e como ele é executado em tarefas com suporte.

  • Dashboard de postura de segurança de dados: a página de aterrissagem central que fornece acesso imediato às principais métricas de postura, principais objetivos a serem abordados com base no risco, um snapshot do uso de dados em todo o acervo de dados e um gráfico de tendências de 30 dias da postura de segurança de dados da organização. Os usuários podem interagir diretamente com o Security Copilot por meio de prompts sugeridos nesta página.

  • Objetivos de segurança de dados com fluxos de trabalho guiados: cartões selecionáveis que representam uma meta de segurança específica, como evitar a exposição de dados em interações do Copilot, evitar o compartilhamento excessivo de dados confidenciais, evitar a exfiltração para locais de risco e descobrir dados confidenciais. Cada objetivo fornece um fluxo de trabalho de ponta a ponta com ações priorizadas, políticas com um clique e acompanhamento do progresso, para que os usuários possam se concentrar em alcançar resultados em vez de navegar por soluções separadas.

  • Observabilidade de IA: um inventário de aplicativos e agentes de IA com atividade nos últimos 30 dias, mostrando quantos são de alto risco e o total com interações confidenciais. Fornece um detalhamento dos agentes individuais, suas atividades e as políticas que os regem, permitindo que os administradores monitorem riscos como compartilhamento excessivo, exfiltração e padrões de acesso incomuns.

  • Avaliações de risco de dados: verificações automatizadas e personalizadas que identificam possíveis riscos de compartilhamento excessivo de dados. As avaliações padrão são executadas semanalmente para os 100 principais sites do SharePoint com base no uso. As avaliações personalizadas podem ter como destino usuários, sites ou espaços de trabalho específicos do Fabric. Os resultados incluem opções de correção, como restringir o acesso por rótulo, criar políticas de rotulagem automática ou criar políticas de retenção.

  • Recomendações de segurança de dados e ações de correção: insights e recomendações gerados a partir de dados processados que ajudam os administradores a criar ou refinar políticas de DLP e gerenciamento de risco interno. Inclui políticas de um clique para implantação rápida diretamente do fluxo de trabalho Gerenciamento da Postura de Segurança de Dados.

  • Relatórios e análises: rastreia a postura de segurança de dados da organização ao longo do tempo com relatórios resumindo o uso de rótulos de confidencialidade, cobertura de política DLP, comportamento de usuário arriscado e atividade de aplicativo de IA. Os relatórios aprimorados fornecem filtragem avançada, exibições personalizáveis e recursos de exportação para dar suporte aos requisitos de conformidade.

  • Explorador de atividades: fornece visibilidade detalhada das atividades relacionadas ao conteúdo, incluindo interações de IA (prompts, respostas e informações confidenciais detectadas), correspondências de regras DLP, visitas a sites de IA e detecções de tipos de informações confidenciais. Dá suporte à filtragem por categorias de carga de trabalho, como experiências do Copilot, aplicativos de IA corporativos e outros aplicativos de IA.

  • Agente de postura de segurança de dados: um agente alimentado por IA do Microsoft Security Copilot e que usa a pesquisa em linguagem natural para encontrar dados confidenciais nas interações do SharePoint, OneDrive, Teams, Exchange e Copilot. Ele fornece contagens de itens, classificações de rótulos de confidencialidade e avaliações de nível de risco, juntamente com relatórios de insights exportáveis. Esse agente foi projetado para verificações rápidas e pré-investigação.

  • Experiência do Security Copilot incorporada: uma experiência de prompt aberta em que os usuários podem fazer perguntas em linguagem natural sobre sua postura de segurança de dados. Inclui promptbooks internos para investigação de usuários de risco e proteção de dados confidenciais, bem como uma galeria de prompts com prompts categorizados para alertas, dados em risco, usuários de risco, atividades suspeitas e dados confidenciais.

  • Correção orientada por agente de IA: sob orientação do usuário, os agentes de IA podem tomar medidas diretas em riscos detectados, como remover links de compartilhamento público, aplicar políticas DLP ou revogar permissões. Os agentes de triagem orientados por IA analisam alertas do DLP e do Insider Risk Management, filtrando o ruído e destacando ameaças críticas. Todas as ações do agente são auditadas e sujeitas à revisão e aprovação do usuário.

Usos pretendidos

Gerenciamento da Postura de Segurança de Dados pode ser usado em vários cenários em uma variedade de setores. Alguns exemplos de casos de uso incluem:

  • Monitorando a postura de segurança de dados em toda a empresa: um responsável pela conformidade em uma organização de serviços financeiros usa o Gerenciamento da Postura de Segurança de Dados para obter uma visão unificada de seus dados confidenciais em diferentes locais. O dashboard de postura apresenta as principais métricas e tendências, permitindo que o oficial identifique rapidamente onde existem dados confidenciais desprotegidos e acompanhe as melhorias ao longo do tempo. Isso elimina a necessidade de revisar manualmente várias ferramentas e painéis separados.

  • Evitando o compartilhamento excessivo antes de implantar o Microsoft 365 Copilot: um administrador de TI se preparando para uma implantação do Microsoft 365 Copilot executa avaliações de risco de dados para identificar sites do SharePoint com conteúdo potencialmente compartilhado em excesso. Gerenciamento da Postura de Segurança de Dados revela sites em que os arquivos confidenciais têm links de compartilhamento amplos ou não têm rótulos de confidencialidade e fornece opções de correção com um clique, como restringir o acesso ou criar políticas de rotulagem automática. Isso ajuda a organização a reduzir a exposição de dados antes que as ferramentas de IA comecem a processar esse conteúdo.

  • Investigando o comportamento de usuários de risco com análise assistida por IA: um analista de segurança de dados recebe um alerta sobre um usuário realizando atividades incomuns de compartilhamento de arquivos. Usando a experiência do Security Copilot incorporada, o analista executa o promptbook de investigação de usuário arriscado, que analisa automaticamente as atividades de dados confidenciais do usuário, identifica possíveis padrões de exfiltração, verifica anomalias e sugere ações de proteção, tudo por meio de uma sequência de prompts de linguagem natural.

  • Governando o uso de aplicativos de IA em toda a organização: uma equipe de segurança em uma organização de saúde usa a observabilidade de IA para monitorar com quais aplicativos e agentes de IA os funcionários estão interagindo, quais dessas interações envolvem dados confidenciais de pacientes e se políticas DLP apropriadas estão em vigor. A equipe usa objetivos de segurança de dados para criar políticas direcionadas que impedem que informações confidenciais de saúde sejam compartilhadas com aplicativos de IA não autorizados.

  • Respondendo aos requisitos de conformidade: uma equipe de conformidade em um órgão governamental usa relatórios de Gerenciamento da Postura de Segurança de Dados e o explorador de atividades para demonstrar que os dados confidenciais são adequadamente rotulados, protegidos por políticas DLP e monitorados quanto a atividades arriscadas. Os recursos de exportação e as exibições personalizáveis permitem que a equipe gere documentação pronta para auditoria alinhada com suas obrigações regulatórias.

  • Descobrindo dados confidenciais desprotegidos em novos ambientes: uma organização que está começando a usar o Microsoft Purview usa o Gerenciamento da Postura de Segurança de Dados para verificar automaticamente os dados e as atividades do usuário, obtendo insights e recomendações de linha de base com foco em dados desprotegidos. Isso ajuda a organização a estabelecer rapidamente DLP, proteção de informações e políticas de gerenciamento de risco interno sem realizar análises manuais profundas.

O Gerenciamento da Postura de Segurança de Dados não se destina ao uso como um assistente de IA de uso geral, para cenários não relacionados à segurança de dados no Microsoft Purview ou para investigações legais formais (que exigem soluções dedicadas, como Descoberta Eletrônica e Investigações de Segurança de Dados).

Modelos e dados de treinamento

Gerenciamento da Postura de Segurança de Dados aproveita os agentes de IA existentes e a funcionalidade de IA. Dessa forma, depende de qualquer configuração externa que eles fornecem. Por exemplo, escolha de modelo para o Microsoft Security Copilot para a experiência de prompt de idioma natural inserida. Gerenciamento da Postura de Segurança de Dados também usa a análise de conteúdo na Prevenção contra perda de dados para detectar informações confidenciais por meio de algoritmos de correspondência de palavra-chave, avaliação de expressão e aprendizado de máquina. Para saber mais, consulte os cartões de inscrição e a documentação vinculados.

Desempenho

Gerenciamento da Postura de Segurança de Dados foi projetado para funcionar de forma confiável em ambientes corporativos onde as organizações precisam monitorar e proteger dados confidenciais em vários locais. O aplicativo processa e correlaciona dados de soluções existentes do Microsoft Purview, incluindo DLP, Gerenciamento de Risco Interno e proteção de informações, para gerar insights, recomendações e métricas de postura. O desempenho é otimizado para organizações que usam serviços de nuvem da Microsoft com suporte, e os resultados melhoram à medida que mais soluções do Microsoft Purview são configuradas e mais dados estão disponíveis para análise.

O aplicativo aceita entradas baseadas em texto em seus recursos. Os usuários interagem com Gerenciamento da Postura de Segurança de Dados por meio da interface do portal Microsoft Purview, onde podem navegar por painéis, configurar políticas e executar avaliações de risco de dados. A experiência do Security Copilot incorporada aceita prompts de texto em linguagem natural e retorna respostas baseadas em texto, incluindo resumos de dados, análise de risco e ações recomendadas. O Data Security Posture Agent aceita consultas de pesquisa em linguagem natural e retorna resultados estruturados, incluindo contagens de itens, classificações de rótulos de confidencialidade e avaliações de nível de risco, com uma opção para exportar relatórios como documentos do Word.

Gerenciamento da Postura de Segurança de Dados dá suporte aos idiomas disponíveis na interface do portal Microsoft Purview. A experiência do Security Copilot foi projetada e avaliada principalmente para prompts e respostas em inglês. A detecção de tipo de informações confidenciais oferece suporte a vários idiomas, conforme documentado nas definições de tipo de informações confidenciais individuais. Os usuários devem estar cientes de que o desempenho do prompt de idioma natural e dos recursos de pesquisa pode variar ao usar idiomas diferentes do inglês.

Após a configuração inicial, Gerenciamento da Postura de Segurança de Dados requer tempo para processar dados organizacionais. Os tempos de verificação variam de acordo com o tamanho da organização e a quantidade de dados e atividades a serem processados, e pode levar até três dias para que o processamento inicial seja concluído. As novas políticas exigem pelo menos 24 horas para coletar dados antes que os resultados apareçam. As avaliações de risco de dados exigem pelo menos 48 horas após a conclusão para que os resultados atualizados estejam disponíveis. O Data Security Posture Agent pode pesquisar até 1 GB de conteúdo por consulta, e as pesquisas restritas direcionadas a usuários ou sites específicos são executadas significativamente mais rápido do que as pesquisas em todo o locatário.

Limitações

Compreender as limitações do Gerenciamento da Postura de Segurança de Dados é crucial para determinar se ele é usado dentro de limites seguros e eficazes. Embora incentivemos os clientes a aproveitar Gerenciamento da Postura de Segurança de Dados em suas soluções ou aplicativos inovadores, é importante observar que Gerenciamento da Postura de Segurança de Dados não foi projetado para todos os cenários possíveis. Incentivamos os usuários a consultar o Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou a seção Código de Conduta do Contrato de Serviços Microsoft (para indivíduos), bem como as seguintes considerações ao escolher um caso de uso:

  • Escopo de segurança de dados: a experiência de Security Copilot no Gerenciamento da Postura de Segurança de Dados foi projetada para responder a perguntas sobre segurança de dados associada ao Gerenciamento de Risco Interno, Proteção de Informações e Prevenção contra Perda de Dados na Microsoft Purview. No momento, todas as outras soluções do Purview estão fora do escopo dos insights do Gerenciamento da Postura de Segurança de Dados. Os usuários devem direcionar perguntas fora dessas áreas para as ferramentas adequadas e específicas da solução.

  • Cobertura de dados: a guia Standard do explorador de ativos é filtrada por locais da Microsoft e não pertencentes à Microsoft. Atualmente, os locais da Microsoft incluem apenas o Microsoft 365. Os locais que não são da Microsoft são possíveis graças à integração com soluções de parceiros. As organizações com dados significativos em ambientes que não estão incluídos devem estar cientes de que a visibilidade por meio do explorador de ativos pode ser limitada e devem complementar com outras ferramentas conforme necessário.

  • Limites de volume de avaliação de risco de dados: um máximo de 200.000 itens por local se aplica a avaliações de risco de dados personalizadas e padrão. A contagem de arquivos relatada pode não ser precisa quando houver mais de 100.000 arquivos por local. As organizações com sites muito grandes do SharePoint devem considerar a execução de várias avaliações direcionadas. Além disso, no momento, o OneDrive não tem suporte para verificação em nível de item, e as avaliações personalizadas dão suporte a no máximo 10 sites do SharePoint para verificação em nível de item.

  • Requisitos de tempo de processamento: após a conclusão de uma avaliação de risco de dados personalizada, os resultados exigem pelo menos 48 horas para ficarem disponíveis e não são atualizados após esse ponto. Uma nova avaliação é necessária para ver as alterações. Novas políticas exigem pelo menos 24 horas para que os dados sejam exibidos. Os usuários devem planejar com antecedência e evitar esperar resultados em tempo real de avaliações ou políticas recém-criadas.

  • Completude de dados do gerenciador de atividades: o evento de interação de IA nem sempre exibe o texto de prompt e resposta. Em alguns casos, os prompts e as respostas abrangem entradas consecutivas. Quando um usuário não tem uma caixa de correio hospedada no Exchange Online, nenhum prompt ou resposta é exibido. As notas geradas por IA do Facilitador da Microsoft podem não exibir prompts ou respostas. Os usuários devem estar cientes dessas lacunas ao confiar no explorador de atividades para fins de conformidade ou investigação.

  • Postura de segurança de dados Restrições do agente: o agente dá suporte a pesquisas de conteúdo de até 1 GB de dados, mas não dá suporte a pesquisas baseadas em metadados. Se nenhum período de tempo for especificado, os resultados serão os últimos 7 dias por padrão. O agente foi projetado para verificações pré-investigação e não substitui ferramentas de investigação formal, como Descoberta Eletrônica, auditoria ou Investigações de Segurança de Dados.

  • Suporte a idiomas: a experiência do Security Copilot e o Data Security Posture Agent foram projetados e avaliados principalmente para prompts em inglês. O uso de outros idiomas pode resultar em precisão reduzida ou respostas incompletas. Os usuários devem ter cuidado ao operar fora do escopo de idioma pretendido.

  • Precisão da resposta da IA generativa: como acontece com todos os sistemas de IA generativa, Security Copilot respostas no Gerenciamento da Postura de Segurança de Dados podem ocasionalmente conter informações imprecisas ou incompletas. Os usuários devem verificar os insights gerados por IA em relação aos dados reais antes de tomar ações consequentes com base nessas respostas.

Avaliações

As avaliações de desempenho e segurança avaliam se os aplicativos de IA estão operando de forma confiável e segura, examinando fatores como fundamentação, relevância e coerência, enquanto identificam os riscos de geração de conteúdo prejudicial. As avaliações a seguir foram realizadas com componentes de segurança já implementados, que também são descritos em Componentes de Segurança e Mitigações.

Gerenciamento da Postura de Segurança de Dados foi avaliado usando métodos de avaliação personalizados desenvolvidos pela equipe de produto. A avaliação se concentrou na precisão da experiência inserida do Security Copilot ao responder a perguntas de linguagem natural sobre segurança de dados.

O conjunto de dados de avaliação consistiu em prompts relevantes identificados pela equipe de produto e pelos clientes, incluindo um conjunto de testes expandido de prompts com base em esquemas e descrições de tabelas. A Microsoft avaliou o desempenho usando uma métrica de taxa de precisão: uma resposta será considerada precisa se a consulta gerada fornecer as informações exatas solicitadas no prompt. A equipe testou uma variedade de cenários de segurança de dados, abrangendo DLP, proteção de informações e insights de Gerenciamento de Risco Interno, para verificar se as respostas do Security Copilot são factualmente suportadas pelos dados subjacentes e contextualmente apropriadas para a pergunta do usuário.

Um resultado ideal é aquele em que a resposta do Security Copilot retorna exatamente as informações solicitadas, fundamentadas nos dados reais da organização, sem conteúdo fabricado ou enganoso. Um resultado abaixo do ideal seria uma resposta que retornasse dados imprecisos, interpretasse incorretamente a pergunta do usuário ou fornecesse informações fora do escopo das soluções de segurança de dados com suporte. O processo de avaliação é iterativo, com a equipe de produto refinando os conjuntos de prompts e os limites de precisão com base no feedback do cliente e nos padrões de uso do mundo real.

Componentes de segurança e mitigações

  • Controle de acesso baseado em função: Gerenciamento da Postura de Segurança de Dados impõe permissões granulares por meio de grupos de funções do Microsoft Entra e do Microsoft Purview. Atividades diferentes exigem funções específicas, como Administrador de Conformidade para edição, Visualizador de Segurança de Dados para usar o Security Copilot e Visualizador de Conteúdo do Explorer de Conteúdo para exibir prompts de interação e respostas de IA. Isso garante que os usuários possam acessar apenas dados e realizar ações apropriadas à sua função, reduzindo o risco de acesso não autorizado a informações confidenciais.

  • Log de auditoria abrangente: todas as ações automatizadas realizadas por agentes de IA no Gerenciamento da Postura de Segurança de Dados são registradas em logs de auditoria. Isso inclui ações como remover links de compartilhamento, aplicar políticas e revogar permissões. Os logs de auditoria e os recursos do explorador de atividades fornecem uma trilha completa de interações com aplicativos e agentes de IA, dando suporte a investigações de conformidade, resposta a incidentes e responsabilidade.

  • Revisão humana e aprovação para ações do agente: os usuários sempre mantêm o controle sobre o comportamento do agente de IA no Gerenciamento da Postura de Segurança de Dados. Os agentes de triagem controlados por IA e o Data Security Posture Agent apresentam recomendações e descobertas, mas os usuários revisam, aprovam ou personalizam todas as ações automatizadas antes de entrarem em vigor. As opções "Visualizar atividade do agente" em toda a interface fornecem acesso fácil à atividade do agente para supervisão.

  • Processamento de análise de aceitação: o Gerenciamento da Postura de Segurança de Dados requer aceitação explícita antes de processar dados organizacionais. A análise no Gerenciamento de Risco Interno e no DLP deve ser habilitada antes que o Gerenciamento de Gerenciamento da Postura de Segurança de Dados possa gerar insights. Isso garante que as organizações tomem uma decisão deliberada de compartilhar dados para análise e estejam cientes do processamento que ocorre.

  • Recursos de IA com escopo: a experiência de Security Copilot no Gerenciamento da Postura de Segurança de Dados é deliberadamente definida para tópicos de segurança de dados associados ao gerenciamento de risco interno, Proteção de Informações e prevenção contra perda de dados. Perguntas fora desse escopo não são respondidas, reduzindo o risco de a IA gerar respostas sobre tópicos em que não possui dados confiáveis. O Data Security Posture Agent tem escopo semelhante a pesquisas de conteúdo no Microsoft 365 e é limitado a 1 GB de conteúdo por consulta.

  • Classificação de nível de risco para resultados de pesquisa: o Data Security Posture Agent atribui um nível de risco a cada resultado de pesquisa com base em quão próximo o conteúdo corresponde ao prompt do usuário. Os resultados são categorizados para ajudar os usuários a priorizar e se concentrar nas descobertas mais relevantes. Quando o agente não consegue determinar o nível de risco, os itens são marcados como "não categorizados", proporcionando transparência sobre o nível de confiança do agente.

  • Triagem de alertas e redução de ruído: os agentes de triagem orientados por IA analisam os alertas DLP e de gerenciamento de risco interno e os categorizam como "precisa de atenção", "menos urgente" ou "não categorizado". Essa filtragem reduz a fadiga de alertas e ajuda os analistas de segurança a se concentrarem em ameaças genuínas em vez de falsos positivos.

  • Design de preservação da privacidade: o gerenciamento de risco interno, que alimenta dados em Gerenciamento da Postura de Segurança de Dados, inclui controles de privacidade, como pseudonimização e acesso baseado em função, para garantir a privacidade no nível do usuário e, ao mesmo tempo, permitir a análise de risco. O componente do Security Copilot segue as práticas de privacidade e segurança de dados documentadas na documentação de privacidade e segurança de dados do Microsoft Security Copilot.

  • Mecanismo de comentários no produto: os usuários podem fornecer comentários sobre cada resposta do Security Copilot marcando-a como "parece correta", "precisa de melhorias" ou "inadequada". Esse ciclo de comentários ajuda a Microsoft a melhorar continuamente a qualidade e a segurança das respostas geradas por IA.

Práticas recomendadas para implantação e adoção do Gerenciamento da Postura de Segurança de Dados

A IA responsável é um compromisso compartilhado entre a Microsoft e seus clientes. Embora a Microsoft crie aplicativos de IA com segurança, justiça e transparência no núcleo, os clientes desempenham um papel fundamental na implantação e uso responsável dessas tecnologias em seus próprios contextos. Para dar suporte a essa parceria, oferecemos as seguintes práticas recomendadas para implantadores e usuários finais para ajudar os clientes a implementar a IA responsável de forma eficaz.

Os implantadores e usuários finais devem:

  • Tenha cuidado e avalie os resultados ao usar o Gerenciamento da Postura de Segurança de Dados para decisões consequentes ou em domínios confidenciais: Decisões consequentes são aquelas que podem ter um impacto legal ou significativo no acesso de uma pessoa à educação, emprego, plataformas financeiras, benefícios governamentais, saúde, moradia, seguro, plataformas legais ou que podem resultar em danos físicos, psicológicos ou financeiros. Domínios sensíveis - como plataformas financeiras, saúde e habitação - requerem cuidados especiais devido ao potencial de impacto desproporcional em diferentes grupos de pessoas. Ao usar a IA para decisões nessas áreas, certifique-se de que os stakeholders afetados possam entender como as decisões são tomadas, apelar das decisões e atualizar quaisquer dados de entrada relevantes.

  • Avalie as considerações legais e regulatórias: os clientes precisam avaliar possíveis obrigações legais e regulatórias específicas ao usar quaisquer plataformas e soluções de IA, que podem não ser apropriadas para uso em todos os setores ou cenários. Além disso, as plataformas ou soluções de IA não são projetadas e não podem ser usadas de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.

Os usuários finais devem:

  • Exerça a supervisão humana quando apropriado: a supervisão humana é uma proteção importante ao interagir com aplicativos de IA. Embora aprimoremos continuamente nossos aplicativos de IA, a IA ainda pode cometer erros. Os resultados gerados podem ser imprecisos, incompletos, tendenciosos, desalinhados ou irrelevantes para os objetivos pretendidos. Isso pode acontecer devido a vários motivos, como ambiguidade nas entradas ou limitações dos modelos subjacentes. Como tal, os usuários devem examinar as respostas geradas por Gerenciamento da Postura de Segurança de Dados e verificar se elas correspondem às suas expectativas e requisitos.

  • Esteja ciente do risco de dependência excessiva: a dependência excessiva da IA acontece quando os usuários aceitam saídas de IA incorretas ou incompletas, principalmente porque os erros nas saídas de IA podem ser difíceis de detectar. Para o usuário final, o excesso de confiança pode resultar em diminuição da produtividade, perda de confiança, abandono do aplicativo, perda financeira, danos psicológicos, danos físicos, entre outros. No contexto do Data Gerenciamento da Postura de Segurança, o excesso de confiança pode significar agir com base em um insight impreciso do Security Copilot sem verificá-lo em relação aos dados reais, potencialmente levando a alterações de política equivocadas ou riscos de segurança perdidos.

  • Escopo Perguntas do Security Copilot para áreas com suporte: Para obter os melhores resultados, faça perguntas sobre tópicos de segurança de dados associados ao Gerenciamento de Risco Interno, Proteção de Informações e Prevenção contra Perda de Dados. Perguntas fora dessas áreas podem retornar respostas incompletas ou imprecisas porque estão fora dos dados que o Data Security Gerenciamento da Postura de Dados foi projetado para analisar.

  • Use prompts específicos e direcionados: ao usar a experiência do Security Copilot ou o Data Security Posture Agent, forneça prompts claros e específicos que incluam detalhes relevantes, como nomes de usuário, períodos de tempo e locais de dados. Por exemplo, em vez de perguntar "mostre-me os riscos de segurança", peça "mostrar todas as atividades de dados confidenciais realizadas por user@contoso.com nos últimos 30 dias". Prompts mais específicos produzem resultados mais precisos e acionáveis.

  • Forneça comentários para melhorar a qualidade: use a opção de comentários no produto para marcar as respostas do Security Copilot como "parecem corretas", "precisam de melhorias" ou "inadequadas". Esses comentários ajudam a Microsoft a identificar e resolver problemas de qualidade em respostas geradas por IA.

Os implantadores devem:

  • Configure as permissões apropriadas antes de conceder acesso: atribua as funções mínimas necessárias a cada usuário com base em suas responsabilidades. Use a tabela de permissões detalhada na documentação de permissões de Gerenciamento da Postura de Segurança de Dados para determinar quais grupos de funções são necessários para cada atividade. Restringir o acesso reduz o risco de usuários não autorizados exibirem dados confidenciais ou realizarem ações não intencionais.

  • Conclua todas as tarefas de configuração antes de confiar em insights: Certifique-se de que as políticas de auditoria, análise e coleta estejam configuradas corretamente antes de avaliar Gerenciamento da Postura de Segurança de Dados insights. A configuração incompleta pode resultar em dados ausentes e métricas de postura imprecisas. Reserve tempo de processamento suficiente (até três dias para verificações iniciais, pelo menos 24 horas para novas políticas) antes de tomar decisões com base em dados Gerenciamento da Postura de Segurança de Dados.

  • Use pesquisas restritas para processamento eficiente: ao usar o Data Security Posture Agent, configure pesquisas para direcionar usuários, grupos ou sites específicos, em vez de executar verificações em todo o locatário. As pesquisas restritas são significativamente mais rápidas e eficientes, reduzindo o tempo de processamento e produzindo resultados mais focados.

  • Examinar e refinar políticas de um clique após a implantação: as políticas de um clique fornecem um ponto de partida útil, mas devem ser revisadas e personalizadas com base nos requisitos específicos da sua organização. Após a implantação inicial, monitore os resultados da política por meio do Gerenciamento da Postura de Segurança de Dados relatórios e do explorador de atividades e ajuste as configurações de política na solução correspondente (DLP, gerenciamento de risco interno ou Proteção de Informações) para corresponder à tolerância a riscos e às necessidades de conformidade da organização.

  • Estabeleça uma cadência de revisão regular: use as tendências e relatórios de postura do Gerenciamento de Postura de Segurança de Dados do Gerenciamento da Postura de Dados para acompanhar a postura de segurança de dados da sua organização ao longo do tempo. Estabeleça uma cadência regular para revisar avaliações de risco de dados, cobertura de políticas e métricas de observabilidade de IA. Revisões regulares ajudam a identificar riscos emergentes, lacunas de políticas e mudanças no comportamento do usuário antes que se tornem incidentes de segurança.

  • Planeje a configuração da política de coleção: se sua organização precisar capturar prompts e respostas do Copilot no Fabric e no Security Copilot e para aplicativos de IA que não são do Copilot, configure políticas de coleção com a opção de captura de conteúdo selecionada. Para aplicativos que usam essas políticas de coleção, os eventos de interação de IA no gerenciador de atividades não exibirão texto de prompt e resposta, limitando a utilidade dos dados para monitoramento de conformidade.

Saiba mais sobre Gerenciamento da Postura de Segurança de Dados

Para obter orientação adicional ou para saber mais sobre o uso responsável do Gerenciamento de Gerenciamento da Postura de Segurança de Dados, recomendamos revisar a seguinte documentação:

Saiba mais sobre a IA responsável

  • Last updated on