Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
A adoção de inteligência artificial (IA) introduz novas ameaças e vulnerabilidades de segurança para além dos riscos colocados pelas aplicações tradicionais. A IA expõe novas superfícies de ataque em agentes e aplicações de IA, nos modelos de IA que utilizam, nos plug-ins associados a esses recursos e nos prompts e respostas de IA generativa.
Ao incorporar segurança nos recursos de infraestrutura de desenvolvimento e operações de IA, a Microsoft permite-lhe criar IA de forma responsável e adotar a IA com confiança, em escala. Como parte da abordagem abrangente da Microsoft à segurança de IA, Microsoft Defender ajuda-o a detetar recursos de IA e detetar, bloquear e investigar ameaças específicas de IA durante o desenvolvimento, a configuração e a execução do runtime.
Este artigo fornece uma descrição geral das capacidades Microsoft Defender que ajudam a proteger os recursos de IA contra vulnerabilidades e ameaças emergentes.
O panorama da ameaça de IA
As ameaças de segurança de IA abrangem o ciclo de vida completo de IA, desde riscos de configuração e tempo de compilação , como configurações incorretas e dependências inseguras, até ameaças de runtime que afetam agentes e aplicações de IA.
Os principais riscos de segurança para os seus recursos de IA incluem:
- Riscos de modelos e cadeias de fornecimento – os modelos dos quais os recursos de IA dependem são alvos de valor elevado. Uma única dependência comprometida na cadeia de fornecimento de um modelo pode transformar todos os agentes e aplicações que dependem dele num vetor de ataque para exfiltrar credenciais, instalar backdoors e espalhar vulnerabilidades pela sua infraestrutura.
- Configuração incorreta do agente e excesso de privilégios – os agentes com permissões excessivas ou autenticação de ferramentas configurada incorretamente podem permitir o acesso não autorizado a recursos confidenciais.
- Abuso e utilização indevida do runtime – os agentes ou aplicações podem realizar ações não seguras no momento da execução devido a entradas maliciosas, caminhos de raciocínio inesperados ou dependências comprometidas.
- Ataques baseados em pedidos e conteúdos – além de entradas maliciosas, táticas mais subtis, como ataques de clique zero com instruções ocultas incorporadas em e-mails ou conteúdos obtidos, podem manipular o comportamento do agente, causar fugas de dados ou acionar ações não intencionais.
A resolução destes riscos requer controlos de segurança que abrangem a deteção, a gestão da postura, a deteção e a proteção do runtime.
Proteger recursos de IA em todo o ciclo de vida de IA com Microsoft Defender
Microsoft Defender ajuda as equipas de segurança a resolver riscos de IA em todo o ciclo de vida de IA, fornecendo visibilidade sobre os recursos de IA, avaliando a sua postura de segurança, detetando e bloqueando ameaças específicas de IA e fornecendo os sinais e o contexto necessários para investigar ameaças , desde o tempo de compilação até à aplicação de IA e ao ciclo de vida do agente, incluindo o runtime.
As secções seguintes descrevem como Microsoft Defender aplica estas capacidades a:
- Os agentes de IA, onde a configuração, as permissões e o comportamento do runtime , incluindo a utilização de ferramentas e a tomada de decisões do agente, introduzem exposição.
- Aplicações de IA e infraestrutura, incluindo modelos, plataformas, serviços e integrações, onde riscos, configuração e fraquezas de implementação da cadeia de fornecimento podem criar caminhos de ataque mais amplos.
Proteger agentes de IA com Microsoft Defender
Os agentes de IA apresentam riscos de segurança únicos devido à sua capacidade de raciocinar, invocar ferramentas, aceder a dados e tomar ações autónomas em sistemas conectados. Proteger agentes em grande escala requer visibilidade centralizada, postura de segurança e gestão de risco, proteção em tempo de execução e capacidades avançadas de investigação para detetar a causa raiz de um ataque.
O Microsoft Agent 365 fornece um plano de controlo empresarial para gerir e governar agentes de IA na sua organização. Quando ativa uma licença Agent 365, o Microsoft Defender integra-se com o Agent 365 para proteger todos os agentes geridos, incluindo os agentes de IA locais nos endpoints suportados. A integração proporciona descoberta, gestão de postura, proteção em tempo real e investigação. A deteção de ameaças utiliza dados de observabilidade do Microsoft Copilot Studio, Microsoft Foundry, Microsoft 365 Copilot Agent Builder e agentes integrados através do Microsoft Agent 365 SDK.
Para começar, consulte Ativar segurança para agentes de IA usando Microsoft Defender.
| Capacidade | Descrição | Saiba mais |
|---|---|---|
| Deteção do agente de IA | Descubra todos os agentes integrados no Agente 365, incluindo agentes de IA locais em endpoints suportados e agentes não Microsoft construídos com o Microsoft Agent 365 SDK. Veja os detalhes do agente com consultas em Linguagem de Consulta Kusto (KQL) na Pesquisa Avançada no Microsoft Defender ou na página Ativos de IA do portal do Defender. | Detetar agentes de IA e avaliar a postura de segurança com Microsoft Defender |
| Gestão da postura de segurança do agente | Use o Advanced Hunting no Microsoft Defender, que fornece consultas pré-definidas para o ajudar a identificar configurações erradas, definições arriscadas de agentes e permissões excessivas. | Detetar agentes de IA e avaliar a postura de segurança com Microsoft Defender |
| Proteção em tempo real | A proteção em tempo real avalia invocações e respostas de ferramentas contra políticas de segurança quando os agentes do Agente 365 utilizam o Work IQ MCP e as ferramentas MCP do cliente integradas no Agente 365. A regra padrão audita a atividade, enquanto as regras personalizadas podem bloquear ações correspondentes antes de serem executadas. Atividades auditadas e bloqueadas são registadas como comportamentos na BehaviorInfo tabela para caça e automação. |
Proteja os agentes de IA em tempo real usando o Microsoft Defender |
| Deteção de ameaças, investigação e caça | As deteções quase em tempo real analisam dados de observabilidade do Agente 365 para ameaças como injeção indireta de prompts, técnicas de evasão, propagação de conteúdo malicioso, fuga de segredos, reconhecimento de grandes modelos de linguagem (LLM) e acesso suspeito a IP. O Microsoft Defender correlaciona alertas com incidentes, e a caça avançada permite aos analistas consultar a atividade dos agentes com outros dados de segurança. | Detetar e investigar ameaças a agentes de IA usando o Microsoft Defender |
Proteger a infraestrutura de IA com Microsoft Defender
É fundamental proteger os modelos, serviços e infraestrutura de IA gerados de que dependem as aplicações e os agentes de IA. Modelos comprometidos, configurações inseguras ou dependências expostas podem introduzir riscos da cadeia de fornecimento que afetam várias cargas de trabalho de IA.
Para obter informações sobre como ativar a proteção contra ameaças para a infraestrutura de IA, veja Ativar a proteção contra ameaças para serviços de IA.
Esta tabela lista as capacidades de Microsoft Defender que ajudam a proteger aplicações e modelos de IA geradoras:
| Capacidade | Descrição | Saiba mais |
|---|---|---|
| Deteção da infraestrutura de IA | Uma vista unificada da infraestrutura de IA da sua organização, incluindo modelos implementados, serviços e recursos de IA relacionados. | Gestão da postura de segurança de IA |
| Gestão da postura de segurança da infraestrutura de IA | Identifique vulnerabilidades e configurações incorretas em artefactos de IA, incluindo modelos, dependências, repositórios de código e imagens de contentor. Utilize recomendações de segurança incorporadas e a análise do caminho de ataque para priorizar a remediação. Avalie continuamente os modelos de IA para riscos de segurança, como software maligno, operadores não seguros, vulnerabilidades de serialização e segredos expostos ao longo do ciclo de vida de IA. |
Gestão da postura de segurança de IA |
| Deteção de ameaças | Detetar ameaças direcionadas para aplicações de IA geradoras criadas com o Microsoft Foundry, incluindo atividade de pedidos suspeitos e comportamento de execução anormal, com sinais contextuais apresentados em alertas de segurança. | Alertas para serviços de IA |
| Investigação e deteção proativa de ameaças | A correlação de incidentes do Microsoft Defender e as capacidades Advanced Hunting ajudam os defensores a compreender todo o contexto e o raio de explosão das ameaças da infraestrutura de IA. | Investigar incidentes e alertas no portal do Microsoft Defender |
Passos seguintes
Saiba mais sobre estas capacidades e como utilizá-las para proteger os seus recursos de IA: