Microsoft Defenderを使用して AI エージェントに対する脅威を検出して調査する (プレビュー)

Important

現在、この機能はパブリック プレビュー段階にあります。 Microsoft Defender プレビューの用語は、パブリック プレビュー段階の機能に適用されます。

デプロイされた AI エージェントは自律的に動作し、ツールを呼び出し、データにアクセスし、自然言語入力に応答して接続されたシステムに対してアクションを実行します。 これにより、継続的な検出と調査が重要になります。 Microsoft Defenderは、疑わしいエージェントと悪意のあるエージェントの動作を検出し、ほぼリアルタイムでアラートを提供し、セキュリティ チームがインシデントを調査し、根本原因と爆発半径全体を追跡できるようにします。

Microsoft Defenderは、サポートされているエージェント プラットフォームで使用できる拡張検出機能を含め、Microsoft Agent 365 で管理される AI エージェントに対する脅威をセキュリティ チームが検出して調査できるようにします。 実行時に安全でないエージェントアクションをブロックするには、「Microsoft Defenderを使用してリアルタイムで AI エージェントを保護する」を参照してください。

前提条件

  • Microsoft 365 アプリ コネクタを含む AI エージェントのセキュリティを有効にして、AI エージェント アクションの Agent 365 監視データを収集します。 Microsoft Defenderを使用して AI エージェントのセキュリティを有効にするを参照してください。
  • AIエージェントが Microsoft 365 に可観測性データを出力することを確認します。
    • Microsoft 365 Copilot Agent Builder を使用して構築されたMicrosoft Copilot Studio、Microsoft Foundry、および宣言型エージェントで構築されたエージェントは、既定で監視データをMicrosoft 365に送信します。
    • 他のプラットフォーム上に構築された AI エージェントの場合は、Agent 365開発ライフサイクルのドキュメントで説明されているように、Microsoft Agent 365 SDK を使用して監視を有効にします。
  • エンドポイントで実行されるローカル AI エージェントに対する脅威を検出するには、Microsoft Defender for Endpointで AI エージェントランタイム保護を設定します。 Microsoft Defender for Endpointはアクティブ モードで実行する必要があります。 ローカル エージェントは、クラウド エージェントとは別にオンボードされます。
  • (省略可能) 検出をトリガーしたプロンプト スニペットをアラートに証拠として含めるには、 プロンプト証拠の収集を有効にします。 既定では、この設定は有効になっています。

ほぼリアルタイムで AI エージェントの脅威を検出する

Microsoft DefenderはAIエージェントの活動を継続的に監視し、すべてのAgent 365管理エージェントに対して不審かつ悪意のある行動を検出します。 Defenderはエージェントのテレメトリ、ツールの使用、実行パターンを分析し、脱獄試み、間接プロンプト注入(XPIA)試み、悪意あるコンテンツの伝播、秘密情報や認証情報の漏洩、回避技術、大規模言語モデル(LLM)偵察、疑わしいユーザーやIPアクセスなどの脅威を特定します。

Microsoft Defenderは、検出を Defender ポータルでほぼリアルタイムのアラートとして表示し、セキュリティ チームは、アラートトリアージ、インシデントの相関関係、高度なハンティングなど、使い慣れたセキュリティ操作ワークフローを使用して調査できるようにします。

詳細については、Microsoft Defender ポータルの「インシデントとアラート」を参照してください。

ほぼリアルタイムの検出は、Agent 365監視データに依存しており、インシデントと脅威ハンティングを調査するための貴重なコンテキストも提供します。 Microsoft Defenderこのデータを分析して、疑わしいエージェントの動作を特定し、アラートを生成します。

検出をトリガーしたプロンプト スニペットを使用してアラート調査を強化するには、プロンプト証拠の収集を有効にします。 詳細については、「 警告のプロンプト証拠を制御する」を参照してください。

高度なハンティングを使用して AI エージェントの脅威を調査し、リスクを探す

Microsoft Defenderは、AI エージェントのアラートをインシデントに関連付け、関連するコンテキストを表示して、セキュリティ チームが影響をすばやく評価し、対応の優先順位を付けることができます。 高度なハンティングを使用すると、アナリストは Kusto クエリ言語 (KQL) を使用して Agent 365 の監視データにクエリを実行し、インシデントを調査し、環境内のリスクを探すことができます。

インシデントとアラートを調査する

Microsoft Defenderは、ほぼリアルタイムの検出からの AI エージェント アラートをインシデントに関連付けます。 リアルタイムの保護監査イベントとブロック イベントは、調査中にアラートと関連付けることができる BehaviorInfo テーブルの動作として記録されます。

セキュリティ アナリストは、インシデント グラフと調査エクスペリエンスを使用して、関与するエンティティ間の関係や AI エージェントの脅威の爆発半径など、潜在的な攻撃の完全なコンテキストを理解できます。 詳細については、Microsoft Defender ポータルの「インシデントとアラート」を参照してください。

注:

Foundry 用および Microsoft 365 Copilot Agent Builder 用の Microsoft Prompt Shields からのブロック イベントも、動作として記録されます。 これは、Microsoft Copilot Studioを使用して構築されたエージェントでは、まだサポートされていません。

高度なハンティングを使用してアラートとAgent 365監視データを関連付け、リスクを検出する

Microsoft Defenderの高度なハンティングを使用すると、セキュリティ チームは、Kusto 照会言語 (KQL) を使用して、他のセキュリティ データと共にAgent 365監視データを照会できます。 これにより、エージェント、アプリケーション、ID、デバイスのプロアクティブな脅威ハンティング、インシデント調査、根本原因分析がサポートされます。

たとえば、Advanced Hunting を使用して次のことができます。

  • 特定のエージェント ツールの呼び出しをトレースし、関連するアラートまたはブロック イベントと関連付ける

  • 検出された AI エージェントの脅威の根本原因と範囲を調査する

  • 環境全体で異常な実行パターンまたは危険なエージェントの動作を特定する

  • エージェント アクティビティシグナルに基づいてカスタム検出ルールを構築する

AI エージェント調査用の高度なハンティング テーブル

次の高度なハンティング テーブルでは、 AI エージェントの構成、アラート、アクティビティを可視化できます。 これらのテーブルを個別にクエリするか、関連付けてインシデントを調査し、エージェント関連のリスクを探すことができます。

テーブル名 説明 一般的なユース ケース
AlertInfo ほぼリアルタイムの検出に関連するアラートを含む、Microsoft Defenderによって生成されたアラート メタデータが含まれます。 AI エージェントのアラートを調査し、アラート コンテキストを理解し、関連するインシデントとエンティティにピボットします。
CloudAppEvents エージェント アクション、ツールの呼び出し、データ アクセス イベントなど、AI エージェント アクティビティのAgent 365監視データが含まれます。 疑わしいエージェントの動作を検出し、エージェントのアクションをトレースし、Agent 365監視データを使用して根本原因分析を実行します。
AgentsInfo エージェント ID、プラットフォーム、所有権、メタデータなど、AI エージェントのインベントリと構成の詳細が含まれます。 エージェントの姿勢を確認し、危険なエージェントまたは正しく構成されていないエージェントを特定し、エージェント ID をアラートとアクティビティと関連付けます。
AlertEvidence エージェント、ユーザー、ツール、URL、リソースなど、アラートに関連付けられているエンティティと成果物が含まれます。 アラートのスコープを理解し、AI エージェント インシデントに関連する関連エンティティを特定します。
BehaviorInfo 監査イベントやブロック イベントなど、リアルタイムの保護規則アクティビティをクエリ可能なテレメトリとして記録する動作が含まれます。 リアルタイム保護イベントに基づいて、カスタム検出、ハンティング クエリ、ダウンストリーム自動化を構築します。
BehaviorEntities エージェント、ユーザー、ツール、リソースなどの動作に関連付けられているエンティティと成果物が含まれます。 動作を関連エンティティと関連付けて、リアルタイム保護イベントのスコープを調査します。

次の手順

  • Last updated on