Microsoft Defenderを使用して AI エージェントをリアルタイムで保護する

デプロイされた AI エージェントは自律的に動作し、ツールを呼び出し、データにアクセスし、自然言語入力に応答してアクションを実行します。 Microsoft Defenderは、実行時に AI エージェントが安全でないアクションを実行するのを防ぐためのリアルタイム保護を提供し、ポリシーとルールを使用してその保護を制御できます。

AI エージェントの脅威が発生した後にそれらを検出、調査、探索するには、「Microsoft Defender を使用して AI エージェントに対する脅威を検出して調査する」を参照してください。

前提条件

リアルタイム保護のしくみ

リアルタイム保護は、エージェント ループ全体の AI エージェント アクティビティを検査し、実行前に危険なアクションをブロックします。 カバレッジは、エージェントの種類によって異なります。

クラウド エージェントには、次の 2 種類のリアルタイム保護規則があります。

  • 既定のルール: すべてのエージェントを監査し、アクションを停止せずに一致アクティビティを動作として記録します。 これにより、ブロックを適用する前に可視性が提供されます。
  • カスタム ルール: 実行する前に一致するアクションをブロックし、動作を記録します。 信頼度の高い脅威のカスタム ルールを作成し、特定のエージェントにスコープを設定します。

Microsoft Defender がアクションを監査またはブロックすると、何が発生したか、そのアクションが危険と見なされた理由、およびどのエージェント、ユーザー、ツールが関与していたかを含めて、そのイベントを BehaviorInfo テーブルに動作として記録します。 セキュリティ チームは、これらの動作に対してクエリを実行して、カスタム検出、ハンティング クエリ、ダウンストリーム自動化を構築できます。 ほぼリアルタイムの検出は、監査モードでのみアラートとして表示され続けます。 ブロックルールがエージェントを対象とする場合、そのエージェントに対してほぼリアルタイムのアラートは生成されません。

Note

Foundry 用および Microsoft 365 Copilot Agent Builder 用の Microsoft Prompt Shields からのブロック イベントも、動作として記録されます。 これは、Microsoft Copilot Studioを使用して構築されたエージェントでは、まだサポートされていません。

リアルタイム保護規則を構成する

ルールを表示および管理するには、「設定>AI のセキュリティ>ポリシーとルール>リアルタイム保護」に移動します。 組み込みの 既定 のルールは、すべてのエージェントを監査します。 特定の検出の種類をブロックし、特定のエージェントにスコープを設定するカスタム ルールを作成できます。

Microsoft Defender ポータルの [リアルタイム保護] ページのスクリーンショット。状態、種類、アクション、スコープの列を含むルールの一覧が表示されています。

リアルタイム保護規則を作成する

ブロックルールを作成するには:

  1. Microsoft Defender ポータルにサインインします。

  2. 設定>AI 向けセキュリティ>ポリシーと規則>リアルタイム保護に移動します。

  3. [ルールの作成] を選択します。

  4. [ ルールの詳細 ] ステップで、ルール の状態を設定し、 ルール名 と ルールの説明を入力して、[ 次へ] を選択します。

    [ルールの作成] ウィザードの [ルールの詳細] ステップのスクリーンショット。状態の切り替え、ルール名、およびルールの説明フィールドが表示されています。

  5. ルールのスコープと検出の種類を構成します。

    • スコープ: ルールを すべての エージェントに適用するか、特定のエージェントに適用するかを選択します。

    • 除外: ルールから特定のエージェントを除外するには、除外するエージェントを選択します。 プラットフォームと公開状態で一覧を絞り込めます。 Microsoft Entra エージェント ID を持つエージェントのみが一覧に表示されます。

      プラットフォーム フィルターと Entra エージェント ID を持つエージェントの一覧が表示された [除外するエージェントの選択] ウィンドウのスクリーンショット。

    • 検出の種類: ルールが適用される脅威シナリオを選択し、[ 適用] を選択します。

      シークレット流出、悪意のあるコンテンツの伝達、回避手法、安全でない電子メール ドメインを示す検出の種類のドロップダウンのスクリーンショット。

  6. 次へを選択します。

  7. ルール名、説明、アクション、スコープ、検出ルール、状態を確認し、[ 作成] を選択します。

    ルールの名前、説明、アクション、スコープ、検出ルール、状態を要約した [確認と作成] ステップのスクリーンショット。

既存のルールを管理する

[ リアルタイム保護 ] ページで、ルールを選択して詳細ウィンドウを開きます。ここで、ルールの構成を確認し、[ ルールの編集] を選択して変更できます。 ルールを管理するには、ツール バーの [有効]、[ 無効]、および [削除 ] を使用します。

ルールが選択され、アクション、スコープ、検出ルールが表示された [リアルタイム保護] ページのスクリーンショット。

アラート内のプロンプト証拠を管理する

既定では、Microsoft Defenderには、各アラートの証拠として、ユーザーとエージェントの間で交換されるプロンプト スニペットが含まれます。

この設定を構成するには、[ Settings>Security for AI>Prompt evidence collection] に移動し、[ 有効] をオンまたはオフに切り替えます。

有効にすると、スニペットには、疑わしいと識別され、セキュリティ分類に関連するユーザー プロンプトまたはエージェントの応答の一部のみが含まれます。 機密データとシークレットは編集されます。ただし、顧客の会話は本質的に機密性が高い可能性があります。 証拠は、Defender ポータルで各アラートの一部として使用できます。

[有効] トグルが表示された [Prompt evidence collection]\(証拠の収集のプロンプト\) ページのスクリーンショット。また、アラートでプロンプト スニペットがどのように表示されるかの説明が示されています。

次のステップ

  • Last updated on