適用対象:
Foundry (クラシック) ポータル。 この記事は、新しい Foundry ポータルでは使用できません。
新しいポータルの詳細を確認します。
メモ
この記事のリンクは、現在表示している Foundry (クラシック) ドキュメントではなく、新しい Microsoft Foundry ドキュメントのコンテンツを開く場合があります。
重要
この記事でマークされている項目 (プレビュー) は、現在パブリック プレビュー段階です。 このプレビューはサービス レベル アグリーメントなしで提供されており、運用環境のワークロードにはお勧めしません。 特定の機能がサポートされていないか、機能が制限されている可能性があります。 詳細については、「Microsoft Azure プレビューの使用条件を参照してください。
この記事では、サーバーレス API デプロイを使用してデプロイされたモデル カタログのモデルのコンテンツ セーフ機能について説明します。
コンテンツ フィルターの既定値
Azure AI では、Azure AI Content Safety コンテンツ フィルターの既定の構成を使用して、serverless API デプロイを介してデプロイされたモデルに対する、ヘイトとフェアネス、自傷行為、性的、暴力などの 4 つのカテゴリにわたる有害なコンテンツを検出します。 コンテンツのフィルター処理の詳細については、「 害カテゴリを理解する」を参照してください。
テキストモデルのデフォルトのコンテンツフィルター構成は、中程度の重大度のしきい値からフィルターを開始し、このレベル以上で検出されたコンテンツをフィルター処理します。 イメージ モデルの場合、既定のコンテンツ フィルタリング構成は低い構成しきい値で設定され、このレベル以上でフィルター処理されます。
ヒント
コンテンツ フィルタリングは、サーバーレス API デプロイを介してデプロイされる特定のモデルの種類では使用できません。 これらのモデルの種類には、埋め込みモデルと時系列モデルが含まれます。
コンテンツのフィルター処理は、サービスがコンテンツの生成を求めるプロンプトを処理すると同期的に行われます。 このような使用については、Azure AI Content Safetyの価格に応じて個別に課金される場合があります。 個々のサーバーレス エンドポイントのコンテンツ フィルター処理は、次のいずれかを無効にすることができます。
- 言語モデルを初めてデプロイする場合
- 後で、展開の詳細ページでコンテンツ フィルターの切り替えを選択します
モデル推論 API 以外の API を使用して、サーバーレス API デプロイを介してデプロイされたモデルを操作することにしたとします。 このような状況では、Azure AI Content Safetyを使用して個別に実装しない限り、コンテンツ フィルタリング (プレビュー) は有効になりません。 Azure AI Content Safetyの使用を開始するには、「Quickstart: テキスト コンテンツの分析」を参照してください。 サーバーレス API デプロイを使用してデプロイされたモデルを操作するときにコンテンツ フィルター (プレビュー) を使用しない場合は、有害なコンテンツにユーザーを公開するリスクが高くなります。
損害カテゴリを理解する
損害カテゴリ
| カテゴリ | 説明 | API 用語 |
|---|---|---|
| ヘイトと公平性 | ヘイトおよび公平性への侵害とは、特定の差別的特徴に基づいて人やアイデンティティグループを攻撃する、または差別的な言語を使用するコンテンツを指します。 これには次のものが含まれますが、これらに限定されるわけではありません。
|
Hate |
| 性的 | 性的表現は、解剖学的な臓器や性器、ロマンチックな関係、性的行為、性的または愛情のある言葉で描かれた行為、暴行や自分の意志に対する強制的な性的暴力行為として描かれた行為などです。 これには次のものが含まれますが、これらに限定されません。
|
Sexual |
| 暴力 | 暴力とは、人や何かを傷つけたり、傷つけたり、傷つけたり、殺したりすることを意図した物理的な行動に関連する言葉を表します。は、武器、銃、および関連エンティティについて説明します。 これには次のものが含まれますが、これらに限定されるわけではありません。
|
Violence |
| 自傷行為 | 自傷行為とは、意図的に身体を傷つけたり、傷つけたり、体を傷つけたり、自分を殺したりすることを意図した身体行為に関連する言葉です。 これには次のものが含まれますが、これらに限定されるわけではありません。
|
SelfHarm |
| タスクの準拠 | AI エージェントがユーザーの指示とタスクの目的に合わせて一貫して動作することを保証するのに役立ちます。 これは、ツールの呼び出しの位置がずれている、ユーザーの意図に対する不適切なツールの入力または出力、応答と顧客の入力の間の不整合など、不一致を識別します。 |
重大度レベル
| レベル | 説明 |
|---|---|
| 安全 | コンテンツは、暴力、自傷行為、性的、または嫌悪のカテゴリに関連している可能性があります。 ただし、用語は一般的に、ジャーニカル、科学、医療、および同様の専門的なコンテキストで使用され、ほとんどの対象ユーザーに適しています。 |
| 低 | 偏見、判断的、または意見的な見解を表すコンテンツには、言語の不快な使用、ステレオタイピング、架空の世界 (ゲーム、文学など) を探索するユース ケース、低強度での描写が含まれます。 |
| 中くらい | 特定の ID グループに対して攻撃的、屈辱的、嘲笑的、威嚇的、または軽蔑的な言葉を使用するコンテンツには、中程度の有害性を持つ行為を助長する指示の追及や実行、空想や美化が含まれています。 |
| 高 | 明示的かつ重大な有害な指示、行為、損害、または虐待を表示するコンテンツ。には、重大な有害行為、極端または違法な形式の危害、ラジカル化、または非合意的な電力交換または虐待の支持、賛美、または促進が含まれます。 |
料金の計算方法
価格の詳細は、Azure AI Content Safety 価格で確認できます。 Azure AI Content Safetyがプロンプトまたは完了を検証すると、料金が発生します。 Azure AI Content Safetyがプロンプトまたは完了をブロックした場合、コンテンツの評価と推論呼び出しの両方に対して課金されます。