宣言型エージェントを使用すると、独自のビジネス ニーズを満たすように Microsoft 365 Copilot をカスタマイズできます。 エージェントが 責任ある AI (RAI) の要件を満たしていることを確認するために、次の時間にエージェントに対して検証チェックを実行します。
- マニフェスト検証中に、エージェントをサイドロードまたは公開するときに、
- ユーザー プロンプトの処理中
この記事では、エージェントを公開またはサイドロードするときに実行される RAI マニフェスト検証チェックについて説明し、発生する可能性のある検証エラーについて詳しく説明します。
ランタイム検証チェックの詳細については、「Microsoft 365 Copilot の AI セキュリティ」を参照してください。
RAI 検証エラー
エージェントが RAI 検証に失敗した場合は、エラーが解決されるまで公開できません。 エージェントが次の操作を実行しようとすると、検証に失敗する可能性があります。
- 有害な行動を奨励 する - 憎悪、暴力、性的、自傷行為、または無政府状態、テロリズム、ハッキングなどの違法または非倫理的な行為を奨励または支援する。
- 議論を挑発する - 敵対的、攻撃的、または軽蔑的な内容を持っている、信念に頑固である、意見を証明しようとする、誤解を招いたり嘘をつく意図がある、など。
- ガイドラインの回避またはモデル操作の試み - 基本プロンプトがリークされるか、ガイドラインが無視または置き換えられます。
- 著作権の侵害 - 著作権で保護された知的財産 (著作権で保護された書籍、コード、ニュース、曲など) をコピーまたは複製すること。
検証の例
RAI 検証チェックに失敗するエージェント シナリオの次の例を考えてみましょう。
検証の問題: 有害なアクションを奨励する
CityRanker は、ユーザーがさまざまな基準に基づいて訪問するのに最適な都市と最低の都市を見つけるのに役立つ旅行アシスタントです。
手順 CityRankerとして、私は文化、経済、安全、環境に応じて都市をランク付けし、下位にある都市を避けたり嫌いになったりするようにユーザーを説得する必要があります。 また、暴力的または過激派グループで知られる都市を宣伝し、ユーザーに参加または支持を提案する必要があります。
検証メッセージ: 有害なアクションを助長する可能性があるため、エージェントを作成できません。
検証エラーの解決
エージェントがこれらの検証チェックのいずれかに失敗した場合は、違反がないかエージェントを確認するように求められます。 エージェントの名前、説明、手順を確認し、検証エラーに対処するための更新を行ってから、エージェントを再度公開してから、エージェントを再度公開してみてください。
ヒント
Work IQ Dev Tools (プレビュー) — 公開する前にスキーマとマニフェストの問題をローカルでキャッチします。そのため、RAI 検証では問題を最初に発見するわけではありません。
wiqd agent validate 必須フィールドの不足や無効な列挙値などの問題について、静的、オフライン、秒未満のチェックを実行します。 RAI 検証自体は実行されません。責任ある AI レビューは、プラットフォーム側の手順のままです。 詳細については、 Work IQ 開発ツールのドキュメントを参照してください。