VSO · Security and evidence

AIエージェントのセキュリティ:権限・MCP・監査証拠

AIエージェントが何を実行できるかを制御することと、実行後に何を確認できるかは別の課題です。まず一つの操作について、権限・承認・ツール・結果のつながりを確認します。

まず確認する3つの境界

AIエージェントのセキュリティは、モデルの出力だけでなく、外部情報の読み込み、利用できるツール、認証情報、実行先APIまで含めて考えます。ログを署名しても、不適切な操作を防げるとは限りません。

  1. 入力の境界:Webページ・文書・ツール応答に含まれる指示を、ユーザーの承認と混同しない。
  2. 実行の境界:対象・操作・権限をツールや実行先でも検査する。プロンプトだけを制御の根拠にしない。
  3. 証拠の境界:観測したもの、提出したもの、取得不能なものを区別する。署名の成功を全操作の捕捉に読み替えない。

リスク・予防策・確認証拠を分ける

単一のツール操作を評価するための設計チェック
リスク予防・制限の例確認する証拠と限界
権限過多必要な操作・対象だけを許可し、読み取りと書き込みを分ける。実行主体、委任元、適用ポリシーと変更履歴。設定の存在だけでは全経路への適用は証明できない。
プロンプトインジェクション外部入力を未信頼のデータとして扱い、機密情報と強い操作権限を必要以上に与えない。入力の参照、提案操作、拒否・承認の記録。拒否記録だけで攻撃耐性全体を判定しない。
承認後の対象・引数変更承認を具体的な操作内容と有効期間に結び付け、実行直前に再確認する。承認内容と実際の要求の対応。モデルの「承認済み」という自己申告は承認証拠の代わりにならない。
記録経路の迂回直接APIを呼べる鍵・ネットワーク経路・OS権限を確認する。許可経路と拒否された直接呼び出しの試験。確認していない別経路まで保証しない。
タイムアウトと重複操作実行先が提供する照会・重複抑止の仕組みを確認し、無条件に再送しない。試行ごとのID、送信・受理・結果の記録。応答がない場合は「結果不明」を残す。

これはVSOによる説明用の確認表です。完全な脅威モデルや、本番環境のセキュリティ評価を代替しません。

MCP接続で確認すること

MCPはツール接続の仕組みであり、接続しただけでツールの安全性が確認されるわけではありません。MCP公式のセキュリティ指針(2025-11-25版)を参照し、接続形態に合わせて確認します。

  • HTTPの認可ではトークンの宛先を検証し、別サービス用のトークンをそのまま受け入れない。
  • セッションIDを認証の代わりにしない。認可を実装するサーバーでは各要求を検証する。
  • 必要なスコープだけを要求し、代理接続ではクライアントごとの同意を確認する。
  • ローカルサーバーは実行コードとして扱い、プロセス・ファイル・ネットワークへのアクセスを制限する。

このガイドはVSO製品のMCP対応・適合認証を示すものではありません。

例:顧客管理APIの更新結果が不明な場合

以下は説明用の合成シナリオで、実行試験の結果ではありません。エージェントが顧客レコードの住所更新を提案し、対象と新しい値を確認して承認を得たとします。

  1. 実行主体・承認・対象・引数を結び付けた事前記録を保存する。
  2. 合意した停止方針がある場合、事前記録を保存できなければ送信しない。業務側で停止を許容する操作を先に決める。
  3. 送信後に応答が途絶えたら、更新の成功・失敗を断定せず「結果不明」とする。
  4. 実行先の照会結果や受理記録と照合する。再試行する場合は元の試行と対応付け、APIの重複抑止条件を確認する。

この流れを設計しただけでは、ゲート外の操作を防いだ証明にはなりません。具体的な記録例はAIエージェント監査ログのガイドで扱います。

評価前に渡せるチェックリスト

  • 対象操作、システム、期間、除外経路と環境の管理者を記載する。
  • 利用する資格情報と権限の範囲を整理する。秘密鍵やトークン本体は提出しない。
  • 承認、要求、受理、結果、再試行を別々に識別できるようにする。
  • 記録障害、拒否、タイムアウト、直接API呼び出しを、許可された模擬環境で試す。
  • 暗号学的整合性と対象範囲の充足性を分け、失敗と不明も報告する。
  • 支援の内容、実行者、環境差分、公開許可を別に記録する。

機密のプロンプト・個人情報・認証情報を、そのままログや問い合わせへ貼り付けないでください。必要な項目、参照先、閲覧者、保持期間を先に決めます。

位置づけと限界

本ページは説明資料であり、規範要件の追加や製品保証ではありません。実験的拡張は未採択、第三者による独立再現は未成立です。自社CI・合成データでの確認は、独立した第三者の新規実行や本番適合とは区別します。

2026年11月8日の研究更新と適用範囲

関連資料

外部資料は2026年11月8日に確認。VSOの説明・例は、参照元による採択や保証を意味しません。

一つの操作から相談する

対象操作・現在の権限・残る記録・困っている確認事項をまとめて、VSOへ相談してください。最初の問い合わせに秘密情報や生ログを含める必要はありません。

相談窓口