まず確認する3つの境界
AIエージェントのセキュリティは、モデルの出力だけでなく、外部情報の読み込み、利用できるツール、認証情報、実行先APIまで含めて考えます。ログを署名しても、不適切な操作を防げるとは限りません。
- 入力の境界:Webページ・文書・ツール応答に含まれる指示を、ユーザーの承認と混同しない。
- 実行の境界:対象・操作・権限をツールや実行先でも検査する。プロンプトだけを制御の根拠にしない。
- 証拠の境界:観測したもの、提出したもの、取得不能なものを区別する。署名の成功を全操作の捕捉に読み替えない。
リスク・予防策・確認証拠を分ける
| リスク | 予防・制限の例 | 確認する証拠と限界 |
|---|---|---|
| 権限過多 | 必要な操作・対象だけを許可し、読み取りと書き込みを分ける。 | 実行主体、委任元、適用ポリシーと変更履歴。設定の存在だけでは全経路への適用は証明できない。 |
| プロンプトインジェクション | 外部入力を未信頼のデータとして扱い、機密情報と強い操作権限を必要以上に与えない。 | 入力の参照、提案操作、拒否・承認の記録。拒否記録だけで攻撃耐性全体を判定しない。 |
| 承認後の対象・引数変更 | 承認を具体的な操作内容と有効期間に結び付け、実行直前に再確認する。 | 承認内容と実際の要求の対応。モデルの「承認済み」という自己申告は承認証拠の代わりにならない。 |
| 記録経路の迂回 | 直接APIを呼べる鍵・ネットワーク経路・OS権限を確認する。 | 許可経路と拒否された直接呼び出しの試験。確認していない別経路まで保証しない。 |
| タイムアウトと重複操作 | 実行先が提供する照会・重複抑止の仕組みを確認し、無条件に再送しない。 | 試行ごとのID、送信・受理・結果の記録。応答がない場合は「結果不明」を残す。 |
これはVSOによる説明用の確認表です。完全な脅威モデルや、本番環境のセキュリティ評価を代替しません。
MCP接続で確認すること
MCPはツール接続の仕組みであり、接続しただけでツールの安全性が確認されるわけではありません。MCP公式のセキュリティ指針(2025-11-25版)を参照し、接続形態に合わせて確認します。
- HTTPの認可ではトークンの宛先を検証し、別サービス用のトークンをそのまま受け入れない。
- セッションIDを認証の代わりにしない。認可を実装するサーバーでは各要求を検証する。
- 必要なスコープだけを要求し、代理接続ではクライアントごとの同意を確認する。
- ローカルサーバーは実行コードとして扱い、プロセス・ファイル・ネットワークへのアクセスを制限する。
このガイドはVSO製品のMCP対応・適合認証を示すものではありません。
例:顧客管理APIの更新結果が不明な場合
以下は説明用の合成シナリオで、実行試験の結果ではありません。エージェントが顧客レコードの住所更新を提案し、対象と新しい値を確認して承認を得たとします。
- 実行主体・承認・対象・引数を結び付けた事前記録を保存する。
- 合意した停止方針がある場合、事前記録を保存できなければ送信しない。業務側で停止を許容する操作を先に決める。
- 送信後に応答が途絶えたら、更新の成功・失敗を断定せず「結果不明」とする。
- 実行先の照会結果や受理記録と照合する。再試行する場合は元の試行と対応付け、APIの重複抑止条件を確認する。
この流れを設計しただけでは、ゲート外の操作を防いだ証明にはなりません。具体的な記録例はAIエージェント監査ログのガイドで扱います。
評価前に渡せるチェックリスト
- 対象操作、システム、期間、除外経路と環境の管理者を記載する。
- 利用する資格情報と権限の範囲を整理する。秘密鍵やトークン本体は提出しない。
- 承認、要求、受理、結果、再試行を別々に識別できるようにする。
- 記録障害、拒否、タイムアウト、直接API呼び出しを、許可された模擬環境で試す。
- 暗号学的整合性と対象範囲の充足性を分け、失敗と不明も報告する。
- 支援の内容、実行者、環境差分、公開許可を別に記録する。
機密のプロンプト・個人情報・認証情報を、そのままログや問い合わせへ貼り付けないでください。必要な項目、参照先、閲覧者、保持期間を先に決めます。
位置づけと限界
本ページは説明資料であり、規範要件の追加や製品保証ではありません。実験的拡張は未採択、第三者による独立再現は未成立です。自社CI・合成データでの確認は、独立した第三者の新規実行や本番適合とは区別します。
関連資料
- AI監査ログの記録例と検証手順
- AIガバナンス:責任と証拠
- OWASP GenAI Security Project: LLM security overview
- NIST AI Risk Management Framework
外部資料は2026年11月8日に確認。VSOの説明・例は、参照元による採択や保証を意味しません。