"From Black Box to Glass Box"
― AIの診断根拠を、検証可能に。
「AIが『がんです』と言った。なぜ？
その根拠を、暗号学的に検証可能にする。」
AI画像診断は、放射線科医と同等以上の精度で病変を検出できるようになった。 しかし、AIが「陽性」と判断した根拠は、多くの場合ブラックボックスのままだ。
患者が訴訟を起こしたとき、「AIがそう言ったから」は通用しない。 規制当局が監査を求めたとき、「ログは残っていない」は許されない。
MAPは、医療AIの全ての判断を暗号学的に記録するよう設計されており、 「いつ、どのデータを見て、どのモデルが、なぜその診断に至ったか」を 改ざん検知可能な形で検証可能にする。
医療AIの現状と課題
「AIが判断した」だけでは、医療過誤訴訟で防御できない。判断根拠の記録が必須。
再学習により性能が変化。どのバージョンのモデルが診断したか追跡不能。
MDRは市販後調査（第83〜86条）を要求し、EU AI Actは高リスクAIシステムの市販後モニタリングを定めている（第72条。附属書I経路のシステムへの高リスク規定の適用は2028年8月2日から）。FDAのPCCP（事前変更管理計画）は任意の仕組みで、計画したモデル変更とその検証方法を事前に定めるものである。MAP（v0.1.2 ワーキングドラフト）は、臨床AIの判断記録を改ざん検知可能にする方法と、アンカーされたバッチごとに、宣言されたスコープ内の記録がアンカー後に欠落していないことを第三者が事後検証する方法を、暫定的に定めている。
問われた質問：
結果：証拠不十分で和解
判明した問題点：
対象システムと記録対象イベント（構想段階の概観。v0.1.2 ワーキングドラフトの対象は診断支援・画像AI・トリアージ・アンビエント文書作成・保険適用判断で、手術ロボットの制御ループは先送り）
画像診断AI、ECG解析AI
必須デジタル病理、細胞診AI
必須薬物相互作用チェック、用量最適化
必須救急優先度判定、ICUアラート
必須判断支援コンポーネント
推奨患者スクリーニング、エンドポイント評価
推奨患者データ入力
画像/検査値
患者履歴
同意情報
AI解析
特徴抽出
モデル推論
説明因子
診断生成
分類結果
信頼度
鑑別診断
治療計画
推奨治療
リスク評価
代替案提示
患者転帰
実際の結果
フォローアップ
予後データ
データフローとイベント構造
患者データ
AIモデル（SaMD）
臨床判断
MAP Recorder（サイドカー）
← 全判断イベントを記録
ハッシュチェーン
暗号学的に連鎖
デジタル署名
Ed25519署名
モデルハッシュ
バージョン特定
監査ストレージ
暗号化保存（HIPAA/GDPR要件を想定した設計）
{
"event_id": "019234ab-7c8d-7def-8123-456789abcdef",
"timestamp_ns": 1734567890123456789,
"event_type": "DIAGNOSIS_GENERATED",
"facility_id": "HOSPITAL_XXXXX",
"provenance": {
"actor": {
"type": "AI_MODEL",
"identifier": "chest_xray_classifier_v2.1.3",
"model_hash": "sha256:abc123...",
"training_date": "2024-06-15",
"fda_clearance": "K123456"
},
"input": {
"patient_id_hash": "hmac-sha256:keyed_commitment...",
"image_study_uid": "1.2.840.113619.2.55...",
"input_hash": "sha256:def456...",
"acquisition_timestamp": 1734567800000000000
},
"context": {
"clinical_indication": "CHEST_PAIN_EVALUATION",
"referring_physician_id": "NPI_XXXXXXXXXX",
"prior_studies_reviewed": 3,
"patient_age_range": "60-69",
"active_protocol": "EMERGENCY_TRIAGE"
},
"action": {
"diagnosis": "PNEUMONIA_SUSPECTED",
"confidence": 0.87,
"explainability": {
"method": "GRADCAM",
"attention_regions": ["RIGHT_LOWER_LOBE"],
"contributing_factors": [
{"factor": "consolidation_pattern", "weight": 0.45},
{"factor": "air_bronchograms", "weight": 0.32}
]
},
"differential_diagnoses": [
{"diagnosis": "ATELECTASIS", "confidence": 0.08},
{"diagnosis": "LUNG_CANCER", "confidence": 0.03}
],
"recommended_action": "CONFIRM_WITH_CT"
}
},
"prev_hash": "sha256:789xyz...",
"signature": "ed25519:..."
}国際規制との対応関係
| 規制 | 管轄 | 要件 | MAP設計目標（ドラフト） |
|---|---|---|---|
| EU AI Act 第6条1項・附属書I-A | EU | MDR/IVDRで第三者適合性評価（ノーティファイドボディ）を要する機器の安全コンポーネントであるAI、またはそれ自体が当該機器であるAIは高リスク。ログ記録（第12条）は2028年8月2日から適用 | 設計目標（ドラフト） |
| FDA ドラフトガイダンス「AI対応機器ソフトウェア機能：ライフサイクル管理」（2025年1月） | 米国 | ライフサイクル管理・性能監視に関する推奨事項（ドラフト・拘束力なし） | 設計目標（ドラフト） |
| FDA PCCP | 米国 | 所定変更管理計画、モデル変更の追跡 | 設計目標（ドラフト） |
| MDR 2017/745 | EU | 医療機器のトレーサビリティ | 補完 |
| 21 CFR Part 11 | 米国 | 電子記録・電子署名、監査証跡 | 設計目標（ドラフト） |
| HIPAA | 米国 | PHI保護、アクセスログ | Crypto-Shredding対応 |
| GDPR | EU | 忘れられる権利、データ最小化 | Crypto-Shredding対応 |
| 薬機法 変更計画確認手続（IDATEN） | 日本 | AI活用プログラム医療機器の市販後変更計画 | 対応予定 |
記録されたイベントをハッシュチェーンで連鎖
Ed25519署名で操作者を特定
暗号学的ハッシュによる改ざん検知
UUID v7 + NTP/PTP同期
外部アンカリングにより管理者による削除も検知可能
| ALCOA+原則 | 説明 | MAP設計目標（ドラフト） |
|---|---|---|
| Attributable | 誰が記録したか | actor.identifier + 署名 |
| Legible | 読み取り可能 | 標準JSON形式 |
| Contemporaneous | 同時記録 | リアルタイムログ生成 |
| Original | 原本性 | ハッシュチェーンで検証可能 |
| Accurate | 正確性 | 入力データハッシュで検証 |
| Complete | 完全性 | イベント欠落をチェーン断裂で検知 |
| Consistent | 一貫性 | trace_idによる関連付け |
| Enduring | 恒久性 | 改ざん検知可能・暗号学的に検証可能 |
| Available | 可用性 | 標準APIでアクセス可能 |
監査証跡と忘れられる権利の両立
「追記専用の監査証跡」
削除できない
「GDPR削除権」
請求に応じて消去（第17条3項の例外あり）
両立不可能に見える
患者データ
暗号化
暗号化データ
記録
MAP
暗号鍵 → Key Management Systemに安全に保管
削除要求時：
暗号鍵を破棄 → データは解読不能に → 解読不能化（これが「消去」に当たるかは法域・事案による）
ハッシュチェーンは維持 → 監査証跡の整合性は保持
具体的な適用シナリオ
| フェーズ | MAPなし | MAP導入時 |
|---|---|---|
| 診断時 | AIが「異常なし」と判定 | 同左 + 判断根拠を記録 |
| 訴訟提起 | 「AIが見落とした」と主張 | 同左 |
| 証拠開示 | ログが改ざん可能性あり | 暗号学的に検証可能な証跡 |
| 原因特定 | 「モデルの問題か、データの問題か不明」 | 「モデルv2.1.3の特定条件下での精度問題」を特定 |
| 責任判断 | 曖昧なまま和解 | 完全性・網羅性を検証できる記録に基づく判断 |
FDA監査官
PCCP準拠の確認要求
監査用証拠の提出完了
CRO（受託研究機関）
EDCシステム
MAPアンカリング
外部ブロックチェーンにハッシュ記録
システム管理者による改ざんも検知可能
規制当局の査察に向けた検証可能なデータ完全性の証拠
構想段階のパラメータ ― MAP v0.1.2 ワーキングドラフトと異なる場合はドラフトが優先します
ミリ秒（NTP同期）
診断イベント単位
SHA-256
Ed25519（将来Dilithium対応）
イベントにPHIを含めない（コミットメントのみ）＋保護ペイロードのCrypto-Shredding
正規化JSON（RFC 8785）。FHIR AuditEventへのミラーリングは参考スケッチ
規制要件に応じて設定可能（通常10-30年）
MAP策定スケジュール（残りのステップの時期は未定）。MAPは現在 v0.1.2 ワーキングドラフトであり、以降のマイルストーンは未達です。
フレームワーク階層
全ドメイン共通の上位フレームワーク
VAPを策定・維持する標準化組織
金融
v1.2 Released自動車
計画中医療
v0.1.2 ワーキングドラフトエネルギー
計画中公共
部分ドラフト医療機器メーカー、病院、規制当局の方々の参加を歓迎します。
「AIが『がんです』と言ったとき、患者が知りたいのは確率ではない。根拠だ。」
"In medicine, trust is not given. It is verified."
このコンテンツは CC BY 4.0 International ライセンスの下で提供されています
© 2025-2026 VeritasChain Standards Organization (VSO). All rights reserved.