"From Black Box to Glass Box"
― AIの診断根拠を、検証可能に。
「AIが『がんです』と言った。なぜ?
その根拠を、暗号学的に証明する。」
AI画像診断は、放射線科医と同等以上の精度で病変を検出できるようになった。 しかし、AIが「陽性」と判断した根拠は、多くの場合ブラックボックスのままだ。
患者が訴訟を起こしたとき、「AIがそう言ったから」は通用しない。 規制当局が監査を求めたとき、「ログは残っていない」は許されない。
MAPは、医療AIの全ての判断を暗号学的に記録し、 「いつ、どのデータを見て、どのモデルが、なぜその診断に至ったか」を 改ざん不可能な形で証明する。
医療AIの現状と課題
「AIが判断した」だけでは、医療過誤訴訟で防御できない。判断根拠の記録が必須。
再学習により性能が変化。どのバージョンのモデルが診断したか追跡不能。
FDA PCCP、EU AI Act、MDRが継続的な性能監視を要求。対応技術標準が不在。
問われた質問:
結果:証拠不十分で和解
判明した問題点:
対象システムと記録対象イベント
画像診断AI、ECG解析AI
必須デジタル病理、細胞診AI
必須薬物相互作用チェック、用量最適化
必須救急優先度判定、ICUアラート
必須判断支援コンポーネント
推奨患者スクリーニング、エンドポイント評価
推奨患者データ入力
画像/検査値
患者履歴
同意情報
AI解析
特徴抽出
モデル推論
説明因子
診断生成
分類結果
信頼度
鑑別診断
治療計画
推奨治療
リスク評価
代替案提示
患者転帰
実際の結果
フォローアップ
予後データ
データフローとイベント構造
患者データ
AIモデル(SaMD)
臨床判断
MAP Logger(Sidecar)
← 全判断イベントを記録
ハッシュチェーン
暗号学的に連鎖
デジタル署名
Ed25519署名
モデルハッシュ
バージョン特定
監査ストレージ
HIPAA/GDPR準拠、暗号化保存
{
"event_id": "019234ab-7c8d-7def-8123-456789abcdef",
"timestamp_ns": 1734567890123456789,
"event_type": "DIAGNOSIS_GENERATED",
"facility_id": "HOSPITAL_XXXXX",
"provenance": {
"actor": {
"type": "AI_MODEL",
"identifier": "chest_xray_classifier_v2.1.3",
"model_hash": "sha256:abc123...",
"training_date": "2024-06-15",
"fda_clearance": "K123456"
},
"input": {
"patient_id_hash": "sha256:patient_anonymized...",
"image_study_uid": "1.2.840.113619.2.55...",
"input_hash": "sha256:def456...",
"acquisition_timestamp": 1734567800000000000
},
"context": {
"clinical_indication": "CHEST_PAIN_EVALUATION",
"referring_physician_id": "NPI_XXXXXXXXXX",
"prior_studies_reviewed": 3,
"patient_age_range": "60-69",
"active_protocol": "EMERGENCY_TRIAGE"
},
"action": {
"diagnosis": "PNEUMONIA_SUSPECTED",
"confidence": 0.87,
"explainability": {
"method": "GRADCAM",
"attention_regions": ["RIGHT_LOWER_LOBE"],
"contributing_factors": [
{"factor": "consolidation_pattern", "weight": 0.45},
{"factor": "air_bronchograms", "weight": 0.32}
]
},
"differential_diagnoses": [
{"diagnosis": "ATELECTASIS", "confidence": 0.08},
{"diagnosis": "LUNG_CANCER", "confidence": 0.03}
],
"recommended_action": "CONFIRM_WITH_CT"
}
},
"prev_hash": "sha256:789xyz...",
"signature": "ed25519:..."
}
国際規制との対応関係
| 規制 | 管轄 | 要件 | MAP対応 |
|---|---|---|---|
| EU AI Act Annex III | EU | 医療機器AIは高リスク分類、ログ記録義務 | ✅ 完全対応 |
| FDA AI/ML SaMD Guidance | 米国 | 継続的学習AIの性能監視 | ✅ 完全対応 |
| FDA PCCP | 米国 | 所定変更管理計画、モデル変更の追跡 | ✅ 完全対応 |
| MDR 2017/745 | EU | 医療機器のトレーサビリティ | ✅ 補完 |
| 21 CFR Part 11 | 米国 | 電子記録・電子署名、監査証跡 | ✅ 完全対応 |
| HIPAA | 米国 | PHI保護、アクセスログ | ✅ Crypto-Shredding対応 |
| GDPR | EU | 忘れられる権利、データ最小化 | ✅ Crypto-Shredding対応 |
| PMDA SaMDガイダンス | 日本 | AI医療機器の継続的監視 | ✅ 対応予定 |
✅ 全イベントをハッシュチェーンで記録
✅ Ed25519署名で操作者を特定
✅ 暗号学的ハッシュによる改ざん検知
✅ UUID v7 + NTP/PTP同期
✅ 外部アンカリングにより隠滅不可能
| ALCOA+原則 | 説明 | MAP対応 |
|---|---|---|
| Attributable | 誰が記録したか | ✅ actor.identifier + 署名 |
| Legible | 読み取り可能 | ✅ 標準JSON形式 |
| Concurrent | 同時記録 | ✅ リアルタイムログ生成 |
| Original | 原本性 | ✅ ハッシュチェーンで証明 |
| Accurate | 正確性 | ✅ 入力データハッシュで検証 |
| Complete | 完全性 | ✅ イベント欠落をチェーン断裂で検知 |
| Consistent | 一貫性 | ✅ trace_idによる関連付け |
| Enduring | 恒久性 | ✅ 暗号学的保証 |
| Available | 可用性 | ✅ 標準APIでアクセス可能 |
監査証跡と忘れられる権利の両立
「改ざん不可能な監査証跡」
削除できない
「GDPR削除権」
削除しなければならない
両立不可能に見える
患者データ
暗号化
暗号化データ
記録
MAP
暗号鍵 → Key Management Systemに安全に保管
削除要求時:
暗号鍵を破棄 → データは解読不能に → 実質的削除
ハッシュチェーンは維持 → 監査証跡の整合性は保持
具体的な適用シナリオ
| フェーズ | MAPなし | MAP導入時 |
|---|---|---|
| 診断時 | AIが「異常なし」と判定 | 同左 + 判断根拠を記録 |
| 訴訟提起 | 「AIが見落とした」と主張 | 同左 |
| 証拠開示 | ログが改ざん可能性あり | 暗号学的に検証可能な証跡 |
| 原因特定 | 「モデルの問題か、データの問題か不明」 | 「モデルv2.1.3の特定条件下での精度問題」を特定 |
| 責任判断 | 曖昧なまま和解 | 明確な因果関係に基づく判断 |
FDA監査官
PCCP準拠の確認要求
監査完了・適合確認
CRO(受託研究機関)
EDCシステム
MAPアンカリング
外部ブロックチェーンにハッシュ記録
「システム管理者でも改ざん不可能」を証明
FDA警告書リスクの大幅低減
MAPの技術要件
ミリ秒(NTP同期)
診断イベント単位
SHA-256
Ed25519(将来Dilithium対応)
AES-256-GCM暗号化 + Crypto-Shredding
FHIR R4互換JSON
規制要件に応じて設定可能(通常10-30年)
MAP策定スケジュール
フレームワーク階層
全ドメイン共通の上位フレームワーク
VAPを策定・維持する標準化団体
金融
v1.0 Released自動車
策定中医療
策定中エネルギー
策定中公共
策定中医療機器メーカー、病院、規制当局の方々の参加を歓迎します。
「AIが『がんです』と言ったとき、患者が知りたいのは確率ではない。根拠だ。」
"In medicine, trust is not given. It is proven."
このコンテンツは CC BY 4.0 International ライセンスの下で提供されています
© 2024-2025 VeritasChain Standards Organization (VSO). All rights reserved.