行政AIの民主的説明責任を実現する
"No Decision Without Justification" ― 説明なき判断は、民主主義の敵である
ローン申請が却下された。なぜ?
福祉給付が打ち切られた。なぜ?
仮釈放が認められなかった。なぜ?
「AIがそう判断したから」では、民主主義は機能しない。
すべての市民には、自分に影響する判断の理由を知る権利がある。
すべての判断には、異議申立と司法審査を受ける機会が保障されなければならない。
PAPは、公共AIの全ての判断を暗号学的に記録し、
「いつ、どのデータを見て、どのルールに基づき、なぜその結論に至ったか」を
改ざん不可能な形で証明する。
公共AIの現状と課題、PAPによる解決
AIが「不適格」と判断した理由を説明できない。市民は異議申立の手がかりすら得られない。
過去の差別的データで訓練されたAIが、不公正な判定を繰り返し再生産する。
選挙で選ばれていないアルゴリズムが、市民の権利を左右する決定を下す。
給付資格判定
[申請者] → [AI判定:「不適格」] → [異議申立] → [判定根拠の開示請求]
↓
「AIの判断理由は企業秘密です」
「スコアリングモデルの詳細は開示できません」
↓
市民は争う手段を失う
刑事司法リスク評価
[被告人] → [AIリスク評価:「高リスク」] → [保釈却下/厳罰]
↓
事後分析で判明:
「郵便番号」と「逮捕歴」が主要因子
→ 実質的に人種・経済状況を代理変数化
↓
しかし判定時にこれを検証する手段がなかった
ビザ申請審査
[ビザ申請者] → [AI審査:「却下」] → [理由:「総合的判断」]
↓
「どの要素が問題だったか」不明
「改善すべき点」が示されない
「再申請しても同じ結果になるか」予測不能
対象システムと記録対象イベント
データフローとシステム構造
┌─────────────────────────────────────────────────────────────┐
│ Public Administration System │
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ │
│ │ Citizen │──▶│ AI/ML │──▶│ Decision │ │
│ │ Data │ │ Scoring │ │ Output │ │
│ └──────────┘ └────┬─────┘ └──────────┘ │
│ │ │
│ ┌───────▼───────┐ │
│ │ PAP Logger │ ← 全判断イベントを記録 │
│ │ (Sidecar) │ │
│ └───────┬───────┘ │
│ │ │
└──────────────────────┼───────────────────────────────────────┘
│
┌───────▼───────┐
│ Hash Chain │ ← 暗号学的に連鎖
│ + Signature │ ← デジタル署名
│ + Factor Log │ ← 判断因子の完全記録
└───────┬───────┘
│
┌───────▼───────┐
│ Audit Archive │ ← 長期保存
│ (GDPR対応) │ ← アクセス権管理
└───────┬───────┘
│
┌───────▼───────┐
│Citizen Portal │ ← 自己情報開示
│(説明責任) │ ← 異議申立支援
└───────────────┘
{
"event_id": "019234ab-7c8d-7def-8123-456789abcdef",
"timestamp_ns": 1734567890123456789,
"event_type": "ELIGIBILITY_DECISION",
"agency_id": "AGENCY_XXXXX",
"provenance": {
"actor": {
"type": "AI_MODEL",
"identifier": "benefit_eligibility_v2.3.1",
"model_hash": "sha256:abc123...",
"training_date": "2024-03-15",
"bias_audit_date": "2024-06-01",
"bias_audit_result": "PASSED"
},
"input": {
"applicant_id_hash": "sha256:applicant_anonymized...",
"data_sources": [
{"source": "TAX_AUTHORITY", "freshness_days": 30},
{"source": "EMPLOYMENT_REGISTRY", "freshness_days": 7},
{"source": "RESIDENCE_REGISTRY", "freshness_days": 1}
],
"input_hash": "sha256:def456...",
"missing_fields": ["PRIOR_BENEFIT_HISTORY"],
"imputation_method": "CONSERVATIVE_DEFAULT"
},
"context": {
"applicable_law": "SOCIAL_WELFARE_ACT_2023_SEC_12",
"policy_version": "2024-Q2",
"budget_constraint_active": false,
"human_override_available": true
},
"action": {
"decision": "ELIGIBLE",
"confidence": 0.89,
"eligibility_score": 72.5,
"threshold_applied": 65.0,
"explainability": {
"method": "SHAP",
"top_contributing_factors": [
{"factor": "income_below_threshold", "contribution": 0.35, "direction": "positive"},
{"factor": "dependent_children", "contribution": 0.25, "direction": "positive"},
{"factor": "employment_status", "contribution": 0.20, "direction": "positive"},
{"factor": "asset_level", "contribution": -0.10, "direction": "negative"}
],
"counterfactual": {
"if_income_increased_by": 15000,
"then_decision_would_be": "INELIGIBLE"
}
},
"appeal_rights": {
"deadline_days": 30,
"appeal_authority": "ADMINISTRATIVE_TRIBUNAL",
"required_documentation": ["INCOME_PROOF", "EXPENSE_RECORDS"]
}
}
},
"prev_hash": "sha256:789xyz...",
"signature": "ed25519:...",
"citizen_disclosure": {
"simplified_explanation": "あなたの申請は承認されました。主な理由:収入基準を満たしています。",
"full_explanation_available": true,
"explanation_request_url": "/citizen/explanation/019234ab..."
}
}
国際規制との対応関係
| 規制 | 管轄 | 要件 | PAP対応 |
|---|---|---|---|
| EU AI Act Article 6(2) | EU | 基本的権利に影響するAIは高リスク分類 | ✅ 完全対応 |
| EU AI Act Article 13 | EU | 透明性・説明可能性要件 | ✅ 完全対応 |
| EU AI Act Article 14 | EU | 人間による監視義務 | ✅ 完全対応 |
| GDPR Article 22 | EU | 自動化された意思決定への異議申立権 | ✅ 完全対応 |
| GDPR Article 15 | EU | アクセス権(自己情報開示) | ✅ 完全対応 |
| US Executive Order 14110 | 米国 | AI安全性・公正性要件 | ✅ 整合 |
| NYC Local Law 144 | NYC | 採用AIの監査義務 | ✅ 完全対応 |
| Illinois BIPA | イリノイ | 生体情報の使用制限 | ✅ 対応可能 |
| 行政手続法 | 日本 | 処分の理由提示義務 | ✅ 対応予定 |
| Annex III カテゴリ | 具体例 | PAP対応 |
|---|---|---|
| 雇用・労働者管理 | 採用AI、解雇リスク評価 | ✅ 必須対応 |
| 必須公共サービスへのアクセス | 福祉給付、公営住宅 | ✅ 必須対応 |
| 信用力評価 | ローン審査、クレジットスコア | ✅ 必須対応 |
| 緊急サービスの派遣 | 救急・消防の優先順位 | ✅ 必須対応 |
| 移民・庇護・国境管理 | ビザ審査、難民認定 | ✅ 必須対応 |
| 司法・民主的プロセス | 量刑支援、再犯リスク | ✅ 必須対応 |
バイアスの検出、記録、軽減
透明性ポータルと多層的説明モデル
| レイヤー | 対象者 | 説明の詳細度 |
|---|---|---|
| 市民向け | 一般申請者 | 平易な言葉での要約(simplified_explanation) |
| 代理人向け | 弁護士、支援者 | 判断因子と寄与度の詳細 |
| 監査人向け | 規制当局、監査法人 | モデル仕様、訓練データ、バイアス監査結果 |
| 技術者向け | AI開発者、研究者 | 完全なログ、モデルハッシュ、再現手順 |
PAP適用の実践的シナリオ
| フェーズ | PAPなし | PAP導入時 |
|---|---|---|
| 却下通知 | 「総合的判断により不適格」 | 「収入要件は満たしていますが、資産基準で閾値超過」 |
| 理由確認 | 「詳細は開示できません」 | 市民ポータルで全判断因子を確認可能 |
| 異議準備 | 何を争うべきか不明 | 「資産評価の誤り」を具体的に指摘可能 |
| 審査請求 | 証拠不十分で棄却 | PAP証跡により資産評価ロジックの問題を立証 |
| 結果 | 泣き寝入り | 再審査で承認、システム改善にも貢献 |
[企業] → [採用AIの年次監査義務]
↓
↓
[監査報告書の公開] → [コンプライアンス証明]
[被告人] → [AIリスク評価:「高リスク」] → [厳罰判決]
↓
[5年後の追跡調査]
↓
↓
[システム改善 / 過去判決の見直し根拠]
透明性とプライバシーのバランス
「説明責任のために全てを記録したい」
↕
「GDPR/プライバシーのためにデータを最小化したい」
主要な技術パラメータ
| 項目 | PAP仕様 |
|---|---|
| タイムスタンプ精度 | 秒~ミリ秒(用途に応じて) |
| イベント記録頻度 | 判定イベント単位 |
| ハッシュアルゴリズム | SHA-256 |
| 署名アルゴリズム | Ed25519(将来Dilithium対応) |
| 個人データ保護 | AES-256-GCM暗号化 + Crypto-Shredding |
| 保存期間 | 法定保存期間に準拠(通常5-10年、司法は長期) |
| 市民アクセス | ポータル経由での自己情報開示 |
| バイアス監査 | 定期的な公正性指標の算出・記録 |
PAP策定タイムライン
フレームワーク階層とプロファイルの位置づけ
┌────────────────────────────────────────┐
│ VAP (Verifiable AI Provenance) │
│ 全ドメイン共通の上位フレームワーク │
└──────────────────┬─────────────────────┘
│
┌──────────────────▼─────────────────────┐
│ VSO (VeritasChain Standards Org) │
│ 標準化団体 │
└──────────────────┬─────────────────────┘
│
┌──────┬──────┼──────┬──────┐
▼ ▼ ▼ ▼ ▼
[VCP] [DVP] [MAP] [EIP] [PAP]
金融 自動車 医療 エネルギー 公共
↓ ↓
v1.0 策定中
Released
| 特性 | VCP(金融) | MAP(医療) | DVP(自動車) | EIP(エネルギー) | PAP(公共) |
|---|---|---|---|---|---|
| 影響の速度 | ミリ秒 | 分~時間 | 秒 | 分~日 | 月~年 |
| 可逆性 | 部分的 | 不可逆 | 不可逆 | 遅い回復 | 困難 |
| 主な被害者 | 投資家 | 患者 | 乗員・歩行者 | 市民全体 | 個人の権利 |
| 規制焦点 | 市場健全性 | 患者安全 | 物理的安全 | 継続性 | 民主主義 |
| 異議申立 | 限定的 | 限定的 | 限定的 | 限定的 | 必須 |
「説明なき権力は、民主主義の敵である。AIも例外ではない。」
— VeritasChain Standards Organization
"The right to an explanation is the foundation of due process in the algorithmic age."
「アルゴリズムによる判断にも、デュープロセスが適用されなければならない。」
この仕様は CC BY 4.0 International でライセンスされています
提供元: VeritasChain Standards Organization (VSO) | https://veritaschain.org