公共AI的现状和挑战，以及PAP的解决方案
AI判定"不合格"却无法解释原因。公民甚至无法获得申诉的线索。
使用历史歧视性数据训练的AI系统化地重复产生不公正的判定。
未经选举的算法做出影响公民基本权利的决定，缺乏民主监督。
补贴资格判定
[申请人] → [AI判定："不合格"] → [申诉] → [请求公开判定依据]
↓
"AI的判断理由属于商业机密"
"评分模型的详细信息无法公开"
↓
公民失去了争辩的手段
刑事司法风险评估
[被告] → [AI风险评估："高风险"] → [保释被拒/重判]
↓
事后分析发现：
"邮编"和"逮捕记录"是主要因素
→ 实际上成为种族和经济状况的代理变量
↓
然而在判定时没有验证这一点的方法
签证申请审查
[签证申请人] → [AI审查："拒绝"] → [理由："综合判断"]
↓
"哪些因素有问题"不明确
"应该改进的地方"没有指出
"重新申请是否会得到相同结果"无法预测
目标系统和记录事件
数据流和系统结构
┌─────────────────────────────────────────────────────────────┐
│ Public Administration System │
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ │
│ │ Citizen │──▶│ AI/ML │──▶│ Decision │ │
│ │ Data │ │ Scoring │ │ Output │ │
│ └──────────┘ └────┬─────┘ └──────────┘ │
│ │ │
│ ┌───────▼───────┐ │
│ │ PAP Logger │ ← 记录所有决策事件 │
│ │ (Sidecar) │ │
│ └───────┬───────┘ │
│ │ │
└──────────────────────┼───────────────────────────────────────┘
│
┌───────▼───────┐
│ Hash Chain │ ← 加密链接
│ + Signature │ ← 数字签名
│ + Factor Log │ ← 决策因素完整记录
└───────┬───────┘
│
┌───────▼───────┐
│ Audit Archive │ ← 长期存储
│ (GDPR合规) │ ← 访问控制
└───────┬───────┘
│
┌───────▼───────┐
│Citizen Portal │ ← 自我信息披露
│(问责) │ ← 申诉支持
└───────────────┘与国际法规的对应关系
| 法规 | 管辖区 | 要求 | PAP支持 |
|---|---|---|---|
| EU AI Act Article 6(2) | 欧盟 | 影响基本权利的AI被分类为高风险 | ✅ 完全支持 |
| EU AI Act Article 13 | 欧盟 | 透明度和可解释性要求 | ✅ 完全支持 |
| EU AI Act Article 14 | 欧盟 | 人类监督义务 | ✅ 完全支持 |
| GDPR Article 22 | 欧盟 | 对自动决策的异议权 | ✅ 完全支持 |
| GDPR Article 15 | 欧盟 | 访问权（自我信息披露） | ✅ 完全支持 |
| US Executive Order 14110 | 美国 | AI安全性和公平性要求 | ✅ 一致 |
| NYC Local Law 144 | 纽约市 | 招聘AI的审计义务 | ✅ 完全支持 |
| Illinois BIPA | 伊利诺伊州 | 生物识别信息使用限制 | ✅ 支持 |
| 行政程序法 | 日本 | 提供处分理由的义务 | ✅ 计划中 |
透明度门户和多层解释模型
| 层级 | 目标受众 | 解释详细程度 |
|---|---|---|
| 公民级 | 一般申请人 | 通俗易懂的摘要（simplified_explanation） |
| 代理人级 | 律师、援助者 | 判断因素和贡献度的详细信息 |
| 审计员级 | 监管机构、审计公司 | 模型规格、训练数据、偏见审计结果 |
| 技术人员级 | AI开发人员、研究人员 | 完整日志、模型哈希、复现步骤 |
PAP制定时间表
框架层次结构和配置文件定位
┌────────────────────────────────────────┐
│ VAP (Verifiable AI Provenance) │
│ 跨领域上层框架 │
└──────────────────┬─────────────────────┘
│
┌──────────────────▼─────────────────────┐
│ VSO (VeritasChain Standards Org) │
│ 标准化组织 │
└──────────────────┬─────────────────────┘
│
┌──────┬──────┼──────┬──────┐
▼ ▼ ▼ ▼ ▼
[VCP] [DVP] [MAP] [EIP] [PAP]
金融 汽车 医疗 能源 公共
↓ ↓
v1.0 规划中
Released| 特性 | VCP（金融） | MAP（医疗） | DVP（汽车） | EIP（能源） | PAP（公共） |
|---|---|---|---|---|---|
| 影响速度 | 毫秒 | 分钟~小时 | 秒 | 分钟~天 | 月~年 |
| 可逆性 | 部分 | 不可逆 | 不可逆 | 恢复缓慢 | 困难 |
| 主要受害者 | 投资者 | 患者 | 乘员/行人 | 全体市民 | 个人权利 |
| 监管重点 | 市场完整性 | 患者安全 | 物理安全 | 持续性 | 民主 |
| 申诉权 | 有限 | 有限 | 有限 | 有限 | 必须 |
"没有解释的权力是民主的敌人。AI也不例外。"
— VeritasChain Standards Organization
"The right to an explanation is the foundation of due process in the algorithmic age."
"获得解释的权利是算法时代正当程序的基础。"
本规范采用 CC BY 4.0 International 许可
提供方: VeritasChain Standards Organization (VSO) | https://veritaschain.org