实现政府AI的民主问责
"No Decision Without Justification" — 没有解释的决定是民主的敌人
您的贷款申请被拒绝了。为什么？
您的福利补贴被终止了。为什么？
您的假释申请未获批准。为什么？
"因为AI这样判断"——这不是民主制度能够接受的答案。
每位公民都有权知道影响自己的决定的理由。
每项决定都必须保障申诉和司法审查的机会。
PAP旨在以加密方式记录公共AI的所有决策——
记录何时、使用了什么数据、依据什么规则、为何得出该结论——
并以可检测篡改的形式使其可被验证。
公共AI的现状和挑战，以及PAP的解决方案
AI判定"不合格"却无法解释原因。公民甚至无法获得申诉的线索。
使用历史歧视性数据训练的AI系统化地重复产生不公正的判定。
未经选举的算法做出影响公民基本权利的决定，缺乏民主监督。
补贴资格判定
[申请人] → [AI判定："不合格"] → [申诉] → [请求公开判定依据]
↓
"AI的判断理由属于商业机密"
"评分模型的详细信息无法公开"
↓
公民失去了争辩的手段
刑事司法风险评估
[被告] → [AI风险评估："高风险"] → [保释被拒/重判]
↓
事后分析发现：
"邮编"和"逮捕记录"是主要因素
→ 实际上成为种族和经济状况的代理变量
↓
然而在判定时没有验证这一点的方法
签证申请审查
[签证申请人] → [AI审查："拒绝"] → [理由："综合判断"]
↓
"哪些因素有问题"不明确
"应该改进的地方"没有指出
"重新申请是否会得到相同结果"无法预测
目标系统和记录事件
数据流和系统结构
┌─────────────────────────────────────────────────────────────┐
│ Public Administration System │
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ │
│ │ Citizen │──▶│ AI/ML │──▶│ Decision │ │
│ │ Data │ │ Scoring │ │ Output │ │
│ └──────────┘ └────┬─────┘ └──────────┘ │
│ │ │
│ ┌───────▼───────┐ │
│ │ PAP Logger │ ← 记录所有决策事件 │
│ │ (Sidecar) │ │
│ └───────┬───────┘ │
│ │ │
└──────────────────────┼───────────────────────────────────────┘
│
┌───────▼───────┐
│ Hash Chain │ ← 加密链接
│ + Signature │ ← 数字签名
│ + Factor Log │ ← 决策因素完整记录
└───────┬───────┘
│
┌───────▼───────┐
│ Audit Archive │ ← 长期存储
│ (面向GDPR) │ ← 访问控制
└───────┬───────┘
│
┌───────▼───────┐
│Citizen Portal │ ← 自我信息披露
│(问责) │ ← 申诉支持
└───────────────┘与国际法规的对应关系
| 法规 | 管辖区 | 要求 | PAP支持 |
|---|---|---|---|
| EU AI Act Article 6(2) | 欧盟 | 属于附件III用例的AI系统为高风险（第6条第3款的例外除外） | 设计目标（草案） |
| EU AI Act Article 13 | 欧盟 | 透明度及向部署者提供信息（就个别决定获得解释的权利见第86条） | 设计目标（草案） |
| EU AI Act Article 14 | 欧盟 | 人类监督义务 | 设计目标（草案） |
| GDPR Article 22 | 欧盟 | 对自动决策的异议权 | 设计目标（草案） |
| GDPR Article 15 | 欧盟 | 访问权（自我信息披露） | 设计目标（草案） |
| NYC Local Law 144 | 纽约市 | 招聘AI的审计义务 | 设计目标（草案） |
| Illinois BIPA | 伊利诺伊州 | 生物识别信息使用限制 | 设计目标（草案） |
| 行政程序法 | 日本 | 提供处分理由的义务 | 计划中 |
EU AI Act明确将简历筛选AI列为高风险AI
我们目前正在研究将为金融领域（VCP）制定的可验证决策审计追踪扩展到招聘AI领域。目前我们尚未提供招聘相关的产品或认证。在VSO的全部规范中，外部实施为零；在任何程序中被采纳的Evidence Pack为零。商业实绩更正与补充（2026年10月24日）：原合同数量尚待原始资料核实，现已撤下该数量主张；这不表示合同数量为零。 更正详情
"旨在用于招聘或选拔自然人的AI系统，特别是用于投放定向招聘广告、分析和筛选求职申请，以及评估候选人的系统"
— EU AI Act (Regulation 2024/1689), Annex III, Point 4(a)
| 条款 | 要求 | 招聘AI应用 |
|---|---|---|
| Article 12 | 自动日志记录 | 在系统生命周期内自动记录事件（日志）；记录特征权重或拒绝原因并非第12条的要求，而是PAP的设计目标 |
| Article 14 | 人工监督 | 人工审核员可覆盖AI决策 |
| Article 19 / 26(6) | 日志保留 | 最低保留期限6个月 |
| Article 26(7), 26(11) | 劳动者及候选人通知 | 在工作场所使用前通知劳动者及其代表（第26条第7款）；告知候选人等自然人：对其作出决策或辅助决策时使用了该系统（第26条第11款） |
| Article 86 | 解释权 | 候选人可要求解释AI决策 |
第三方可验证的完整性证明
特征权重和评分逻辑未按个别决策记录
依赖系统时钟，无外部锚定或加密证明
无法向外部审计员或法院证明未被篡改
透明度门户和多层解释模型
| 层级 | 目标受众 | 解释详细程度 |
|---|---|---|
| 公民级 | 一般申请人 | 通俗易懂的摘要（simplified_explanation） |
| 代理人级 | 律师、援助者 | 判断因素和贡献度的详细信息 |
| 审计员级 | 监管机构、审计公司 | 模型规格、训练数据、偏见审计结果 |
| 技术人员级 | AI开发人员、研究人员 | 完整日志、模型哈希、复现步骤 |
PAP制定时间表 — 其余步骤时间未定；PAP目前为部分草案（仅Track B v0.2.0，无统一规范），其后的里程碑尚未达成
框架层次结构和配置文件定位
┌────────────────────────────────────────┐
│ VAP (Verifiable AI Provenance) │
│ 跨领域上层框架 │
└──────────────────┬─────────────────────┘
│
┌──────────────────▼─────────────────────┐
│ VSO (VeritasChain Standards Org) │
│ 标准化组织 │
└──────────────────┬─────────────────────┘
│
┌──────┬──────┼──────┬──────┐
▼ ▼ ▼ ▼ ▼
[VCP] [DVP] [MAP] [EIP] [PAP]
金融 汽车 医疗 能源 公共
↓ ↓
v1.2 部分草案
Released| 特性 | VCP（金融） | MAP（医疗） | DVP（汽车） | EIP（能源） | PAP（公共） |
|---|---|---|---|---|---|
| 影响速度 | 毫秒 | 分钟~小时 | 秒 | 分钟~天 | 月~年 |
| 可逆性 | 部分 | 不可逆 | 不可逆 | 恢复缓慢 | 困难 |
| 主要受害者 | 投资者 | 患者 | 乘员/行人 | 全体市民 | 个人权利 |
| 监管重点 | 市场完整性 | 患者安全 | 物理安全 | 持续性 | 民主 |
| 申诉权 | 有限 | 有限 | 有限 | 有限 | 必须 |
"没有解释的权力是民主的敌人。AI也不例外。"
— VeritasChain Standards Organization
"The right to an explanation is the foundation of due process in the algorithmic age."
"获得解释的权利是算法时代正当程序的基础。"
本规范采用 CC BY 4.0 International 许可
提供方: VeritasChain Standards Organization (VSO) | https://veritaschain.org