Files
gaokao-volunteer-system/data/crowd_db/SCHEMA.md
Hermes Agent 4c732eb836
Some checks failed
CI / pytest (Python 3.10) (push) Has been cancelled
CI / pytest (Python 3.11) (push) Has been cancelled
CI / pytest (Python 3.12) (push) Has been cancelled
fix(crowd_db): 高信任数据系统性修复 — 契约硬化+真相单一化+防漂移
review 发现数据本身真实达标(7 high / 20 usable / 0 skeleton),
但代码/文档/测试/元数据 4 层出现严重脱节,存在静默升级风险与
合规假象回归漏洞。

Phase 1: 契约硬化(P0)
- risk_report.py 新增 _classify_score_bands + _compute_quality_level
- 质量等级判定从"仅看 confidence"升级为综合门槛
  (conf + sr + recs + alts + 三层分数带),对齐 plan §4
- 新增 low 等级区分"已脱离骨架但未达可用"
- _load_provenance_metadata 改为优先 load_province 取完整数据
- finding_to_risk_dict 不再二次规范化已规范化数据
- quality_summary.py 增加 low 等级统计
- SCHEMA.md §6 同步完整门槛定义

Phase 2: 测试加固(P0)
- 新增 test_high_trust_thresholds.py 锁死 high/usable 完整门槛
  (plan §9.2 要求的"防静默升级"测试)
- 修复 test_crowd_db_data_quality.py 等级枚举支持 low
- 修复 test_risk_report.py 硬编码日期脆弱性

Phase 3: 真相源单一化(P0)
- CURRENT_STATE.md §0.5 清除 6/20 旧文案"4 high + 3 usable + 20 skeleton"
- 改为引用顶部状态词 + 历史轨迹仅供审计
- NATIONALIZATION §4 清除"当前 high 已扩展为 5 省"矛盾文案
- 顶部状态词从"Phase 0 收口中"升级为"已完成"

Phase 4: 元数据状态对齐(P1)
- hunan.json / sichuan.json trusted_sources.kind
  province_official_pending_review -> province_official
- 同步更新 quality_note 说明已完成 2025 年度复核
- 消除"状态 high/usable 但 kind=pending_review"的矛盾

Phase 5: 防漂移机制(P1)
- 新增 scripts/check_crowd_db_consistency.py
  跨文档+数据+测试白名单一致性检查(5 项检查)
- dev-verify.sh 接入 crowd_db quality summary 打印

验证:
- ruff: All checks passed
- mypy: Success, no issues in 16 source files
- pytest crowd_db/: 148 passed, 2 skipped
- pytest 全量: 1283 passed, 2 skipped (无回归)
- consistency check: high=7 usable=20 low=0 skeleton=0

Refs: docs/plans/2026-06-23-national-high-trust-crowd-db-plan.md §4/§9
2026-06-25 07:41:11 +08:00

6.7 KiB
Raw Blame History

Crowd DB 溯源数据 Schema (T3.1)

For Hermes: 数据溯源 / provenance schema for data/crowd_db/{province}.json

配套 T3.1「扩展院校数据模型」27省JSON含溯源字段。

1. 顶层(每个省份文件根节点)

字段 类型 必填 说明
province str 省份中文名(如 湖南),需与 loader.PROVINCE_FILE_MAP 的 key 对齐
last_updated str (ISO) 本文件最后更新日期,格式 YYYY-MM-DD
data_year int 数据的参考年份(如 2025 表示基于 2025 高考数据)
source str 数据来源描述(人类可读),如 千问/元宝/百度/豆包 公开推荐汇总
source_url str ⚠️ 主参考来源 URL不得使用仓库自引用路径冒充来源证明
source_type str enum manual_summary / official_release / platform_scrape / derived
confidence float 数据可信度,区间 [0.0, 1.0]0.5 以下视为不可用,触发人工复核提示
score_ranges list 分数段列表(结构见下节);骨架文件允许 [] 表示待人工整理
trusted_sources list[object] ⚠️ 可信参考源数组;用于记录后续年度复核应优先使用的官方/权威来源
quality_note str ⚠️ 对当前省份数据可信度口径的人工说明(如“高置信人工整理”/“结构化骨架”)

source_type 枚举

  • manual_summary人工整理最常见T2.1 湖南数据走此路径)
  • official_release:省考试院 / 教育部官方公告
  • platform_scrape从大厂AI公开页抽取注意合规边界
  • derived:由其它数据派生(如 985/211 名单)

2. score_ranges 元素

字段 类型 必填 说明
range [int,int] 分数区间 [min, max],闭区间
note str ⚠️ 段名/批次说明(如 一本中段
recommendations list 推荐条目列表,可空

3. recommendations 元素

字段 类型 必填 说明
name str 院校名称
major str ⚠️ 专业;无专业聚合时填 ""
frequency int 推荐频次0-4
platforms list[str] 推荐平台名(千问/元宝/百度/豆包)
predicted_increase int ⚠️ 预测分数上涨分;无可靠预测可填 0
alternatives list ⚠️ 替代院校推荐,可空

4. trusted_sources 元素

推荐结构:

{
  "name": "教育部阳光高考",
  "url": "https://gaokao.chsi.com.cn/",
  "kind": "national_official"
}

说明:

  • name: 来源名称
  • url: 入口 URL如仅确认机构类型、尚未完成年度入口复核可暂为空串
  • kind: national_official / province_official_pending_review / 其他内部约定枚举

5. 骨架文件约定

未完整整理数据的省份,应输出符合顶层 schema 的骨架:

{
  "province": "山东",
  "last_updated": "2026-06-12",
  "data_year": 2025,
  "source": "",
  "source_url": "",
  "source_type": "manual_summary",
  "confidence": 0.0,
  "score_ranges": []
}

骨架文件 confidence=0.0loader 应在 confidence < 0.5 时打印 WARN 但不抛错(避免阻断运行)。

6. 质量等级门槛定义

质量等级判定采用综合门槛confidence + score_ranges + recommendations + alternatives + 分数带覆盖),而非仅依赖 confidence。

门槛来源:docs/plans/2026-06-23-national-high-trust-crowd-db-plan.md §4

6.1 skeleton骨架

  • confidence < 0.5
  • 用途UI 占位、provenance 展示、告知"该省数据仍待人工补完"
  • 不允许驱动反扎堆强结论

6.2 low建设中

  • confidence >= 0.5 但未达 usable 门槛
  • confidence >= 0.65 但 recommendations / alternatives 不达标
  • 用途:标识"已脱离骨架但未达可用",区别于 skeleton

6.3 usable可用

必须同时满足

  • confidence >= 0.65
  • score_ranges >= 6 个分数段
  • recommendations >= 24
  • alternatives >= 24
  • 至少 1 个省级官方来源入口完成年度复核

用途:普通省份的基础反扎堆分析、用户侧展示"中等信任"标签

6.4 high高置信

必须同时满足

  • confidence >= 0.80
  • score_ranges >= 8 个分数段
  • recommendations >= 40
  • alternatives >= 60
  • 覆盖高/中/低至少三层分数带(而非只覆盖头部段)
  • 省级官方入口已完成年度复核

用途:核心省份的反扎堆强结论、用户侧展示"高信任"标签

6.5 防静默升级

判定逻辑位于 data/crowd_db/risk_report.py::_compute_quality_level

禁止仅修改 confidence 值就升级 quality_level必须同时补齐 score_ranges / recommendations / alternatives。

7. 当前覆盖范围与全国化边界

当前代码兼容口径27 省)

  • 23省河北、山西、辽宁、吉林、黑龙江、江苏、浙江、安徽、福建、江西、山东、河南、湖北、湖南、广东、海南、四川、贵州、云南、陕西、甘肃、青海、新疆
  • 4直辖市北京、上海、天津、重庆

当前未纳入 crowd_db loader 的地区

  • 4 个自治区:内蒙古、广西、西藏、宁夏
  • 港澳台

说明:

  • 当前 data/crowd_db/loader.py 与相关 tests 只承认 27 省口径
  • 如果要升级到真正“全国 31 省”口径,必须同时新增 4 个自治区 JSON、扩 loader 映射,并同步更新 README / tests / 文档真相源

7. 验证

python3 -c "import json,glob; [print(p, list(json.load(open(p)).keys())) for p in sorted(glob.glob('data/crowd_db/*.json'))]"

每个文件必须包含上述顶层 8 个字段中的至少 province / last_updated / data_year / source_type / confidence / score_ranges 6 个。