review 发现数据本身真实达标(7 high / 20 usable / 0 skeleton), 但代码/文档/测试/元数据 4 层出现严重脱节,存在静默升级风险与 合规假象回归漏洞。 Phase 1: 契约硬化(P0) - risk_report.py 新增 _classify_score_bands + _compute_quality_level - 质量等级判定从"仅看 confidence"升级为综合门槛 (conf + sr + recs + alts + 三层分数带),对齐 plan §4 - 新增 low 等级区分"已脱离骨架但未达可用" - _load_provenance_metadata 改为优先 load_province 取完整数据 - finding_to_risk_dict 不再二次规范化已规范化数据 - quality_summary.py 增加 low 等级统计 - SCHEMA.md §6 同步完整门槛定义 Phase 2: 测试加固(P0) - 新增 test_high_trust_thresholds.py 锁死 high/usable 完整门槛 (plan §9.2 要求的"防静默升级"测试) - 修复 test_crowd_db_data_quality.py 等级枚举支持 low - 修复 test_risk_report.py 硬编码日期脆弱性 Phase 3: 真相源单一化(P0) - CURRENT_STATE.md §0.5 清除 6/20 旧文案"4 high + 3 usable + 20 skeleton" - 改为引用顶部状态词 + 历史轨迹仅供审计 - NATIONALIZATION §4 清除"当前 high 已扩展为 5 省"矛盾文案 - 顶部状态词从"Phase 0 收口中"升级为"已完成" Phase 4: 元数据状态对齐(P1) - hunan.json / sichuan.json trusted_sources.kind province_official_pending_review -> province_official - 同步更新 quality_note 说明已完成 2025 年度复核 - 消除"状态 high/usable 但 kind=pending_review"的矛盾 Phase 5: 防漂移机制(P1) - 新增 scripts/check_crowd_db_consistency.py 跨文档+数据+测试白名单一致性检查(5 项检查) - dev-verify.sh 接入 crowd_db quality summary 打印 验证: - ruff: All checks passed - mypy: Success, no issues in 16 source files - pytest crowd_db/: 148 passed, 2 skipped - pytest 全量: 1283 passed, 2 skipped (无回归) - consistency check: high=7 usable=20 low=0 skeleton=0 Refs: docs/plans/2026-06-23-national-high-trust-crowd-db-plan.md §4/§9
6.7 KiB
6.7 KiB
Crowd DB 溯源数据 Schema (T3.1)
For Hermes: 数据溯源 / provenance schema for
data/crowd_db/{province}.json配套 T3.1「扩展院校数据模型」:27省JSON含溯源字段。
1. 顶层(每个省份文件根节点)
| 字段 | 类型 | 必填 | 说明 |
|---|---|---|---|
province |
str | ✅ | 省份中文名(如 湖南),需与 loader.PROVINCE_FILE_MAP 的 key 对齐 |
last_updated |
str (ISO) | ✅ | 本文件最后更新日期,格式 YYYY-MM-DD |
data_year |
int | ✅ | 数据的参考年份(如 2025 表示基于 2025 高考数据) |
source |
str | ✅ | 数据来源描述(人类可读),如 千问/元宝/百度/豆包 公开推荐汇总 |
source_url |
str | ⚠️ | 主参考来源 URL;不得使用仓库自引用路径冒充来源证明 |
source_type |
str enum | ✅ | manual_summary / official_release / platform_scrape / derived |
confidence |
float | ✅ | 数据可信度,区间 [0.0, 1.0];0.5 以下视为不可用,触发人工复核提示 |
score_ranges |
list | ✅ | 分数段列表(结构见下节);骨架文件允许 [] 表示待人工整理 |
trusted_sources |
list[object] | ⚠️ | 可信参考源数组;用于记录后续年度复核应优先使用的官方/权威来源 |
quality_note |
str | ⚠️ | 对当前省份数据可信度口径的人工说明(如“高置信人工整理”/“结构化骨架”) |
source_type 枚举
manual_summary:人工整理(最常见,T2.1 湖南数据走此路径)official_release:省考试院 / 教育部官方公告platform_scrape:从大厂AI公开页抽取(注意合规边界)derived:由其它数据派生(如 985/211 名单)
2. score_ranges 元素
| 字段 | 类型 | 必填 | 说明 |
|---|---|---|---|
range |
[int,int] | ✅ | 分数区间 [min, max],闭区间 |
note |
str | ⚠️ | 段名/批次说明(如 一本中段) |
recommendations |
list | ✅ | 推荐条目列表,可空 |
3. recommendations 元素
| 字段 | 类型 | 必填 | 说明 |
|---|---|---|---|
name |
str | ✅ | 院校名称 |
major |
str | ⚠️ | 专业;无专业聚合时填 "" |
frequency |
int | ✅ | 推荐频次(0-4) |
platforms |
list[str] | ✅ | 推荐平台名(千问/元宝/百度/豆包) |
predicted_increase |
int | ⚠️ | 预测分数上涨分;无可靠预测可填 0 |
alternatives |
list | ⚠️ | 替代院校推荐,可空 |
4. trusted_sources 元素
推荐结构:
{
"name": "教育部阳光高考",
"url": "https://gaokao.chsi.com.cn/",
"kind": "national_official"
}
说明:
name: 来源名称url: 入口 URL;如仅确认机构类型、尚未完成年度入口复核,可暂为空串kind:national_official/province_official_pending_review/ 其他内部约定枚举
5. 骨架文件约定
未完整整理数据的省份,应输出符合顶层 schema 的骨架:
{
"province": "山东",
"last_updated": "2026-06-12",
"data_year": 2025,
"source": "",
"source_url": "",
"source_type": "manual_summary",
"confidence": 0.0,
"score_ranges": []
}
骨架文件 confidence=0.0,loader 应在 confidence < 0.5 时打印 WARN 但不抛错(避免阻断运行)。
6. 质量等级门槛定义
质量等级判定采用综合门槛(confidence + score_ranges + recommendations + alternatives + 分数带覆盖),而非仅依赖 confidence。
门槛来源:docs/plans/2026-06-23-national-high-trust-crowd-db-plan.md §4
6.1 skeleton(骨架)
confidence < 0.5- 用途:UI 占位、provenance 展示、告知"该省数据仍待人工补完"
- 不允许驱动反扎堆强结论
6.2 low(建设中)
confidence >= 0.5但未达 usable 门槛- 或
confidence >= 0.65但 recommendations / alternatives 不达标 - 用途:标识"已脱离骨架但未达可用",区别于 skeleton
6.3 usable(可用)
必须同时满足:
confidence >= 0.65score_ranges >= 6个分数段recommendations >= 24条alternatives >= 24条- 至少 1 个省级官方来源入口完成年度复核
用途:普通省份的基础反扎堆分析、用户侧展示"中等信任"标签
6.4 high(高置信)
必须同时满足:
confidence >= 0.80score_ranges >= 8个分数段recommendations >= 40条alternatives >= 60条- 覆盖高/中/低至少三层分数带(而非只覆盖头部段)
- 省级官方入口已完成年度复核
用途:核心省份的反扎堆强结论、用户侧展示"高信任"标签
6.5 防静默升级
判定逻辑位于 data/crowd_db/risk_report.py::_compute_quality_level。
禁止仅修改 confidence 值就升级 quality_level;必须同时补齐 score_ranges / recommendations / alternatives。
7. 当前覆盖范围与全国化边界
当前代码兼容口径(27 省)
- 23省:河北、山西、辽宁、吉林、黑龙江、江苏、浙江、安徽、福建、江西、山东、河南、湖北、湖南、广东、海南、四川、贵州、云南、陕西、甘肃、青海、新疆
- 4直辖市:北京、上海、天津、重庆
当前未纳入 crowd_db loader 的地区
- 4 个自治区:内蒙古、广西、西藏、宁夏
- 港澳台
说明:
- 当前
data/crowd_db/loader.py与相关 tests 只承认 27 省口径 - 如果要升级到真正“全国 31 省”口径,必须同时新增 4 个自治区 JSON、扩 loader 映射,并同步更新 README / tests / 文档真相源
7. 验证
python3 -c "import json,glob; [print(p, list(json.load(open(p)).keys())) for p in sorted(glob.glob('data/crowd_db/*.json'))]"
每个文件必须包含上述顶层 8 个字段中的至少 province / last_updated / data_year / source_type / confidence / score_ranges 6 个。