Textbook_China / README.md
cq's picture
Upload classified textbook archive with content hashes and concept datasets
fad1371 verified
|
Raw History Blame Contribute Delete
4.03 kB
---
language:
- zh
pretty_name: 中国中小学教材归档
license: other
license_name: source-specific-rights
license_link: https://huggingface.co/datasets/cq/Textbook_China/blob/main/RIGHTS.md
tags:
- textbooks
- education
- chinese
- k12
configs:
- config_name: textbooks
data_files:
- split: train
path: metadata/textbooks.jsonl
- config_name: concepts_master
data_files:
- split: train
path: derivatives/concepts/master.jsonl
- config_name: concepts_by_book
data_files:
- split: train
path: derivatives/concepts/by_book.jsonl
---
# 中国中小学教材归档
整理当前本地归档中的小学、初中、高中教材,按学段、学科、教材版本及年级或课程类别分类。完整 PDF 保持原始字节,内容不同的版本分别保留。
## 内容与目录
- 原始 PDF:1,909 份;结构检查通过并完成 SHA-256 去重:1,908 份。
- 不可读取文件排除:1 份;完全重复副本:0 份。
- 去重后 PDF 容量:42.292 GB(十进制)。
- `textbooks/学段/学科/教材版本/年级或课程类别/书名__短哈希.pdf`:教材文件。
- `metadata/textbooks.jsonl` 与 `metadata/textbooks.csv`:统一索引,包含文件路径、SHA-256、页数、分类和来源。
- `metadata/duplicates.jsonl`:被合并的完全相同文件及其原路径。
- `metadata/same_title_variants.json`:同名但内容不同的文件,均保留。
- `metadata/summary.json`:统计与处理范围。
- `metadata/pdf_validation.jsonl`:PDF 结构可读性检查结果,不等同逐页内容审核。
- `metadata/excluded_files.json`:不可读取文件的原路径、校验值和诊断;本地原件保留。
- `references/official_online_catalog.jsonl`:475 条官方在线教材目录,只作参考,不计作本地 PDF 数量。
## 整理规则
对全部完整教材重新计算 SHA-256;仅当完整文件内容一致时去重,并合并所有来源与原路径。不同出版社、教材版本、印次或内容不同的同名文件不会仅凭书名删除。上游已合并的 PDF 分片按完整教材处理,并核对本地既有校验记录。小学与初中年级从原目录或标题提取,跳过“X年级起点”等起始年级标签;高中不推测年级,按必修、选择性必修等课程类别组织。原始版本标签保留,以区别起点年级、A/B 版、简谱/五线谱等差异。
文件名末尾是内容 SHA-256 前 12 位;完整校验值以索引为准。`original_paths` 是来源相对路径,实际下载请使用 `file_path`。目录中的 train 仅为索引加载约定,不代表划分训练集或具备模型训练授权。
## 来源
- TapXWorld/ChinaTextbook,本地下载快照的上游提交:`5a80345f2043ba6f8db8d7be9cf3db82725ff1f7`。
- 教育科学出版社官网;索引保留详情页、公开 PDF 链接和可用 ISBN。
- 官方在线参考目录:国家中小学智慧教育平台。
## 权利说明
教材权利归各自作者、出版社及相关权利人所有。没有为教材正文推定统一的开放许可证;来源可访问或可下载不等于取得再分发或其他用途的许可。请参阅 [RIGHTS.md](RIGHTS.md) 和逐条来源信息。
## 知识点衍生数据
`derivatives/concepts/` 保留原有整理成果:
- `master.csv` / `master.jsonl`:27,502 条既有合并总库记录,保持所有原值。
- `by_book/`:160 个非空分册知识点 CSV,保留逐册对应关系。
- `by_book.jsonl`:分册表 30,068 行按全部 14 个字段精确去重为 30,057 条,合并来源列表。
- `summary.json`:字段顺序、去重方法、目录分类、异常原值和排除项目。
总库已跨版本整理,与分册集合表达不同的组织层级,应选取适合用途的集合,不要直接拼接两者。CSV 和 JSONL 为同一数据的不同格式,也不要作为不同样本重复计数。原始文本中的重复学段标签等质量问题保留并记录,未臆测修改;章节、教材页与 PDF 页可供核对。