Textbook_China / README.md
cq's picture
Upload classified textbook archive with content hashes and concept datasets
fad1371 verified
|
Raw History Blame Contribute Delete
4.03 kB
metadata
language:
  - zh
pretty_name: 中国中小学教材归档
license: other
license_name: source-specific-rights
license_link: https://huggingface.co/datasets/cq/Textbook_China/blob/main/RIGHTS.md
tags:
  - textbooks
  - education
  - chinese
  - k12
configs:
  - config_name: textbooks
    data_files:
      - split: train
        path: metadata/textbooks.jsonl
  - config_name: concepts_master
    data_files:
      - split: train
        path: derivatives/concepts/master.jsonl
  - config_name: concepts_by_book
    data_files:
      - split: train
        path: derivatives/concepts/by_book.jsonl

中国中小学教材归档

整理当前本地归档中的小学、初中、高中教材,按学段、学科、教材版本及年级或课程类别分类。完整 PDF 保持原始字节,内容不同的版本分别保留。

内容与目录

  • 原始 PDF:1,909 份;结构检查通过并完成 SHA-256 去重:1,908 份。
  • 不可读取文件排除:1 份;完全重复副本:0 份。
  • 去重后 PDF 容量:42.292 GB(十进制)。
  • textbooks/学段/学科/教材版本/年级或课程类别/书名__短哈希.pdf:教材文件。
  • metadata/textbooks.jsonl 与 metadata/textbooks.csv:统一索引,包含文件路径、SHA-256、页数、分类和来源。
  • metadata/duplicates.jsonl:被合并的完全相同文件及其原路径。
  • metadata/same_title_variants.json:同名但内容不同的文件,均保留。
  • metadata/summary.json:统计与处理范围。
  • metadata/pdf_validation.jsonl:PDF 结构可读性检查结果,不等同逐页内容审核。
  • metadata/excluded_files.json:不可读取文件的原路径、校验值和诊断;本地原件保留。
  • references/official_online_catalog.jsonl:475 条官方在线教材目录,只作参考,不计作本地 PDF 数量。

整理规则

对全部完整教材重新计算 SHA-256;仅当完整文件内容一致时去重,并合并所有来源与原路径。不同出版社、教材版本、印次或内容不同的同名文件不会仅凭书名删除。上游已合并的 PDF 分片按完整教材处理,并核对本地既有校验记录。小学与初中年级从原目录或标题提取,跳过“X年级起点”等起始年级标签;高中不推测年级,按必修、选择性必修等课程类别组织。原始版本标签保留,以区别起点年级、A/B 版、简谱/五线谱等差异。

文件名末尾是内容 SHA-256 前 12 位;完整校验值以索引为准。original_paths 是来源相对路径,实际下载请使用 file_path。目录中的 train 仅为索引加载约定,不代表划分训练集或具备模型训练授权。

来源

  • TapXWorld/ChinaTextbook,本地下载快照的上游提交:5a80345f2043ba6f8db8d7be9cf3db82725ff1f7。
  • 教育科学出版社官网;索引保留详情页、公开 PDF 链接和可用 ISBN。
  • 官方在线参考目录:国家中小学智慧教育平台。

权利说明

教材权利归各自作者、出版社及相关权利人所有。没有为教材正文推定统一的开放许可证;来源可访问或可下载不等于取得再分发或其他用途的许可。请参阅 RIGHTS.md 和逐条来源信息。

知识点衍生数据

derivatives/concepts/ 保留原有整理成果:

  • master.csv / master.jsonl:27,502 条既有合并总库记录,保持所有原值。
  • by_book/:160 个非空分册知识点 CSV,保留逐册对应关系。
  • by_book.jsonl:分册表 30,068 行按全部 14 个字段精确去重为 30,057 条,合并来源列表。
  • summary.json:字段顺序、去重方法、目录分类、异常原值和排除项目。

总库已跨版本整理,与分册集合表达不同的组织层级,应选取适合用途的集合,不要直接拼接两者。CSV 和 JSONL 为同一数据的不同格式,也不要作为不同样本重复计数。原始文本中的重复学段标签等质量问题保留并记录,未臆测修改;章节、教材页与 PDF 页可供核对。