GlyphHan / README.md
DonShawn001's picture
Shorten dataset README
b6ef67f verified
|
Raw History Blame Contribute Delete
1.81 kB
metadata
license: apache-2.0
tags:
  - hanzi
  - chinese-characters
  - ocr
  - image-classification

GlyphHan:跨历史来源汉字表征数据集

GlyphHan 汇集多个历史文献数字化项目的汉字单字图像,适用于汉字表征学习、OCR、字体生成与古籍数字化研究。

数据与标签已全部上传。 标签共收录 34,452 个字符、100,019,698 条图像记录;图像分为 688 个未压缩 TAR 分片(000000–000687),合计约 723.70 GB。

文件结构

├── labels.jsonl                # 全局字符标签,采用修复版(约5.79 GB)
├── shard_manifest.jsonl        # 字符与分片对应关系、各片图像数量
├── meta/
│   └── shard-000000.jsonl      # 各分片独立标签,共688份
└── shards/
    └── shard-000000.tar        # 图像分片,共688份,每片约1 GB

每个 TAR 内包含字符图像目录(如 安/00000001.png)及 metadata.jsonl。meta/ 提供相同标签,便于按片下载;无需同时下载全局标签和全部独立标签。

标签与使用

JSONL 每行一条字符记录,包含 glyph(字符)、unicode(码点)、total(图像数量)、sources(来源计数)和 images(逐图的 path、source)。图像路径相对于对应 TAR 的解包目录。

可先通过 shard_manifest.jsonl 的 glyphs 定位 shard_id,再获取对应标签和图像分片。清单中的 n_images 为图像数量,est_bytes 为大小估算。建议各分片分别解包,避免覆盖同名的 metadata.jsonl。

数据来源与许可

来源包括 HisDoc1B 系列、M5HisDoc、STUST EECS MNIST、EVOBC、MCCD、AHCDB、台湾研究院数据集等,详见标签中的来源字段。

许可:Apache-2.0。