| --- |
| license: apache-2.0 |
| tags: |
| - hanzi |
| - chinese-characters |
| - ocr |
| - image-classification |
| --- |
| |
| # GlyphHan：跨历史来源汉字表征数据集 |
|
|
| GlyphHan 汇集多个历史文献数字化项目的汉字单字图像，适用于汉字表征学习、OCR、字体生成与古籍数字化研究。 |
|
|
| **数据与标签已全部上传。** 标签共收录 **34,452 个字符、100,019,698 条图像记录**；图像分为 **688 个未压缩 TAR 分片**（`000000`–`000687`），合计约 **723.70 GB**。 |
|
|
| ## 文件结构 |
|
|
| ```text |
| ├── labels.jsonl # 全局字符标签，采用修复版（约5.79 GB） |
| ├── shard_manifest.jsonl # 字符与分片对应关系、各片图像数量 |
| ├── meta/ |
| │ └── shard-000000.jsonl # 各分片独立标签，共688份 |
| └── shards/ |
| └── shard-000000.tar # 图像分片，共688份，每片约1 GB |
| ``` |
|
|
| 每个 TAR 内包含字符图像目录（如 `安/00000001.png`）及 `metadata.jsonl`。`meta/` 提供相同标签，便于按片下载；无需同时下载全局标签和全部独立标签。 |
|
|
| ## 标签与使用 |
|
|
| JSONL 每行一条字符记录，包含 `glyph`（字符）、`unicode`（码点）、`total`（图像数量）、`sources`（来源计数）和 `images`（逐图的 `path`、`source`）。图像路径相对于对应 TAR 的解包目录。 |
|
|
| 可先通过 `shard_manifest.jsonl` 的 `glyphs` 定位 `shard_id`，再获取对应标签和图像分片。清单中的 `n_images` 为图像数量，`est_bytes` 为大小估算。建议各分片分别解包，避免覆盖同名的 `metadata.jsonl`。 |
|
|
| ## 数据来源与许可 |
|
|
| 来源包括 HisDoc1B 系列、M5HisDoc、STUST EECS MNIST、EVOBC、MCCD、AHCDB、台湾研究院数据集等，详见标签中的来源字段。 |
|
|
| 许可：Apache-2.0。 |
|
|
