DonShawn001 commited on
Commit
bf731d0
·
verified ·
1 Parent(s): 3d37234

Summarize complete GlyphHan release and metadata usage

Browse files
Files changed (1) hide show
  1. README.md +17 -22
README.md CHANGED
@@ -9,38 +9,33 @@ tags:
9
 
10
  # GlyphHan:跨历史来源汉字表征数据集
11
 
12
- GlyphHan 是一个大规模汉字单字图像数据集,共约 **1 亿张**字形图像,覆盖 **3.4 万余个**汉字及部首字形(含 CJK 扩展区、繁简异体)。图像来自多个历史文献数字化项目,适用于汉字表征学习、OCR、字体生成与古籍数字化等研究。
13
 
14
- > 数据集正在陆续打包上传中,进度可查看 `shards/` 目录,全部完成后将更新说明。受本地存储介质(HDD)速度限制,完整上传预计 2026 年 9 月下旬完成。
15
 
16
- ## 目录结构
17
 
18
- ```
19
- GlyphHan/
20
- ├── labels.jsonl # 字符级标签(glyph、unicode、total、sources、images)
21
- ├── shard_manifest.jsonl # 分片清单:字符与分片的对应关系
22
- ├── checksums.txt # 标签文件 sha256
23
  └── shards/
24
- ├── shard-000000.tar # 图像分片(约 1 GB/片,未压缩)
25
- └── ...
26
  ```
27
 
28
- 每个 `shard-*.tar` 内包含 `metadata.jsonl`(该片字符的标签)及对应的图像目录。
29
 
30
- ## 标签格式(labels.jsonl)
31
 
32
- 每行一个字符:
33
 
34
- ```json
35
- {"glyph":"安","unicode":"U+5B89","total":72239,
36
- "sources":{"2_M5HisDoc":436},
37
- "images":[{"path":"安/00000001.png","source":"2_M5HisDoc"}]}
38
- ```
39
 
40
- ## 数据来源
41
 
42
- 图像来自多个历史文献数字化项目,字符级来源记录在 `sources` 字段中(含 HisDoc1B 系列、M5HisDoc、STUST EECS MNIST、EVOBC、MCCD、AHCDB、台湾研究院数据集等)。
43
 
44
- ## 许可
45
 
46
- Apache-2.0
 
9
 
10
  # GlyphHan:跨历史来源汉字表征数据集
11
 
12
+ GlyphHan 汇集多个历史文献数字化项目的汉字单字图像,适用于汉字表征学习、OCR、字体生成与古籍数字化研究。
13
 
14
+ **数据与标签已全部上传。** 标签共收录 **34,452 个字符、100,019,698 条图像记录**;图像分为 **688 个未压缩 TAR 分片**(`000000`–`000687`),合计约 **723.70 GB**。
15
 
16
+ ## 文件结构
17
 
18
+ ```text
19
+ ├── labels.jsonl # 全局字符标签,采用修复版(约5.79 GB)
20
+ ├── shard_manifest.jsonl # 字符与分片对应关系、各片图像数量
21
+ ├── meta/
22
+ │ └── shard-000000.jsonl # 各分片独立标签,共688份
23
  └── shards/
24
+ └── shard-000000.tar # 图像分片,共688份,每片约1 GB
 
25
  ```
26
 
27
+ 每个 TAR 内包含字符图像目录(如 `安/00000001.png`)及 `metadata.jsonl`。`meta/` 提供相同标签,便于按片下载;无需同时下载全局标签和全部独立标签。
28
 
29
+ ## 标签与使用
30
 
31
+ JSONL 每行一条字符记录,包含 `glyph`(字符)、`unicode`(码点)、`total`(图像数量)、`sources`(来源计数)和 `images`(逐图的 `path`、`source`)。图像路径相对于对应 TAR 的解包目录。
32
 
33
+ 可先通过 `shard_manifest.jsonl` 的 `glyphs` 定位 `shard_id`,再获取对应标签和图像分片。清单中的 `n_images` 为图像数量,`est_bytes` 为大小估算。建议各分片分别解包,避免覆盖同名的 `metadata.jsonl`。
 
 
 
 
34
 
35
+ **已知标签问题:** “坉”的45条图像来源标为 `reconstructed`,来源尚未确认;该字的 `sources` 保留旧汇总,按来源分析时请将这45条单独处理。
36
 
37
+ ## 数据来源与许可
38
 
39
+ 来源包括 HisDoc1B 系列、M5HisDoc、STUST EECS MNIST、EVOBC、MCCD、AHCDB、台湾研究院数据集等,详见标签中的来源字段。
40
 
41
+ 许可:Apache-2.0。