Datasets:
Summarize complete GlyphHan release and metadata usage
Browse files
README.md
CHANGED
|
@@ -9,38 +9,33 @@ tags:
|
|
| 9 |
|
| 10 |
# GlyphHan:跨历史来源汉字表征数据集
|
| 11 |
|
| 12 |
-
GlyphHan
|
| 13 |
|
| 14 |
-
|
| 15 |
|
| 16 |
-
##
|
| 17 |
|
| 18 |
-
```
|
| 19 |
-
|
| 20 |
-
├──
|
| 21 |
-
├──
|
| 22 |
-
|
| 23 |
└── shards/
|
| 24 |
-
|
| 25 |
-
└── ...
|
| 26 |
```
|
| 27 |
|
| 28 |
-
每个
|
| 29 |
|
| 30 |
-
## 标签
|
| 31 |
|
| 32 |
-
每行一
|
| 33 |
|
| 34 |
-
```
|
| 35 |
-
{"glyph":"安","unicode":"U+5B89","total":72239,
|
| 36 |
-
"sources":{"2_M5HisDoc":436},
|
| 37 |
-
"images":[{"path":"安/00000001.png","source":"2_M5HisDoc"}]}
|
| 38 |
-
```
|
| 39 |
|
| 40 |
-
|
| 41 |
|
| 42 |
-
|
| 43 |
|
| 44 |
-
|
| 45 |
|
| 46 |
-
Apache-2.0
|
|
|
|
| 9 |
|
| 10 |
# GlyphHan:跨历史来源汉字表征数据集
|
| 11 |
|
| 12 |
+
GlyphHan 汇集多个历史文献数字化项目的汉字单字图像,适用于汉字表征学习、OCR、字体生成与古籍数字化研究。
|
| 13 |
|
| 14 |
+
**数据与标签已全部上传。** 标签共收录 **34,452 个字符、100,019,698 条图像记录**;图像分为 **688 个未压缩 TAR 分片**(`000000`–`000687`),合计约 **723.70 GB**。
|
| 15 |
|
| 16 |
+
## 文件结构
|
| 17 |
|
| 18 |
+
```text
|
| 19 |
+
├── labels.jsonl # 全局字符标签,采用修复版(约5.79 GB)
|
| 20 |
+
├── shard_manifest.jsonl # 字符与分片对应关系、各片图像数量
|
| 21 |
+
├── meta/
|
| 22 |
+
│ └── shard-000000.jsonl # 各分片独立标签,共688份
|
| 23 |
└── shards/
|
| 24 |
+
└── shard-000000.tar # 图像分片,共688份,每片约1 GB
|
|
|
|
| 25 |
```
|
| 26 |
|
| 27 |
+
每个 TAR 内包含字符图像目录(如 `安/00000001.png`)及 `metadata.jsonl`。`meta/` 提供相同标签,便于按片下载;无需同时下载全局标签和全部独立标签。
|
| 28 |
|
| 29 |
+
## 标签与使用
|
| 30 |
|
| 31 |
+
JSONL 每行一条字符记录,包含 `glyph`(字符)、`unicode`(码点)、`total`(图像数量)、`sources`(来源计数)和 `images`(逐图的 `path`、`source`)。图像路径相对于对应 TAR 的解包目录。
|
| 32 |
|
| 33 |
+
可先通过 `shard_manifest.jsonl` 的 `glyphs` 定位 `shard_id`,再获取对应标签和图像分片。清单中的 `n_images` 为图像数量,`est_bytes` 为大小估算。建议各分片分别解包,避免覆盖同名的 `metadata.jsonl`。
|
|
|
|
|
|
|
|
|
|
|
|
|
| 34 |
|
| 35 |
+
**已知标签问题:** “坉”的45条图像来源标为 `reconstructed`,来源尚未确认;该字的 `sources` 保留旧汇总,按来源分析时请将这45条单独处理。
|
| 36 |
|
| 37 |
+
## 数据来源与许可
|
| 38 |
|
| 39 |
+
来源包括 HisDoc1B 系列、M5HisDoc、STUST EECS MNIST、EVOBC、MCCD、AHCDB、台湾研究院数据集等,详见标签中的来源字段。
|
| 40 |
|
| 41 |
+
许可:Apache-2.0。
|