Upload HF_SPLIT_NOTES.md with huggingface_hub
Browse files- HF_SPLIT_NOTES.md +37 -0
HF_SPLIT_NOTES.md
ADDED
|
@@ -0,0 +1,37 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 数据分片说明
|
| 2 |
+
|
| 3 |
+
`data/` 下的 `part0.bin` 到 `part7.bin` 是同一个归档包的 8 个连续字节分片。
|
| 4 |
+
|
| 5 |
+
## 还原方法
|
| 6 |
+
|
| 7 |
+
按顺序拼接后解压:
|
| 8 |
+
|
| 9 |
+
```bash
|
| 10 |
+
cat data/part0.bin data/part1.bin data/part2.bin data/part3.bin \
|
| 11 |
+
data/part4.bin data/part5.bin data/part6.bin data/part7.bin \
|
| 12 |
+
> topics.tar.gz
|
| 13 |
+
|
| 14 |
+
tar -xzf topics.tar.gz
|
| 15 |
+
```
|
| 16 |
+
|
| 17 |
+
Windows PowerShell:
|
| 18 |
+
|
| 19 |
+
```powershell
|
| 20 |
+
$out = [IO.File]::Create("topics.tar.gz")
|
| 21 |
+
0..7 | ForEach-Object {
|
| 22 |
+
$bytes = [IO.File]::ReadAllBytes("data/part$_.bin")
|
| 23 |
+
$out.Write($bytes, 0, $bytes.Length)
|
| 24 |
+
}
|
| 25 |
+
$out.Close()
|
| 26 |
+
tar -xzf topics.tar.gz
|
| 27 |
+
```
|
| 28 |
+
|
| 29 |
+
## 校验
|
| 30 |
+
|
| 31 |
+
- 原始包:`data/topics.tar.gz`,299,485,760 字节
|
| 32 |
+
- 分片数:8,每片 37,435,720 字节(最后一片为余数)
|
| 33 |
+
- 内容:`topics/` 目录,含 49460 个主题的原始 Discourse JSON 与 metadata
|
| 34 |
+
|
| 35 |
+
## 为什么不直接上传 11 万个文件
|
| 36 |
+
|
| 37 |
+
原始数据是 113561 个小文件(2.54 GB)。逐个上传需要 11 万次 HTTP 请求,在受限网络下极易中断。打包成单文件并分片,把请求数降到 8,总量因 JSON 文本高度可压缩而降到 0.29 GB。
|