HEXUXIU2026 commited on
Commit
f6f7360
·
verified ·
1 Parent(s): 6f1443a

Upload HF_SPLIT_NOTES.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. HF_SPLIT_NOTES.md +37 -0
HF_SPLIT_NOTES.md ADDED
@@ -0,0 +1,37 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 数据分片说明
2
+
3
+ `data/` 下的 `part0.bin` 到 `part7.bin` 是同一个归档包的 8 个连续字节分片。
4
+
5
+ ## 还原方法
6
+
7
+ 按顺序拼接后解压:
8
+
9
+ ```bash
10
+ cat data/part0.bin data/part1.bin data/part2.bin data/part3.bin \
11
+ data/part4.bin data/part5.bin data/part6.bin data/part7.bin \
12
+ > topics.tar.gz
13
+
14
+ tar -xzf topics.tar.gz
15
+ ```
16
+
17
+ Windows PowerShell:
18
+
19
+ ```powershell
20
+ $out = [IO.File]::Create("topics.tar.gz")
21
+ 0..7 | ForEach-Object {
22
+ $bytes = [IO.File]::ReadAllBytes("data/part$_.bin")
23
+ $out.Write($bytes, 0, $bytes.Length)
24
+ }
25
+ $out.Close()
26
+ tar -xzf topics.tar.gz
27
+ ```
28
+
29
+ ## 校验
30
+
31
+ - 原始包:`data/topics.tar.gz`,299,485,760 字节
32
+ - 分片数:8,每片 37,435,720 字节(最后一片为余数)
33
+ - 内容:`topics/` 目录,含 49460 个主题的原始 Discourse JSON 与 metadata
34
+
35
+ ## 为什么不直接上传 11 万个文件
36
+
37
+ 原始数据是 113561 个小文件(2.54 GB)。逐个上传需要 11 万次 HTTP 请求,在受限网络下极易中断。打包成单文件并分片,把请求数降到 8,总量因 JSON 文本高度可压缩而降到 0.29 GB。