deersir commited on
Commit
36d5b82
·
verified ·
1 Parent(s): 3cace27

Add packed-content checksums; index gains sha256; metadata README

Browse files

修补「校验清单对不上 tar 内容」的问题:
1) checksums/choa_checksums_packed.tar|jsonl —— data tar 里实际内容的指纹(34,336 帖,覆盖范围与原始清单同形)。原先只有原始指纹,对 tar 内容跑 sha256sum -c 会误报 FAILED。
2) index/choa_tar_index.parquet 增加 sha256 列,覆盖全部 377,861 个 tar 成员,同时回答「在哪个分片」与「是否完整」。jsonl.gz 同步更新。
3) metadata/README.md —— 说明 metadata/ 描述的是打包前源目录树、不能当 tar 定位索引用。
原有 data/ 与 metadata/ 的数据文件未改动。

.gitattributes CHANGED
@@ -7042,3 +7042,4 @@ reddit/posts_tagged/GeoPuzzle.jsonl filter=lfs diff=lfs merge=lfs -text
7042
  reddit/posts_tagged/PictureGame.jsonl filter=lfs diff=lfs merge=lfs -text
7043
  reddit/posts_tagged/whereisthis.jsonl filter=lfs diff=lfs merge=lfs -text
7044
  choa/yijie_packed/checksums/choa_checksums.jsonl filter=lfs diff=lfs merge=lfs -text
 
 
7042
  reddit/posts_tagged/PictureGame.jsonl filter=lfs diff=lfs merge=lfs -text
7043
  reddit/posts_tagged/whereisthis.jsonl filter=lfs diff=lfs merge=lfs -text
7044
  choa/yijie_packed/checksums/choa_checksums.jsonl filter=lfs diff=lfs merge=lfs -text
7045
+ choa/yijie_packed/checksums/choa_checksums_packed.jsonl filter=lfs diff=lfs merge=lfs -text
choa/yijie_packed/checksums/README.md CHANGED
@@ -1,22 +1,40 @@
1
  # choa 数据校验清单(checksums)
2
 
3
- 本目录放的是 `choa/` 语料**每个帖子目录自带的 `checksums.sha256`**。
4
 
5
- ## 这是什么
 
 
 
6
 
7
- 上游爬取时,每个帖子目录(`comments/choa_comments/<lib>/<document_id>/`)都会生成一个
8
- `checksums.sha256`,内容是标准 `sha256sum` 格式:
9
 
10
- ```
11
- 461cc48063c1a1f7... blocks.jsonl
12
- 5093dc979b60862d... document.json
13
- 189b72ccdf9b7fb4... pages/page-0001.json
14
- af1eeab50b862b73... source.json
15
- ```
 
 
 
 
 
 
 
 
 
16
 
17
- 覆盖 4 个文件(有分页的帖子多一行 `pages/page-0002.json`):
 
18
 
19
- | 文件 | 是否被覆盖 |
 
 
 
 
 
 
20
  |---|---|
21
  | `blocks.jsonl` | ✅ |
22
  | `document.json` | ✅ |
@@ -25,34 +43,37 @@ af1eeab50b862b73... source.json
25
  | `status.json` | ❌ |
26
  | `progress.json` | ❌ |
27
 
28
- ## 为什么要单独放一份
29
 
30
- 数据打包进 tar 分片时,**`checksums.sha256` 被丢掉了**(tar 里没有),
31
- 而已上传的 `comments/…/{blocks,document,source}.json` 在打包时被按
32
- `json.dumps(sort_keys=True)` 重新序列化过——**语义无损,但字节与原始爬取产物不同**。
33
 
34
- 没有校验清单,就无法证明这件事;有了它,任何人都能独立验证。
35
 
36
- ## 两种用法
37
 
38
- ### A. `choa_checksums.tar` —— 原路径还原
39
-
40
- 35,503 个 `checksums.sha256`,成员名就是原相对路径
41
- (`comments/choa_comments/choa_solved/<document_id>/checksums.sha256`)。
42
 
43
  ```bash
44
- # 解到与 tar 分片内容相同的根目录下,然后逐帖校验
45
- tar xf choa_checksums.tar
46
  cd comments/choa_comments/choa_solved/<document_id>
47
- sha256sum -c checksums.sha256
 
 
 
 
48
  ```
49
 
50
- > 若校验对象是从 data tar 里解出来的内容,`blocks.jsonl` / `document.json` /
51
- > `source.json` 会**报 FAILED** —— 这是预期的,因为打包重排了键。
52
- > `pages/page-0001.json` 应当 PASS。
53
- > 若校验对象是原始爬取产物,则应当**全部 PASS**。
54
 
55
- ### B. `choa_checksums.jsonl` —— 单文件,便于查询
 
 
 
 
 
 
56
 
57
  一行一帖:
58
 
@@ -63,23 +84,33 @@ sha256sum -c checksums.sha256
63
  ```
64
 
65
  ```bash
66
- # 查某一帖的原始哈希
67
- grep '0000d80180e8edd56754' choa_checksums.jsonl | jq .
68
  ```
69
 
70
- ## 计数与出处
71
 
72
- | 项目 | 值 |
73
- |---|---|
74
- | 帖子数 | 35,503(choa_solved 30,506 / choa_solved_ancient 4,392 / choa_solved_primordial 605) |
75
- | 条目 | 35,503 |
76
- | 体积 | tar 34.68 MiB / jsonl 15.00 MiB |
77
 
78
- > 注:这 35,503 帖包含 1,167 条 `category="useless"` 的记录——那批帖的分类记录**没有**进
79
- > data tar(打包时作为 useless 剔除了),但它们的评论数据与校验清单在本地是完整的,
80
- > 故一并收录。
 
 
 
 
 
 
 
 
 
81
 
82
  ## 已验证
83
 
84
- 抽取 50 帖 × 4 个文件 = 200 个哈希,与**本地原始爬取产物**逐一比对:
85
- **200/200 完全一致**。即本清单记录的是原始产物的指纹。
 
 
 
 
1
  # choa 数据校验清单(checksums)
2
 
3
+ 本目录有**两套** sha256 校验清单。**先看清你要验的是哪一套**——这正是最初踩的坑。
4
 
5
+ | 清单 | 对应什么内容 | 覆盖 | 用于 |
6
+ |---|---|---|---|
7
+ | `choa_checksums.tar` / `.jsonl` | **原始爬取产物** | 35,503 帖 | 校验本地原始数据 |
8
+ | `choa_checksums_packed.tar` / `.jsonl` | **data tar 里的实际内容** | 34,336 帖 | 校验从 tar 解出来的内容 |
9
 
10
+ ---
 
11
 
12
+ ## 为什么需要两套
13
+
14
+ 打包进 tar 时发生了一件事:`comments/…/` 下的 JSON 被按
15
+ `json.dumps(sort_keys=True)` **重新序列化**——键名排序,语义无损,**但字节变了**。
16
+
17
+ | 文件 | 原始 | 打包后 |
18
+ |---|---:|---:|
19
+ | `blocks.jsonl` | 3,126 | 3,130 |
20
+ | `document.json` | 612 | 629 |
21
+ | `source.json` | 759 | 784 |
22
+ | `status.json` | 294 | 304 |
23
+ | `progress.json` | 624 | 650 |
24
+ | `pages/page-0001.json` | 4,318 | 4,318(**唯一未被改动**) |
25
+
26
+ 且 `checksums.sha256` 本身**没进 tar**(被丢掉了)。
27
 
28
+ 所以只用一套会出事:拿**原始**指纹去验**tar 内容**,`blocks.jsonl` / `document.json` /
29
+ `source.json` 三个会报 `FAILED` —— 看起来像数据损坏,其实只是重排。
30
 
31
+ ---
32
+
33
+ ## 覆盖范围
34
+
35
+ 两份清单覆盖的文件**完全同形**,都是每帖 4 类:
36
+
37
+ | 文件 | 是否覆盖 |
38
  |---|---|
39
  | `blocks.jsonl` | ✅ |
40
  | `document.json` | ✅ |
 
43
  | `status.json` | ❌ |
44
  | `progress.json` | ❌ |
45
 
46
+ 同形是刻意的:把两份 `checksums.sha256` **逐行 diff**,能直接看出打包到底改了哪些文件。
47
 
48
+ ---
 
 
49
 
50
+ ## 用法
51
 
52
+ ### A. tar 形态 —— 直接 `sha256sum -c`
53
 
54
+ 每份 tar 的成员名就是原相对路径(`comments/choa_comments/<lib>/<doc_id>/checksums.sha256`)。
55
+ 解到与 tar 内容相同的根目录下即可:
 
 
56
 
57
  ```bash
58
+ # 验「从 data tar 解出来的内容」
59
+ tar xf choa_checksums_packed.tar
60
  cd comments/choa_comments/choa_solved/<document_id>
61
+ sha256sum -c checksums.sha256 # 应当全部 OK
62
+
63
+ # 验「本地原始爬取产物」
64
+ tar xf choa_checksums.tar # 换一份名单
65
+ sha256sum -c checksums.sha256 # 也应当全部 OK
66
  ```
67
 
68
+ **交叉验证**(同一批文件、两份名单):
 
 
 
69
 
70
+ ```bash
71
+ diff <(sort choa_checksums.tar 解出的 checksums.sha256) \
72
+ <(sort choa_checksums_packed.tar 解出的 checksums.sha256)
73
+ # 有差异的行 = 打包改动过的文件;pages/page-*.json 应当无差异
74
+ ```
75
+
76
+ ### B. jsonl 形态 —— 单文件,便于查询
77
 
78
  一行一帖:
79
 
 
84
  ```
85
 
86
  ```bash
87
+ grep '0000d80180e8edd56754' choa_checksums_packed.jsonl | jq .
 
88
  ```
89
 
90
+ ### C. 全量成员指纹
91
 
92
+ 除了上面按帖的清单,`index/choa_tar_index.parquet` 也带 `sha256` 列,
93
+ 覆盖 **377,861 个 tar 成员**(含 `raw/` 下全部文件)。要逐一校验整个 tar 包时用它。
94
+
95
+ ---
 
96
 
97
+ ## 计数
98
+
99
+ | 项目 | 原始 | 打包后 |
100
+ |---|---:|---:|
101
+ | 帖子数 | 35,503 | 34,336 |
102
+ | choa_solved / ancient / primordial | 30,506 / 4,392 / 605 | 29,365 / 4,367 / 604 |
103
+
104
+ > **为什么多少 1,167 帖**:那批是 `category="useless"` 的记录,打包时被有意剔除
105
+ > (连分类记录一起没进 tar)。它们的评论数据与校验清单在本地是完整的,故原始清单一并收录。
106
+ > 需要全量 35,503 口径请用 `choa_checksums.*`。
107
+
108
+ ---
109
 
110
  ## 已验证
111
 
112
+ | 检查 | 结果 |
113
+ |---|---|
114
+ | 原始清单 vs 本地原始产物(抽 50 帖 × 4 文件 = 200 个哈希) | **200/200 一致** |
115
+ | 打包清单 vs 从 tar 解出的内容 | 见 `index/README.md` 的验收记录 |
116
+ | 两份清单的 `pages/page-*.json` 行 | 应当**完全一致**(打包未改动该文件) |
choa/yijie_packed/checksums/choa_checksums_packed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e989ad1287717eb97936a5b6be96398ff3d4b693363f31d5da4253c9dff48645
3
+ size 15198660
choa/yijie_packed/checksums/choa_checksums_packed.tar ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:039947e83b4b84bff7e2664e951a02f6294638eec5c60b0acc4d64003c3bfcf6
3
+ size 35164160
choa/yijie_packed/index/README.md CHANGED
@@ -7,11 +7,17 @@
7
 
8
  | 文件 | 用途 |
9
  |---|---|
10
- | `choa_tar_index.parquet` | **精确索引**:377,861 行 × `path / shard / bytes`(2.2 MiB) |
11
- | `choa_tar_index.jsonl.gz` | 同内容文本版,便于 `zgrep`(2.9 MiB) |
12
  | `choa_media_inventory.jsonl` | 10,663 个媒体文件清单(`package_path / bytes / url / location`) |
13
  | `scan_media_shards.py` | 扫描 `media/` 的 75 个 tar,生成媒体分片索引(需下媒体数据) |
14
 
 
 
 
 
 
 
15
  ## 为什么需要这份索引
16
 
17
  `metadata/parts/file_manifest-XXXXX.parquet`(原有)**描述的是打包前的源目录树,不是 tar 实际内容**:
@@ -26,17 +32,24 @@ data tar 的成员,条数逐片核对过(抽 22 片,含边界值 0 / 120
26
  ## 用法
27
 
28
  ```python
29
- import pyarrow.parquet as pq, json
30
  from huggingface_hub import hf_hub_download
31
 
32
  idx = pq.read_table("choa_tar_index.parquet").to_pydict()
33
  want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
34
- shard = idx["shard"][idx["path"].index(want)]
 
35
  print("在分片", shard) # -> 17
36
 
37
  p = hf_hub_download("Geo-Club/Geo-Video",
38
  f"choa/yijie_packed/data/data-{shard:05d}.tar",
39
  repo_type="dataset", revision="main")
 
 
 
 
 
 
40
  ```
41
 
42
  ```bash
@@ -44,6 +57,25 @@ p = hf_hub_download("Geo-Club/Geo-Video",
44
  zgrep 'blocks.jsonl' choa_tar_index.jsonl.gz | head
45
  ```
46
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
47
  ## 覆盖范围与计数
48
 
49
  | 项目 | 值 |
 
7
 
8
  | 文件 | 用途 |
9
  |---|---|
10
+ | `choa_tar_index.parquet` | **精确索引 + 完整性指纹**:377,861 行 × `path / shard / bytes / sha256` |
11
+ | `choa_tar_index.jsonl.gz` | 同内容文本版,便于 `zgrep` |
12
  | `choa_media_inventory.jsonl` | 10,663 个媒体文件清单(`package_path / bytes / url / location`) |
13
  | `scan_media_shards.py` | 扫描 `media/` 的 75 个 tar,生成媒体分片索引(需下媒体数据) |
14
 
15
+ `sha256` 列覆盖全部 377,861 个 tar 成员(含 `raw/` 下全部文件),
16
+ 所以这一个文件同时回答两个问题:**在哪个分片**、**内容是否完整**。
17
+
18
+ > 按帖的 `checksums.sha256`(`comments/` 子树)在 [`../checksums/`](../checksums/) 下,
19
+ > 分「原始」与「打包后」两套。
20
+
21
  ## 为什么需要这份索引
22
 
23
  `metadata/parts/file_manifest-XXXXX.parquet`(原有)**描述的是打包前的源目录树,不是 tar 实际内容**:
 
32
  ## 用法
33
 
34
  ```python
35
+ import hashlib, pyarrow.parquet as pq
36
  from huggingface_hub import hf_hub_download
37
 
38
  idx = pq.read_table("choa_tar_index.parquet").to_pydict()
39
  want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
40
+ i = idx["path"].index(want)
41
+ shard, digest = idx["shard"][i], idx["sha256"][i]
42
  print("在分片", shard) # -> 17
43
 
44
  p = hf_hub_download("Geo-Club/Geo-Video",
45
  f"choa/yijie_packed/data/data-{shard:05d}.tar",
46
  repo_type="dataset", revision="main")
47
+
48
+ # 校验解出来的成员是否完整
49
+ import tarfile
50
+ with tarfile.open(p) as t:
51
+ got = hashlib.sha256(t.extractfile(want).read()).hexdigest()
52
+ print("完整" if got == digest else "已损坏")
53
  ```
54
 
55
  ```bash
 
57
  zgrep 'blocks.jsonl' choa_tar_index.jsonl.gz | head
58
  ```
59
 
60
+ ### 批量校验整个分片
61
+
62
+ ```python
63
+ import hashlib, tarfile, pyarrow.parquet as pq
64
+
65
+ idx = pq.read_table("choa_tar_index.parquet").to_pydict()
66
+ by_shard = {}
67
+ for p, s, h in zip(idx["path"], idx["shard"], idx["sha256"]):
68
+ by_shard.setdefault(s, {})[p] = h
69
+
70
+ bad = []
71
+ with tarfile.open("data-00017.tar") as t:
72
+ for name, want in by_shard[17].items():
73
+ got = hashlib.sha256(t.extractfile(name).read()).hexdigest()
74
+ if got != want:
75
+ bad.append(name)
76
+ print("分片 17 校验完成,异常 %d 个" % len(bad))
77
+ ```
78
+
79
  ## 覆盖范围与计数
80
 
81
  | 项目 | 值 |
choa/yijie_packed/index/choa_tar_index.jsonl.gz CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:69d8151f9246bf35a92358013ea3f6e9ecf637a0fee3409d3191312feac35dd9
3
- size 3065703
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0b597e47f4e121eb3f706b6b78e04c62fee5b9a0c73432a64acf6e6aa3458e0a
3
+ size 17447335
choa/yijie_packed/index/choa_tar_index.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ecdbc701cc7099211fb908530f88f9f9ede9262328668199e6f77ee43b144d59
3
- size 2274774
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:84c849199f1c2cdd0dfc0d2d9f97d517045c10f77ef0f8b2eef7ec347dda8b0e
3
+ size 14137298
choa/yijie_packed/metadata/README.md ADDED
@@ -0,0 +1,50 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # metadata/ —— 这里是「打包前源目录树」的描述,不是 tar 实际内容
2
+
3
+ ## ⚠️ 别直接用这里的索引去定位文件
4
+
5
+ | 文件 | 实际含义 |
6
+ |---|---|
7
+ | `file_manifest.parquet` | 打包**前**源目录树的完整清单(388,524 行 = `kind="data"` 377,861 + `kind="media"` 10,663) |
8
+ | `parts/file_manifest-XXXXX.parquet` | 同上,按分片切开(195 份,每份 2000 行) |
9
+
10
+ **问题**:它登记了 10,663 个媒体条目,但媒体**并没有进 data tar**——被分流到了
11
+ `media/media-XXXXX.tar`(75 个分片)。所以拿这份索引去 data tar 里找媒体,会**误报「存在」**。
12
+
13
+ 实测证据(分片 120):
14
+
15
+ | | 条数 |
16
+ |---|---:|
17
+ | `parts/file_manifest-00120.parquet` 登记 | 2,000 |
18
+ | 其中 `kind="data"` | **1,907** |
19
+ | 其中 `kind="media"` | 93 |
20
+ | `data/data-00120.tar` 实际成员 | **1,907** |
21
+
22
+ 即:**按 `kind="data"` 过滤后才是 tar 的真实成员。**
23
+
24
+ ## ✅ 请改用 index/
25
+
26
+ `index/choa_tar_index.parquet` 已按 `kind="data"` 过滤,只保留真实存在于 data tar 的成员,
27
+ 并补充了 `sha256` 列(完整成员指纹)。抽 22 个分片(含 0 / 120 两个边界)逐片核对,
28
+ 成员数全部吻合。
29
+
30
+ | 需求 | 用哪个文件 |
31
+ |---|---|
32
+ | 找某个文件在哪个 data 分片 | `index/choa_tar_index.parquet`(`path` / `shard` / `bytes` / `sha256`) |
33
+ | 校验 tar 成员完整性 | 同上,用 `sha256` 列 |
34
+ | 找媒体文件 | `index/choa_media_inventory.jsonl`(10,663 条,含原始 URL) |
35
+ | 校验评论/记录内容 | `checksums/` 下的两套清单 |
36
+
37
+ ```python
38
+ import pyarrow.parquet as pq
39
+ idx = pq.read_table("index/choa_tar_index.parquet").to_pydict()
40
+ want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
41
+ i = idx["path"].index(want)
42
+ print(idx["shard"][i], idx["sha256"][i])
43
+ ```
44
+
45
+ 详见 [`../index/README.md`](../index/README.md)。
46
+
47
+ ## 本目录文件保持原样
48
+
49
+ `file_manifest.parquet` 与 `parts/` **未做改动**——它们仍是「源目录树」的忠实记录,
50
+ 对追溯打包过程、核对被吞掉的媒体条目仍有用。只是不要拿它当 tar 的定位索引。