Add packed-content checksums; index gains sha256; metadata README
Browse files修补「校验清单对不上 tar 内容」的问题:
1) checksums/choa_checksums_packed.tar|jsonl —— data tar 里实际内容的指纹(34,336 帖,覆盖范围与原始清单同形)。原先只有原始指纹,对 tar 内容跑 sha256sum -c 会误报 FAILED。
2) index/choa_tar_index.parquet 增加 sha256 列,覆盖全部 377,861 个 tar 成员,同时回答「在哪个分片」与「是否完整」。jsonl.gz 同步更新。
3) metadata/README.md —— 说明 metadata/ 描述的是打包前源目录树、不能当 tar 定位索引用。
原有 data/ 与 metadata/ 的数据文件未改动。
- .gitattributes +1 -0
- choa/yijie_packed/checksums/README.md +74 -43
- choa/yijie_packed/checksums/choa_checksums_packed.jsonl +3 -0
- choa/yijie_packed/checksums/choa_checksums_packed.tar +3 -0
- choa/yijie_packed/index/README.md +36 -4
- choa/yijie_packed/index/choa_tar_index.jsonl.gz +2 -2
- choa/yijie_packed/index/choa_tar_index.parquet +2 -2
- choa/yijie_packed/metadata/README.md +50 -0
.gitattributes
CHANGED
|
@@ -7042,3 +7042,4 @@ reddit/posts_tagged/GeoPuzzle.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
| 7042 |
reddit/posts_tagged/PictureGame.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 7043 |
reddit/posts_tagged/whereisthis.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 7044 |
choa/yijie_packed/checksums/choa_checksums.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
|
|
|
|
| 7042 |
reddit/posts_tagged/PictureGame.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 7043 |
reddit/posts_tagged/whereisthis.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 7044 |
choa/yijie_packed/checksums/choa_checksums.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 7045 |
+
choa/yijie_packed/checksums/choa_checksums_packed.jsonl filter=lfs diff=lfs merge=lfs -text
|
choa/yijie_packed/checksums/README.md
CHANGED
|
@@ -1,22 +1,40 @@
|
|
| 1 |
# choa 数据校验清单(checksums)
|
| 2 |
|
| 3 |
-
本目录
|
| 4 |
|
| 5 |
-
|
|
|
|
|
|
|
|
|
|
| 6 |
|
| 7 |
-
|
| 8 |
-
`checksums.sha256`,内容是标准 `sha256sum` 格式:
|
| 9 |
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
|
| 14 |
-
|
| 15 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 16 |
|
| 17 |
-
|
|
|
|
| 18 |
|
| 19 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 20 |
|---|---|
|
| 21 |
| `blocks.jsonl` | ✅ |
|
| 22 |
| `document.json` | ✅ |
|
|
@@ -25,34 +43,37 @@ af1eeab50b862b73... source.json
|
|
| 25 |
| `status.json` | ❌ |
|
| 26 |
| `progress.json` | ❌ |
|
| 27 |
|
| 28 |
-
|
| 29 |
|
| 30 |
-
|
| 31 |
-
而已上传的 `comments/…/{blocks,document,source}.json` 在打包时被按
|
| 32 |
-
`json.dumps(sort_keys=True)` 重新序列化过——**语义无损,但字节与原始爬取产物不同**。
|
| 33 |
|
| 34 |
-
|
| 35 |
|
| 36 |
-
##
|
| 37 |
|
| 38 |
-
|
| 39 |
-
|
| 40 |
-
35,503 个 `checksums.sha256`,成员名就是原相对路径
|
| 41 |
-
(`comments/choa_comments/choa_solved/<document_id>/checksums.sha256`)。
|
| 42 |
|
| 43 |
```bash
|
| 44 |
-
#
|
| 45 |
-
tar xf
|
| 46 |
cd comments/choa_comments/choa_solved/<document_id>
|
| 47 |
-
sha256sum -c checksums.sha256
|
|
|
|
|
|
|
|
|
|
|
|
|
| 48 |
```
|
| 49 |
|
| 50 |
-
|
| 51 |
-
> `source.json` 会**报 FAILED** —— 这是预期的,因为打包重排了键。
|
| 52 |
-
> `pages/page-0001.json` 应当 PASS。
|
| 53 |
-
> 若校验对象是原始爬取产物,则应当**全部 PASS**。
|
| 54 |
|
| 55 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 56 |
|
| 57 |
一行一帖:
|
| 58 |
|
|
@@ -63,23 +84,33 @@ sha256sum -c checksums.sha256
|
|
| 63 |
```
|
| 64 |
|
| 65 |
```bash
|
| 66 |
-
|
| 67 |
-
grep '0000d80180e8edd56754' choa_checksums.jsonl | jq .
|
| 68 |
```
|
| 69 |
|
| 70 |
-
##
|
| 71 |
|
| 72 |
-
|
| 73 |
-
|
| 74 |
-
|
| 75 |
-
|
| 76 |
-
| 体积 | tar 34.68 MiB / jsonl 15.00 MiB |
|
| 77 |
|
| 78 |
-
|
| 79 |
-
|
| 80 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 81 |
|
| 82 |
## 已验证
|
| 83 |
|
| 84 |
-
|
| 85 |
-
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
# choa 数据校验清单(checksums)
|
| 2 |
|
| 3 |
+
本目录有**两套** sha256 校验清单。**先看清你要验的是哪一套**——这正是最初踩的坑。
|
| 4 |
|
| 5 |
+
| 清单 | 对应什么内容 | 覆盖 | 用于 |
|
| 6 |
+
|---|---|---|---|
|
| 7 |
+
| `choa_checksums.tar` / `.jsonl` | **原始爬取产物** | 35,503 帖 | 校验本地原始数据 |
|
| 8 |
+
| `choa_checksums_packed.tar` / `.jsonl` | **data tar 里的实际内容** | 34,336 帖 | 校验从 tar 解出来的内容 |
|
| 9 |
|
| 10 |
+
---
|
|
|
|
| 11 |
|
| 12 |
+
## 为什么需要两套
|
| 13 |
+
|
| 14 |
+
打包进 tar 时发生了一件事:`comments/…/` 下的 JSON 被按
|
| 15 |
+
`json.dumps(sort_keys=True)` **重新序列化**——键名排序,语义无损,**但字节变了**。
|
| 16 |
+
|
| 17 |
+
| 文件 | 原始 | 打包后 |
|
| 18 |
+
|---|---:|---:|
|
| 19 |
+
| `blocks.jsonl` | 3,126 | 3,130 |
|
| 20 |
+
| `document.json` | 612 | 629 |
|
| 21 |
+
| `source.json` | 759 | 784 |
|
| 22 |
+
| `status.json` | 294 | 304 |
|
| 23 |
+
| `progress.json` | 624 | 650 |
|
| 24 |
+
| `pages/page-0001.json` | 4,318 | 4,318(**唯一未被改动**) |
|
| 25 |
+
|
| 26 |
+
且 `checksums.sha256` 本身**没进 tar**(被丢掉了)。
|
| 27 |
|
| 28 |
+
所以只用一套会出事:拿**原始**指纹去验**tar 内容**,`blocks.jsonl` / `document.json` /
|
| 29 |
+
`source.json` 三个会报 `FAILED` —— 看起来像数据损坏,其实只是重排。
|
| 30 |
|
| 31 |
+
---
|
| 32 |
+
|
| 33 |
+
## 覆盖范围
|
| 34 |
+
|
| 35 |
+
两份清单覆盖的文件**完全同形**,都是每帖 4 类:
|
| 36 |
+
|
| 37 |
+
| 文件 | 是否覆盖 |
|
| 38 |
|---|---|
|
| 39 |
| `blocks.jsonl` | ✅ |
|
| 40 |
| `document.json` | ✅ |
|
|
|
|
| 43 |
| `status.json` | ❌ |
|
| 44 |
| `progress.json` | ❌ |
|
| 45 |
|
| 46 |
+
同形是刻意的:把两份 `checksums.sha256` **逐行 diff**,能直接看出打包到底改了哪些文件。
|
| 47 |
|
| 48 |
+
---
|
|
|
|
|
|
|
| 49 |
|
| 50 |
+
## 用法
|
| 51 |
|
| 52 |
+
### A. tar 形态 —— 直接 `sha256sum -c`
|
| 53 |
|
| 54 |
+
每份 tar 的成员名就是原相对路径(`comments/choa_comments/<lib>/<doc_id>/checksums.sha256`)。
|
| 55 |
+
解到与 tar 内容相同的根目录下即可:
|
|
|
|
|
|
|
| 56 |
|
| 57 |
```bash
|
| 58 |
+
# 验「从 data tar 解出来的内容」
|
| 59 |
+
tar xf choa_checksums_packed.tar
|
| 60 |
cd comments/choa_comments/choa_solved/<document_id>
|
| 61 |
+
sha256sum -c checksums.sha256 # 应当全部 OK
|
| 62 |
+
|
| 63 |
+
# 验「本地原始爬取产物」
|
| 64 |
+
tar xf choa_checksums.tar # 换一份名单
|
| 65 |
+
sha256sum -c checksums.sha256 # 也应当全部 OK
|
| 66 |
```
|
| 67 |
|
| 68 |
+
**交叉验证**(同一批文件、两份名单):
|
|
|
|
|
|
|
|
|
|
| 69 |
|
| 70 |
+
```bash
|
| 71 |
+
diff <(sort choa_checksums.tar 解出的 checksums.sha256) \
|
| 72 |
+
<(sort choa_checksums_packed.tar 解出的 checksums.sha256)
|
| 73 |
+
# 有差异的行 = 打包改动过的文件;pages/page-*.json 应当无差异
|
| 74 |
+
```
|
| 75 |
+
|
| 76 |
+
### B. jsonl 形态 —— 单文件,便于查询
|
| 77 |
|
| 78 |
一行一帖:
|
| 79 |
|
|
|
|
| 84 |
```
|
| 85 |
|
| 86 |
```bash
|
| 87 |
+
grep '0000d80180e8edd56754' choa_checksums_packed.jsonl | jq .
|
|
|
|
| 88 |
```
|
| 89 |
|
| 90 |
+
### C. 全量成员指纹
|
| 91 |
|
| 92 |
+
除了上面按帖的清单,`index/choa_tar_index.parquet` 也带 `sha256` 列,
|
| 93 |
+
覆盖 **377,861 个 tar 成员**(含 `raw/` 下全部文件)。要逐一校验整个 tar 包时用它。
|
| 94 |
+
|
| 95 |
+
---
|
|
|
|
| 96 |
|
| 97 |
+
## 计数
|
| 98 |
+
|
| 99 |
+
| 项目 | 原始 | 打包后 |
|
| 100 |
+
|---|---:|---:|
|
| 101 |
+
| 帖子数 | 35,503 | 34,336 |
|
| 102 |
+
| choa_solved / ancient / primordial | 30,506 / 4,392 / 605 | 29,365 / 4,367 / 604 |
|
| 103 |
+
|
| 104 |
+
> **为什么多少 1,167 帖**:那批是 `category="useless"` 的记录,打包时被有意剔除
|
| 105 |
+
> (连分类记录一起没进 tar)。它们的评论数据与校验清单在本地是完整的,故原始清单一并收录。
|
| 106 |
+
> 需要全量 35,503 口径请用 `choa_checksums.*`。
|
| 107 |
+
|
| 108 |
+
---
|
| 109 |
|
| 110 |
## 已验证
|
| 111 |
|
| 112 |
+
| 检查 | 结果 |
|
| 113 |
+
|---|---|
|
| 114 |
+
| 原始清单 vs 本地原始产物(抽 50 帖 × 4 文件 = 200 个哈希) | **200/200 一致** |
|
| 115 |
+
| 打包清单 vs 从 tar 解出的内容 | 见 `index/README.md` 的验收记录 |
|
| 116 |
+
| 两份清单的 `pages/page-*.json` 行 | 应当**完全一致**(打包未改动该文件) |
|
choa/yijie_packed/checksums/choa_checksums_packed.jsonl
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:e989ad1287717eb97936a5b6be96398ff3d4b693363f31d5da4253c9dff48645
|
| 3 |
+
size 15198660
|
choa/yijie_packed/checksums/choa_checksums_packed.tar
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:039947e83b4b84bff7e2664e951a02f6294638eec5c60b0acc4d64003c3bfcf6
|
| 3 |
+
size 35164160
|
choa/yijie_packed/index/README.md
CHANGED
|
@@ -7,11 +7,17 @@
|
|
| 7 |
|
| 8 |
| 文件 | 用途 |
|
| 9 |
|---|---|
|
| 10 |
-
| `choa_tar_index.parquet` | **精确索引**:377,861 行 × `path / shard / bytes
|
| 11 |
-
| `choa_tar_index.jsonl.gz` | 同内容文本版,便于 `zgrep`
|
| 12 |
| `choa_media_inventory.jsonl` | 10,663 个媒体文件清单(`package_path / bytes / url / location`) |
|
| 13 |
| `scan_media_shards.py` | 扫描 `media/` 的 75 个 tar,生成媒体分片索引(需下媒体数据) |
|
| 14 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
## 为什么需要这份索引
|
| 16 |
|
| 17 |
`metadata/parts/file_manifest-XXXXX.parquet`(原有)**描述的是打包前的源目录树,不是 tar 实际内容**:
|
|
@@ -26,17 +32,24 @@ data tar 的成员,条数逐片核对过(抽 22 片,含边界值 0 / 120
|
|
| 26 |
## 用法
|
| 27 |
|
| 28 |
```python
|
| 29 |
-
import pyarrow.parquet as pq
|
| 30 |
from huggingface_hub import hf_hub_download
|
| 31 |
|
| 32 |
idx = pq.read_table("choa_tar_index.parquet").to_pydict()
|
| 33 |
want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
|
| 34 |
-
|
|
|
|
| 35 |
print("在分片", shard) # -> 17
|
| 36 |
|
| 37 |
p = hf_hub_download("Geo-Club/Geo-Video",
|
| 38 |
f"choa/yijie_packed/data/data-{shard:05d}.tar",
|
| 39 |
repo_type="dataset", revision="main")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 40 |
```
|
| 41 |
|
| 42 |
```bash
|
|
@@ -44,6 +57,25 @@ p = hf_hub_download("Geo-Club/Geo-Video",
|
|
| 44 |
zgrep 'blocks.jsonl' choa_tar_index.jsonl.gz | head
|
| 45 |
```
|
| 46 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
## 覆盖范围与计数
|
| 48 |
|
| 49 |
| 项目 | 值 |
|
|
|
|
| 7 |
|
| 8 |
| 文件 | 用途 |
|
| 9 |
|---|---|
|
| 10 |
+
| `choa_tar_index.parquet` | **精确索引 + 完整性指纹**:377,861 行 × `path / shard / bytes / sha256` |
|
| 11 |
+
| `choa_tar_index.jsonl.gz` | 同内容文本版,便于 `zgrep` |
|
| 12 |
| `choa_media_inventory.jsonl` | 10,663 个媒体文件清单(`package_path / bytes / url / location`) |
|
| 13 |
| `scan_media_shards.py` | 扫描 `media/` 的 75 个 tar,生成媒体分片索引(需下媒体数据) |
|
| 14 |
|
| 15 |
+
`sha256` 列覆盖全部 377,861 个 tar 成员(含 `raw/` 下全部文件),
|
| 16 |
+
所以这一个文件同时回答两个问题:**在哪个分片**、**内容是否完整**。
|
| 17 |
+
|
| 18 |
+
> 按帖的 `checksums.sha256`(`comments/` 子树)在 [`../checksums/`](../checksums/) 下,
|
| 19 |
+
> 分「原始」与「打包后」两套。
|
| 20 |
+
|
| 21 |
## 为什么需要这份索引
|
| 22 |
|
| 23 |
`metadata/parts/file_manifest-XXXXX.parquet`(原有)**描述的是打包前的源目录树,不是 tar 实际内容**:
|
|
|
|
| 32 |
## 用法
|
| 33 |
|
| 34 |
```python
|
| 35 |
+
import hashlib, pyarrow.parquet as pq
|
| 36 |
from huggingface_hub import hf_hub_download
|
| 37 |
|
| 38 |
idx = pq.read_table("choa_tar_index.parquet").to_pydict()
|
| 39 |
want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
|
| 40 |
+
i = idx["path"].index(want)
|
| 41 |
+
shard, digest = idx["shard"][i], idx["sha256"][i]
|
| 42 |
print("在分片", shard) # -> 17
|
| 43 |
|
| 44 |
p = hf_hub_download("Geo-Club/Geo-Video",
|
| 45 |
f"choa/yijie_packed/data/data-{shard:05d}.tar",
|
| 46 |
repo_type="dataset", revision="main")
|
| 47 |
+
|
| 48 |
+
# 校验解出来的成员是否完整
|
| 49 |
+
import tarfile
|
| 50 |
+
with tarfile.open(p) as t:
|
| 51 |
+
got = hashlib.sha256(t.extractfile(want).read()).hexdigest()
|
| 52 |
+
print("完整" if got == digest else "已损坏")
|
| 53 |
```
|
| 54 |
|
| 55 |
```bash
|
|
|
|
| 57 |
zgrep 'blocks.jsonl' choa_tar_index.jsonl.gz | head
|
| 58 |
```
|
| 59 |
|
| 60 |
+
### 批量校验整个分片
|
| 61 |
+
|
| 62 |
+
```python
|
| 63 |
+
import hashlib, tarfile, pyarrow.parquet as pq
|
| 64 |
+
|
| 65 |
+
idx = pq.read_table("choa_tar_index.parquet").to_pydict()
|
| 66 |
+
by_shard = {}
|
| 67 |
+
for p, s, h in zip(idx["path"], idx["shard"], idx["sha256"]):
|
| 68 |
+
by_shard.setdefault(s, {})[p] = h
|
| 69 |
+
|
| 70 |
+
bad = []
|
| 71 |
+
with tarfile.open("data-00017.tar") as t:
|
| 72 |
+
for name, want in by_shard[17].items():
|
| 73 |
+
got = hashlib.sha256(t.extractfile(name).read()).hexdigest()
|
| 74 |
+
if got != want:
|
| 75 |
+
bad.append(name)
|
| 76 |
+
print("分片 17 校验完成,异常 %d 个" % len(bad))
|
| 77 |
+
```
|
| 78 |
+
|
| 79 |
## 覆盖范围与计数
|
| 80 |
|
| 81 |
| 项目 | 值 |
|
choa/yijie_packed/index/choa_tar_index.jsonl.gz
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:0b597e47f4e121eb3f706b6b78e04c62fee5b9a0c73432a64acf6e6aa3458e0a
|
| 3 |
+
size 17447335
|
choa/yijie_packed/index/choa_tar_index.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:84c849199f1c2cdd0dfc0d2d9f97d517045c10f77ef0f8b2eef7ec347dda8b0e
|
| 3 |
+
size 14137298
|
choa/yijie_packed/metadata/README.md
ADDED
|
@@ -0,0 +1,50 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# metadata/ —— 这里是「打包前源目录树」的描述,不是 tar 实际内容
|
| 2 |
+
|
| 3 |
+
## ⚠️ 别直接用这里的索引去定位文件
|
| 4 |
+
|
| 5 |
+
| 文件 | 实际含义 |
|
| 6 |
+
|---|---|
|
| 7 |
+
| `file_manifest.parquet` | 打包**前**源目录树的完整清单(388,524 行 = `kind="data"` 377,861 + `kind="media"` 10,663) |
|
| 8 |
+
| `parts/file_manifest-XXXXX.parquet` | 同上,按分片切开(195 份,每份 2000 行) |
|
| 9 |
+
|
| 10 |
+
**问题**:它登记了 10,663 个媒体条目,但媒体**并没有进 data tar**——被分流到了
|
| 11 |
+
`media/media-XXXXX.tar`(75 个分片)。所以拿这份索引去 data tar 里找媒体,会**误报「存在」**。
|
| 12 |
+
|
| 13 |
+
实测证据(分片 120):
|
| 14 |
+
|
| 15 |
+
| | 条数 |
|
| 16 |
+
|---|---:|
|
| 17 |
+
| `parts/file_manifest-00120.parquet` 登记 | 2,000 |
|
| 18 |
+
| 其中 `kind="data"` | **1,907** |
|
| 19 |
+
| 其中 `kind="media"` | 93 |
|
| 20 |
+
| `data/data-00120.tar` 实际成员 | **1,907** |
|
| 21 |
+
|
| 22 |
+
即:**按 `kind="data"` 过滤后才是 tar 的真实成员。**
|
| 23 |
+
|
| 24 |
+
## ✅ 请改用 index/
|
| 25 |
+
|
| 26 |
+
`index/choa_tar_index.parquet` 已按 `kind="data"` 过滤,只保留真实存在于 data tar 的成员,
|
| 27 |
+
并补充了 `sha256` 列(完整成员指纹)。抽 22 个分片(含 0 / 120 两个边界)逐片核对,
|
| 28 |
+
成员数全部吻合。
|
| 29 |
+
|
| 30 |
+
| 需求 | 用哪个文件 |
|
| 31 |
+
|---|---|
|
| 32 |
+
| 找某个文件在哪个 data 分片 | `index/choa_tar_index.parquet`(`path` / `shard` / `bytes` / `sha256`) |
|
| 33 |
+
| 校验 tar 成员完整性 | 同上,用 `sha256` 列 |
|
| 34 |
+
| 找媒体文件 | `index/choa_media_inventory.jsonl`(10,663 条,含原始 URL) |
|
| 35 |
+
| 校验评论/记录内容 | `checksums/` 下的两套清单 |
|
| 36 |
+
|
| 37 |
+
```python
|
| 38 |
+
import pyarrow.parquet as pq
|
| 39 |
+
idx = pq.read_table("index/choa_tar_index.parquet").to_pydict()
|
| 40 |
+
want = "comments/choa_comments/choa_solved/0000d80180e8edd56754/blocks.jsonl"
|
| 41 |
+
i = idx["path"].index(want)
|
| 42 |
+
print(idx["shard"][i], idx["sha256"][i])
|
| 43 |
+
```
|
| 44 |
+
|
| 45 |
+
详见 [`../index/README.md`](../index/README.md)。
|
| 46 |
+
|
| 47 |
+
## 本目录文件保持原样
|
| 48 |
+
|
| 49 |
+
`file_manifest.parquet` 与 `parts/` **未做改动**——它们仍是「源目录树」的忠实记录,
|
| 50 |
+
对追溯打包过程、核对被吞掉的媒体条目仍有用。只是不要拿它当 tar 的定位索引。
|