| # 83K 子集 — 抽样结果与验收 |
|
|
| 生成于 `05_select.py`（seed=0, alpha=0.5, floor=300）。 |
|
|
| ## 硬检查 |
|
|
| - 记录数 **83,000**（目标 83,000）— ✅ |
| - 不同媒体 **71,224** 个，落盘 **428.9 GiB** |
| - 缺失媒体 **0** 个，零字节 **0** 个 — ✅ |
| - QA 对 **279,679** |
|
|
| ## 分布对照 |
|
|
|  |
|
|
| | cohort | cap_pairs | cap_median_wc | oe_pairs | oe_median_awc | oe_short_le3 | oe_dup_q | |
| |:---------|------------:|----------------:|-----------------:|----------------:|---------------:|-----------:| |
| | full | 178510 | 308 | 4.66152e+06 | 15 | 0.0591 | 0.3337 | |
| | selected | 9103 | 327 | 229634 | 15 | 0.0239 | 0.2172 | |
| | random | 9090 | 303 | 236820 | 15 | 0.0565 | 0.2245 | |
|
|
|
|
| ## MC 长度捷径（盲选最长选项的准确率） |
|
|
| | 全量 | 同规模随机 | **本子集** | |
| |---|---|---| |
| | 51.23% | 51.01% | **49.79%** | |
|
|
| 守门阈值是全量 +1.0 个百分点；实际发生 0 次换入。 |
|
|
| ## 向量空间覆盖度 |
|
|
| 三个粒度下对比"覆盖式抽样"和"同规模纯随机"（`09_coverage_probe.py`）： |
|
|
| | 粒度 | 子集 | 命中簇 | 命中率 | Gini | 单簇最大样本数 | |
| |---|---|---|---|---|---| |
| | 全池 k=2000 | 覆盖式 | 1,753 | 87.6% | **0.541** | — | |
| | | 随机 | 1,748 | 87.4% | 0.561 | — | |
| | 全池 k=8300 | 覆盖式 | 5,106 | 61.5% | **0.697** | **161** | |
| | | 随机 | 5,037 | 60.7% | 0.712 | 287 | |
| | 最大层 k=2004<br>(oe/0-30s/youtube, 418K→20,045) | 覆盖式 | 1,950 | 97.3% | **0.341** | **45** | |
| | | 随机 | 1,941 | 96.9% | 0.394 | 52 | |
|
|
| **结论要分开看，不能笼统说"覆盖更好"：** |
|
|
| - **命中率上没有意义的差别**（61.5% vs 60.7%、97.3% vs 96.9%）。 |
| 在 5% 采样率下这个指标已经饱和 —— 随机抽也能碰到绝大多数簇， |
| 所以"命中多少个簇"根本区分不出两种策略。一开始就不该拿它当主指标。 |
| - **抗过度集中上有真实收益**：单簇最大样本数从随机的 287 降到 161（全池）、 |
| 52 降到 45（层内）；Gini 从 0.712 → 0.697、0.394 → 0.341。 |
| 这才是 `alpha=0.5` 实际起作用的地方 —— 它压的是密集题材簇的过采样， |
| 不是去开拓新区域。 |
|
|
| 顺带记录一个被这个探针抓出来的 bug：最初的余数分配把 floor 之后的缺口 |
| 一次性全给了"剩余空间最大"的那个簇，结果子集在单簇里堆了 **775** 个样本 |
| （随机只有 52），等于把展平反向做成了集中。改成最大余数法逐个发放后才有上表的结果。 |
|
|
| ## 产物 |
|
|
| ``` |
| annotations/ 与上游同 schema，按原文件切分 + all_sampled.json |
| videos/ mp4，保持原相对路径 |
| frames/ llava_hound 的帧目录 |
| manifest.parquet | .csv |
| ``` |
