# 83K 子集 — 抽样结果与验收 生成于 `05_select.py`(seed=0, alpha=0.5, floor=300)。 ## 硬检查 - 记录数 **83,000**(目标 83,000)— ✅ - 不同媒体 **71,224** 个,落盘 **428.9 GiB** - 缺失媒体 **0** 个,零字节 **0** 个 — ✅ - QA 对 **279,679** ## 分布对照 ![](out/figs/cmp_shares.png) | cohort | cap_pairs | cap_median_wc | oe_pairs | oe_median_awc | oe_short_le3 | oe_dup_q | |:---------|------------:|----------------:|-----------------:|----------------:|---------------:|-----------:| | full | 178510 | 308 | 4.66152e+06 | 15 | 0.0591 | 0.3337 | | selected | 9103 | 327 | 229634 | 15 | 0.0239 | 0.2172 | | random | 9090 | 303 | 236820 | 15 | 0.0565 | 0.2245 | ## MC 长度捷径(盲选最长选项的准确率) | 全量 | 同规模随机 | **本子集** | |---|---|---| | 51.23% | 51.01% | **49.79%** | 守门阈值是全量 +1.0 个百分点;实际发生 0 次换入。 ## 向量空间覆盖度 三个粒度下对比"覆盖式抽样"和"同规模纯随机"(`09_coverage_probe.py`): | 粒度 | 子集 | 命中簇 | 命中率 | Gini | 单簇最大样本数 | |---|---|---|---|---|---| | 全池 k=2000 | 覆盖式 | 1,753 | 87.6% | **0.541** | — | | | 随机 | 1,748 | 87.4% | 0.561 | — | | 全池 k=8300 | 覆盖式 | 5,106 | 61.5% | **0.697** | **161** | | | 随机 | 5,037 | 60.7% | 0.712 | 287 | | 最大层 k=2004
(oe/0-30s/youtube, 418K→20,045) | 覆盖式 | 1,950 | 97.3% | **0.341** | **45** | | | 随机 | 1,941 | 96.9% | 0.394 | 52 | **结论要分开看,不能笼统说"覆盖更好":** - **命中率上没有意义的差别**(61.5% vs 60.7%、97.3% vs 96.9%)。 在 5% 采样率下这个指标已经饱和 —— 随机抽也能碰到绝大多数簇, 所以"命中多少个簇"根本区分不出两种策略。一开始就不该拿它当主指标。 - **抗过度集中上有真实收益**:单簇最大样本数从随机的 287 降到 161(全池)、 52 降到 45(层内);Gini 从 0.712 → 0.697、0.394 → 0.341。 这才是 `alpha=0.5` 实际起作用的地方 —— 它压的是密集题材簇的过采样, 不是去开拓新区域。 顺带记录一个被这个探针抓出来的 bug:最初的余数分配把 floor 之后的缺口 一次性全给了"剩余空间最大"的那个簇,结果子集在单簇里堆了 **775** 个样本 (随机只有 52),等于把展平反向做成了集中。改成最大余数法逐个发放后才有上表的结果。 ## 产物 ``` annotations/ 与上游同 schema,按原文件切分 + all_sampled.json videos/ mp4,保持原相对路径 frames/ llava_hound 的帧目录 manifest.parquet | .csv ```