metadata/SAMPLING_REPORT.md

83K 子集 — 抽样结果与验收

生成于 05_select.py（seed=0, alpha=0.5, floor=300）。

硬检查

• 记录数 83,000（目标 83,000）— ✅
• 不同媒体 71,224 个，落盘 428.9 GiB
• 缺失媒体 0 个，零字节 0 个 — ✅
• QA 对 279,679

分布对照

cohort	cap_pairs	cap_median_wc	oe_pairs	oe_median_awc	oe_short_le3	oe_dup_q
full	178510	308	4.66152e+06	15	0.0591	0.3337
selected	9103	327	229634	15	0.0239	0.2172
random	9090	303	236820	15	0.0565	0.2245

MC 长度捷径（盲选最长选项的准确率）

全量	同规模随机	本子集
51.23%	51.01%	49.79%

守门阈值是全量 +1.0 个百分点；实际发生 0 次换入。

向量空间覆盖度

三个粒度下对比"覆盖式抽样"和"同规模纯随机"（09_coverage_probe.py）：

粒度	子集	命中簇	命中率	Gini	单簇最大样本数
全池 k=2000	覆盖式	1,753	87.6%	0.541	—
	随机	1,748	87.4%	0.561	—
全池 k=8300	覆盖式	5,106	61.5%	0.697	161
	随机	5,037	60.7%	0.712	287
最大层 k=2004 (oe/0-30s/youtube, 418K→20,045)	覆盖式	1,950	97.3%	0.341	45
	随机	1,941	96.9%	0.394	52

结论要分开看，不能笼统说"覆盖更好"：

• 命中率上没有意义的差别（61.5% vs 60.7%、97.3% vs 96.9%）。 在 5% 采样率下这个指标已经饱和 —— 随机抽也能碰到绝大多数簇， 所以"命中多少个簇"根本区分不出两种策略。一开始就不该拿它当主指标。
• 抗过度集中上有真实收益：单簇最大样本数从随机的 287 降到 161（全池）、 52 降到 45（层内）；Gini 从 0.712 → 0.697、0.394 → 0.341。 这才是 alpha=0.5 实际起作用的地方 —— 它压的是密集题材簇的过采样， 不是去开拓新区域。

顺带记录一个被这个探针抓出来的 bug：最初的余数分配把 floor 之后的缺口 一次性全给了"剩余空间最大"的那个簇，结果子集在单簇里堆了 775 个样本 （随机只有 52），等于把展平反向做成了集中。改成最大余数法逐个发放后才有上表的结果。

产物

annotations/   与上游同 schema，按原文件切分 + all_sampled.json
videos/        mp4，保持原相对路径
frames/        llava_hound 的帧目录
manifest.parquet | .csv