Auto-HL Dataset

轻量视界（LIGHTVISION）训练数据 · 端侧视频高光检测

由华东师范大学大创项目团队发布。本仓库只包含标注结果与视频索引，不包含原始视频文件（各源视频受其原有许可约束，见文末）。

教师：InternVideo2.5-8B 自动标注 · 学生：MobileViCLIP S0（17.3M 参数）蒸馏

概览

Auto-HL 是一个面向端侧（on-device）视频高光检测的大规模自动标注基准：由 8B 教师模型 InternVideo2.5 自动标注，再蒸馏训练 17.3M 参数的轻量学生模型 MobileViCLIP-S0。配套论文题为 Auto-HL: A 21K-Video Auto-Annotated Benchmark for On-Device Video Highlight Detection。

核心贡献：

1. 首个面向端侧高光检测的大规模自动标注基准：21,375 视频 / 70,282 窗口，比 TVSum（50 视频）、YouTube Highlights（433 视频）等人工作标注小基准大两个数量级，标注成本趋近于零。
2. 可复现的标注协议：域专属可观察判据（每子类 3-6 条）+ 思维链（CoT）推理 + rule_ok 自洽校验，使教师-人工一致性从无判据时的 43% 提升到 67-77%。
3. 多域覆盖，含第一视角：体育 / 宠物 / 火焰 / 人类日常（含 CharadesEgo 第一视角），强域与弱域并存，适合研究跨域迁移与长尾分布。
4. 完整留档可复现：除主轮标签外，公开 3 组消融训练集、32 类 CoT 逐窗口标注、统一测试集名单；训练/评估脚本见项目仓库。

与现有基准对比

基准	视频数	窗口/片段数	领域	标注方式	第一视角	面向任务
TVSum	50	1,000 人工摘要	10 主题	人工（众包）	否	视频摘要/高光
YouTube Highlights	433	—	6 域	人工排序	否	高光检测
QVHighlights	150h	10,148 片段	日常生活	人工	是	时刻检索（文本查询）
Auto-HL（本数据集）	21,375	70,282	4 域 / 32 类	8B 教师自动标注	是	端侧高光打分/排序

规模

域	子类数	视频数	窗口数	主要来源
火焰	5	4,421	12,479	Kinetics / Pexels / 素材站
宠物	6	4,248	12,952	Kinetics / CO3D / Pexels
人类	2	6,941	31,507	CharadesEgo 等
体育	19	5,765	13,344	UCF-101 等
合计	32	21,375	70,282	多源

文件结构

auto-hl/
├── README.md                      # 本文件（dataset card）
├── LICENSE                        # CC BY-NC 4.0
├── data/
│   ├── phase3_main_train.jsonl    # 主轮训练数据（21,375 视频 / 70,282 窗口）
│   ├── phase3_abl_cop3d.jsonl     # 消融 C：剔除 CO3D
│   ├── phase3_abl_droplow.jsonl   # 消融 B：删低分（score<3.0）
│   ├── phase3_abl_filterrule.jsonl# 消融 A：删违背规则（rule_ok=False）
│   └── test_video_names_final.txt # 统一测试集名单（1,250 视频 / 3,805 窗口）
├── cot/
│   └── v3/*.jsonl(.gz)            # 32 类教师 CoT 逐窗口标注（含 reasoning；indoor_general.jsonl.gz 为 gzip 压缩）
└── metadata/
    ├── 数据集组成_20260821.csv     # 32 类数据组成明细
    ├── annotation_sheet.csv       # 人工标注抽样表（评估用）
    └── ucf_target_categories.json # UCF-101 目标类别映射

标注格式（jsonl，每行一条视频）

{
  "video_name": "BasketballDunk/v_BasketballDunk_g01_c01.avi",
  "domain": "体育",
  "cls": "BasketballDunk",
  "duration": 2.44,
  "windows": [
    {"start": 0.0, "end": 2.4, "score": 4.908, "rule_ok": true, "raw_score": 7.0}
  ]
}

字段说明：

字段	说明
video_name	源数据集的相对路径（视频索引，非本仓库文件）
domain	四大领域之一：火焰 / 宠物 / 人类 / 体育
cls	32 个子类之一（英文名，见 数据集组成_20260821.csv）
duration	视频时长（秒）
windows[].start/end	高光窗口起止（秒）
windows[].score	组合分（教师分 + 清晰度偏移，范围 1-7，越界已 clamp）
windows[].raw_score	纯教师模型分（1-7）
windows[].rule_ok	CoT 自洽检查是否通过（false = 规则违背窗口）

cot/v3/{cls}.jsonl 中的每条窗口额外包含 reasoning 字段（教师 CoT 推理全文）与判据对照，可完整复现标注协议。其中 indoor_general.jsonl.gz 为 gzip 压缩（解压：zcat 或 gzip -d）。

标注协议摘要

每个窗口由 InternVideo2.5-8B 教师按以下协议打分：

1. 域专属可观察判据（每子类 3-6 条，如接飞盘「球在空中被接住」），非笼统「是否精彩」；
2. CoT 推理：先列出符合 / 不符合的判据，再给分；
3. rule_ok 自洽检查：校验分数与所列判据是否一致。

无任务定义时教师-人工一致性仅为人均 43%；加入判据后升至 67-77%。

下载与使用

方式一：datasets 库（推荐）

from datasets import load_dataset
ds = load_dataset("Tanqizheng/auto-hl", data_files="data/phase3_main_train.jsonl")

方式二：huggingface-cli

huggingface-cli download Tanqizheng/auto-hl --repo-type dataset

方式三：直接读 jsonl

import json
with open("data/phase3_main_train.jsonl", encoding="utf-8") as f:
    rows = [json.loads(l) for l in f]

训练/评估复现：

• 训练：python training/train_v4.py（JSONL_FILES 指向 data/phase3_main_train.jsonl）
• 评估：python scripts/bootstrap_ci.py（统一测试集 + 配对 bootstrap，--score-min 0.5 --score-max 7.0）
• 脚本位于项目仓库 highlight_git/（训练 training/、评估/统计 scripts/）

原始视频不在本仓库（第三方许可）。video_name 字段为源数据集相对路径，请按各源（UCF-101 / Kinetics / CharadesEgo / CO3D / Pexels）自行获取。

基准结果（学生模型 MobileViCLIP-S0，推理仅需视频输入）

口径：统一测试集 1,250 视频 / 3,805 窗口；窗口级 Pearson r（主报）+ 配对 bootstrap（n=5000, seed=42）；SCORE_MIN=0.5 / SCORE_MAX=7.0；ImageNet 归一化、8 帧输入。

主轮与消融（整体 r + 95% CI + 分域）：

配置	整体 r	95% CI	人类	体育	宠物	火焰
主轮（全保留）	0.409	[0.374, 0.444]	0.407	0.336	0.560	0.324
A 过滤 rule_ok	0.240	[0.196, 0.282]	0.274	0.100	0.402	0.219
B 低分闸 3.0	0.283	[0.243, 0.322]	0.027	0.338	0.535	0.417
C CO3D 剔除	0.399	[0.363, 0.434]	0.374	0.301	0.591	0.338

配对检验：A / B 显著有害（p<0.001），C 中性（p=0.172）→ 弱标注是"有信息信号"而非噪声。

方法演进（V4 主轮 / V6 / V7）：

模型	整体 r	人类	体育	宠物	火焰	判决
V4 主轮（本项目 hero）	0.409	0.407	0.336	0.560	0.324	采用
V6（分组+组合排序损失）	0.416	0.392	0.374	0.616	0.371	整体不显著(p=0.48)；弱域↑、人类↓
V7（V6 剪枝+蒸馏）	0.404	0.376	0.367	0.610	0.336	显著劣于 V6(p=0.002)，不采用

主轮模型关键指标：r = 0.409 / mAP 0.6197 / H@1 0.3888

外部基准（QVHighlights 官方口径，HL-min-Fair）：

模型	Fair mAP	Fair Hit@1
学生主轮（0818_1625）	35.24	23
学生 v4 负样本变体（0822）	34.88	23
学生 E4（0831）	34.40	24
V5（语言监督）	35.53	24
V6	35.19	23
V7	35.30	24
Moment-DETR（监督上界）	66.09	66
SL-Public（跨域监督）	~41	~31

教师-人工一致性：教师-人工 ≈ 0.32（人类单人间一致性 0.42 的 ~76%）；无判据时 43%，加判据后 67-77%。

补充实验与口径修正（2026-10）

2026 年 10 月补全了一组对照与复算，并修正了几处评估口径。关键结论如下。

指标口径：排序类指标（Spearman ρ / mAP）主报，Pearson r（绝对打分）仅作参考。高光检测本质是排序任务，绝对分数跨尺度不可比，排序相对稳定。

标签翻新 vs 样本删除：对教师标签做软收缩修正（翻新），与"删除违背规则/低分样本"对比。用原始标签重评后，翻新 Pearson r=0.362，显著低于全保留的 0.409（p<0.001）；但排序口径几乎无损（Spearman −0.011，p=0.42）。翻新仍远好于删样本（0.24–0.28），支持"标签应修正而非丢弃"。

零样本基线：Qwen2.5-VL-7B 零样本打分，Spearman 0.087 vs 学生 0.348（p<0.001）。分域看，学生优势集中在人类/宠物域，体育/火焰域零样本能打平。

骨干探针：X-CLIP 冻结特征 + 线性探针拟合教师标签，Spearman 0.339 ≈ 学生 0.348。说明教师标签的线性可分上限约 0.35，MobileViCLIP-S0 不是瓶颈。

V6 去混淆：全量原始标签 + V6 分组损失 r=0.421（Spearman 0.361），显著高于 top2000 重标版（Spearman 0.350，p=0.009）。域间重分配来自损失本身，与重标无关。

内容距离：实测视觉 MMD 距离与手工序数不一致（SumMe 视觉上最近却性能最低），OOD 性能下降实际由任务定义差异驱动，而非视觉内容距离。

检索能力：200 视频扩样本，视频内 P@5 67.9%（随机 20.3%），跨视频 60.4%（随机 30.5%）。

YouTube Highlights 外部基准：主轮模型 147 视频 / 6,925 人工片段。视频内 Spearman：域内同名类（gymnastics/skiing/surfing/dog）+0.11，真 OOD（parkour/skating）+0.15；视频内 mAP 0.46–0.48（优于随机 0.40–0.41）。

ONNX 部署一致性：全测试集 ONNX fp16 vs PyTorch r=0.999971 / MAE=0.0036，覆盖 1064/1070 排序视频（99.4%）。

引用

若使用本数据集，请引用（页面右上角也有 "Cite this dataset" 一键复制按钮）：

@misc{auto_hl_2026,
  title  = {Auto-HL: A 21K-Video Auto-Annotated Benchmark for On-Device
            Video Highlight Detection},
  author = {Tan, Qizheng and Zhou, Zihao and Liang, Siqi},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Tanqizheng/auto-hl}
}

同时建议引用教师/学生模型：InternVideo2.5 与 MobileViCLIP。

已知局限（诚实声明）

• 教师-人工对齐上限 ≈ 0.32（人类单人间一致性 0.42 的 ~76%）；
• 学生模型在训练域内排序可靠（mAP 0.60-0.62），但对人工绝对对齐 ≈ 0（域外）；
• 适用边界 = 训练域内；标注为弱监督，两端（高/低）可靠，中间分数不可靠。

许可

• 标注结果（jsonl 中的分数、判据、CoT 推理）为团队原创，CC BY-NC 4.0（仅限非商业研究，需署名）。
• 原始视频来自 Kinetics-400 / UCF-101 / CharadesEgo / CO3D / Pexels，各受其原有许可约束，本仓库不重发视频文件；使用者需自行按各源许可获取原始视频。