README.md

# RunningBench 人工标注 · 标注说明

本仓库是 RunningBench 人工标注的分发包。**10 个包 `annotation_bundles/bundle_01.tar` … `bundle_10.tar`，共 1526 题**，每包约 150 题，
按题源分层（fullvideo / excerpt / p01ma_gdrive / p01ma_hf / rbma273）。包内不含标准答案。

[English version → README_EN.md](README_EN.md)

---

## 1. 你要做什么（操作流程）

**任务**：每题给出若干视频片段和 6–8 个选项，题目要求选恰好 n 项（多为 3 项）。你需要看视频后判断**每一个选项**是否被画面支持，
给出最终答案，并判断这道题本身是否清晰。**不做盲答**，直接看视频。

**准备**：下载你分到的那个 tar，解压。不需要安装任何软件，不需要联网。

**步骤**

1. 双击 `review.html`，右上角填写你的姓名（导出文件会带上）。
2. 每题四步：
   - **① 看**：把该题的全部片段看完，边看边在纸上或文本里记一条时间线：转向（方向、大概角度）、路面变化、带数字/文字/颜色的物体、
     行人车辆、显著建筑。时间不用精确，±3 秒即可，要的是**先后顺序和大致位置**。多片段题**每个片段单独记一条**，
     注意 **CLIP 标签顺序不代表时间顺序**（CLIP_A 不一定比 CLIP_B 早）。
   - **② 逐选项核对**：对每个选项点一个标记，**不许凭整体印象**：
     - **✓ 支持**：画面里找得到支撑它的那几秒。
     - **✗ 排除**：画面明确否定它。**一处细节错即为错**（左右反了、顺序反了、颜色不对）。画面覆盖了该地点/时刻但没有该物体，也算排除。
     - **? 无法判定**：画面根本没拍到该选项说的地点/时刻。
   - **③ 最终答案**：勾恰好 n 项，默认跟随 ✓。**✓ 数量 ≠ n 时不要硬凑**：填你最有把握的 n 项，判定选 ambiguous，备注写清是哪个选项导致的。
   - **④ 判定 + 备注**：
     - `clear`：只有一组说得通的答案，且画面看得见。
     - `ambiguous`：存在第二组说得通的答案，或题干有歧义，或 ✓ 数量与 n 不符。
     - `cant_tell`：画面模糊、缺失，或没覆盖到关键时刻。
     - 备注写：哪个选项有问题、你看到了什么、大约第几秒。**这是最有价值的反馈。**
3. 做完一题卡片变绿；页面顶部可筛选"未完成"。进度自动保存在本机浏览器，随时关闭、下次接着做。
   换电脑：先点「导出 JSON」，在新电脑上用「导入进度」恢复。
4. 全部完成后点右上「导出 JSON」，把下载到的 `annotation_<姓名>_<日期>.json` 回传。

**工作量**：单片段题 2–3 分钟，多片段比较题 4–6 分钟，一天约 80–100 题。**每 90 分钟休息一次**，疲劳会明显降低对近似干扰项的识别率。

**片段命名**：`CLIP_1, CLIP_2…` 是同一段录像按时间顺序切出的多段；`CLIP_A…CLIP_J` 是题干里点名的匿名片段，顺序与时间无关；
`VIDEO_A…VIDEO_R` 是跨录像比较题里题干用到的匿名录像编号。

---

## 2. 怎么看、怎么判（校验手册全文）

> 本流程不做盲答，下文凡提到"盲答 / Step 1"的句子请忽略，其余全部适用。

### 0. 一条总原则

> **逐选项对账，不做整体印象判断。**

错误做法：看完视频，凭整体感觉选出"对的三个"。
正确做法：**8 个选项一个一个过**，每个选项在视频里找到"支持它的画面"或
"否定它的画面"，找不到就标记为"判不了"。

为什么：这批题的干扰项是故意造的 near-miss —— 拿画面里真实存在的东西，
改掉一两处细节（左右对调、顺序颠倒、颜色写错）。凭印象看，near-miss 全都"眼熟"，
你会漏掉被改的那一两处。**只有逐项对账能抓出来。**

---

### 1. 两遍看法

#### 第一遍 · 连续看完，记时间线

不看选项（或看过就先放下），从头到尾连续播放，**手上记一条时间线**：

```
0:05  出发，柏油路，路灯亮着
0:18  右转，进入鹅卵石路面
0:31  左侧出现编号 11 的建筑
0:44  对面骑车人（车前灯亮）驶过
0:58  经过自行车停放架
1:12  两根红白条纹护柱之间穿过
1:27  右侧混凝土长椅
1:40  红白施工围挡开始
```

记什么：**转弯（方向+大概角度）、路面变化、有编号/文字/颜色的物体、
移动的人和车、明显的建筑**。不用记全,记"可能被出题的东西"。

时间戳不用精确,±3 秒足够 —— 你要的是**顺序和大概位置**,不是秒表。

多片段的题（题干里有 CLIP_B、CLIP_F 这类标签）:**每个片段各记一条时间线**,
标签写在开头。注意:**标签顺序不代表时间顺序**,CLIP_A 未必比 CLIP_B 早。

#### 第二遍 · 逐选项定点核对

现在打开选项,一个一个过。每个选项:

1. **拆出它声称的事实**。比如选项 B:
   "穿过两根条纹护柱进入有混凝土长椅的路段,早于经过红白施工围挡"
   拆成三件事:① 有条纹护柱 ② 护柱后有长椅 ③ 这些都在施工围挡之前
2. **对照你的时间线**。护柱 1:12、长椅 1:27、围挡 1:40 —— 三件事都对 → 支持
3. **拿不准就拖回去看**。用播放器拖到时间线上对应位置,只看那几秒。
   这就是记时间线的意义:第二遍不用重看全片,只做定点核查。

每个选项在纸上标一个符号:**✓ 支持 · ✗ 否定（写明哪一处错）· ? 判不了**

全部 8 个过完再下结论。**✓ 应该恰好 3 个** —— 多了少了都说明有问题
（要么标注错,要么题目歧义）,这本身就是你要报告的发现。

---

### 2. 每类题看什么

| 题型 | 第一遍重点记 | 第二遍核对什么 |
|---|---|---|
| `event-order` 事件顺序 | 每个显著事件的时间戳 | 选项里"X 早于 Y"逐对核对时间线 |
| `turn-pattern` 转弯模式 | 每次转弯:方向、急缓、路口特征 | 选项说的方向/角度/次序有没有写反 |
| `landmark-order` 地标顺序 | 地标出现时刻 + 在路的哪一侧 | 顺序 + **左右侧**（最常被改的细节） |
| `landmark-revisit` 重复经过 | 同一物第二次出现的时刻和方向 | 是不是真的同一个物（对细节:颜色/文字/损伤） |
| `environment-*` 环境变化 | 路面材质/植被/建筑密度的切换点 | 变化方向对不对（"从柏油到碎石"还是反过来） |
| `spatial-consistency` 空间关系 | 关键物在路的左/右/前方 | **去程右侧 = 回程左侧**,别被折返骗了 |
| `same-place-different-recording` | 两个片段各自的地标清单 | 逐个地标比对:同一颗树、同一块牌子? |
| `route-identity` 是否同一条路 | 各片段的路面、转弯序列 | 转弯序列一致才算同路,单个地标相似不够 |

**跨录像的题**（对比两次不同录制）额外注意:
- 光照可以完全不同（一次白天一次夜里）,别因为"看起来不像"就判不同地点
- 判"同一地点"要靠**不变的东西**:建筑形状、路的走向、固定设施
- 判"不同"要靠**结构差异**:转弯序列不同、路面材质不同,而不是行人车辆这些偶然物

---

### 3. 判定规则（容易搞错的三种情况）

#### ① 选项说的东西画面里根本没有

**看情况,这是最容易判错的一类:**

- 片段**完整覆盖**了选项声称的位置/时段,那里没这东西 → **✗ 否定**。
  例:选项说"深灰色旅行车停在长椅旁",片段清楚拍到了长椅一带,没有任何车 → 否定。
- 片段**没拍到**选项说的位置/时段 → **? 判不了**。
  例:选项讲"过桥之后…"而片段在过桥前就结束了 → 判不了。

区别在于:**画面给没给你否定它的机会。**

#### ② 选项大部分对、一处错

**→ ✗ 否定。** 一处错就是错。near-miss 干扰项就长这样,
"长椅在右侧"（实际在左侧）不能因为"确实有长椅"就放过。

#### ③ 你看到的和标注答案数对不上

数出 4 个 ✓ 或只有 2 个 ✓ 时,**不要硬凑成 3 个**。如实选:
- 你的三个最有把握的作为"最终答案"
- 判定选 `ambiguous`（多于 3 个说得通）或 `wrong_answer`
- **备注里写清是哪个选项出的问题** —— 这是最有价值的反馈

---

### 4. 完整示范（真题）

**题型 event-order · 2 个片段（CLIP_C、CLIP_F,同一夜跑录像的两段）**

> Q: 以下哪些选项正确描述了路线上事件的时间顺序?选三个。
>
> A. 在到达标有数字 11 的建筑之前,先与亮着车前灯的迎面骑车人擦肩而过
> B. 穿过两根条纹护柱进入有混凝土长椅的路段,早于经过红白施工围挡
> C. 经过红白施工围挡早于穿过两根条纹护柱     ← 注意:恰好是 B 的反命题
> D. 在沿着经过施工围挡的直路之后,才在路右缘遇到混凝土长椅
> E. 在鹅卵石路段经过 11 号建筑,早于到达室外自行车架
> F. 迎面骑车人是在有施工围挡的直路柏油段遇到的,而非弯曲鹅卵石路段
> G. 先经过 11 号建筑,之后才在鹅卵石路上遇到迎面骑车人   ← A 的反命题
> H. 在鹅卵石路上经过自行车架,早于走上路灯下草坪相夹的直路

**第一遍**,两个片段各记时间线:

```
CLIP_C: 0:03 鹅卵石路 · 0:15 迎面骑车人(车灯) · 0:29 建筑"11" · 0:41 自行车架
CLIP_F: 0:05 条纹护柱×2 · 0:12 混凝土长椅(右) · 0:limit 草坪直路(路灯) · 0:47 施工围挡
```

还差一件事:**CLIP_C 和 CLIP_F 谁先谁后?** 标签不代表顺序。
线索:CLIP_H 段选项说"鹅卵石路早于草坪直路" —— 你得从画面推
(比如 CLIP_C 结束处的场景是否衔接 CLIP_F 开头,或看两段的疲劳程度/环境延续性),
推不出就依靠单段内部能判定的选项。

**第二遍逐项**:

```
A  骑车人(C 0:15) 早于建筑11(C 0:29)      → ✓ 同段内可判
B  护柱(F 0:05) 早于围挡(F 0:47)          → ✓ 同段内可判
C  与 B 相反                              → ✗
D  长椅(F 0:12) 在围挡(F 0:47) 之前,选项说在后 → ✗
E  建筑11(0:29) 早于车架(0:41)?选项方向对 → 等等,再核一遍…✓? 但标注答案没有 E!
   → 重看 0:29-0:41:车架其实 0:26 就在画面边缘出现过 → E 实际为 ✗
F  骑车人在鹅卵石段(C),选项说在柏油围挡段  → ✗
G  与 A 相反                              → ✗
H  车架(C 0:41,鹅卵石) 早于草坪直路(F)    → ✓ 需要跨段顺序,由画面衔接判定
```

✓ = A、B、H,恰好 3 个,与标注一致 → 判定 `correct`。

注意 E 那一步:**差点被自己的时间线骗了** —— 第一遍漏记了 0:26 画面边缘的车架。
所以拿不准的选项一定要拖回去重看,时间线是索引,不是证据。

---

### 5. 常见错误清单

| 错误 | 后果 |
|---|---|
| 凭整体印象选三个,不逐项对账 | near-miss 干扰项全漏 |
| 先看视频再补盲猜 | 盲猜数据作废,可猜率虚低 |
| "画面里没有"一律判否定 | 把"判不了"误当"否定",高估标注质量 |
| 折返路段忘了左右互换 | spatial 类题全判反 |
| 把 CLIP 标签顺序当时间顺序 | event-order 题判反 |
| 凑答案数(明明看到 4 个对,硬选 3 个) | 掩盖了题目歧义,这正是要报告的 |
| 跨录像题因光照不同判"不同地点" | 昼夜对比题全错 |

---

### 6. 一天能校多少

熟练后单片段题约 2-3 分钟/道,多片段对比题 4-6 分钟/道。
**一天 6 小时约 80-100 道。** 抽样 120 道(推荐)约一天半。

疲劳会显著降低 near-miss 的辨识率 —— **连续校验不要超过 90 分钟**,休息再来。

---

## 3. 回传与验收

- 回传：每人一个导出的 JSON 文件，不需要改任何内容。
- 验收线：标注一致率 > 90%（由回收方用标准答案合并计算）。一致率低不是你的问题，是题的问题，**如实报告最重要**。