model_eval_thinking/README.md

# 模型评测结果 — 含完整思考过程（Thinking）

对 11 个具备"思考"能力的模型（7 个可切换 think/nothink 的模型 + 4 个恒定思考的
"-Thinking"品牌模型），在两套题源上跑的评测结果。**每一行都保留了模型的完整原始输出
（`raw` 字段），包括完整的推理/思考文本，不是只存最终答案。**

📊 **[ANALYSIS.md](ANALYSIS.md) — 基于这批数据算出来的统计分析**（单视频语料比多视频
语料对所有模型都更容易、think 模式对不同家族效果相反、思考失控/截断率等）

## 两套题源

| 目录 | 题源 | 题数 | 说明 |
|---|---:|---|---|
| `v1/` | `qa_fix_gold_recovery_and_adjudication/data/runningbench_v2_kept.jsonl` | 1487 | 混合单/多片段题（`cross_video`等），本仓库主语料 |
| `v2_700/` | `segments_60s_gemini_verification/final/segments_700_verified.jsonl` | 698 | 全部单片段(60s)题，100% Gemini 视觉核验过 |

## 11 个模型

| 模型 | 类型 |
|---|---|
| Qwen3.5-9B / 27B / 35B-A3B / 122B-A10B | 可切换 think/nothink，本目录存的是 `think` 模式，`--max-tokens 16384` |
| ERNIE-4.5-VL-28B-A3B | 同上 |
| GLM-4.6V | 同上 |
| Gemma-4-31B-it | 同上 |
| GLM-4.1V-9B-Thinking | 恒定思考，无 nothink 版本 |
| Kimi-VL-A3B-Thinking-2506 | 同上 |
| Qwen3-VL-30B-A3B-Thinking | 同上 |
| Qwen3-VL-235B-A22B-Thinking | 同上 |

对应的 `nothink` 结果（7 个可切换模型）在仓库结果里以 `<模型>-nothink.jsonl` 命名，
未开思考、按当前预算逻辑不需要单独存 `raw`（无思考文本）。

## 字段说明

```jsonc
{
  "review_id": "…",
  "unit": "cross_video",        // 见 v1 题源的 unit 分布；v2_700 恒为 "60s_segment"
  "question_type": "…",
  "n_select": 1, "n_options": 6, "n_frames": 64, "n_clips": 1,
  "model": "Qwen3.5-9B",
  "raw": "<think>…完整推理过程…</think>\n{\"answer\": [\"A\"]}",  // 模型原始输出,含完整思考文本
  "pred": ["A"], "gold": ["A"], "exact": true, "overlap": 1.0,
  "n_pred": 1, "latency_s": 21.2
}
```

一道题若因为模型思考时间过长、未能在合理时间内返回而被放弃，行内没有 `raw`/`pred` 等字段，
只有 `{"review_id": "…", "model": "…", "error": "GaveUp: …"}`，可以按 `error` 字段筛出来。

推理预算统一 `--max-tokens 16384`（"-Thinking"品牌模型最初误用了默认的 2048，发现后
已全部用 16384 重新跑过）。即便如此，约 1%-6% 的题目里模型仍会陷入重复推理循环、在
预算内没有收敛到最终答案，`raw` 字段完整保留了这些失控文本，详见 [ANALYSIS.md](ANALYSIS.md)。

## 完成情况

**11 个模型 × 2 套题源，全部跑完，全部上传。**

| 模型 | v1(1487题) | v2_700(698题) |
|---|---:|---:|
| Qwen3-VL-235B-A22B-Thinking | ✅ 1487/1487 | ✅ 698/698 |
| Qwen3-VL-30B-A3B-Thinking | ✅ 1487/1487 | ✅ 698/698 |
| GLM-4.6V | ✅ 1487/1487 | ✅ 698/698 |
| GLM-4.1V-9B-Thinking | ✅ 1487/1487 | ✅ 698/698 |
| ERNIE-4.5-VL-28B-A3B | ✅ 1487/1487 | ✅ 698/698 |
| Kimi-VL-A3B-Thinking-2506 | ✅ 1487/1487 | ✅ 698/698 |
| Qwen3.5-9B | ✅ 1487/1487 | ✅ 698/698 |
| Qwen3.5-27B | ✅ 1487/1487 | ✅ 698/698 |
| Qwen3.5-35B-A3B | ✅ 1487/1487 | ✅ 698/698 |
| Qwen3.5-122B-A10B | ✅ 1487/1487 | ✅ 698/698 |
| Gemma-4-31B-it | ⚠️ 1484/1487(3题放弃) | ⚠️ 693/698(5题放弃) |

Gemma-4-31B-it 的少量题目因为陷入超长思考循环、迟迟不收敛，等待成本已经超过合理范围，
人工判定放弃，在文件里标记为 `error: "GaveUp"`，其余题目均正常完成，不影响整体统计
（`ANALYSIS.md` 里的 Gemma-4-31B-it 各项统计都是基于实际完成的题目算的）。