model_eval_thinking/README.md

模型评测结果 — 含完整思考过程（Thinking）

对 11 个具备"思考"能力的模型（7 个可切换 think/nothink 的模型 + 4 个恒定思考的 "-Thinking"品牌模型），在两套题源上跑的评测结果。每一行都保留了模型的完整原始输出 （raw 字段），包括完整的推理/思考文本，不是只存最终答案。

📊 ANALYSIS.md — 基于这批数据算出来的统计分析（单视频语料比多视频 语料对所有模型都更容易、think 模式对不同家族效果相反、思考失控/截断率等）

两套题源

目录	题源	题数	说明
v1/	qa_fix_gold_recovery_and_adjudication/data/runningbench_v2_kept.jsonl	1487	混合单/多片段题（cross_video等），本仓库主语料
v2_700/	segments_60s_gemini_verification/final/segments_700_verified.jsonl	698	全部单片段(60s)题，100% Gemini 视觉核验过

11 个模型

模型	类型
Qwen3.5-9B / 27B / 35B-A3B / 122B-A10B	可切换 think/nothink，本目录存的是 think 模式，--max-tokens 16384
ERNIE-4.5-VL-28B-A3B	同上
GLM-4.6V	同上
Gemma-4-31B-it	同上
GLM-4.1V-9B-Thinking	恒定思考，无 nothink 版本
Kimi-VL-A3B-Thinking-2506	同上
Qwen3-VL-30B-A3B-Thinking	同上
Qwen3-VL-235B-A22B-Thinking	同上

对应的 nothink 结果（7 个可切换模型）在仓库结果里以 <模型>-nothink.jsonl 命名， 未开思考、按当前预算逻辑不需要单独存 raw（无思考文本）。

字段说明

{
  "review_id": "…",
  "unit": "cross_video",        // 见 v1 题源的 unit 分布；v2_700 恒为 "60s_segment"
  "question_type": "…",
  "n_select": 1, "n_options": 6, "n_frames": 64, "n_clips": 1,
  "model": "Qwen3.5-9B",
  "raw": "<think>…完整推理过程…</think>\n{\"answer\": [\"A\"]}",  // 模型原始输出,含完整思考文本
  "pred": ["A"], "gold": ["A"], "exact": true, "overlap": 1.0,
  "n_pred": 1, "latency_s": 21.2
}

一道题若因为模型思考时间过长、未能在合理时间内返回而被放弃，行内没有 raw/pred 等字段， 只有 {"review_id": "…", "model": "…", "error": "GaveUp: …"}，可以按 error 字段筛出来。

推理预算统一 --max-tokens 16384（"-Thinking"品牌模型最初误用了默认的 2048，发现后 已全部用 16384 重新跑过）。即便如此，约 1%-6% 的题目里模型仍会陷入重复推理循环、在 预算内没有收敛到最终答案，raw 字段完整保留了这些失控文本，详见 ANALYSIS.md。

完成情况

11 个模型 × 2 套题源，全部跑完，全部上传。

模型	v1(1487题)	v2_700(698题)
Qwen3-VL-235B-A22B-Thinking	✅ 1487/1487	✅ 698/698
Qwen3-VL-30B-A3B-Thinking	✅ 1487/1487	✅ 698/698
GLM-4.6V	✅ 1487/1487	✅ 698/698
GLM-4.1V-9B-Thinking	✅ 1487/1487	✅ 698/698
ERNIE-4.5-VL-28B-A3B	✅ 1487/1487	✅ 698/698
Kimi-VL-A3B-Thinking-2506	✅ 1487/1487	✅ 698/698
Qwen3.5-9B	✅ 1487/1487	✅ 698/698
Qwen3.5-27B	✅ 1487/1487	✅ 698/698
Qwen3.5-35B-A3B	✅ 1487/1487	✅ 698/698
Qwen3.5-122B-A10B	✅ 1487/1487	✅ 698/698
Gemma-4-31B-it	⚠️ 1484/1487(3题放弃)	⚠️ 693/698(5题放弃)

Gemma-4-31B-it 的少量题目因为陷入超长思考循环、迟迟不收敛，等待成本已经超过合理范围， 人工判定放弃，在文件里标记为 error: "GaveUp"，其余题目均正常完成，不影响整体统计 （ANALYSIS.md 里的 Gemma-4-31B-it 各项统计都是基于实际完成的题目算的）。