code/analyze_results.py

import json,collections,hashlib,statistics,math,random,csv,shutil
from pathlib import Path
import numpy as np
from common import read_jsonl,write_json

root=Path('/home/ach18533cl/workspace/SceneBench');out=root/'evaluation';rows=list(read_jsonl(root/'release/benchmark.jsonl'));preds={r['id']:r for r in read_jsonl(out/'predictions.jsonl')};assert all(r['id'] in preds for r in rows),'Evaluation incomplete'
frozen=json.loads((root/'release/FROZEN.json').read_text());protocol=json.loads((out/'protocol.json').read_text());assert frozen['benchmark_sha256']==protocol['benchmark_sha256']==hashlib.sha256((root/'release/benchmark.jsonl').read_bytes()).hexdigest()
records=[]
for r in rows:
 p=preds[r['id']];assert p['gold']==r['answer'];prediction=p.get('prediction');text=r['options'][ord(prediction)-65] if prediction and 0<=ord(prediction)-65<len(r['options']) else None
 records.append({**p,'answer_class':r['answer_class'],'prediction_text':text,'episode_id':r['episode_id'],'tags':r['tags'],'options':r['options'],'question':r['question'],'frame_ids':r['frame_ids'],'choice_count':len(r['options'])})
def calc(rr):
 n=len(rr);k=sum(bool(x['correct']) for x in rr);ok=sum(x['status']=='ok' for x in rr);parsed=sum(x.get('prediction') is not None for x in rr)
 return dict(n=n,correct=k,accuracy=k/n if n else None,api_ok=ok,api_errors=n-ok,parsed=parsed,parse_errors=ok-parsed,coverage=parsed/n if n else None,uniform_random_accuracy=sum(1/x['choice_count'] for x in rr)/n if n else None)
def grouping(key):
 return {k:calc([r for r in records if r[key]==k]) for k in sorted({r[key] for r in records})}
summary=calc(records);bytask=grouping('task');byfamily=grouping('family');byvideo=grouping('video_id')
summary['family_equal_mean_accuracy']=statistics.mean(v['accuracy'] for v in byfamily.values());summary['task_equal_mean_accuracy']=statistics.mean(v['accuracy'] for v in bytask.values());summary['hierarchical_balanced_accuracy']=statistics.mean(statistics.mean(bytask[t]['accuracy'] for t in bytask if next(r['family'] for r in records if r['task']==t)==f) for f in byfamily);summary['model']=protocol['model'];summary['benchmark_sha256']=frozen['benchmark_sha256']
classes={t:{a:calc([r for r in records if r['task']==t and r['answer_class']==a]) for a in sorted({r['answer_class'] for r in records if r['task']==t})} for t in bytask}
confusion={t:dict(collections.Counter(json.dumps([r['gold_text'],r['prediction_text']],ensure_ascii=False) for r in records if r['task']==t)) for t in bytask}
dynamic={t:{str(a):calc([r for r in records if r['task']==t and r['tags'].get('changed')==a]) for a in [False,True]} for t in bytask if t.startswith('D')}
usage={'prompt_tokens':sum((r.get('usage') or {}).get('prompt_tokens',0) or 0 for r in records),'completion_tokens':sum((r.get('usage') or {}).get('completion_tokens',0) or 0 for r in records),'reported_cost_usd':sum((r.get('usage') or {}).get('cost',0) or 0 for r in records),'records_with_cost':sum('cost' in (r.get('usage') or {}) for r in records),'providers':dict(collections.Counter(str(r.get('provider')) for r in records)),'models_returned':dict(collections.Counter(str(r.get('model_returned')) for r in records)),'mean_latency_s':statistics.mean(r['latency_s'] for r in records),'p50_latency_s':float(np.percentile([r['latency_s'] for r in records],50)),'p95_latency_s':float(np.percentile([r['latency_s'] for r in records],95))}
# A descriptive video-cluster bootstrap; nine videos cannot establish population-level certainty.
rng=np.random.default_rng(20260922);vv=list(byvideo.values());boot=[]
for _ in range(10000):
 ix=rng.integers(0,len(vv),len(vv));boot.append(sum(vv[i]['correct'] for i in ix)/sum(vv[i]['n'] for i in ix))
summary['video_cluster_bootstrap_95_interval']=list(map(float,np.percentile(boot,[2.5,97.5])));summary['ci_note']='Descriptive 9-video cluster bootstrap; not independent-frame confidence, no reliable rare-CVS generalization claim.'
report=dict(summary=summary,by_family=byfamily,by_task=bytask,by_video=byvideo,by_answer_class=classes,dynamic_changed=dynamic,confusion=confusion,usage=usage)
write_json(out/'results.json',report)
for name,groups in [('family',byfamily),('task',bytask),('video',byvideo)]:
 with (out/f'{name}_results.csv').open('w') as f:
  w=csv.DictWriter(f,fieldnames=[name]+list(summary)[:9]);w.writeheader()
  for k,v in groups.items():w.writerow({name:k,**{kk:v[kk] for kk in list(summary)[:9]}})
def pct(v):return f'{100*v:.2f}%' if v is not None else 'N/A'
families=['Perception','Relation','Composition','Procedure','CVS','Dynamic'];famcn={'Perception':'感知','Relation':'关系','Composition':'组合','Procedure':'流程','CVS':'CVS','Dynamic':'动态'}
lines=['# SceneBench：Qwen3-VL-32B-Instruct 结果分析','',f'在冻结的 **{summary["n"]} 题**上，模型答对 **{summary["correct"]} 题**，总成功率（严格选项准确率）为 **{pct(summary["accuracy"])}**。合法答案覆盖率为 {pct(summary["coverage"])}；API 错误 {summary["api_errors"]} 题，返回成功但不能解析为合法选项 {summary["parse_errors"]} 题。','', '## 评测口径','',f'实际模型 ID：`{protocol["model"]}`，通过 OpenRouter 调用。该模型是 Qwen3-VL 的 32B Instruct，不能把结果标为 Qwen2.5-VL。温度 0，seed 20260922，max_tokens 64；每题单次调用，要求只输出选项字母。网络传输/服务端错误允许重试，答错不会重试。','', '输入仅包括最终 JPEG、问题和存储顺序的选项；P01/P02 图片包含 A 标记。动态任务一次调用输入两张图，其他任务单张图。模型没有获得 GT scene graph、标签、video ID、帧号或答案。','', '这是未经过本项目 SFT/RL 的直接 VQA 基线，没有执行 graph-then-thinking。它回答基础 Instruct 模型当前能做对多少题；不能据此判断未来 graph-then-thinking 训练的增益。', '', '分母为全部题目，API 错误与无法解析的输出记作失败。未按模型答题表现删除、改写或替换任何冻结题目。不同题型包含二/三/四选一，均匀随机选项的混合参考值为 '+pct(summary['uniform_random_accuracy'])+'，比较时需考虑选择数与类别不平衡。','', '## 六层结果','', '| 层 | 题数 | 答对 | 成功率 | 均匀随机参考 |','|---|---:|---:|---:|---:|']
for f in families:
 s=byfamily[f];lines.append(f'| {famcn[f]} | {s["n"]} | {s["correct"]} | {pct(s["accuracy"])} | {pct(s["uniform_random_accuracy"])} |')
lines+=['',f'六层等权均值为 {pct(summary["family_equal_mean_accuracy"])}，28 题型等权均值为 {pct(summary["task_equal_mean_accuracy"])}；先在层内对题型等权、再对六层等权的分数为 **{pct(summary["hierarchical_balanced_accuracy"])}**；它们只是同一个 benchmark 的补充统计，不另设榜单。按 9 个视频为单位重采样的描述性 95% 区间为 {pct(summary["video_cluster_bootstrap_95_interval"][0])}–{pct(summary["video_cluster_bootstrap_95_interval"][1])}。只有 9 个视频且任务分布经过抽样，这个区间不能替代更多独立手术上的验证。','', '## 逐题型结果','', '| 题型 | 题数 | 答对 | 成功率 | 解析失败 |','|---|---:|---:|---:|---:|']
for t,s in bytask.items():lines.append(f'| {t} | {s["n"]} | {s["correct"]} | {pct(s["accuracy"])} | {s["parse_errors"]} |')
best=sorted(bytask,key=lambda t:bytask[t]['accuracy'],reverse=True);lines+=['', '最高的三个题型：'+ '、'.join(f'{t}（{pct(bytask[t]["accuracy"])}）' for t in best[:3])+'；最低的三个题型：'+'、'.join(f'{t}（{pct(bytask[t]["accuracy"])}）' for t in best[-3:])+ '。这是观察到的表现排序，不等同于题型固有难度；每个题型的类分布、选择数和源标注噪声不同。','', '## CVS：不能只看总体阳性','', '| 题型 | GT 分值/类别 | 题数 | 答对 | 该类召回率 |','|---|---|---:|---:|---:|']
for t in ['V01','V02','V03','V04']:
 for a,s in classes[t].items():lines.append(f'| {t} | {a} | {s["n"]} | {s["correct"]} | {pct(s["accuracy"])} |')
lines+=['', 'V01–V03 在整体 CVS 阴性时仍然有独立判分意义。V04 阳性只有 VID66 同一个事件的 3 帧；V03 2 分也来自同一个事件；V02 2 分来自 VID51 两个区间。因此上表的阳性召回是“这些帧”的描述，不是可靠的跨手术敏感度。V04 的 Yes/No 采用 Cholec80-CVS 总分 ≥5 的原始约定，不能解释为独立临床安全认证。','', '## 动态任务与稳定/变化端点','', '| 题型 | 端点状态 | 题数 | 成功率 |','|---|---|---:|---:|']
for t,aa in dynamic.items():
 for a,s in aa.items():lines.append(f'| {t} | {"变化" if a=="True" else "稳定"} | {s["n"]} | {pct(s["accuracy"])} |')
lines+=['', '这里一次请求输入两帧，没有为每帧生成 graph。D02/03 跟踪的是同一查询的器械类别/动作条件，源数据未提供同一物理实例的 tracking ID。稳定样本与变化样本分开报告，可以识别模型是否主要依赖“没有变化”的先验。','', '## 视频分布','', '| 视频 | 题数 | 成功率 |','|---|---:|---:|']
for v,s in byvideo.items():lines.append(f'| {v} | {s["n"]} | {pct(s["accuracy"])} |')
lines+=['', '各视频包含的阶段与稀有标签不同，因此该表用于检查分布和异常，不直接把视频间分差归因于画质或临床难度。','', '## 可复核的错误例子','', '下列为每层按固定样本 ID 顺序取的最多两个错误，未根据主观故事挑选。模型只返回字母，无法从输出推断其内部推理或错误原因。','', '| 层/样本 | 问题 | GT | 模型选择 |','|---|---|---|---|']
for f in families:
 for r in [r for r in records if r['family']==f and not r['correct']][:2]:
  lines.append('| '+' | '.join([f'{famcn[f]} / {r["id"]}',r['question'],r['gold_text'],r['prediction_text'] or '(无合法选项)']).replace('\n',' ')+' |')
lines+=['', '完整按题型/答案类的计数、混淆对和预测文本见 evaluation/results.json 与 predictions.jsonl。GT 是现有标注和几何规则的参考答案；源图中的自动检测/解剖分类仍可能存在残余错误，模型与标签不一致时应先回看证据，不能一概认定模型医学判断错误。','', '## 下一轮调整的依据','', '当前冻结 test 集保持不变。后续可据低成功率题型安排训练覆盖，同时在独立 train/validation 视频上选择训练难度和做提示调整。不要反复按这批 test 的成败删题或调整后再作为无偏测试。若需要修复确认的标注错误，应发布新版本并保存旧版得分。','', 'CVS 最优先增加的是独立阳性手术/事件；单纯从 VID66 同一区间再抽更多帧不会增加同等独立信息。器械计数和空间组合宜优先复核源 bbox 的重复、错位和漏检，避免把标注噪声当成训练目标。','', '## 调用统计与文件','',f'记录到输入 token {usage["prompt_tokens"]:,}，输出 token {usage["completion_tokens"]:,}；API usage 返回的费用合计 **${usage["reported_cost_usd"]:.6f}**（{usage["records_with_cost"]}/{len(records)} 条有 cost 字段）。该费用不包含服务方未回传 usage 的失败请求，账单以 OpenRouter 为准。平均请求延迟 {usage["mean_latency_s"]:.2f} 秒，中位数 {usage["p50_latency_s"]:.2f} 秒，P95 {usage["p95_latency_s"]:.2f} 秒。','',f'实际 provider 分布：`{json.dumps(usage["providers"],ensure_ascii=False)}`。实际返回 model 分布：`{json.dumps(usage["models_returned"],ensure_ascii=False)}`。','', '- `evaluation/protocol.json`：请求协议。','- `evaluation/predictions.jsonl`：逐题原始内容、选项、对错、usage、provider、延迟。','- `evaluation/results.json`：全部统计和混淆。','- `evaluation/{family,task,video}_results.csv`：方便后续分析的表格。','- `docs/Benchmark说明_20260922.md`：独立 benchmark 说明。','',f'本次冻结 SHA256：`{frozen["benchmark_sha256"]}`。']
insights=['## 结果中最需要关注的现象','','R01 动作识别为 92.50%、R02 动作主体识别为 91.25%，而 R03 动作目标识别仅 33.75%，P01 带框器械识别也只有 43.48%。因此较高的 Relation 总分主要由前两类拉高，不能直接解释为完整 scene graph 已被正确理解。器械、动词之间存在真实的高频搭配；在没有 question-only 对照的情况下，视觉识别与语言先验各自贡献多少仍未确定。','','组合任务中，C02 空间筛选器械后查询目标为 25.00%，C01 两个动作目标的有序组合为 32.50%；C05 为 67.21%，且仅 61 题。这提示训练覆盖应分别观察每种查询，不能只用 Composition 均值判断所有组合能力。对低分样本仍需区分模型错误与源图残余噪声。','','CVS 的预测分布比总体准确率更有解释力：V02 有 30/60 次选择 2 分，而 GT 只有 6 个 2 分样本；V03 有 56/60 次选择 1 分，并且没有选择 0 分。V04 九题全部回答 No，所以 66.67% 准确率完全等于多数类基线，三个阳性均未识别。这个版本不能把 V04 的总体准确率当成阳性识别能力。','','PR01 每个阶段的 GT 都是 50 题，但模型只预测了 7 次 Cleaning and coagulation，预测了 91 次 Calot triangle dissection。常见错误包括 18 次把 Gallbladder dissection 判为 Calot，以及 18 次把 Cleaning and coagulation 判为 Calot，显示出明显的阶段预测偏向。','','动态任务并非统一表现为只会回答“稳定”：D01 稳定端点仅 25.00%、变化端点 62.50%；D05 则为稳定 70.00%、变化 40.00%。D05 的错误包括把 Below→Above 判为 Below→Below 五次、把 Right→Left 判为 Right→Right 四次。后续两帧训练应同时覆盖稳定、真实变化及变化方向。','']
idx=lines.index('## 下一轮调整的依据');lines[idx:idx]=insights
lines += ['', '正式基线之前另做了三次 P01 接口格式检查，只检查 API 状态和能否解析选项；这些检查与输出另存于 work/pipeline_smoke_excluded，不纳入上述准确率或正式基线费用。题目筛选未使用其答对与否。']
doc=root/'docs/Qwen3VL32B_Benchmark结果分析_20260922.md';doc.write_text('\n'.join(lines)+'\n')
hf=root/'huggingface';(hf/'evaluation').mkdir(exist_ok=True)
for p in out.iterdir():
 if p.suffix in ['.json','.jsonl','.csv']:shutil.copy(p,hf/'evaluation'/p.name)
shutil.copy(doc,hf/'docs'/doc.name)
for p in ['analyze_results.py','upload_hf.py']:shutil.copy(root/p,hf/'code'/p)
card=hf/'README.md';content=card.read_text().split('\n## Completed baseline results')[0];content+='\n## Completed baseline results\n\n'+f'Model `{protocol["model"]}`: **{summary["correct"]}/{summary["n"]} = {pct(summary["accuracy"])}** strict micro accuracy; valid-answer coverage {pct(summary["coverage"])}. API errors: {summary["api_errors"]}; parse errors: {summary["parse_errors"]}. Six-family equal mean: {pct(summary["family_equal_mean_accuracy"])}.\n\n'+'| Family | Correct / N | Accuracy |\n|---|---:|---:|\n'+''.join(f'| {f} | {byfamily[f]["correct"]}/{byfamily[f]["n"]} | {pct(byfamily[f]["accuracy"])} |\n' for f in families)+'\n[Full results and limitations](docs/Qwen3VL32B_Benchmark结果分析_20260922.md), [machine-readable statistics](evaluation/results.json), [raw predictions](evaluation/predictions.jsonl).\n';card.write_text(content)
print(json.dumps({'summary':summary,'usage':usage},ensure_ascii=False),flush=True)