SceneBench v1: frozen source-derived test benchmark and verified artifacts

code/package_release.py

@@ -19,7 +19,7 @@ for f,n in zip(families,cn):lines.append(f'| {n} | {sum(cfg["target_counts"][t]
 lines+=['',f'候选抽样得到 {cur["initial"]} 题，图像复核剔除 {cur["dropped"]} 题，修正 {cur["point_corrections"]} 个箭头落点。C05、D02、V04 在初次抽样时已有候选容量缺口；进一步复核导致 P01/P02/P04/C04/C06 减少。没有用重复题或放宽 GT 唯一性来补齐目标。', '', '## 每个题型的真实问答示例', '', '下列示例均直接来自本次冻结的 benchmark.jsonl。选项顺序、答案与样本 ID 一致。完整证据见同 ID 的 source_evidence、query、marker 字段。', '']
 for t in cfg['target_counts']:
  r=next(r for r in rows if r['task']==t);lines += [f'### {t} · {task_names[t]}（{tc[t]} 题）','',f'样本 `{r["id"]}`；来源 `{r["video_id"]}`，1 fps 帧 `{r["frame_ids"]}`。', '',r['question'],'']+[f'- {chr(65+i)}. {a}' for i,a in enumerate(r['options'])]+['',f'正确答案：**{r["answer"]}. {r["answer_text"]}**。','']
-lines += ['## Ground truth 与可追溯性', '', '原始目录为 `/home/ach18533cl/workspace/ori_data`。', '', '- 图像：`CholecT45/data/VIDxx/ffffff.png`。1 fps 帧索引从 0 开始，对应 Cholec80 原始 25 fps 帧号 `25 × f`；对九个视频逐帧验证了该映射。','- 动作与目标：`CholecT45/triplet/VIDxx.txt` 及 `dict/`。R01–R03、动作组合和动态动作使用真实 IVT；排除 null 动作/目标及完整查询多解。','- 阶段与器械存在：` Cholec80_labels/labels/{train,val,test}/...pickle`，目录名开头有一个空格。`Tool_gt=None` 视为缺失，不能当作不存在。','- 空间、类别、实例数：`scene_graph/VIDxx_f.json` 的 `scenes[0]`。保留原始对象、bbox、center 与关系。坐标画布为 430×240。`a in right[b]` 表示 a 在 b 右侧；用坐标和反向边同时验证，不能照 README 中相反方向的文字例子实现。','- CVS：`Cholec80_CVS/cholec80-CVS.xlsx` 的分段评分，并记录原 Excel 行号和标签来源。现有 VQA 文本没有用来改写旧题或替代证据。', '', '图结构中的 bbox 和部分解剖类别来自自动检测/图生成，不等同于逐帧专家金标准。本版本保证答案可由保存的源标注与确定规则重算，并做了图像质量筛选及分层视觉复核；不能声称每条源标注都经外科专家确认。P01/P02/P04/C06 对全部初选样本做视觉筛查，C04/C05/CVS 做按答案分层抽查。复核发现的明显重复检测、错框、模糊目标已剔除。该边界也适用于评测得分的解释。', '', '## Marker 与图像处理', '', 'P01 的黄色 A 框和 P02 的黄色 A 箭头已画入实际导出 JPEG，也已嵌入 Hugging Face 的图像字节。框来自源 bbox；箭头指向源 bbox 内经视觉筛查的落点，18 处作了修正（实际列表见 curation_report.json）。没有把答案类别文字写入图像。', '', '按原图宽高分别从 430×240 映射坐标；最长边最多 1280 像素，JPEG quality 95。没有裁剪、翻转或更改时间顺序。原图路径、输出尺寸和 SHA256 均可追溯。诊断用的多框复核图不作为模型输入。', '', '## 重新抽样规则', '', '先建立所有题型的合格候选，再按题型配额轮转，并优先选择不足的答案类和视频，避免高频、易生成题占满。普通候选扫描步长 2 秒，CVS 在有效域逐秒扫描；动态候选检查两个端点的真实标签。PR01 按已确认的设计排除 Preparation；其余六个阶段各 50 题。源数据确实包含 Preparation，它仍可用于其他适用视觉题，但不作为 PR01 的答案或干扰项。', '', '同视频同题型普通题至少间隔 10 秒，CVS 至少 3 秒。每个原始帧最多用于 2 题；动态两帧端点由该动态题独占。同类动作题每个动作持续事件至多取一次。CVS 每个连续同标签区间每题型最多 15 帧，允许区间内多个代表帧；结合亮度、清晰度和 dHash 去重。最终选项答案位置在每个题型内计数最多相差 1。复核后的语义类别分布不强行补齐，实际分布见 dataset_statistics.json。', '', 'D02 描述的是同一器械类别在同一目标上的端点动作变化；未提供器械实例 tracking ID，所以不把它解释为同一物理实例的连续追踪。动态样本包含稳定与变化情况，单侧上限 60%，稀有变化不足时允许数量缺口。', '', '## CVS 的区间规则与限制', '', '已核对 [Cholec80-CVS 论文](https://www.nature.com/articles/s41597-023-02073-7) 和官方转换脚本：标注区间内所有帧共享区间标签；有效标注域内未覆盖片段默认三项为 0。**不能把最近一次非零标签一直向后填充。** 官方实现本身可在区间内以 5 fps 输出，原来“一段只取一帧”并非数据集要求。', '', '本版本进一步限制在 Calot triangle dissection 阶段且首次 clipping/cutting 之前。区间两端包含在内；多行覆盖且评分冲突的秒被剔除。V01–V03 分别使用原始三级评分；V04 按该数据集规则 `sum(V01,V02,V03) >= 5`，不是要求三项全为 2，也不是独立临床认证。', '', 'V04 的 3 个阳性问题仅来自 VID66 的 661–675 秒这一个阳性事件；V03 的 2 分同样集中于此。V02 的 2 分仅来自 VID51 的两个区间。这些帧增加视角/遮挡覆盖，不能当成多个独立手术或多个独立阳性事件。已把部分 V04 阴性替换为 VID66 相近手术进度的帧；其余阴性也限制在较晚 Calot，减少容易的阶段线索。', '', '| CVS 题型 | 答案类 | 问题数 | 视频数 | 连续标签区间数 |', '|---|---|---:|---:|---:|']
+lines += ['## Ground truth 与可追溯性', '', '原始目录为 `/home/ach18533cl/workspace/ori_data`。', '', '- 图像：`CholecT45/data/VIDxx/ffffff.png`。1 fps 帧索引从 0 开始，对应 Cholec80 原始 25 fps 帧号 `25 × f`；对九个视频逐帧验证了该映射。','- 动作与目标：`CholecT45/triplet/VIDxx.txt` 及 `dict/`。R01–R03、动作组合和动态动作使用真实 IVT；排除 null 动作/目标及完整查询多解。','- 阶段与器械存在：` Cholec80_labels/labels/{train,val,test}/...pickle`，目录名开头有一个空格。`Tool_gt=None` 视为缺失，不能当作不存在。','- 空间、类别、实例数：`scene_graph/VIDxx_f.json` 的 `scenes[0]`。保留原始对象、bbox、center 与关系。坐标画布为 430×240。`a in right[b]` 表示 a 在 b 右侧；用坐标和反向边同时验证，不能照 README 中相反方向的文字例子实现。','- CVS：`Cholec80_CVS/cholec80-CVS.xlsx` 的分段评分，并记录原 Excel 行号和标签来源。现有 VQA 文本没有用来改写旧题或替代证据。', '', '图结构中的 bbox 和部分解剖类别来自自动检测/图生成，不等同于逐帧专家金标准。本版本保证答案可由保存的源标注与确定规则重算，并做了图像质量筛选及分层视觉复核；不能声称每条源标注都经外科专家确认。P01/P02/P04/C06 对全部初选样本做视觉筛查，C04/C05/CVS 做按答案分层抽查。复核发现的明显重复检测、错框、模糊目标已剔除。该边界也适用于评测得分的解释。', '', '## Marker 与图像处理', '', 'P01 的黄色 A 框和 P02 的黄色 A 箭头已画入实际导出 JPEG，也已嵌入 Hugging Face 的图像字节。框来自源 bbox；箭头指向源 bbox 内经视觉筛查的落点，18 处作了修正（实际列表见 curation_report.json）。没有把答案类别文字写入图像。', '', '按原图宽高分别从 430×240 映射坐标；最长边最多 1280 像素，JPEG quality 95。没有裁剪、翻转或更改时间顺序。原图路径、输出尺寸和 SHA256 均可追溯。诊断用的多框复核图不作为模型输入。', '', '## 重新抽样规则', '', '先建立所有题型的合格候选，再按题型配额轮转，并优先选择不足的答案类和视频，避免高频、易生成题占满。普通候选扫描步长 2 秒，CVS 在有效域逐秒扫描；动态候选检查两个端点的真实标签。PR01 按已确认的设计排除 Preparation；其余六个阶段各 50 题。源数据确实包含 Preparation，它仍可用于其他适用视觉题，但不作为 PR01 的答案或干扰项。', '', '同视频同题型普通题至少间隔 10 秒，CVS 至少 3 秒。每个原始帧最多用于 2 题；动态两帧端点由该动态题独占。同类动作题每个动作持续事件至多取一次。CVS 每个连续同标签区间每题型最多 15 帧，允许区间内多个代表帧；结合亮度、清晰度和 dHash 去重。最终选项答案位置在每个题型内计数最多相差 1。复核后的语义类别分布不强行补齐，实际分布见 dataset_statistics.json。', '', 'D02 描述的是同一器械类别在同一目标上的端点动作变化；未提供器械实例 tracking ID，所以不把它解释为同一物理实例的连续追踪。动态样本包含稳定与变化情况，每侧最多占目标配额的 60%（目标 80 题时为 48 题）。D02 因变化候选不足最终为 48 稳定 + 23 变化，稳定占实际 71 题的 67.61%；因此不能宣称所有最终题型都满足实际比例 60% 上限。', '', '## CVS 的区间规则与限制', '', '已核对 [Cholec80-CVS 论文](https://www.nature.com/articles/s41597-023-02073-7) 和官方转换脚本：标注区间内所有帧共享区间标签；有效标注域内未覆盖片段默认三项为 0。**不能把最近一次非零标签一直向后填充。** 官方实现本身可在区间内以 5 fps 输出，原来“一段只取一帧”并非数据集要求。', '', '本版本进一步限制在 Calot triangle dissection 阶段且首次 clipping/cutting 之前。区间两端包含在内；多行覆盖且评分冲突的秒被剔除。V01–V03 分别使用原始三级评分；V04 按该数据集规则 `sum(V01,V02,V03) >= 5`，不是要求三项全为 2，也不是独立临床认证。', '', 'V04 的 3 个阳性问题仅来自 VID66 的 661–675 秒这一个阳性事件；V03 的 2 分同样集中于此。V02 的 2 分仅来自 VID51 的两个区间。这些帧增加视角/遮挡覆盖，不能当成多个独立手术或多个独立阳性事件。已把部分 V04 阴性替换为 VID66 相近手术进度的帧；其余阴性也限制在较晚 Calot，减少容易的阶段线索。', '', '| CVS 题型 | 答案类 | 问题数 | 视频数 | 连续标签区间数 |', '|---|---|---:|---:|---:|']
 for t,aa in stats['cvs'].items():
  for a,st in aa.items():lines.append(f'| {t} | {a} | {st["questions"]} | {len(st["videos"])} | {st["segments"]} |')
 lines += ['', '整体 CVS 阴性不妨碍生成 V01–V03：它仍然可能只有某些标准达到 1 或 2 分。结果应报告每项每分值表现；只有一个独立阳性事件的 V04 不能支持可靠的跨手术敏感度结论。', '', '## 文件与复现', '', '- `release/benchmark.jsonl`：全部题目、相对图像路径、GT、原始证据和生成查询。','- `release/images/`：最终模型输入图像，包含实际 marker。','- `release/validation_report.json`：逐题重算、唯一性、图像哈希、分集、复用和答案位置检查。','- `release/curation_report.json`：剔除记录、箭头修正、阴性匹配替换和复核范围。','- `huggingface/data/test-*.parquet`：嵌入图像字节的便携数据集，可直接 load_dataset。','- `docs/Benchmark说明_20260922.md`：本说明；评测完成后另写结果分析。','- `evaluation/`：完整请求协议、原始回答、统计与分析。', '',f'随机种子 `{cfg["seed"]}`；版本 `{cfg["version"]}`；冻结 SHA256 `{sha}`。', '', '```bash', '.venv/bin/python generate.py', '.venv/bin/python select_render.py', '.venv/bin/python curate.py', '.venv/bin/python validate.py', '.venv/bin/python package_release.py', '.venv/bin/python evaluate_openrouter.py', '```', '', '复现视觉决策使用 curation.json；不要在已有评测结果后覆盖冻结问题。源数据需另行放在上述 ori_data 路径。依赖见 requirements-lock.txt。', '', '## 发布与许可', '', 'Hugging Face：`EgoF0102/SceneBench`，本次默认私有仓库。图像和衍生标注遵循源数据的 CC BY-NC-SA 4.0；需保留源数据引用与署名，限非商业用途，衍生共享使用相同许可。引用 Cholec80/EndoNet、CholecT45/Rendezvous、SSG-VQA 与 Cholec80-CVS。']

docs/Benchmark说明_20260922.md

@@ -410,7 +410,7 @@ P01 的黄色 A 框和 P02 的黄色 A 箭头已画入实际导出 JPEG，也已
 
 同视频同题型普通题至少间隔 10 秒，CVS 至少 3 秒。每个原始帧最多用于 2 题；动态两帧端点由该动态题独占。同类动作题每个动作持续事件至多取一次。CVS 每个连续同标签区间每题型最多 15 帧，允许区间内多个代表帧；结合亮度、清晰度和 dHash 去重。最终选项答案位置在每个题型内计数最多相差 1。复核后的语义类别分布不强行补齐，实际分布见 dataset_statistics.json。
 
-D02 描述的是同一器械类别在同一目标上的端点动作变化；未提供器械实例 tracking ID，所以不把它解释为同一物理实例的连续追踪。动态样本包含稳定与变化情况，单侧上限 60%，稀有变化不足时允许数量缺口。
+D02 描述的是同一器械类别在同一目标上的端点动作变化；未提供器械实例 tracking ID，所以不把它解释为同一物理实例的连续追踪。动态样本包含稳定与变化情况，每侧最多占目标配额的 60%（目标 80 题时为 48 题）。D02 因变化候选不足最终为 48 稳定 + 23 变化，稳定占实际 71 题的 67.61%；因此不能宣称所有最终题型都满足实际比例 60% 上限。
 
 ## CVS 的区间规则与限制