五题文件评分简化版
数据版本 office5-file-20261113-v1,评分版本 office-file-v1。包含004、010、014、080、091五题及完整原始附件、离线邮件、任务代码和参考资料。题目来源固定为OSWorld2 2026.08.08,题面要求不变。
评分只读取Agent已保存的文件,不需要安装评分用Excel、LibreOffice或WPS,不调用COM、渲染或视觉模型。 仍需Python和文件解析依赖;Agent执行任务本身仍要具备编辑办公文件的工具。鸿蒙PC原生Python和依赖安装尚未实机验证。
| 题目 | 保留的检查 | 省略项 |
|---|---|---|
| 004 | 原PPT样式、锁定页、引用及数量检查 | 无新增省略;原文件检查能力边界不变 |
| 010 | 原DOCX正文比较 | 原函数本来不检查表格或版式 |
| 014 | 七项文本答案及正文/顺序保护 | 原函数本来不评分可选证据或版式 |
| 080 | 业务25%、公式结构30%、图表10%、完整性5%、文件格式30%;未修改输入归零 | 不重算,不验证公式计算值;公式项用结构比例,不沿用旧的缺重算0.4上限 |
| 091 | 原A-D相对初稿基线进展,权重15%/55%/10%/20% | 完全省略渲染视觉E扣分,未执行项不标成通过 |
新分数是本项目的文件评分简化版,不能当作原版OSWorld完整评分。080不能据此证明计算值正确;091不能据此证明实际显示没有溢出。结果及报告记录评分版本和遗漏项;旧数据与评分版本通过历史标签保留。详细规则见docs/file-scoring.md及data/scoring_profile.json。
下载及使用
配套程序为GitCode运行器,分支codex/bench-system,至少更新到提交 bd84b9801a9027f14057dd1b576465c1e53bc73a。仓库仍为私有,需要获授权HF账号。
从程序仓库根目录执行:
python -m pip install -U huggingface_hub
hf auth login
hf download adiven/qwen-reliability-office-bench --repo-type dataset --revision office5-file-20261113-v1 --local-dir ../qwen-work-bench-5-file
python ../qwen-work-bench-5-file/scripts/verify_distribution.py
python ../qwen-work-bench-5-file/scripts/validate_export.py
python -m pip install -e ".[evaluate]"
请下载到新的空目录。网页JSONL只是题目索引,不能代替完整附件下载。无需datasets.load_dataset;不安装evaluate-windows也可执行当前文件评分。
复制程序examples/office-file.json为项目根目录bench.json,将dataset.root改为../qwen-work-bench-5-file:
{
"automation": {"enabled": true},
"scoring_profile": "office-file-v1",
"dataset": {
"kind": "osworld_export",
"root": "../qwen-work-bench-5-file",
"cases": ["qwb-004", "qwb-010", "qwb-014", "qwb-080", "qwb-091"]
},
"conditions": ["normal1", "normal2", "P-formal", "E-text-envelope", "F-tool-rate-limit"],
"max_concurrency": 1
}
保留完整示例的其他字段。五题五条件共25轮;只测080时cases设为["qwb-080"],共5轮。运行python bench.py setup --config bench.json后按程序README配置一次千问定时任务,后续实验仍自动领取、执行、封存、评分和暂停。已有定时任务读取固定配置路径,修改该路径对应配置即可;不要在未完成实验中修改冻结条件。
目录和来源
cases保存五题元信息,exports//input保存TASK_ENTRY及仅本题输入;private/upstream保存原任务、原素材和参考。只向Agent投递当前input,不投递评分参考;private是投递约定,不是系统权限隔离。010和091保留离线邮件正文和附件定位。
data/source_lock.json、selection_lock.json记录来源及选择,export_manifest记录上游文件哈希,distribution_manifest记录完整发布哈希,scoring_profile声明本版简化范围。原始题面和输入附件与旧版保持字节不变,不生成新的标准答案。
历史版本:office5-20261113-v1是五题原评分适配版,office12-20261113-v1.1是十二题资料版;两个标签均不移动。许可、访问及修改说明见NOTICE.md与LICENSE.upstream,素材不统一改授Apache-2.0。静态校验及评分器回归不等于实际Agent成绩。
- Downloads last month
- 46