You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

五题文件评分简化版

数据版本 office5-file-20261113-v1,评分版本 office-file-v1。包含004、010、014、080、091五题及完整原始附件、离线邮件、任务代码和参考资料。题目来源固定为OSWorld2 2026.08.08,题面要求不变。

评分只读取Agent已保存的文件,不需要安装评分用Excel、LibreOffice或WPS,不调用COM、渲染或视觉模型。 仍需Python和文件解析依赖;Agent执行任务本身仍要具备编辑办公文件的工具。鸿蒙PC原生Python和依赖安装尚未实机验证。

题目 保留的检查 省略项
004 原PPT样式、锁定页、引用及数量检查 无新增省略;原文件检查能力边界不变
010 原DOCX正文比较 原函数本来不检查表格或版式
014 七项文本答案及正文/顺序保护 原函数本来不评分可选证据或版式
080 业务25%、公式结构30%、图表10%、完整性5%、文件格式30%;未修改输入归零 不重算,不验证公式计算值;公式项用结构比例,不沿用旧的缺重算0.4上限
091 原A-D相对初稿基线进展,权重15%/55%/10%/20% 完全省略渲染视觉E扣分,未执行项不标成通过

新分数是本项目的文件评分简化版,不能当作原版OSWorld完整评分。080不能据此证明计算值正确;091不能据此证明实际显示没有溢出。结果及报告记录评分版本和遗漏项;旧数据与评分版本通过历史标签保留。详细规则见docs/file-scoring.md及data/scoring_profile.json。

下载及使用

配套程序为GitCode运行器,分支codex/bench-system,至少更新到提交 bd84b9801a9027f14057dd1b576465c1e53bc73a。仓库仍为私有,需要获授权HF账号。

从程序仓库根目录执行:

python -m pip install -U huggingface_hub
hf auth login
hf download adiven/qwen-reliability-office-bench --repo-type dataset --revision office5-file-20261113-v1 --local-dir ../qwen-work-bench-5-file
python ../qwen-work-bench-5-file/scripts/verify_distribution.py
python ../qwen-work-bench-5-file/scripts/validate_export.py
python -m pip install -e ".[evaluate]"

请下载到新的空目录。网页JSONL只是题目索引,不能代替完整附件下载。无需datasets.load_dataset;不安装evaluate-windows也可执行当前文件评分。

复制程序examples/office-file.json为项目根目录bench.json,将dataset.root改为../qwen-work-bench-5-file:

{
  "automation": {"enabled": true},
  "scoring_profile": "office-file-v1",
  "dataset": {
    "kind": "osworld_export",
    "root": "../qwen-work-bench-5-file",
    "cases": ["qwb-004", "qwb-010", "qwb-014", "qwb-080", "qwb-091"]
  },
  "conditions": ["normal1", "normal2", "P-formal", "E-text-envelope", "F-tool-rate-limit"],
  "max_concurrency": 1
}

保留完整示例的其他字段。五题五条件共25轮;只测080时cases设为["qwb-080"],共5轮。运行python bench.py setup --config bench.json后按程序README配置一次千问定时任务,后续实验仍自动领取、执行、封存、评分和暂停。已有定时任务读取固定配置路径,修改该路径对应配置即可;不要在未完成实验中修改冻结条件。

目录和来源

cases保存五题元信息,exports//input保存TASK_ENTRY及仅本题输入;private/upstream保存原任务、原素材和参考。只向Agent投递当前input,不投递评分参考;private是投递约定,不是系统权限隔离。010和091保留离线邮件正文和附件定位。

data/source_lock.json、selection_lock.json记录来源及选择,export_manifest记录上游文件哈希,distribution_manifest记录完整发布哈希,scoring_profile声明本版简化范围。原始题面和输入附件与旧版保持字节不变,不生成新的标准答案。

历史版本:office5-20261113-v1是五题原评分适配版,office12-20261113-v1.1是十二题资料版;两个标签均不移动。许可、访问及修改说明见NOTICE.md与LICENSE.upstream,素材不统一改授Apache-2.0。静态校验及评分器回归不等于实际Agent成绩。

Downloads last month
46