yomi-chen commited on
Commit
129f486
·
verified ·
1 Parent(s): cb451f4

Simplify dataset introduction by removing validation sections

Browse files
Files changed (2) hide show
  1. README.md +1 -26
  2. files_manifest.json +2 -2
README.md CHANGED
@@ -19,7 +19,7 @@ size_categories:
19
 
20
  EditableDesignBench **v4.0.0 / run3** 的六个模型结果:每模型 **文字 100 张 + 图片资产 100 张**,共 **1,200 张**。
21
 
22
- 全部图片与 MSE、PSNR、SSIM、LPIPS 已完成。**尚未进行六个模型的全量 MLLM 评分。** 小样本 API 检查与全量分数分开记录。
23
 
24
  [数据集](https://huggingface.co/datasets/yomi-chen/EditableDesignBench) · [评测代码](https://github.com/Ch3nSir/EditableDesignBench)
25
 
@@ -112,31 +112,6 @@ python evaluation_code/scripts/mllm_evaluate.py \
112
 
113
  已下载旧包的用户只需重新下载 `archives/evaluation_code.zip`,解压覆盖 `evaluation_code/`;图片与既有像素指标均未改变。
114
 
115
- ### ✅ Gemini API 小样本实测
116
-
117
- 使用 Gemini-4-Argon 实测 JoyAI 的文字 8 条、资产 8 条,覆盖两轨全部编辑操作。两轨均为 **8/8 成功**,共 64 个维度分数,完整原图和官方输出保持不同尺寸直接输入。每例一次请求返回四维评分,网络或格式错误会按缓存机制重试。
118
-
119
- | 轨道 | 成功 | IF | TA / OA | VC | LP |
120
- |---|---:|---:|---:|---:|---:|
121
- | 文字 | 8/8 | 2.250 | 3.000 | 2.875 | 2.000 |
122
- | 资产 | 8/8 | 2.125 | 2.375 | 2.875 | 2.125 |
123
-
124
- 含重试共 **19 次 API 调用**。这 16 条仅验证接口与输入流程,不能作为模型全量排名;六个模型的全量 MLLM 分数仍未提供。逐例分数与抽样任务见 [实测记录](validation/joyai_gemini16/README.md)。
125
-
126
- ### ✅ 其他五个模型的 API 小样本检查
127
-
128
- 另外用同一 Gemini-4-Argon 评委,对 Fibo Edit Turbo、Qwen-Image-2.1、Qwen-Image-2.1-Turbo、FLUX 3 Klein 和 SenseNova U1.5 各测 2 条:同一条文字替换 `315_replace` 和同一条资产移动 `asset_144_a02_move`。**五个模型均 2/2 成功,共 10 条、40 个维度分数。** 输入图片来自已发布结果,不重新生成。
129
-
130
- 含重试共 13 次 API 调用。这里只验证评分流程,不代表模型全量表现。逐例分数及日志摘要见 [检查记录](validation/other_models_gemini10/README.md)。
131
-
132
- ### ✅ 发布包复查
133
-
134
- 已从公开仓库重新下载代码包,在独立目录运行 **279 项离线测试,全部通过**;并检查全部 **1,200 组**原图、任务指令、预测图与原始输出的完整性、对应关系及尺寸。检查覆盖缓存恢复、失败重试、联合评分和不同尺寸图片输入。
135
-
136
- 六个模型共有 26 条真实 Gemini API 实测全部成功;这不等同于已完成 1,200 条全量 MLLM 评分。依赖安装在既有 Python 3.12 环境验证,未测试每一种新机器环境;接口连接、配额等外部故障仍按重试与断点续跑处理。像素指标与 MLLM 的尺寸规则仍分别遵循上文说明。
137
-
138
- 本轮补齐了代码 ZIP 中遗漏的公开配置示例和可选依赖清单;已下载旧版的用户更新 `archives/evaluation_code.zip` 即可。完整记录见 [发布包检查](validation/release_audit/summary.json)。
139
-
140
  ## 📊 指标与版本
141
 
142
  - 文字和资产分开统计;四项像素指标均覆盖各模型全部 200 条任务。
 
19
 
20
  EditableDesignBench **v4.0.0 / run3** 的六个模型结果:每模型 **文字 100 张 + 图片资产 100 张**,共 **1,200 张**。
21
 
22
+ 全部图片与 MSE、PSNR、SSIM、LPIPS 已完成。**尚未进行六个模型的全量 MLLM 评分。**
23
 
24
  [数据集](https://huggingface.co/datasets/yomi-chen/EditableDesignBench) · [评测代码](https://github.com/Ch3nSir/EditableDesignBench)
25
 
 
112
 
113
  已下载旧包的用户只需重新下载 `archives/evaluation_code.zip`,解压覆盖 `evaluation_code/`;图片与既有像素指标均未改变。
114
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
115
  ## 📊 指标与版本
116
 
117
  - 文字和资产分开统计;四项像素指标均覆盖各模型全部 200 条任务。
files_manifest.json CHANGED
@@ -12,8 +12,8 @@
12
  },
13
  {
14
  "path": "README.md",
15
- "bytes": 9009,
16
- "sha256": "c8f2039de4f3840369e13470251774a8c171a0501ffaa7845e0048bf0b5168f8"
17
  },
18
  {
19
  "path": "archives/EditableDesignBench_v4_data.zip",
 
12
  },
13
  {
14
  "path": "README.md",
15
+ "bytes": 6695,
16
+ "sha256": "9124ae81ebf150512cafe36809cf955436cf675e066b4184c58bc0cde963c7f8"
17
  },
18
  {
19
  "path": "archives/EditableDesignBench_v4_data.zip",