feat: publish benchmark 2.4.0 with unified instructions and direct add anchors
Browse filesReplace both existing review downloads atomically. Includes 200 sources, 785 tasks, protocol migration, offline full-case PDF and browser-verified mixed interactions.
- README.md +46 -168
- docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md +36 -0
- docs/INSTRUCTION_PROTOCOL_ZH.md +53 -0
- sa1b_source_selection_200cases_review_20261010.zip +2 -2
- sa1b_source_selection_200cases_review_20261010.zip.sha256 +1 -1
- samtok_edit_benchmark_v2_all_200_cases.pdf +2 -2
- samtok_edit_benchmark_v2_review_20261010.json +6 -6
- samtok_edit_benchmark_v2_review_20261010.zip +2 -2
- samtok_edit_benchmark_v2_review_20261010.zip.sha256 +1 -1
README.md
CHANGED
|
@@ -7,9 +7,9 @@ language:
|
|
| 7 |
|
| 8 |
# SAMTok Benchmark v2:SA-1B 多对象细粒度交互编辑
|
| 9 |
|
| 10 |
-
当前唯一版本为 **v2 / release 2.
|
| 11 |
|
| 12 |
-
此文档是仓库
|
| 13 |
|
| 14 |
## 1. 评测目标与判定方式
|
| 15 |
|
|
@@ -94,185 +94,63 @@ mask 使用 dense annotation 中该目标原始可见区域,转为与原图同
|
|
| 94 |
|
| 95 |
支持两个协议:`native_regions_v2` 直接提供对应坐标或 mask,且只暴露实际指定的形式;`visual_locator_v2` 提供干净源图和仅画指定定位形式的第二张提示图。审核包内 JPEG 提示图用于浏览;正式运行生成 PNG,保持原分辨率。支持 `mixed` 主评测、`all_ref`、`all_mask_noref` 和 `single` 消融。不同协议/消融需分别报告。
|
| 96 |
|
| 97 |
-
## 5.
|
| 98 |
|
| 99 |
-
|
| 100 |
|
| 101 |
-
|
| 102 |
|
| 103 |
-
|
| 104 |
|
| 105 |
-
|
| 106 |
|
| 107 |
-
|
| 108 |
-
- **no-ref 版本**:仅把同一 `<target>` 替换成 `the selected <scope>`,例如 `the selected jacket`。`scope` 保留对象/部件类型与粒度,删除用来定位宿主实例的左右位置、人物身份等信息。新增物、数量、颜色、材质、删除子部件和必要安装位置必须保留。**no-ref 不是无语义指令**,不能把“移除衣服上的徽标”缩成“移除选中的衣服”。
|
| 109 |
-
- 两版本的编辑内容必须等价;差异只在源实例如何定位。no-ref 中允许 `upper back` 等定义新增物安装位置的词,也允许 `white chest emblem` 等明确待删除子部件的词,它们是编辑语义,不是泄露完整宿主 ref。
|
| 110 |
-
- `has_ref=true` 时发送 `instruction_ref`,可以配 `none/point/box/mask`;`has_ref=false` 时发送 `instruction_noref`,必须配 `point/box/mask`。转换定位形式不改变操作和编辑内容。每个 U 只向模型发送实际指定的一种版本,不同时附送私有 full ref。
|
| 111 |
-
- 公开英文句子使用祈使句和句号,写操作必需信息,不反复添加“保留其他内容”,不混入设计理由、审核结论、模型名、生成步骤或重试要求。保持要求是全局默认行为,具体保护关系在私有验收标注中展开。
|
| 112 |
-
- 中文审核翻译须保留相同操作、数量、目标粒度和结果要求;默认正式输入使用英文,中文用于审核。
|
| 113 |
|
| 114 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 115 |
|
| 116 |
-
|
| 117 |
|
| 118 |
-
|
| 119 |
|
| 120 |
-
|
| 121 |
-
| --- | --- | --- | ---: |
|
| 122 |
-
| add / A | `Add <new item> to <target>.` | 给指定承载物添加源图中不存在的物品;必要时写数量、大小和安装位置,原承载物保留 | 196 |
|
| 123 |
-
| replace / R | `Replace <target> with <new object/part>.` | 用结构、形态或品类不同的新物体/部件替代旧目标;只换色不算 replace | 196 |
|
| 124 |
-
| remove / D | `Remove <target>.` | 完整移除指定目标,合理补全显露背景 | 109 |
|
| 125 |
-
| remove / D:contents | `Remove <target>, including its contents.` | 连同容器中的物品一起移除,不能把内容物悬留 | 11 |
|
| 126 |
-
| remove / D:part | `Remove <part> from <target>.` | 只移除所选对象上的明确子部件,宿主其余部分保留 | 56 |
|
| 127 |
-
| remove / D:lowerlegs | `Remove the lower legs of <target> to make knee-length shorts.` | 剪去下段裤腿,改为及膝短裤,保留上部裤装 | 18 |
|
| 128 |
-
| remove / D:hem | `Remove the lower section of <target> to make it knee-length.` | 剪去裙装下段,改为及膝长度 | 3 |
|
| 129 |
-
| attribute / C | `Change the color of <target> to <value>.` | 改颜色,保留对象身份、几何与相关纹理 | 179 |
|
| 130 |
-
| attribute / C:material | `Change the material of <target> to <material>.` | 改为明确材质,保留对象身份和几何;例如 polished gold,不能仅用 matte black 冒充材质 | 13 |
|
| 131 |
-
| attribute / C:tint | `Tint <target> <color>.` | 给透明物体染色,保持合理透光性质;`attribute_kind` 仍为 color | 4 |
|
| 132 |
|
| 133 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 134 |
|
| 135 |
-
|
| 136 |
|
| 137 |
-
|
| 138 |
|
| 139 |
-
|
| 140 |
|
| 141 |
-
|
| 142 |
|
| 143 |
-
|
| 144 |
|
| 145 |
-
|
| 146 |
|
| 147 |
-
|
| 148 |
|
| 149 |
-
|
| 150 |
-
| --- | --- | --- | --- |
|
| 151 |
-
| `v2-sa_10146830/U3` · add | Add one small round enamel pin on the upper back of the central girl's leather jacket. | Add one small round enamel pin on the upper back of the selected jacket. | 给皮衣后背上部加一枚小圆形珐琅徽章;no-ref 仍须保留数量与安装位置 |
|
| 152 |
-
| `v2-sa_10063996/U1` · replace | Replace the outer sleeve of the woman on the left with a flared bell sleeve. | Replace the selected sleeve with a flared bell sleeve. | 将指定衣袖替换为喇叭袖 |
|
| 153 |
-
| `v2-sa_10146830/U1` · remove | Remove the hood hanging down the red-clad person's back. | Remove the selected hood. | 移除指定帽兜 |
|
| 154 |
-
| `v2-sa_2566092/U1` · remove 子部件 | Remove the white chest emblem from the foreground drummer's pink T-shirt. | Remove the white chest emblem from the selected T-shirt. | 只删除 T 恤胸前白色徽标,保留 T 恤 |
|
| 155 |
-
| `v2-sa_10063996/U2` · attribute 颜色 | Change the color of the red coat of the woman on the right to navy blue. | Change the color of the selected coat to navy blue. | 将指定外套改为藏蓝色 |
|
| 156 |
-
| `v2-sa_5033895/U1` · attribute 材质 | Change the material of the crown of the front-right elephant-headed statue to polished gold. | Change the material of the selected crown to polished gold. | 将指定冠饰材质改为抛光黄金 |
|
| 157 |
-
| `v2-sa_1580699/U4` · attribute 染色 | Tint the narrow transparent package immediately left of the blue shopping bag amber. | Tint the selected package amber. | 将指定透明包装染成琥珀色,保留透明性质 |
|
| 158 |
-
|
| 159 |
-
这些例子说明写法与评测语义,不代表已经取得合格目标图。当前 benchmark 冻结的是任务和输入,独立人工验收与模型编辑评测仍待完成。
|
| 160 |
-
|
| 161 |
-
### 5.5 多目标与训练管线的区别
|
| 162 |
-
|
| 163 |
-
正式 benchmark 每张源图有 2–5 个不同实物的目标,每个 U 独立绑定自己的指令和交互形式,主评测要求在同一结果图中全部完成。当前冻结分布是:2–4 目标图的操作类型不重复,5 目标图覆盖四类且仅一类重复;全局四类按目标计最多相差 1 个。它们是本版 case 设置,不是单条英文句子的语法规则。
|
| 164 |
-
|
| 165 |
-
当前训练构造管线已实现统一语义记录、四类及删除子类、Tint 和外观属性扩展,由同一 renderer 生成 ref/no-ref。子部件和内容物范围必须有预处理提供的执行区域;缺失则拒绝,不把“删除宿主上的徽标”降级为整物删除。训练实验中“每源两个目标、同一类、分别生图”也不等同于 benchmark 的混合类型多目标联合任务。对齐 benchmark 需要保留这些范围语义,不能只比较四个 operation 标签。
|
| 166 |
-
|
| 167 |
-
### 5.6 写完后的核对要求
|
| 168 |
-
|
| 169 |
-
1. 从干净源图确认 ref、区域、类别和所属实例一致;同类多个目标的方位不能互相矛盾。
|
| 170 |
-
2. 仅比较 ref/no-ref 的目标短语替换后,操作、数量、目标属性、安装位置和删除范围应全部一致。
|
| 171 |
-
3. 确认类别语义成立:添加没有变成替换,替换不是仅换色,删除子部件没有变成删宿主,属性修改没有改几何。
|
| 172 |
-
4. 确认请求符合画面可见内容和常见修图需求,有合理尺度、支撑和遮挡关系;不靠想象的故事解释怪异变化。
|
| 173 |
-
5. 检查句子长度、中英文等价性,以及同图各 U 的独立性、保护关系和联合可执行性。
|
| 174 |
-
|
| 175 |
-
修改冻结指令需更新设计记录、重新审图并重新冻结版本。本文补充规范不会改写当前任务清单、改变 operation 分类或代替视觉质量验收。
|
| 176 |
-
|
| 177 |
-
### 5.7 统一 instruction 协议 v1.0(已接入 benchmark 与训练管线)
|
| 178 |
-
|
| 179 |
-
本协议统一 benchmark 和训练数据的语义设计与英文渲染,已接入 release 2.3.0 及训练管线。沿用四类操作、ref/no-ref 和源区域定位原则。协议版本独立于数据集 release;支持某种句式不等于该子类已经出现在冻结样本中,也不等于已验证生成质量。
|
| 180 |
-
|
| 181 |
-
#### A. 一条指令表达什么
|
| 182 |
-
|
| 183 |
-
统一结构为:**操作 + 实际编辑对象 + 新内容/目标值 + 必要的局部关系或范围**。每个 U 对应一个源实例或其部件,以及一种编辑操作。优先一句话;仅在省略信息会产生不同合理结果时,增加短限定语。输入 point/box/mask 负责定位源实例,文字负责明确编辑内��和局部范围。
|
| 184 |
-
|
| 185 |
-
区分两个概念:`S` 是区域或 ref 选中的源实例;`T` 是实际操作对象,可以直接等于 S,也可以是 S 内文字明确指定的部件。例如区域选中夹克时,T 可以是“该夹克的领口”;区域已精确选中领口时,T 就是“选中的领口”,不能再写“领口的领口”。add 则以 S 或其可见部位为新增物的锚点。
|
| 186 |
-
|
| 187 |
-
同一种类型使用稳定的主句,不要求所有细节塞进一个不自然的固定短语。不额外写“请”“高质量”“真实自然”“只修改这里”“保持其他不变”等重复套话。数量、接触关系、保留某一易混淆部件、结果长度等若决定任务含义,应保留在公开指令中,不能仅写在 evaluator 私有字段里。
|
| 188 |
-
|
| 189 |
-
#### B. 分类型句式和边界
|
| 190 |
-
|
| 191 |
-
| 类型 | 推荐主句 | 可按需补充的内容 | 类型边界 |
|
| 192 |
-
| --- | --- | --- | --- |
|
| 193 |
-
| add | `Add <item> <relation> <anchor>.` | 新物的类别、必要数量/外观,锚点上的部位、放置或连接关系 | 新增实体或实体配件;原锚点保留。输入区域指向源锚点,不指向新增物轮廓 |
|
| 194 |
-
| replace | `Replace <T> with <replacement>.` | 新实体/部件的设计、数量、关键外观;必要连接关系 | 旧对象/部件被替代,不能留下旧物又在旁边增加新物;仅改颜色、图案或材质归 attribute |
|
| 195 |
-
| remove | `Remove <T>.`;宿主定位时用 `Remove <part> from <S>.` | 明确连带移除内容物、移除数量、裁去范围和预期终点 | 删除整物或指定局部,保留未请求的宿主部分;不是把 mask 内全部像素都清空 |
|
| 196 |
-
| attribute | `Change the <property> of <T> to <value>.` | 目标属性值,以及确实必要的属性组合或局部范围 | 保留实体身份及未请求的几何、部件和外观;改变已有对象/表面属性,不添加或替换实体 |
|
| 197 |
-
|
| 198 |
-
**add 的关系不要一律用模糊的 `to`。** 承载关系可写 `on the seat of`、`inside`,连接可写 `attached to the handle of`;已有 to 句式在位置明确时继续有效。缺省优先依附/承载型添加。为覆盖自然请求,允许以可见源实例为参照的 `under`、`beside` 等位置关系,但必须有可见可用空间及合理落地/支撑条件,必要时写清参照侧。例如 `Add a small wastebasket on the floor beside the left leg of the selected desk.`。这种参照型添加是新协议的表达能力,当前冻结 benchmark 的 add 仍全是局部依附型;训练入口仅在已有明确执行区域时接受参照型任务。
|
| 199 |
-
|
| 200 |
-
数量可由 `a/an` 表示一个;要求恰好几个时写 `one/two/...`。同一锚点上添加两个相同物品可以是一个 U,不因新增数量变成两个源编辑目标。默认一个 U 只涉及一个新增物类别;“加靠垫并删除包”是两种操作,不能塞进同一 U。
|
| 201 |
-
|
| 202 |
-
**remove 保留现有灵活子类:**
|
| 203 |
-
|
| 204 |
-
- 整体与内容物:`Remove <T>, including its contents.`。容器及物品是否一起移除应明确;若只清空容器,写 `Remove the contents from <S>.`,保留容器。
|
| 205 |
-
- 已有标记/局部部件:`Remove the logo from <S>.`、`Remove the hood from <S>.`。保留载体,合理补全被移除处。
|
| 206 |
-
- 裁短:沿用 `Remove the lower section of <T> to make it knee-length.` 等“范围 + 终点”形式,不另增一套操作类型。裁短是 remove 的明确例外,允许因切除产生轮廓变化;不能扩大为任意形状变换。
|
| 207 |
-
- 附件或物品是否连带删除若有多种合理解释,必须在公开句子中消歧;普通背景补全、必要阴影处理属于全局执行要求,无需每条重复。
|
| 208 |
-
|
| 209 |
-
**attribute 从颜色/材质扩为有限、可核验的外观属性集合:**
|
| 210 |
-
|
| 211 |
-
| property | 推荐表达 / 示例 | 保持要求 |
|
| 212 |
-
| --- | --- | --- |
|
| 213 |
-
| color | `Change the color of <T> to navy blue.` | 保留相关纹理、结构与光照关系 |
|
| 214 |
-
| material | `Change the material of <T> to brushed steel.` | 材料必须真实明确;只改变现有表面的材质表现,尺寸和构型不随意变化 |
|
| 215 |
-
| finish | `Change the finish of <T> to matte.` | 区分表面光泽与材料;matte black 是颜色/表面效果,不是材料名 |
|
| 216 |
-
| pattern | `Change the pattern of <T> to thin blue stripes.` | 只改变指定表面图案,保持裁剪、褶皱和遮挡;支持原本纯色表面 |
|
| 217 |
-
| texture | `Change the surface texture of <T> to a fine pebbled texture.` | 目标纹理应具体且适配源对象;不借此改轮廓或结构 |
|
| 218 |
-
| text | `Change the text on <T> to "OPEN".` | 引号内是精确内容;需要特定行/标签时在 T 中明确,保留载体和未指定文字 |
|
| 219 |
-
| tint / opacity | `Tint <T> amber.`;`Make <T> translucent.` | tint 默认保留原透明性质;透明度变化只有明确请求时才允许,不借材质修改隐式改变 |
|
| 220 |
-
|
| 221 |
-
保留 `Tint` 作为颜色的自然短式;`Make ... translucent/opaque` 是透明度的受限短式。可自然写 `Recolor <T> navy blue.` 的任务仍优先统一为 `Change the color ...`,不为同一语义增加大量随��同义模板。
|
| 222 |
-
|
| 223 |
-
同一 T 上确有必要且兼容的多个外观要求可以合并为一个 attribute,例如 `Change the color of <T> to navy blue and its finish to matte.`;内部仍分别记录属性和值。不要默认把每条扩成多属性任务,也不混入移除、添加或实体替换。
|
| 224 |
-
|
| 225 |
-
**分类边界固定:**加实体布贴/徽章是 add;让衣服表面出现条纹是 attribute.pattern;把已有标牌文字改成另一串文字是 attribute.text;删除已有 logo/文字是 remove;把整块标牌换成另一种结构是 replace。翻转、搬移、重新摆姿势等不属于这四类协议,不强行重标。新增属性及参照型添加应分别记录子类,评测时分项统计,不能把新能力混进旧版本结果直接比较。
|
| 226 |
-
|
| 227 |
-
#### C. ref/no-ref 从同一份语义记录生成
|
| 228 |
-
|
| 229 |
-
只更换 S 的实例定位表达,其他编辑内容保持一致:
|
| 230 |
-
|
| 231 |
-
| 内容 | ref | no-ref |
|
| 232 |
-
| --- | --- | --- |
|
| 233 |
-
| 源实例 S | 源图中可准确定位的简短名词短语 | `the selected <scope>` |
|
| 234 |
-
| 源实例内部的操作部位 | 保留 | 保留 |
|
| 235 |
-
| 新物、数量、结果值 | 保留 | 保留 |
|
| 236 |
-
| 放置/附着关系、删除范围 | 保留 | 保留 |
|
| 237 |
-
| 为定位源实例写的左右位置、所属人物等 | 按需保留 | 删除,由定位信息承担 |
|
| 238 |
-
|
| 239 |
-
`scope` 必须由当前图像和区域确认,不能直接用可能错误的原始类别或其第一个别名。独立确定 scope 与 ref 的一致语义,再渲染两版本;不能让模型分别自由写两条指令后只检查字符串不同。无 ref 必须有 point/box/mask;ref 可单独使用或配区域。同一 U 切换定位形式不应改变上述语义。
|
| 240 |
-
|
| 241 |
-
以下是**协议示例,不是新增冻结 benchmark 样本**:
|
| 242 |
-
|
| 243 |
-
| 类型 | ref 示例 | no-ref 示例 |
|
| 244 |
-
| --- | --- | --- |
|
| 245 |
-
| add | Add a beige cushion on the seat of the black chair on the left. | Add a beige cushion on the seat of the selected chair. |
|
| 246 |
-
| replace | Replace the handle of the red suitcase with a rigid black handle. | Replace the handle of the selected suitcase with a rigid black handle. |
|
| 247 |
-
| remove | Remove the logo from the runner's white T-shirt. | Remove the logo from the selected T-shirt. |
|
| 248 |
-
| attribute | Change the color of the collar of the front man's jacket to navy blue. | Change the color of the collar of the selected jacket to navy blue. |
|
| 249 |
-
|
| 250 |
-
后面三例的区域均假设定位宿主(箱子、T 恤、夹克)。若区域本来就定位提手/徽标/领口,no-ref 应分别改为 `the selected handle/logo/collar`,不能混用宿主粒度。子部件必须在源图上可定位;出现多个同名部件时,保留区分该部件必需的局部方位,例如 `the left pocket of the selected jacket`。
|
| 251 |
-
|
| 252 |
-
#### D. 简洁性、自然性和多目标规则
|
| 253 |
-
|
| 254 |
-
- 写足能够区分不同编辑结果的信息,然后停止;不要求每条凑满数量、颜色、材质、大小、位置这几项。对结果没有作用的修饰词删除。
|
| 255 |
-
- 默认一句话;ref 26 词、no-ref 16 词继续作为常规写作目标,不设最低词数,也不为达标删掉必要限定。超过目标先检查冗余,超过 40 词建议重新审查或拆解;长而必要的指代可保留。该协议的长度要求是写作指导;现有训练器已迁移为非空检查、语义校验与长度审查提示。
|
| 256 |
-
- 属性或替代物应与源对象、场景用途、尺度和光照自洽。选择普通人可能提出的修图请求,不能单为明显变化设计奇怪物件/极端颜色。
|
| 257 |
-
- 无 ref 不等于允许随意歧义:指令结合公开定位信息后必须明确。没有足够清晰的源实例、部件或可行支撑关系时,拒绝该任务并按同类补样。
|
| 258 |
-
- 每个 U 可独立理解,所有 U 又须能在同一张结果图联合执行;避免一条删除另一条的宿主、对同一表面要求互斥颜色等冲突。不引用“上一个编辑”“第一步结果”。
|
| 259 |
-
- 全局默认保留未请求内容,并完成必要的背景、边缘、遮挡、连接和光影修复。这些默认项不重复写进每条指令;超出默认含义的要求必须公开,不能由私有验收偷偷增加。
|
| 260 |
-
|
| 261 |
-
#### E. 实现约定与迁移边界
|
| 262 |
-
|
| 263 |
-
内部最小语义记录应包含:`operation`、`selection`(源实例 ID、经核对的 ref/scope 和定位信息)、`target_part`(若有)、`change`(新物/替代物/删除范围/属性和值),以及按需的 `placement`(关系与部位)、`qualifiers`(必要数量或保留要求)。这些是作者侧结构化槽位,不要求模型输入暴露 JSON,也不能把内部全量定位信息泄露给 ref-only 任务。放置几何、执行 mask、审核证据独立保存,不塞入公开短句。
|
| 264 |
-
|
| 265 |
-
模板根据操作和槽位渲染 ref/no-ref,逐项核验语义等价,并记录 `instruction_protocol_version`。旧 release 2.2.0 的语义与四类基础模板继续兼容,无需仅为句式重写历史任务;改变实际编辑语义必须重新审查和冻结版本。
|
| 266 |
|
| 267 |
-
|
| 268 |
|
| 269 |
-
|
| 270 |
|
| 271 |
-
|
| 272 |
|
| 273 |
-
|
| 274 |
|
| 275 |
-
|
| 276 |
|
| 277 |
## 6. 当前构建结果
|
| 278 |
|
|
@@ -334,7 +212,7 @@ mask 面积占整图中位数 **0.5725%**,最小 **0.0814%**、最大 **13.182
|
|
| 334 |
|
| 335 |
| 内容 | 路径 |
|
| 336 |
| --- | --- |
|
| 337 |
-
| 唯一 v2 repo | `/opt/tiger/samtok_edit_benchmark_v2branch`,分支 `v2branch` |
|
| 338 |
| 唯一维护文档 | repo `README.md`;`/opt/tiger/SAMTok Benchmark v2.md` 指向它 |
|
| 339 |
| 正式版本元数据 | repo `data/v2/`,同步到 `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2/benchmark/` |
|
| 340 |
| 数据总根目录 | `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2` |
|
|
@@ -346,16 +224,16 @@ mask 面积占整图中位数 **0.5725%**,最小 **0.0814%**、最大 **13.182
|
|
| 346 |
| 正式模型运行与输出 | `evaluation/`,与任务源资产分开;本版尚无运行 |
|
| 347 |
| 历史归档 | `archive/pre_sa1b_212_v2_2.1.0/`、`archive/previous_review_packages/`,不属当前评测 |
|
| 348 |
| 本机审核包目录 | `/opt/tiger/samtok_edit_benchmark_v2_review` |
|
| 349 |
-
| 当前本机审核目录 | `evaluation/review_protocol1_release2.
|
| 350 |
-
| 当前正式输入 | `evaluation/
|
| 351 |
-
| 当前审核压缩包 | `/opt/tiger/samtok_edit_benchmark_v2_review_release2.
|
| 352 |
| 完整离线 PDF | 审核包内 `benchmark_all_200_cases.pdf`,200 页,每页一个 case |
|
| 353 |
|
| 354 |
相对资产路径都以数据总根目录或便携包根目录为基准。仓库只保留当前任务元数据、代码、唯一说明及少量说明插图,不提交正式大图、过程图片、审核 zip、模型结果。历史 v1 单对象 API 的基础兼容代码/合成测试保留;当前数据仅 `data/v2/`,不携带旧评测清单。
|
| 355 |
|
| 356 |
正式元数据:`cases.jsonl` 为完整任务;`asset_manifest.jsonl` 为 1185 项资产清单;`provenance.jsonl` 为来源;`instruction_design.jsonl` 和 `instruction_reviews.jsonl` 为逐对象设计/逐图审查;`statistics.json`、`release.json`、`validation.json` 为统计、版本和验证;`selection/` 为选择依据。`release.json` 的 manifest SHA256 绑定当前任务,编辑输入、模型输出与评分均有摘要绑定。
|
| 357 |
|
| 358 |
-
[下载完整 2.
|
| 359 |
|
| 360 |
解压整个压缩包后,在包内运行:
|
| 361 |
|
|
@@ -372,7 +250,7 @@ python run_review.py --no-browser --port 8766
|
|
| 372 |
## 8. 构建、验证与运行
|
| 373 |
|
| 374 |
```bash
|
| 375 |
-
cd /opt/tiger/samtok_edit_benchmark_v2branch
|
| 376 |
python -m pip install -e '.[dev,review]'
|
| 377 |
|
| 378 |
python construction/build_sa1b_v2.py \
|
|
@@ -425,7 +303,7 @@ python -m ruff check .
|
|
| 425 |
| 目标 | 任务 | 正式输入 | English | 中文 |
|
| 426 |
| --- | --- | --- | --- | --- |
|
| 427 |
| U1 | remove | noref+mask | Remove the selected chair. | 移除选中的椅子。 |
|
| 428 |
-
| U2 | add | ref+none | Add one burgundy seat cushion
|
| 429 |
| U3 | attribute | ref+mask | Change the color of the partly hidden chair on the left of the nearest table to white. | 将前景桌左侧被遮挡的木椅改为白色。 |
|
| 430 |
|
| 431 |
### Case 033:食品摊位中交叉的竹签
|
|
@@ -447,7 +325,7 @@ python -m ruff check .
|
|
| 447 |
|
| 448 |
| 目标 | 任务 | 正式输入 | English | 中文 |
|
| 449 |
| --- | --- | --- | --- | --- |
|
| 450 |
-
| U1 | add | ref+none | Add one small silver wire cage around the glass
|
| 451 |
| U2 | replace | ref+mask | Replace the largest glass light bulb at the upper center with a long tubular glass light bulb. | 将上方中间最大吊灯的玻璃灯泡替换为长管形玻璃灯泡。 |
|
| 452 |
| U3 | remove | noref+box | Remove the selected light bulb. | 移除选中的灯泡。 |
|
| 453 |
| U4 | attribute | ref+point | Tint the glass light bulb at the middle left pale blue. | 将左侧中间吊灯的玻璃灯泡染成浅蓝色。 |
|
|
@@ -462,7 +340,7 @@ python -m ruff check .
|
|
| 462 |
| --- | --- | --- | --- | --- |
|
| 463 |
| U1 | remove | ref+point | Remove the top handle of the pale-purple suitcase at the front right. | 移除前景右侧淡紫色箱子的顶部提手。 |
|
| 464 |
| U2 | replace | noref+point | Replace the selected suitcase handle with a looped brown leather handle. | 将选中的行李箱提手替换为棕色皮革环形提手。 |
|
| 465 |
-
| U3 | add | ref+box | Add one small yellow luggage tag to the top handle of the champagne-colored suitcase behind the bright-pink one. | 给亮粉箱后方香槟色箱子的顶部提手加上一个小黄色行李牌。 |
|
| 466 |
| U4 | attribute | noref+mask | Change the color of the selected suitcase handle to black. | 将选中的行李箱提手改为黑色。 |
|
| 467 |
| U5 | replace | ref+none | Replace the top handle of the gray suitcase on the right with a curved wooden handle. | 将右侧灰色箱子的顶部提手替换为弧形木提手。 |
|
| 468 |
|
|
@@ -491,4 +369,4 @@ python -m ruff check .
|
|
| 491 |
| U1 | replace | ref+mask | Replace the visible ladder-back frame of the second green chair from the left with a rounded wooden backrest frame with two upright slats. | 将左起第二把绿椅的梯形靠背可见木框替换为带两根竖条的圆弧形木靠背框。 |
|
| 492 |
| U2 | remove | noref+box | Remove the selected chair rail. | 移除选中的椅子横条。 |
|
| 493 |
| U3 | attribute | ref+point | Change the color of the seat of the black chair on the far right to dark green. | 将最右黑椅的座面改为深绿色。 |
|
| 494 |
-
| U4 | add | noref+point | Add one small cream-colored seat cushion
|
|
|
|
| 7 |
|
| 8 |
# SAMTok Benchmark v2:SA-1B 多对象细粒度交互编辑
|
| 9 |
|
| 10 |
+
当前唯一版本为 **v2 / release 2.4.0:200 张 SA-1B 源图、785 个独立目标,每图 2–5 个目标**。全部源图与所选 mask 及任务在 2.2.0 阶段已由 assistant 逐图查看。本次 2.4.0 原地修正指代、直接附着关系和安装部位,统一 benchmark 与训练数据的 instruction / mask 协议。原图、区域和交互形式保持不变;核查证据见 data/v2/protocol_alignment_review.json。当前冻结的是源图、任务和交互标注,尚无模型编辑结果或独立人工验收。
|
| 11 |
|
| 12 |
+
此文档是仓库主说明;[统一协议](docs/INSTRUCTION_PROTOCOL_ZH.md)与[本次核查记录](docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md)分别维护规范正文和检查证据。审核包和数据目录中的同名内容是发布副本。旧 212 条和旧说明已退出当前清单,历史保存在 Git 与数据归档目录;不与这 200 条混合统计。
|
| 13 |
|
| 14 |
## 1. 评测目标与判定方式
|
| 15 |
|
|
|
|
| 94 |
|
| 95 |
支持两个协议:`native_regions_v2` 直接提供对应坐标或 mask,且只暴露实际指定的形式;`visual_locator_v2` 提供干净源图和仅画指定定位形式的第二张提示图。审核包内 JPEG 提示图用于浏览;正式运行生成 PNG,保持原分辨率。支持 `mixed` 主评测、`all_ref`、`all_mask_noref` 和 `single` 消融。不同协议/消融需分别报告。
|
| 96 |
|
| 97 |
+
## 5. 统一 instruction 与源区域协议
|
| 98 |
|
| 99 |
+
### 一条指令与一个源区域
|
| 100 |
|
| 101 |
+
Benchmark 与训练数据共用以下规范:英文语义记录/渲染格式为 `instruction_protocol_version=1.0`,mask 含义契约为 `mask_semantics.version=1.1`,写作风格为 `benchmark-concise-2-direct-add-1`。三者分别描述可序列化字段、区域的意义和语言写法,不是三套不同任务协议。代码与本段正文在两个仓库逐字核对。
|
| 102 |
|
| 103 |
+
每个编辑目标 U 绑定一个源实例或部件 S、一种操作及其指令。Point、box、mask 和文字 ref 是 S 的不同定位形式,互相转换不产生新目标。原始 mask 保留可见像素、遮挡和孔洞;不把 bbox 内未选中的醒目物体误当成 S。Mask 不因编辑改成结果轮廓,也不是允许任意修改其内部全部内容的授权。
|
| 104 |
|
| 105 |
+
实际编辑对象 T 可以等于 S,也可以是 S 内明确命名的部件。若 mask 已指向袖口,直接说“选中的袖口”;若 mask 指向上衣而只编辑袖口,指令必须写明袖口,构造记录必须表达这一层级,不能把 scope 偷换成袖口以绕过执行区域约束。
|
| 106 |
|
| 107 |
+
### 四类指令与 mask 的含义
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 108 |
|
| 109 |
+
| 类型 | 标准句式 | 源 mask 的含义 | 必须保持的边界 |
|
| 110 |
+
|---|---|---|---|
|
| 111 |
+
| add | `Add <item> <relation> <anchor>.` | 现有直接承载物、容器、穿戴对象、安装面或附着部位;少数符合条件的紧邻参照物 | 宿主保留;新增数量、接触、尺度及位置自然;不是新增物最终轮廓 |
|
| 112 |
+
| replace | `Replace <target> with <replacement>.` | 被替换的现有物体/部件;宿主选择时显式指定内部部件 | 新旧对应同一对象层级,有真实结构/品类变化;单纯换色归 attribute |
|
| 113 |
+
| remove | `Remove <target>.` 或 `Remove <part> from <host>.` | 要删除的现有目标,或包含所述删除部件的宿主 | 只删除指明范围;不把整个宿主清空;不设计不自然的断肢任务 |
|
| 114 |
+
| attribute | `Change the <property> of <target> to <value>.` | 属性变化所属的现有物体、表面或明确部件 | 保留身份、结构及未指定内容;不得把“给人改色”含糊代指衣服 |
|
| 115 |
|
| 116 |
+
Attribute 支持 color/material/finish/pattern/texture/text;透明物染色用 `Tint <target> <color>.`,透明度用 `Make <target> transparent/translucent/opaque.`。文字内容逐字保留并加引号;仅必要时在一句话内列多个属性。加实体徽章/布贴属于 add,改变原表面图案属于 attribute,删除已有标志属于 remove。
|
| 117 |
|
| 118 |
+
删除内容物、连同内容物删除、剪短衣物等须写明范围和终点。一个 U 不混入不同操作;同一锚点添加多个同类物品可为一个 U,但必须说明数量。多目标 case 的每个 U 独立绑定指令,其他 U 授权的变化不算该 U 的越界。
|
| 119 |
|
| 120 |
+
### Add:直接锚点优先,安装部位与关系分开
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 121 |
|
| 122 |
+
1. 优先在所选对象上直接承载、容纳、穿戴、附着或印制。先根据宿主功能、材质、尺寸和可见空间选择自然的新物,而不是先想好物品再寻找远处参照。
|
| 123 |
+
2. `placement.relation` 写新增物与宿主/安装部位的关系,如 `on/in/attached to/mounted on/sewn onto/clipped to/hanging from`;`placement.site` 只写必要的宿主内部位置。`ref` 负责区分哪个宿主,不重复承担 site 的内容。
|
| 124 |
+
3. “在袖口下方的衣袖上缝补丁”是直接附着:`relation=sewn onto`、`site=area below the cuff`、`anchor_mode=support`。Site 里出现 below/near 不会把它变成参照添加。“椅子旁的包”用于识别包,给包提手加牌子仍是直接锚点。
|
| 125 |
+
4. 新物边缘、必要接触阴影和遮挡可超出源 mask,不能要求全部新增像素都落在原 mask 内。但必须与该宿主保持真实接触/支撑,且不妨碍原有功能、不改动无关实例。
|
| 126 |
+
5. 只有直接添加不自然时,才允许 `anchor_mode=reference`:位置真正紧邻、可见支撑面明确、侧别/安装位置唯一。远距离地标、悬浮新物、可落在多个位置的“附近”均不接受。训练构造必须有可信执行区域;缺少时换类型或拒绝该指令,不判原 mask 无效。
|
| 127 |
+
6. 本版 benchmark 的全部 add 均使用直接锚点。协议允许紧邻例外,不等于当前样本含此例外。Benchmark 用户只提供源定位,不需要预先画出新物轮廓;训练内部执行 mask 不能冒充 benchmark 输入。
|
| 128 |
|
| 129 |
+
### 精简、准确、无歧义
|
| 130 |
|
| 131 |
+
默认一句祈使句:动作+最短无歧义目标短语+必要结果。目标唯一时停止添加限定;有竞争实例时才增加一个经图像核实的所属、方位、颜色或序数。序数必须说明可见计数组和方向;身体左右易混淆时用 image-left/image-right。颜色从无标注原图读取,不从彩色 mask 叠加读取。
|
| 132 |
|
| 133 |
+
不要另起 `which is/located/the one...` 分句解释位置,不堆叠宿主、颜色、方向,不列排除项。不要附加“其他都不变”“保留材质/光照”等通用保留列表:这些由公共契约和内部生成提示承担。`qualifier` 默认空,仅当省略会改变请求语义时保留短限定。必要的计数、精确文字、安装位置和删除范围不可为缩句而删除。
|
| 134 |
|
| 135 |
+
常规目标是 Ref 不超过26个英文空格词、No-ref 不超过16词;不是硬截断阈值,不填充到目标长度。Replace 的新形态写在一个完整替换物短语中,内部 form_change 证据不再追加到句尾。模型在同一次请求内检查并删冗,不默认增加润色调用。
|
| 136 |
|
| 137 |
+
### Ref / No-ref 和结构化记录
|
| 138 |
|
| 139 |
+
两种指令从同一 `instruction_spec` 渲染;No-ref 只把识别源实例的 ref 换成 `the selected <scope>`。操作、部件层级、物品、数量、目标属性、局部安装位置和必要限定必须相同。No-ref 必须有 point/box/mask;ref-only 不泄露私有区域或完整语义字段。
|
| 140 |
|
| 141 |
+
例如 Ref 为 `Add a red tag clipped to the handle of the left suitcase.`,No-ref 为 `Add a red tag clipped to the handle of the selected suitcase.`。若源区域已经选中提手,则 No-ref 是 `Add a red tag clipped to the selected handle.`,不能重复“提手的提手”。
|
| 142 |
|
| 143 |
+
作者记录包含 operation、核实后的 ref/scope、payload、target_part/remove_mode、attributes、placement 与必要 qualifier。Add 的物品 payload 不保留指代宿主的悬空 its/it,连接关系和 site 单独存储;构造器不得靠扫描 near/below/above 猜测锚点语义。英文、中文、completion requirement、edit contract 和摘要必须随同一条作者记录一起更新。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 144 |
|
| 145 |
+
### 训练执行与质量检查
|
| 146 |
|
| 147 |
+
源定位 mask、实际执行区域 execution/support mask、邻近保护区域是不同概念。宿主内子部件及紧邻参照任务必须有可信执行区域;检查区域与语义层级相符,不能仅把 ref 改成部件名称而仍开放整个宿主。区域外像素不变只能证明合成边界,不能证明区域内改对、自然或没有误伤。
|
| 148 |
|
| 149 |
+
检查依次覆盖:原图/mask 绑定及几何;逐条 Ref/No-ref 等价与规范;图像中的实例归属和最接近竞争目标;操作自然性与类别边界;add 接触关系和局部位置;生成后完成度、非目标保护和自然质量。自动校验、模型视觉审核、assistant 目视复核和独立人工验收分别记录,不能互相冒充。
|
| 150 |
|
| 151 |
+
本版 785 条正式英文指令:Ref 平均 16.63 词、中位 17、最长 27;No-ref 平均 9.75 词、中位 10、最长 18。属性任务当前覆盖颜色/染色与材质,协议允许的其他属性不等于本版全部覆盖。四类按目标计最多相差 1 个;2–4 目标图不重复操作类型,5 目标图覆盖四类且一类重复。这是 benchmark case 组合设置,不是单条 instruction 的语法要求。
|
| 152 |
|
| 153 |
+
`construction/instructions/design.tsv` 是逐目标作者记录,`add_placements.json` 显式保存 196 条 add 的附着关系与宿主内位置,`target_parts.json` 表达必要的宿主—部件层级,`ref_corrections_zh.json` 同步中英文修订。`instruction_adapter.py` 不再扫描介词猜测锚点。自动校验与逐图核查证据见 [本次修复核查](docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md)及 `data/v2/protocol_alignment_review.json`。
|
| 154 |
|
| 155 |
## 6. 当前构建结果
|
| 156 |
|
|
|
|
| 212 |
|
| 213 |
| 内容 | 路径 |
|
| 214 |
| --- | --- |
|
| 215 |
+
| 唯一 v2 repo | `/opt/tiger/tanyue/samtok_edit_benchmark_v2branch`,分支 `v2branch` |
|
| 216 |
| 唯一维护文档 | repo `README.md`;`/opt/tiger/SAMTok Benchmark v2.md` 指向它 |
|
| 217 |
| 正式版本元数据 | repo `data/v2/`,同步到 `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2/benchmark/` |
|
| 218 |
| 数据总根目录 | `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2` |
|
|
|
|
| 224 |
| 正式模型运行与输出 | `evaluation/`,与任务源资产分开;本版尚无运行 |
|
| 225 |
| 历史归档 | `archive/pre_sa1b_212_v2_2.1.0/`、`archive/previous_review_packages/`,不属当前评测 |
|
| 226 |
| 本机审核包目录 | `/opt/tiger/samtok_edit_benchmark_v2_review` |
|
| 227 |
+
| 当前本机审核目录 | `evaluation/review_protocol1_release2.4.0/`(相对数据根目录) |
|
| 228 |
+
| 当前正式输入 | `evaluation/inputs_release2.4.0_native/jobs.jsonl` |
|
| 229 |
+
| 当前审核压缩包 | `/opt/tiger/tanyue/samtok_edit_benchmark_v2_review_release2.4.0_20261013.zip` |
|
| 230 |
| 完整离线 PDF | 审核包内 `benchmark_all_200_cases.pdf`,200 页,每页一个 case |
|
| 231 |
|
| 232 |
相对资产路径都以数据总根目录或便携包根目录为基准。仓库只保留当前任务元数据、代码、唯一说明及少量说明插图,不提交正式大图、过程图片、审核 zip、模型结果。历史 v1 单对象 API 的基础兼容代码/合成测试保留;当前数据仅 `data/v2/`,不携带旧评测清单。
|
| 233 |
|
| 234 |
正式元数据:`cases.jsonl` 为完整任务;`asset_manifest.jsonl` 为 1185 项资产清单;`provenance.jsonl` 为来源;`instruction_design.jsonl` 和 `instruction_reviews.jsonl` 为逐对象设计/逐图审查;`statistics.json`、`release.json`、`validation.json` 为统计、版本和验证;`selection/` 为选择依据。`release.json` 的 manifest SHA256 绑定当前任务,编辑输入、模型输出与评分均有摘要绑定。
|
| 235 |
|
| 236 |
+
[下载完整 2.4.0 审核包](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip?download=true);[直接查看全部 200 case 的 PDF](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_all_200_cases.pdf?download=true)。此次发布目标为 release 2.4.0 / instruction protocol 1.0,沿用旧下载名与兼容下载名;文件名中的日期不代表内部版本。远端是否已完成替换,以发布回执的 `status` 和 `remote_updated` 为准。发布脚本在单次 HF commit 中替换两个 zip、校验文件、PDF 和说明,并核验远端 SHA256。发布回执见 `data/v2/review_package.json`;包内仅记录归档前内容验证,远端回执存于仓库与 HF 同名 JSON。
|
| 237 |
|
| 238 |
解压整个压缩包后,在包内运行:
|
| 239 |
|
|
|
|
| 250 |
## 8. 构建、验证与运行
|
| 251 |
|
| 252 |
```bash
|
| 253 |
+
cd /opt/tiger/tanyue/samtok_edit_benchmark_v2branch
|
| 254 |
python -m pip install -e '.[dev,review]'
|
| 255 |
|
| 256 |
python construction/build_sa1b_v2.py \
|
|
|
|
| 303 |
| 目标 | 任务 | 正式输入 | English | 中文 |
|
| 304 |
| --- | --- | --- | --- | --- |
|
| 305 |
| U1 | remove | noref+mask | Remove the selected chair. | 移除选中的椅子。 |
|
| 306 |
+
| U2 | add | ref+none | Add one burgundy seat cushion on the chair facing away in front of the nearest table. | 给前景正面背向镜头的木椅加上一个酒红色坐垫。 |
|
| 307 |
| U3 | attribute | ref+mask | Change the color of the partly hidden chair on the left of the nearest table to white. | 将前景桌左侧被遮挡的木椅改为白色。 |
|
| 308 |
|
| 309 |
### Case 033:食品摊位中交叉的竹签
|
|
|
|
| 325 |
|
| 326 |
| 目标 | 任务 | 正式输入 | English | 中文 |
|
| 327 |
| --- | --- | --- | --- | --- |
|
| 328 |
+
| U1 | add | ref+none | Add one small silver wire cage around the glass light bulb on the far right. | 给右侧吊灯的玻璃灯泡加上一个围住玻璃的小银色金属丝护笼。 |
|
| 329 |
| U2 | replace | ref+mask | Replace the largest glass light bulb at the upper center with a long tubular glass light bulb. | 将上方中间最大吊灯的玻璃灯泡替换为长管形玻璃灯泡。 |
|
| 330 |
| U3 | remove | noref+box | Remove the selected light bulb. | 移除选中的灯泡。 |
|
| 331 |
| U4 | attribute | ref+point | Tint the glass light bulb at the middle left pale blue. | 将左侧中间吊灯的玻璃灯泡染成浅蓝色。 |
|
|
|
|
| 340 |
| --- | --- | --- | --- | --- |
|
| 341 |
| U1 | remove | ref+point | Remove the top handle of the pale-purple suitcase at the front right. | 移除前景右侧淡紫色箱子的顶部提手。 |
|
| 342 |
| U2 | replace | noref+point | Replace the selected suitcase handle with a looped brown leather handle. | 将选中的行李箱提手替换为棕色皮革环形提手。 |
|
| 343 |
+
| U3 | add | ref+box | Add one small yellow luggage tag attached to the top handle of the champagne-colored suitcase behind the bright-pink one. | 给亮粉箱后方香槟色箱子的顶部提手加上一个小黄色行李牌。 |
|
| 344 |
| U4 | attribute | noref+mask | Change the color of the selected suitcase handle to black. | 将选中的行李箱提手改为黑色。 |
|
| 345 |
| U5 | replace | ref+none | Replace the top handle of the gray suitcase on the right with a curved wooden handle. | 将右侧灰色箱子的顶部提手替换为弧形木提手。 |
|
| 346 |
|
|
|
|
| 369 |
| U1 | replace | ref+mask | Replace the visible ladder-back frame of the second green chair from the left with a rounded wooden backrest frame with two upright slats. | 将左起第二把绿椅的梯形靠背可见木框替换为带两根竖条的圆弧形木靠背框。 |
|
| 370 |
| U2 | remove | noref+box | Remove the selected chair rail. | 移除选中的椅子横条。 |
|
| 371 |
| U3 | attribute | ref+point | Change the color of the seat of the black chair on the far right to dark green. | 将最右黑椅的座面改为深绿色。 |
|
| 372 |
+
| U4 | add | noref+point | Add one small cream-colored seat cushion on the selected chair seat. | 给选中的椅子座面加上一个米白色小坐垫。 |
|
docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md
ADDED
|
@@ -0,0 +1,36 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Benchmark 与训练统一协议修复核查(2026-10-13)
|
| 2 |
+
|
| 3 |
+
当前 release **2.4.0** 已原地更新数据标注、构造器、训练协议及方法文档。200 张源图、785 个独立目标;add 196、replace 196、remove 197、attribute 196。几何、实例绑定、编辑类别和正式交互分配与 2.3.0 逐项一致。
|
| 4 |
+
|
| 5 |
+
## 统一规范与实质修复
|
| 6 |
+
|
| 7 |
+
规范正文见 [统一 instruction 与源区域协议](INSTRUCTION_PROTOCOL_ZH.md)。两个仓库共用相同英文渲染代码、写作规范和中文协议正文。序列化版本 1.0、mask 含义 1.1、风格 benchmark-concise-2-direct-add-1 分别标记同一协议的三个方面。
|
| 8 |
+
|
| 9 |
+
全部 196 条 add 已显式保存新增物 payload、附着 relation、必要的宿主内 site;全部采用直接锚点。原 14 条被 near/below/above 词面误分为 reference 的任务已改为真实附着关系;不再扫描介词猜测锚点。锚点是源图中已有的承载/附着对象,不是新物体的结果轮廓。协议仍允许仅在直接添加不自然时使用紧邻、唯一、有支撑面的例外;当前 benchmark 没有使用该例外。
|
| 10 |
+
|
| 11 |
+
Ref / No-ref 从相同结构渲染,动作、物品、数量、属性、子部件和安装位置保持等价。指代优先一个最短且无歧义的名词短语,不另起位置补充句。中文、完成标准和 edit contract 随作者记录同步。
|
| 12 |
+
|
| 13 |
+
## 具体 case 修复
|
| 14 |
+
|
| 15 |
+
| Case / Unit | 原问题 | 当前修复 |
|
| 16 |
+
| --- | --- | --- |
|
| 17 |
+
| 006 / U2 | mask 选整椅,文字只改木框,内部层级未表达 | selector 保留第三把椅子,target_part 明确 wooden frame;No-ref 也保留木框 |
|
| 18 |
+
| 058 / U1、U2 | 顶部粉色 T 恤写成蓝色,另一条以此为参照 | 修正本目标颜色,同时修正依赖该人的指代 |
|
| 19 |
+
| 087 / U5 | 绿色购物袋写成黄色 | 按无标注原图改为绿色购物袋 |
|
| 20 |
+
| 114 / U1 | 托盘价格标为 220 | 原图读作 120,修正中英文 |
|
| 21 |
+
| 119 / U3、162 / U4 | 源物体颜色误写 | 使用两条黄围巾之间的围巾、夹克内白衬衫等已核实指代 |
|
| 22 |
+
| 132 / U5 | 胸口被纸牌挡住,新增胸袋不可见 | 在同一上衣可见肩部直接缝小白布贴 |
|
| 23 |
+
| 148 / U2、U5 | 灯头下方可能被读作悬空放置 | 明确花篮从灯杆悬挂、街名牌安装到灯杆 |
|
| 24 |
+
| 181 / U4 | visible knee 可涉及两侧膝部 | 明确画面右侧膝部并直接缝合 |
|
| 25 |
+
|
| 26 |
+
所有改动详见 `data/v2/protocol_alignment_review.json`:134 条 unit 的语义记录或中英文文本有变化,未变更源图和 mask 像素。全量 add 另增加统一结构和 mask 契约,即使表面句子未变化也不代表未迁移。
|
| 27 |
+
|
| 28 |
+
## 检查范围与结果
|
| 29 |
+
|
| 30 |
+
- 全量 785 组 Ref/No-ref 做结构一致性检查;196 个 add 均为 support。源图、mask、box、point、parent 实例和交互形式与旧版逐项比对。
|
| 31 |
+
- Qwen3.8-27B 对 785 条迁移初稿检查干净全图、局部图、二值 mask 和隔离区域,标出 37 条疑点。assistant 逐张查看这 37 条原图和 mask,修订 32 条,保留 5 条误报;修订也覆盖受影响的关联指代。
|
| 32 |
+
- 模型存在明显误报:051/U1 安全帽颜色、071/U2 路灯序数、079/U3 肩带、112/U5 全局方位、138/U1 最右灯泡。未将模型意见直接当成真值。
|
| 33 |
+
- 最终 Ref 平均 16.63 词、中位 17 词、最长 27 词;No-ref 平均 9.75 词、中位 10 词、最长 18 词。必要的局部安装位置不为长度硬截断。
|
| 34 |
+
- 训练和 benchmark 协议代码、风格模块与中文正文逐字校验。训练新建 unit 携带相同 mask_semantics;子部件任务标记需要局部执行区域。字段一致不等于区域分割或生图质量自动合格。
|
| 35 |
+
|
| 36 |
+
这是全量自动核查加疑点目视复核,**不是独立人工验收,也不是 785 条全部经 assistant 再次逐图验收**。未新增 benchmark 编辑结果图,不声称已验证任意生成器的成功率。可视化展示源图、任务和输入;发布记录与浏览器检查分别留有回执。
|
docs/INSTRUCTION_PROTOCOL_ZH.md
ADDED
|
@@ -0,0 +1,53 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 统一 instruction 与源区域协议
|
| 2 |
+
|
| 3 |
+
### 一条指令与一个源区域
|
| 4 |
+
|
| 5 |
+
Benchmark 与训练数据共用以下规范:英文语义记录/渲染格式为 `instruction_protocol_version=1.0`,mask 含义契约为 `mask_semantics.version=1.1`,写作风格为 `benchmark-concise-2-direct-add-1`。三者分别描述可序列化字段、区域的意义和语言写法,不是三套不同任务协议。代码与本段正文在两个仓库逐字核对。
|
| 6 |
+
|
| 7 |
+
每个编辑目标 U 绑定一个源实例或部件 S、一种操作及其指令。Point、box、mask 和文字 ref 是 S 的不同定位形式,互相转换不产生新目标。原始 mask 保留可见像素、遮挡和孔洞;不把 bbox 内未选中的醒目物体误当成 S。Mask 不因编辑改成结果轮廓,也不是允许任意修改其内部全部内容的授权。
|
| 8 |
+
|
| 9 |
+
实际编辑对象 T 可以等于 S,也可以是 S 内明确命名的部件。若 mask 已指向袖口,直接说“选中的袖口”;若 mask 指向上衣而只编辑袖口,指令必须写明袖口,构造记录必须表达这一层级,不能把 scope 偷换成袖口以绕过执行区域约束。
|
| 10 |
+
|
| 11 |
+
### 四类指令与 mask 的含义
|
| 12 |
+
|
| 13 |
+
| 类型 | 标准句式 | 源 mask 的含义 | 必须保持的边界 |
|
| 14 |
+
|---|---|---|---|
|
| 15 |
+
| add | `Add <item> <relation> <anchor>.` | 现有直接承载物、容器、穿戴对象、安装面或附着部位;少数符合条件的紧邻参照物 | 宿主保留;新增数量、接触、尺度及位置自然;不是新增物最终轮廓 |
|
| 16 |
+
| replace | `Replace <target> with <replacement>.` | 被替换的现有物体/部件;宿主选择时显式指定内部部件 | 新旧对应同一对象层级,有真实结构/品类变化;单纯换色归 attribute |
|
| 17 |
+
| remove | `Remove <target>.` 或 `Remove <part> from <host>.` | 要删除的现有目标,或包含所述删除部件的宿主 | 只删除指明范围;不把整个宿主清空;不设计不自然的断肢任务 |
|
| 18 |
+
| attribute | `Change the <property> of <target> to <value>.` | 属性变化所属的现有物体、表面或明确部件 | 保留身份、结构及未指定内容;不得把“给人改色”含糊代指衣服 |
|
| 19 |
+
|
| 20 |
+
Attribute 支持 color/material/finish/pattern/texture/text;透明物染色用 `Tint <target> <color>.`,透明度用 `Make <target> transparent/translucent/opaque.`。文字内容逐字保留并加引号;仅必要时在一句话内列多个属性。加实体徽章/布贴属于 add,改变原表面图案属于 attribute,删除已有标志属于 remove。
|
| 21 |
+
|
| 22 |
+
删除内容物、连同内容物删除、剪短衣物等须写明范围和终点。一个 U 不混入不同操作;同一锚点添加多个同类物品可为一个 U,但必须说明数量。多目标 case 的每个 U 独立绑定指令,其他 U 授权的变化不算该 U 的越界。
|
| 23 |
+
|
| 24 |
+
### Add:直接锚点优先,安装部位与关系分开
|
| 25 |
+
|
| 26 |
+
1. 优先在所选对象上直接承载、容纳、穿戴、附着或印制。先根据宿主功能、材质、尺寸和可见空间选择自然的新物,而不是先想好物品再寻找远处参照。
|
| 27 |
+
2. `placement.relation` 写新增物与宿主/安装部位的关系,如 `on/in/attached to/mounted on/sewn onto/clipped to/hanging from`;`placement.site` 只写必要的宿主内部位置。`ref` 负责区分哪个宿主,不重复承担 site 的内容。
|
| 28 |
+
3. “在袖口下方的衣袖上缝补丁”是直接附着:`relation=sewn onto`、`site=area below the cuff`、`anchor_mode=support`。Site 里出现 below/near 不会把它变成参照添加。“椅子旁的包”用于识别包,给包提手加牌子仍是直接锚点。
|
| 29 |
+
4. 新物边缘、必要接触阴影和遮挡可超出源 mask,不能要求全部新增像素都落在原 mask 内。但必须与该宿主保持真实接触/支撑,且不妨碍原有功能、不改动无关实例。
|
| 30 |
+
5. 只有直接添加不自然时,才允许 `anchor_mode=reference`:位置真正紧邻、可见支撑面明确、侧别/安装位置唯一。远距离地标、悬浮新物、可落在多个位置的“附近”均不接受。训练构造必须有可信执行区域;缺少时换类型或拒绝该指令,不判原 mask 无效。
|
| 31 |
+
6. 本版 benchmark 的全部 add 均使用直接锚点。协议允许紧邻例外,不等于当前样本含此例外。Benchmark 用户只提供源定位,不需要预先画出新物轮廓;训练内部执行 mask 不能冒充 benchmark 输入。
|
| 32 |
+
|
| 33 |
+
### 精简、准确、无歧义
|
| 34 |
+
|
| 35 |
+
默认一句祈使句:动作+最短无歧义目标短语+必要结果。目标唯一时停止添加限定;有竞争实例时才增加一个经图像核实的所属、方位、颜色或序数。序数必须说明可见计数组和方向;身体左右易混淆时用 image-left/image-right。颜色从无标注原图读取,不从彩色 mask 叠加读取。
|
| 36 |
+
|
| 37 |
+
不要另起 `which is/located/the one...` 分句解释位置,不堆叠宿主、颜色、方向,不列排除项。不要附加“其他都不变”“保留材质/光照”等通用保留列表:这些由公���契约和内部生成提示承担。`qualifier` 默认空,仅当省略会改变请求语义时保留短限定。必要的计数、精确文字、安装位置和删除范围不可为缩句而删除。
|
| 38 |
+
|
| 39 |
+
常规目标是 Ref 不超过26个英文空格词、No-ref 不超过16词;不是硬截断阈值,不填充到目标长度。Replace 的新形态写在一个完整替换物短语中,内部 form_change 证据不再追加到句尾。模型在同一次请求内检查并删冗,不默认增加润色调用。
|
| 40 |
+
|
| 41 |
+
### Ref / No-ref 和结构化记录
|
| 42 |
+
|
| 43 |
+
两种指令从同一 `instruction_spec` 渲染;No-ref 只把识别源实例的 ref 换成 `the selected <scope>`。操作、部件层级、物品、数量、目标属性、局部安装位置和必要限定必须相同。No-ref 必须有 point/box/mask;ref-only 不泄露私有区域或完整语义字段。
|
| 44 |
+
|
| 45 |
+
例如 Ref 为 `Add a red tag clipped to the handle of the left suitcase.`,No-ref 为 `Add a red tag clipped to the handle of the selected suitcase.`。若源区域已经选中提手,则 No-ref 是 `Add a red tag clipped to the selected handle.`,不能重复“提手的提手”。
|
| 46 |
+
|
| 47 |
+
作者记录包含 operation、核实后的 ref/scope、payload、target_part/remove_mode、attributes、placement 与必要 qualifier。Add 的物品 payload 不保留指代宿主的悬空 its/it,连接关系和 site 单独存储;构造器不得靠扫描 near/below/above 猜测锚点语义。英文、中文、completion requirement、edit contract 和摘要必须随同一条作者记录一起更新。
|
| 48 |
+
|
| 49 |
+
### 训练执行与质量检查
|
| 50 |
+
|
| 51 |
+
源定位 mask、实际执行区域 execution/support mask、邻近保护区域是不同概念。宿主内子部件及紧邻参照任务必须有可信执行区域;检查区域与语义层级相符,不能仅把 ref 改成部件名称而仍开放整个宿主。区域外像素不变只能证明合成边界,不能证明区域内改对、自然或没有误伤。
|
| 52 |
+
|
| 53 |
+
检查依次覆盖:原图/mask 绑定及几何;逐条 Ref/No-ref 等价与规范;图像中的实例归属和最接近竞争目标;操作自然性与类别边界;add 接触关系和局部位置;生成后完成度、非目标保护和自然质量。自动校验、模型视觉审核、assistant 目视复核和独立人工验收分别记录,不能互相冒充。
|
sa1b_source_selection_200cases_review_20261010.zip
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094
|
| 3 |
+
size 540528026
|
sa1b_source_selection_200cases_review_20261010.zip.sha256
CHANGED
|
@@ -1 +1 @@
|
|
| 1 |
-
|
|
|
|
| 1 |
+
dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094 sa1b_source_selection_200cases_review_20261010.zip
|
samtok_edit_benchmark_v2_all_200_cases.pdf
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:34912dcdb0d22f0ef78537e8ea0ff48247342fbb78001adcb05ac5643da783b8
|
| 3 |
+
size 196602966
|
samtok_edit_benchmark_v2_review_20261010.json
CHANGED
|
@@ -1,14 +1,14 @@
|
|
| 1 |
{
|
| 2 |
-
"release_version": "2.
|
| 3 |
"instruction_protocol_version": "1.0",
|
| 4 |
"repo_id": "TTangenty/samtok_edit",
|
| 5 |
"remote_names": [
|
| 6 |
"samtok_edit_benchmark_v2_review_20261010.zip",
|
| 7 |
"sa1b_source_selection_200cases_review_20261010.zip"
|
| 8 |
],
|
| 9 |
-
"size_bytes":
|
| 10 |
-
"sha256": "
|
| 11 |
-
"manifest_sha256": "
|
| 12 |
"cases": 200,
|
| 13 |
"units": 785,
|
| 14 |
"unit_operations": {
|
|
@@ -21,6 +21,6 @@
|
|
| 21 |
"same_content_compatibility_alias": true,
|
| 22 |
"download_url": "https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip",
|
| 23 |
"pdf_name": "samtok_edit_benchmark_v2_all_200_cases.pdf",
|
| 24 |
-
"pdf_sha256": "
|
| 25 |
-
"pdf_size_bytes":
|
| 26 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"release_version": "2.4.0",
|
| 3 |
"instruction_protocol_version": "1.0",
|
| 4 |
"repo_id": "TTangenty/samtok_edit",
|
| 5 |
"remote_names": [
|
| 6 |
"samtok_edit_benchmark_v2_review_20261010.zip",
|
| 7 |
"sa1b_source_selection_200cases_review_20261010.zip"
|
| 8 |
],
|
| 9 |
+
"size_bytes": 540528026,
|
| 10 |
+
"sha256": "dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094",
|
| 11 |
+
"manifest_sha256": "c39a555497e82a79a255c0e8160bdd874a3c0f387a07e08e8b42e85fdac3be70",
|
| 12 |
"cases": 200,
|
| 13 |
"units": 785,
|
| 14 |
"unit_operations": {
|
|
|
|
| 21 |
"same_content_compatibility_alias": true,
|
| 22 |
"download_url": "https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip",
|
| 23 |
"pdf_name": "samtok_edit_benchmark_v2_all_200_cases.pdf",
|
| 24 |
+
"pdf_sha256": "34912dcdb0d22f0ef78537e8ea0ff48247342fbb78001adcb05ac5643da783b8",
|
| 25 |
+
"pdf_size_bytes": 196602966
|
| 26 |
}
|
samtok_edit_benchmark_v2_review_20261010.zip
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094
|
| 3 |
+
size 540528026
|
samtok_edit_benchmark_v2_review_20261010.zip.sha256
CHANGED
|
@@ -1 +1 @@
|
|
| 1 |
-
|
|
|
|
| 1 |
+
dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094 samtok_edit_benchmark_v2_review_20261010.zip
|