TTangenty commited on
Commit
80ab01b
·
verified ·
1 Parent(s): 04f3665

feat: publish benchmark 2.4.0 with unified instructions and direct add anchors

Browse files

Replace both existing review downloads atomically. Includes 200 sources, 785 tasks, protocol migration, offline full-case PDF and browser-verified mixed interactions.

README.md CHANGED
@@ -7,9 +7,9 @@ language:
7
 
8
  # SAMTok Benchmark v2:SA-1B 多对象细粒度交互编辑
9
 
10
- 当前唯一版本为 **v2 / release 2.3.0:200 张 SA-1B 源图、785 个独立目标,每图 2–5 个目标**。全部源图与所选 mask 及任务在 2.2.0 阶段已由 assistant 逐图查看。本次 2.3.0 为协议迁移:保留审图证据、区域和编辑语义,统一双版本渲染并修正添加位置语序,未冒充新的独立人工审图。当前冻结的是源图、任务和交互标注,尚无模型编辑结果或独立人工验收。
11
 
12
- 此文档是仓库唯一维护的说明,审核包和数据目录中的同名内容是它的发布副本。旧 212 条和旧说明已退出当前清单,历史保存在 Git 与数据归档目录;不与这 200 条混合统计。
13
 
14
  ## 1. 评测目标与判定方式
15
 
@@ -94,185 +94,63 @@ mask 使用 dense annotation 中该目标原始可见区域,转为与原图同
94
 
95
  支持两个协议:`native_regions_v2` 直接提供对应坐标或 mask,且只暴露实际指定的形式;`visual_locator_v2` 提供干净源图和仅画指定定位形式的第二张提示图。审核包内 JPEG 提示图用于浏览;正式运行生成 PNG,保持原分辨率。支持 `mixed` 主评测、`all_ref`、`all_mask_noref` 和 `single` 消融。不同协议/消融需分别报告。
96
 
97
- ## 5. Instruction 如何撰写
98
 
99
- 本节以冻结的 **benchmark v2 / release 2.3.0,200 张源图、785 个编辑目标,instruction 协议 1.0**为准,规范的是模型收到的公开任务指令。`construction/instructions/design.tsv` 逐对象记录语义设计,`construction/instruction_adapter.py` 将旧 recipe 转成统一语义槽位,`src/samtok_benchmark/v2/instruction_protocol.py` 负责英文双版本拼句与校验;完整验收条件另存于 `completion_requirement`、`preserve` 和 `edit_contract`。训练数据生成器附加的长 prompt 不属于这里的公开 instruction。第 5.1–5.6 节记录冻结版本现状;当前两边共用的完整协议见第 5.7 节。
100
 
101
- 本版任务来自逐图查看场景和选区后的设计与冻结。后续按类型扩样应先分配编辑类型,再寻找适合该类型的目标与自然修改;不合适就拒绝或补选,不应为了凑数改成其他类型。本次已将 785 条任务迁移至协议 1.0;119 条添加指令调整位置关系的语序,任务语义、区域与类别保持不变。旧版已归档。
102
 
103
- ### 5.1 公共写法与 ref/no-ref
104
 
105
- 每个独立目标 U 只写一条简短、明确、可视觉判定的编辑请求,交代“执行什么操作、作用于什么对象/部件、改成什么或添加什么”。同图多个目标分别通过 U 编号绑定指令与定位信息,不挤进一个含糊长句,也不要求先执行另一个 U 才能理解本 U。
106
 
107
- - **ref 版本**:`<target>` 是依据源图编写的完整指代表达,可以包含类别、源颜色、方位、所属人物/物体及部件关系。描述必须与该 U 的区域指向同一实例;不确定的颜色不要��,不能用编辑后的属性描述源目标。
108
- - **no-ref 版本**:仅把同一 `<target>` 替换成 `the selected <scope>`,例如 `the selected jacket`。`scope` 保留对象/部件类型与粒度,删除用来定位宿主实例的左右位置、人物身份等信息。新增物、数量、颜色、材质、删除子部件和必要安装位置必须保留。**no-ref 不是无语义指令**,不能把“移除衣服上的徽标”缩成“移除选中的衣服”。
109
- - 两版本的编辑内容必须等价;差异只在源实例如何定位。no-ref 中允许 `upper back` 等定义新增物安装位置的词,也允许 `white chest emblem` 等明确待删除子部件的词,它们是编辑语义,不是泄露完整宿主 ref。
110
- - `has_ref=true` 时发送 `instruction_ref`,可以配 `none/point/box/mask`;`has_ref=false` 时发送 `instruction_noref`,必须配 `point/box/mask`。转换定位形式不改变操作和编辑内容。每个 U 只向模型发送实际指定的一种版本,不同时附送私有 full ref。
111
- - 公开英文句子使用祈使句和句号,写操作必需信息,不反复添加“保留其他内容”,不混入设计理由、审核结论、模型名、生成步骤或重试要求。保持要求是全局默认行为,具体保护关系在私有验收标注中展开。
112
- - 中文审核翻译须保留相同操作、数量、目标粒度和结果要求;默认正式输入使用英文,中文用于审核。
113
 
114
- 当前冻结数据的英文 ref 实际长度为 **4–26 词,中位 17**,no-ref 为 **4–16 词,中位 10**,按空白分词。新写作沿用这一简洁预算。两边均已移除最少词数和机械上限,超预算记录 `instruction_length_advice` 供审查,不能为压缩长度丢弃必要语义。长度合格不代表语义正确。
 
 
 
 
 
115
 
116
- ### 5.2 四类及其子类的固定句式
117
 
118
- 下表中的 `<target>` 在 ref 中取完整指代,在 no-ref 中统一取 `the selected <scope>`。当前构建器兼容 add 的 `to` 句式,并把可明确拆出的安装位置放入 placement,渲染为 `Add <item> <relation> <site of target>.`。
119
 
120
- | 类型 / recipe | 英文句式 | 中文含义与语义边界 | 当前数量 |
121
- | --- | --- | --- | ---: |
122
- | add / A | `Add <new item> to <target>.` | 给指定承载物添加源图中不存在的物品;必要时写数量、大小和安装位置,原承载物保留 | 196 |
123
- | replace / R | `Replace <target> with <new object/part>.` | 用结构、形态或品类不同的新物体/部件替代旧目标;只换色不算 replace | 196 |
124
- | remove / D | `Remove <target>.` | 完整移除指定目标,合理补全显露背景 | 109 |
125
- | remove / D:contents | `Remove <target>, including its contents.` | 连同容器中的物品一起移除,不能把内容物悬留 | 11 |
126
- | remove / D:part | `Remove <part> from <target>.` | 只移除所选对象上的明确子部件,宿主其余部分保留 | 56 |
127
- | remove / D:lowerlegs | `Remove the lower legs of <target> to make knee-length shorts.` | 剪去下段裤腿,改为及膝短裤,保留上部裤装 | 18 |
128
- | remove / D:hem | `Remove the lower section of <target> to make it knee-length.` | 剪去裙装下段,改为及膝长度 | 3 |
129
- | attribute / C | `Change the color of <target> to <value>.` | 改颜色,保留对象身份、几何与相关纹理 | 179 |
130
- | attribute / C:material | `Change the material of <target> to <material>.` | 改为明确材质,保留对象身份和几何;例如 polished gold,不能仅用 matte black 冒充材质 | 13 |
131
- | attribute / C:tint | `Tint <target> <color>.` | 给透明物体染色,保持合理透光性质;`attribute_kind` 仍为 color | 4 |
132
 
133
- ### 5.3 各类型必须明确的编辑范围
 
 
 
 
 
134
 
135
- **add:区域是源锚点。** mask/box/point 指向源图中的承载物或安装面,不是新增物体的预计轮廓。指令中必须能判断新增什么、加到哪个锚点,以及必要数量和附着位置。新增物要与场景用途、体量、支撑/连接关系自洽,不能借添加替换掉宿主。当前 196 个 add 全是局部增添/附着,不包含自由空间新增大型物体。连接、遮挡和必要阴影可以超出源 mask,不能据此任意改变邻近物。
136
 
137
- **replace:明确旧目标和新身份。** 替代物应能占据原来的合理位置,尺度、用途和支撑关系可成立;旧身份应消失,不能只是旁边多放一个新物体。若目标是衣袖、提手等部件,只替换该部件,不能把整个人或整件宿主一起改掉。
138
 
139
- **remove:先分清删整物还是删子部件。** 普通 D 删除整个指令目标;D:contents 还删除内容物;D:part、D:lowerlegs 和 D:hem 只删除所选宿主中的指定部分。后面三类共 **77 个**,`edit_contract.scope_relation=subregion_of_selected_object`。源 mask 可以定位整件宿主,具体删除范围由文本进一步限定;不能把这些 case 评成“mask 覆盖的全部内容都应消失”。其中删除已有徽标、印花或文字的 7 个任务也是 remove,不应改归 replace。
140
 
141
- **attribute:明确属性和值。** 当前只包含颜色/染色和材质,不包含任意属性变化。目标对象及其几何身份应保持,不能趁换色改变款式、形状或文字。颜色要与源图有可判定区别,材质值要是真正的材料;透明物的染色不能直接变成不透明实心块。当前颜色/染色合计 183 个、材质 13 个。
142
 
143
- 源 mask 在所有类型中都是语义定位依据,不是结果图的逐像素差分真值。实际允许改动由文本目标、操作类型及必要局部物理效应共同决定。
144
 
145
- ### 5.4 冻结 benchmark 中的真实例子
146
 
147
- 下面是清单原句,未为解释而改写;中文解释用于说明含义。
148
 
149
- | case / U | ref 指令 | no-ref 指令 | 中文含义 |
150
- | --- | --- | --- | --- |
151
- | `v2-sa_10146830/U3` · add | Add one small round enamel pin on the upper back of the central girl's leather jacket. | Add one small round enamel pin on the upper back of the selected jacket. | 给皮衣后背上部加一枚小圆形珐琅徽章;no-ref 仍须保留数量与安装位置 |
152
- | `v2-sa_10063996/U1` · replace | Replace the outer sleeve of the woman on the left with a flared bell sleeve. | Replace the selected sleeve with a flared bell sleeve. | 将指定衣袖替换为喇叭袖 |
153
- | `v2-sa_10146830/U1` · remove | Remove the hood hanging down the red-clad person's back. | Remove the selected hood. | 移除指定帽兜 |
154
- | `v2-sa_2566092/U1` · remove 子部件 | Remove the white chest emblem from the foreground drummer's pink T-shirt. | Remove the white chest emblem from the selected T-shirt. | 只删除 T 恤胸前白色徽标,保留 T 恤 |
155
- | `v2-sa_10063996/U2` · attribute 颜色 | Change the color of the red coat of the woman on the right to navy blue. | Change the color of the selected coat to navy blue. | 将指定外套改为藏蓝色 |
156
- | `v2-sa_5033895/U1` · attribute 材质 | Change the material of the crown of the front-right elephant-headed statue to polished gold. | Change the material of the selected crown to polished gold. | 将指定冠饰材质改为抛光黄金 |
157
- | `v2-sa_1580699/U4` · attribute 染色 | Tint the narrow transparent package immediately left of the blue shopping bag amber. | Tint the selected package amber. | 将指定透明包装染成琥珀色,保留透明性质 |
158
-
159
- 这些例子说明写法与评测语义,不代表已经取得合格目标图。当前 benchmark 冻结的是任务和输入,独立人工验收与模型编辑评测仍待完成。
160
-
161
- ### 5.5 多目标与训练管线的区别
162
-
163
- 正式 benchmark 每张源图有 2–5 个不同实物的目标,每个 U 独立绑定自己的指令和交互形式,主评测要求在同一结果图中全部完成。当前冻结分布是:2–4 目标图的操作类型不重复,5 目标图覆盖四类且仅一类重复;全局四类按目标计最多相差 1 个。它们是本版 case 设置,不是单条英文句子的语法规则。
164
-
165
- 当前训练构造管线已实现统一语义记录、四类及删除子类、Tint 和外观属性扩展,由同一 renderer 生成 ref/no-ref。子部件和内容物范围必须有预处理提供的执行区域;缺失则拒绝,不把“删除宿主上的徽标”降级为整物删除。训练实验中“每源两个目标、同一类、分别生图”也不等同于 benchmark 的混合类型多目标联合任务。对齐 benchmark 需要保留这些范围语义,不能只比较四个 operation 标签。
166
-
167
- ### 5.6 写完后的核对要求
168
-
169
- 1. 从干净源图确认 ref、区域、类别和所属实例一致;同类多个目标的方位不能互相矛盾。
170
- 2. 仅比较 ref/no-ref 的目标短语替换后,操作、数量、目标属性、安装位置和删除范围应全部一致。
171
- 3. 确认类别语义成立:添加没有变成替换,替换不是仅换色,删除子部件没有变成删宿主,属性修改没有改几何。
172
- 4. 确认请求符合画面可见内容和常见修图需求,有合理尺度、支撑和遮挡关系;不靠想象的故事解释怪异变化。
173
- 5. 检查句子长度、中英文等价性,以及同图各 U 的独立性、保护关系和联合可执行性。
174
-
175
- 修改冻结指令需更新设计记录、重新审图并重新冻结版本。本文补充规范不会改写当前任务清单、改变 operation 分类或代替视觉质量验收。
176
-
177
- ### 5.7 统一 instruction 协议 v1.0(已接入 benchmark 与训练管线)
178
-
179
- 本协议统一 benchmark 和训练数据的语义设计与英文渲染,已接入 release 2.3.0 及训练管线。沿用四类操作、ref/no-ref 和源区域定位原则。协议版本独立于数据集 release;支持某种句式不等于该子类已经出现在冻结样本中,也不等于已验证生成质量。
180
-
181
- #### A. 一条指令表达什么
182
-
183
- 统一结构为:**操作 + 实际编辑对象 + 新内容/目标值 + 必要的局部关系或范围**。每个 U 对应一个源实例或其部件,以及一种编辑操作。优先一句话;仅在省略信息会产生不同合理结果时,增加短限定语。输入 point/box/mask 负责定位源实例,文字负责明确编辑内��和局部范围。
184
-
185
- 区分两个概念:`S` 是区域或 ref 选中的源实例;`T` 是实际操作对象,可以直接等于 S,也可以是 S 内文字明确指定的部件。例如区域选中夹克时,T 可以是“该夹克的领口”;区域已精确选中领口时,T 就是“选中的领口”,不能再写“领口的领口”。add 则以 S 或其可见部位为新增物的锚点。
186
-
187
- 同一种类型使用稳定的主句,不要求所有细节塞进一个不自然的固定短语。不额外写“请”“高质量”“真实自然”“只修改这里”“保持其他不变”等重复套话。数量、接触关系、保留某一易混淆部件、结果长度等若决定任务含义,应保留在公开指令中,不能仅写在 evaluator 私有字段里。
188
-
189
- #### B. 分类型句式和边界
190
-
191
- | 类型 | 推荐主句 | 可按需补充的内容 | 类型边界 |
192
- | --- | --- | --- | --- |
193
- | add | `Add <item> <relation> <anchor>.` | 新物的类别、必要数量/外观,锚点上的部位、放置或连接关系 | 新增实体或实体配件;原锚点保留。输入区域指向源锚点,不指向新增物轮廓 |
194
- | replace | `Replace <T> with <replacement>.` | 新实体/部件的设计、数量、关键外观;必要连接关系 | 旧对象/部件被替代,不能留下旧物又在旁边增加新物;仅改颜色、图案或材质归 attribute |
195
- | remove | `Remove <T>.`;宿主定位时用 `Remove <part> from <S>.` | 明确连带移除内容物、移除数量、裁去范围和预期终点 | 删除整物或指定局部,保留未请求的宿主部分;不是把 mask 内全部像素都清空 |
196
- | attribute | `Change the <property> of <T> to <value>.` | 目标属性值,以及确实必要的属性组合或局部范围 | 保留实体身份及未请求的几何、部件和外观;改变已有对象/表面属性,不添加或替换实体 |
197
-
198
- **add 的关系不要一律用模糊的 `to`。** 承载关系可写 `on the seat of`、`inside`,连接可写 `attached to the handle of`;已有 to 句式在位置明确时继续有效。缺省优先依附/承载型添加。为覆盖自然请求,允许以可见源实例为参照的 `under`、`beside` 等位置关系,但必须有可见可用空间及合理落地/支撑条件,必要时写清参照侧。例如 `Add a small wastebasket on the floor beside the left leg of the selected desk.`。这种参照型添加是新协议的表达能力,当前冻结 benchmark 的 add 仍全是局部依附型;训练入口仅在已有明确执行区域时接受参照型任务。
199
-
200
- 数量可由 `a/an` 表示一个;要求恰好几个时写 `one/two/...`。同一锚点上添加两个相同物品可以是一个 U,不因新增数量变成两个源编辑目标。默认一个 U 只涉及一个新增物类别;“加靠垫并删除包”是两种操作,不能塞进同一 U。
201
-
202
- **remove 保留现有灵活子类:**
203
-
204
- - 整体与内容物:`Remove <T>, including its contents.`。容器及物品是否一起移除应明确;若只清空容器,写 `Remove the contents from <S>.`,保留容器。
205
- - 已有标记/局部部件:`Remove the logo from <S>.`、`Remove the hood from <S>.`。保留载体,合理补全被移除处。
206
- - 裁短:沿用 `Remove the lower section of <T> to make it knee-length.` 等“范围 + 终点”形式,不另增一套操作类型。裁短是 remove 的明确例外,允许因切除产生轮廓变化;不能扩大为任意形状变换。
207
- - 附件或物品是否连带删除若有多种合理解释,必须在公开句子中消歧;普通背景补全、必要阴影处理属于全局执行要求,无需每条重复。
208
-
209
- **attribute 从颜色/材质扩为有限、可核验的外观属性集合:**
210
-
211
- | property | 推荐表达 / 示例 | 保持要求 |
212
- | --- | --- | --- |
213
- | color | `Change the color of <T> to navy blue.` | 保留相关纹理、结构与光照关系 |
214
- | material | `Change the material of <T> to brushed steel.` | 材料必须真实明确;只改变现有表面的材质表现,尺寸和构型不随意变化 |
215
- | finish | `Change the finish of <T> to matte.` | 区分表面光泽与材料;matte black 是颜色/表面效果,不是材料名 |
216
- | pattern | `Change the pattern of <T> to thin blue stripes.` | 只改变指定表面图案,保持裁剪、褶皱和遮挡;支持原本纯色表面 |
217
- | texture | `Change the surface texture of <T> to a fine pebbled texture.` | 目标纹理应具体且适配源对象;不借此改轮廓或结构 |
218
- | text | `Change the text on <T> to "OPEN".` | 引号内是精确内容;需要特定行/标签时在 T 中明确,保留载体和未指定文字 |
219
- | tint / opacity | `Tint <T> amber.`;`Make <T> translucent.` | tint 默认保留原透明性质;透明度变化只有明确请求时才允许,不借材质修改隐式改变 |
220
-
221
- 保留 `Tint` 作为颜色的自然短式;`Make ... translucent/opaque` 是透明度的受限短式。可自然写 `Recolor <T> navy blue.` 的任务仍优先统一为 `Change the color ...`,不为同一语义增加大量随��同义模板。
222
-
223
- 同一 T 上确有必要且兼容的多个外观要求可以合并为一个 attribute,例如 `Change the color of <T> to navy blue and its finish to matte.`;内部仍分别记录属性和值。不要默认把每条扩成多属性任务,也不混入移除、添加或实体替换。
224
-
225
- **分类边界固定:**加实体布贴/徽章是 add;让衣服表面出现条纹是 attribute.pattern;把已有标牌文字改成另一串文字是 attribute.text;删除已有 logo/文字是 remove;把整块标牌换成另一种结构是 replace。翻转、搬移、重新摆姿势等不属于这四类协议,不强行重标。新增属性及参照型添加应分别记录子类,评测时分项统计,不能把新能力混进旧版本结果直接比较。
226
-
227
- #### C. ref/no-ref 从同一份语义记录生成
228
-
229
- 只更换 S 的实例定位表达,其他编辑内容保持一致:
230
-
231
- | 内容 | ref | no-ref |
232
- | --- | --- | --- |
233
- | 源实例 S | 源图中可准确定位的简短名词短语 | `the selected <scope>` |
234
- | 源实例内部的操作部位 | 保留 | 保留 |
235
- | 新物、数量、结果值 | 保留 | 保留 |
236
- | 放置/附着关系、删除范围 | 保留 | 保留 |
237
- | 为定位源实例写的左右位置、所属人物等 | 按需保留 | 删除,由定位信息承担 |
238
-
239
- `scope` 必须由当前图像和区域确认,不能直接用可能错误的原始类别或其第一个别名。独立确定 scope 与 ref 的一致语义,再渲染两版本;不能让模型分别自由写两条指令后只检查字符串不同。无 ref 必须有 point/box/mask;ref 可单独使用或配区域。同一 U 切换定位形式不应改变上述语义。
240
-
241
- 以下是**协议示例,不是新增冻结 benchmark 样本**:
242
-
243
- | 类型 | ref 示例 | no-ref 示例 |
244
- | --- | --- | --- |
245
- | add | Add a beige cushion on the seat of the black chair on the left. | Add a beige cushion on the seat of the selected chair. |
246
- | replace | Replace the handle of the red suitcase with a rigid black handle. | Replace the handle of the selected suitcase with a rigid black handle. |
247
- | remove | Remove the logo from the runner's white T-shirt. | Remove the logo from the selected T-shirt. |
248
- | attribute | Change the color of the collar of the front man's jacket to navy blue. | Change the color of the collar of the selected jacket to navy blue. |
249
-
250
- 后面三例的区域均假设定位宿主(箱子、T 恤、夹克)。若区域本来就定位提手/徽标/领口,no-ref 应分别改为 `the selected handle/logo/collar`,不能混用宿主粒度。子部件必须在源图上可定位;出现多个同名部件时,保留区分该部件必需的局部方位,例如 `the left pocket of the selected jacket`。
251
-
252
- #### D. 简洁性、自然性和多目标规则
253
-
254
- - 写足能够区分不同编辑结果的信息,然后停止;不要求每条凑满数量、颜色、材质、大小、位置这几项。对结果没有作用的修饰词删除。
255
- - 默认一句话;ref 26 词、no-ref 16 词继续作为常规写作目标,不设最低词数,也不为达标删掉必要限定。超过目标先检查冗余,超过 40 词建议重新审查或拆解;长而必要的指代可保留。该协议的长度要求是写作指导;现有训练器已迁移为非空检查、语义校验与长度审查提示。
256
- - 属性或替代物应与源对象、场景用途、尺度和光照自洽。选择普通人可能提出的修图请求,不能单为明显变化设计奇怪物件/极端颜色。
257
- - 无 ref 不等于允许随意歧义:指令结合公开定位信息后必须明确。没有足够清晰的源实例、部件或可行支撑关系时,拒绝该任务并按同类补样。
258
- - 每个 U 可独立理解,所有 U 又须能在同一张结果图联合执行;避免一条删除另一条的宿主、对同一表面要求互斥颜色等冲突。不引用“上一个编辑”“第一步结果”。
259
- - 全局默认保留未请求内容,并完成必要的背景、边缘、遮挡、连接和光影修复。这些默认项不重复写进每条指令;超出默认含义的要求必须公开,不能由私有验收偷偷增加。
260
-
261
- #### E. 实现约定与迁移边界
262
-
263
- 内部最小语义记录应包含:`operation`、`selection`(源实例 ID、经核对的 ref/scope 和定位信息)、`target_part`(若有)、`change`(新物/替代物/删除范围/属性和值),以及按需的 `placement`(关系与部位)、`qualifiers`(必要数量或保留要求)。这些是作者侧结构化槽位,不要求模型输入暴露 JSON,也不能把内部全量定位信息泄露给 ref-only 任务。放置几何、执行 mask、审核证据独立保存,不塞入公开短句。
264
-
265
- 模板根据操作和槽位渲染 ref/no-ref,逐项核验语义等价,并记录 `instruction_protocol_version`。旧 release 2.2.0 的语义与四类基础模板继续兼容,无需仅为句式重写历史任务;改变实际编辑语义必须重新审查和冻结版本。
266
 
267
- 已同步修改规划输出、双版本渲染、schema、生成 prompt、区域范围检查、审核规则与 SAMTok 指令绑定。两个仓库使用逐字一致的无依赖 `instruction_protocol.py`,包括语义槽位校验、ref/no-ref 渲染和漂移拒绝。宿主 mask + 子部件语义必须提供可靠执行区域;若未提供或仍覆盖整个宿主,拒绝执行。参照型 add 也须显式执行区;普通依附型 add 保留现有生成兼容路径。LaMa 仅做删除,重着色后端仅做单一颜色属性,其他属性交给文字条件编辑器。**已完成代码接入和协议验证,未据此宣称新增子类生成质量合格。**
268
 
269
- ### 5.8 本次迁移验证(2.3.0)
270
 
271
- 全部 785 个目标写入协议版本和语义记录,119 组 add 指令将原有位置短语显式绑定到源锚点。例如 `Add one small round enamel pin on the upper back to ...` 改为 `Add one small round enamel pin on the upper back of ...`。迁移没有添加新的物品、位置或属性要求;中英文请求的原编辑内容保持一致。
272
 
273
- 已逐字段核对源图、原始 target/mask/box/point、交互形式、操作类别、中文指令和保护标注均未变。785 组 ref/no-ref 全部从语义记录重渲染校验;200 条正式 native mixed 输入只暴露所选指令和定位形式,不泄露完整 spec 或私有 full ref。1,185 个资产通过哈希及几何核验。差异清单与共享模块摘要见 `data/v2/protocol_migration.json`。
274
 
275
- benchmark 测试 95 通过、ruff 全部通过;训练管线全量测试 438 通过、1 跳过。可用 `PYTHONPATH=src python construction/verify_instruction_protocol.py --training-repo ../sa1b-samtok-edit-data` 复核两份协议模块逐字相同与全部双版本一致性。测试覆盖类型/属性拒绝、双版本语义漂移、精确文字、数量与位置、部件执行区域、SAMTok 绑定和元数据往返。2.3.0 审核包已重新完成全部 200 case 的浏览器加载与 mask/box/ref 叠加检查,页面错误和失败请求均为 0;完整 PDF 逐页嵌入全部 200 case 图像。此 benchmark 发布未运行编辑模型。旧 2.2.0 元数据归档于数据根目录的 `archive/release_2.2.0_before_protocol_1.0/`。
276
 
277
  ## 6. 当前构建结果
278
 
@@ -334,7 +212,7 @@ mask 面积占整图中位数 **0.5725%**,最小 **0.0814%**、最大 **13.182
334
 
335
  | 内容 | 路径 |
336
  | --- | --- |
337
- | 唯一 v2 repo | `/opt/tiger/samtok_edit_benchmark_v2branch`,分支 `v2branch` |
338
  | 唯一维护文档 | repo `README.md`;`/opt/tiger/SAMTok Benchmark v2.md` 指向它 |
339
  | 正式版本元数据 | repo `data/v2/`,同步到 `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2/benchmark/` |
340
  | 数据总根目录 | `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2` |
@@ -346,16 +224,16 @@ mask 面积占整图中位数 **0.5725%**,最小 **0.0814%**、最大 **13.182
346
  | 正式模型运行与输出 | `evaluation/`,与任务源资产分开;本版尚无运行 |
347
  | 历史归档 | `archive/pre_sa1b_212_v2_2.1.0/`、`archive/previous_review_packages/`,不属当前评测 |
348
  | 本机审核包目录 | `/opt/tiger/samtok_edit_benchmark_v2_review` |
349
- | 当前本机审核目录 | `evaluation/review_protocol1_release2.3.0/`(相对数据根目录) |
350
- | 当前正式输入 | `evaluation/inputs_protocol1_native/jobs.jsonl` |
351
- | 当前审核压缩包 | `/opt/tiger/samtok_edit_benchmark_v2_review_release2.3.0_20261012.zip` |
352
  | 完整离线 PDF | 审核包内 `benchmark_all_200_cases.pdf`,200 页,每页一个 case |
353
 
354
  相对资产路径都以数据总根目录或便携包根目录为基准。仓库只保留当前任务元数据、代码、唯一说明及少量说明插图,不提交正式大图、过程图片、审核 zip、模型结果。历史 v1 单对象 API 的基础兼容代码/合成测试保留;当前数据仅 `data/v2/`,不携带旧评测清单。
355
 
356
  正式元数据:`cases.jsonl` 为完整任务;`asset_manifest.jsonl` 为 1185 项资产清单;`provenance.jsonl` 为来源;`instruction_design.jsonl` 和 `instruction_reviews.jsonl` 为逐对象设计/逐图审查;`statistics.json`、`release.json`、`validation.json` 为统计、版本和验证;`selection/` 为选择依据。`release.json` 的 manifest SHA256 绑定当前任务,编辑输入、模型输出与评分均有摘要绑定。
357
 
358
- [下载完整 2.3.0 审核包](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip?download=true);[直接查看全部 200 case 的 PDF](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_all_200_cases.pdf?download=true)。此次发布目标为 release 2.3.0 / instruction protocol 1.0,沿用旧下载名与兼容下载名;文件名中的日期不代表内部版本。远端是否已完成替换,以发布回执的 `status` 和 `remote_updated` 为准。发布脚本在单次 HF commit 中替换两个 zip、校验文件、PDF 和说明,并核验远端 SHA256。发布回执见 `data/v2/review_package.json`;包内仅记录归档前内容验证,远端回执存于仓库与 HF 同名 JSON。
359
 
360
  解压整个压缩包后,在包内运行:
361
 
@@ -372,7 +250,7 @@ python run_review.py --no-browser --port 8766
372
  ## 8. 构建、验证与运行
373
 
374
  ```bash
375
- cd /opt/tiger/samtok_edit_benchmark_v2branch
376
  python -m pip install -e '.[dev,review]'
377
 
378
  python construction/build_sa1b_v2.py \
@@ -425,7 +303,7 @@ python -m ruff check .
425
  | 目标 | 任务 | 正式输入 | English | 中文 |
426
  | --- | --- | --- | --- | --- |
427
  | U1 | remove | noref+mask | Remove the selected chair. | 移除选中的椅子。 |
428
- | U2 | add | ref+none | Add one burgundy seat cushion to the chair facing away in front of the nearest table. | 给前景正面背向镜头的木椅加上一个酒红色坐垫。 |
429
  | U3 | attribute | ref+mask | Change the color of the partly hidden chair on the left of the nearest table to white. | 将前景桌左侧被遮挡的木椅改为白色。 |
430
 
431
  ### Case 033:食品摊位中交叉的竹签
@@ -447,7 +325,7 @@ python -m ruff check .
447
 
448
  | 目标 | 任务 | 正式输入 | English | 中文 |
449
  | --- | --- | --- | --- | --- |
450
- | U1 | add | ref+none | Add one small silver wire cage around the glass of the glass light bulb on the far right. | 给右侧吊灯的玻璃灯泡加上一个围住玻璃的小银色金属丝护笼。 |
451
  | U2 | replace | ref+mask | Replace the largest glass light bulb at the upper center with a long tubular glass light bulb. | 将上方中间最大吊灯的玻璃灯泡替换为长管形玻璃灯泡。 |
452
  | U3 | remove | noref+box | Remove the selected light bulb. | 移除选中的灯泡。 |
453
  | U4 | attribute | ref+point | Tint the glass light bulb at the middle left pale blue. | 将左侧中间吊灯的玻璃灯泡染成浅蓝色。 |
@@ -462,7 +340,7 @@ python -m ruff check .
462
  | --- | --- | --- | --- | --- |
463
  | U1 | remove | ref+point | Remove the top handle of the pale-purple suitcase at the front right. | 移除前景右侧淡紫色箱子的顶部提手。 |
464
  | U2 | replace | noref+point | Replace the selected suitcase handle with a looped brown leather handle. | 将选中的行李箱提手替换为棕色皮革环形提手。 |
465
- | U3 | add | ref+box | Add one small yellow luggage tag to the top handle of the champagne-colored suitcase behind the bright-pink one. | 给亮粉箱后方香槟色箱子的顶部提手加上一个小黄色行李牌。 |
466
  | U4 | attribute | noref+mask | Change the color of the selected suitcase handle to black. | 将选中的行李箱提手改为黑色。 |
467
  | U5 | replace | ref+none | Replace the top handle of the gray suitcase on the right with a curved wooden handle. | 将右侧灰色箱子的顶部提手替换为弧形木提手。 |
468
 
@@ -491,4 +369,4 @@ python -m ruff check .
491
  | U1 | replace | ref+mask | Replace the visible ladder-back frame of the second green chair from the left with a rounded wooden backrest frame with two upright slats. | 将左起第二把绿椅的梯形靠背可见木框替换为带两根竖条的圆弧形木靠背框。 |
492
  | U2 | remove | noref+box | Remove the selected chair rail. | 移除选中的椅子横条。 |
493
  | U3 | attribute | ref+point | Change the color of the seat of the black chair on the far right to dark green. | 将最右黑椅的座面改为深绿色。 |
494
- | U4 | add | noref+point | Add one small cream-colored seat cushion to the selected chair seat. | 给选中的椅子座面加上一个米白色小坐垫。 |
 
7
 
8
  # SAMTok Benchmark v2:SA-1B 多对象细粒度交互编辑
9
 
10
+ 当前唯一版本为 **v2 / release 2.4.0:200 张 SA-1B 源图、785 个独立目标,每图 2–5 个目标**。全部源图与所选 mask 及任务在 2.2.0 阶段已由 assistant 逐图查看。本次 2.4.0 原地修正指代、直接附着关系和安装部位,统一 benchmark 与训练数据的 instruction / mask 协议。原图、区域和交互形式保持不变;核查证据见 data/v2/protocol_alignment_review.json。当前冻结的是源图、任务和交互标注,尚无模型编辑结果或独立人工验收。
11
 
12
+ 此文档是仓库主说明;[统一协议](docs/INSTRUCTION_PROTOCOL_ZH.md)与[本次核查记录](docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md)分别维护规范正文和检查证据。审核包和数据目录中的同名内容是发布副本。旧 212 条和旧说明已退出当前清单,历史保存在 Git 与数据归档目录;不与这 200 条混合统计。
13
 
14
  ## 1. 评测目标与判定方式
15
 
 
94
 
95
  支持两个协议:`native_regions_v2` 直接提供对应坐标或 mask,且只暴露实际指定的形式;`visual_locator_v2` 提供干净源图和仅画指定定位形式的第二张提示图。审核包内 JPEG 提示图用于浏览;正式运行生成 PNG,保持原分辨率。支持 `mixed` 主评测、`all_ref`、`all_mask_noref` 和 `single` 消融。不同协议/消融需分别报告。
96
 
97
+ ## 5. 统一 instruction 与源区域协议
98
 
99
+ ### 一条指令与一个源区域
100
 
101
+ Benchmark 与训练数据共用以下规范:英文语义记录/渲染格式为 `instruction_protocol_version=1.0`,mask 含义契约为 `mask_semantics.version=1.1`,写作风格为 `benchmark-concise-2-direct-add-1`。三者分别描述可序列化字段、区域的意义和语言写法,不是三套不同任务协议。代码与本段正文在两个仓库逐字核对。
102
 
103
+ 每个编辑目标 U 绑定一个源实例或部件 S、一种操作及其指令。Point、box、mask 和文字 ref 是 S 的不同定位形式,互相转换不产生新目标。原始 mask 保留可见像素、遮挡和孔洞;不把 bbox 内未选中的醒目物体误当成 S。Mask 不因编辑改成结果轮廓,也不是允许任意修改其内部全部内容的授权。
104
 
105
+ 实际编辑对象 T 可以等于 S,也可以是 S 内明确命名的部件。若 mask 已指向袖口,直接说“选中的袖口”;若 mask 指向上衣而只编辑袖口,指令必须写明袖口,构造记录必须表达这一层级,不能把 scope 偷换成袖口以绕过执行区域约束。
106
 
107
+ ### 四类指令与 mask 的含义
 
 
 
 
 
108
 
109
+ | 类型 | 标准句式 | 源 mask 的含义 | 必须保持的边界 |
110
+ |---|---|---|---|
111
+ | add | `Add <item> <relation> <anchor>.` | 现有直接承载物、容器、穿戴对象、安装面或附着部位;少数符合条件的紧邻参照物 | 宿主保留;新增数量、接触、尺度及位置自然;不是新增物最终轮廓 |
112
+ | replace | `Replace <target> with <replacement>.` | 被替换的现有物体/部件;宿主选择时显式指定内部部件 | 新旧对应同一对象层级,有真实结构/品类变化;单纯换色归 attribute |
113
+ | remove | `Remove <target>.` 或 `Remove <part> from <host>.` | 要删除的现有目标,或包含所述删除部件的宿主 | 只删除指明范围;不把整个宿主清空;不设计不自然的断肢任务 |
114
+ | attribute | `Change the <property> of <target> to <value>.` | 属性变化所属的现有物体、表面或明确部件 | 保留身份、结构及未指定内容;不得把“给人改色”含糊代指衣服 |
115
 
116
+ Attribute 支持 color/material/finish/pattern/texture/text;透明物染色用 `Tint <target> <color>.`,透明度用 `Make <target> transparent/translucent/opaque.`。文字内容逐字保留并加引号;仅必要时在一句话内列多个属性。加实体徽章/布贴属于 add,改变原表面图案属于 attribute,删除已有标志属于 remove。
117
 
118
+ 删除内容物、连同内容物删除、剪短衣物等须写明范围和终点。一个 U 不混入不同操作;同一锚点添加多个同类物品可为一个 U,但必须说明数量。多目标 case 的每个 U 独立绑定指令,其他 U 授权的变化不算该 U 的越界。
119
 
120
+ ### Add:直接锚点优先,安装部位与关系分开
 
 
 
 
 
 
 
 
 
 
 
121
 
122
+ 1. 优先在所选对象上直接承载、容纳、穿戴、附着或印制。先根据宿主功能、材质、尺寸和可见空间选择自然的新物,而不是先想好物品再寻找远处参照。
123
+ 2. `placement.relation` 写新增物与宿主/安装部位的关系,如 `on/in/attached to/mounted on/sewn onto/clipped to/hanging from`;`placement.site` 只写必要的宿主内部位置。`ref` 负责区分哪个宿主,不重复承担 site 的内容。
124
+ 3. “在袖口下方的衣袖上缝补丁”是直接附着:`relation=sewn onto`、`site=area below the cuff`、`anchor_mode=support`。Site 里出现 below/near 不会把它变成参照添加。“椅子旁的包”用于识别包,给包提手加牌子仍是直接锚点。
125
+ 4. 新物边缘、必要接触阴影和遮挡可超出源 mask,不能要求全部新增像素都落在原 mask 内。但必须与该宿主保持真实接触/支撑,且不妨碍原有功能、不改动无关实例。
126
+ 5. 只有直接添加不自然时,才允许 `anchor_mode=reference`:位置真正紧邻、可见支撑面明确、侧别/安装位置唯一。远距离地标、悬浮新物、可落在多个位置的“附近”均不接受。训练构造必须有可信执行区域;缺少时换类型或拒绝该指令,不判原 mask 无效。
127
+ 6. 本版 benchmark 的全部 add 均使用直接锚点。协议允许紧邻例外,不等于当前样本含此例外。Benchmark 用户只提供源定位,不需要预先画出新物轮廓;训练内部执行 mask 不能冒充 benchmark 输入。
128
 
129
+ ### 精简、准确、无歧义
130
 
131
+ 默认一句祈使句:动作+最短无歧义目标短语+必要结果。目标唯一时停止添加限定;有竞争实例时才增加一个经图像核实的所属、方位、颜色或序数。序数必须说明可见计数组和方向;身体左右易混淆时用 image-left/image-right。颜色从无标注原图读取,不从彩色 mask 叠加读取。
132
 
133
+ 不要另起 `which is/located/the one...` 分句解释位置,不堆叠宿主、颜色、方向,不列排除项。不要附加“其他都不变”“保留材质/光照”等通用保留列表:这些由公共契约和内部生成提示承担。`qualifier` 默认空,仅当省略会改变请求语义时保留短限定。必要的计数、精确文字、安装位置和删除范围不可为缩句而删除。
134
 
135
+ 常规目标是 Ref 不超过26个英文空格词、No-ref 不超过16词;不是硬截断阈值,不填充到目标长度。Replace 的新形态写在一个完整替换物短语中,内部 form_change 证据不再追加到句尾。模型在同一次请求内检查并删冗,不默认增加润色调用。
136
 
137
+ ### Ref / No-ref 和结构化记录
138
 
139
+ 两种指令从同一 `instruction_spec` 渲染;No-ref 只把识别源实例的 ref 换成 `the selected <scope>`。操作、部件层级、物品、数量、目标属性、局部安装位置和必要限定必须相同。No-ref 必须有 point/box/mask;ref-only 不泄露私有区域或完整语义字段。
140
 
141
+ 例如 Ref 为 `Add a red tag clipped to the handle of the left suitcase.`,No-ref 为 `Add a red tag clipped to the handle of the selected suitcase.`。若源区域已经选中提手,则 No-ref 是 `Add a red tag clipped to the selected handle.`,不能重复“提手的提手”。
142
 
143
+ 作者记录包含 operation、核实后的 ref/scope、payload、target_part/remove_mode、attributes、placement 与必要 qualifier。Add 的物品 payload 不保留指代宿主的悬空 its/it,连接关系和 site 单独存储;构造器不得靠扫描 near/below/above 猜测锚点语义。英文、中文、completion requirement、edit contract 和摘要必须随同一条作者记录一起更新。
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
144
 
145
+ ### 训练执行与质量检查
146
 
147
+ 源定位 mask、实际执行区域 execution/support mask、邻近保护区域是不同概念。宿主内子部件及紧邻参照任务必须有可信执行区域;检查区域与语义层级相符,不能仅把 ref 改成部件名称而仍开放整个宿主。区域外像素不变只能证明合成边界,不能证明区域内改对、自然或没有误伤。
148
 
149
+ 检查依次覆盖:原图/mask 绑定及几何;逐条 Ref/No-ref 等价与规范;图像中的实例归属和最接近竞争目标;操作自然性与类别边界;add 接触关系和局部位置;生成后完成度、非目标保护和自然质量。自动校验、模型视觉审核、assistant 目视复核和独立人工验收分别记录,不能互相冒充。
150
 
151
+ 本版 785 条正式英文指令:Ref 平均 16.63 词、中位 17、最长 27;No-ref 平均 9.75 词、中位 10、最长 18。属性任务当前覆盖颜色/染色与材质,协议允许的其他属性不等于本版全部覆盖。四类按目标计最多相差 1 个;2–4 目标图不重复操作类型,5 目标图覆盖四类且一类重复。这是 benchmark case 组合设置,不是单条 instruction 的语法要求。
152
 
153
+ `construction/instructions/design.tsv` 是逐目标作者记录,`add_placements.json` 显式保存 196 条 add 的附着关系与宿主内位置,`target_parts.json` 表达必要的宿主—部件层级,`ref_corrections_zh.json` 同步中英文修订。`instruction_adapter.py` 不再扫描介词猜测锚点。自动校验与逐图核查证据见 [本次修复核查](docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md)及 `data/v2/protocol_alignment_review.json`。
154
 
155
  ## 6. 当前构建结果
156
 
 
212
 
213
  | 内容 | 路径 |
214
  | --- | --- |
215
+ | 唯一 v2 repo | `/opt/tiger/tanyue/samtok_edit_benchmark_v2branch`,分支 `v2branch` |
216
  | 唯一维护文档 | repo `README.md`;`/opt/tiger/SAMTok Benchmark v2.md` 指向它 |
217
  | 正式版本元数据 | repo `data/v2/`,同步到 `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2/benchmark/` |
218
  | 数据总根目录 | `/mnt/bn/strategy-mllm-train/user/tanyue/datasets/samtok_edit_benchmark_v2` |
 
224
  | 正式模型运行与输出 | `evaluation/`,与任务源资产分开;本版尚无运行 |
225
  | 历史归档 | `archive/pre_sa1b_212_v2_2.1.0/`、`archive/previous_review_packages/`,不属当前评测 |
226
  | 本机审核包目录 | `/opt/tiger/samtok_edit_benchmark_v2_review` |
227
+ | 当前本机审核目录 | `evaluation/review_protocol1_release2.4.0/`(相对数据根目录) |
228
+ | 当前正式输入 | `evaluation/inputs_release2.4.0_native/jobs.jsonl` |
229
+ | 当前审核压缩包 | `/opt/tiger/tanyue/samtok_edit_benchmark_v2_review_release2.4.0_20261013.zip` |
230
  | 完整离线 PDF | 审核包内 `benchmark_all_200_cases.pdf`,200 页,每页一个 case |
231
 
232
  相对资产路径都以数据总根目录或便携包根目录为基准。仓库只保留当前任务元数据、代码、唯一说明及少量说明插图,不提交正式大图、过程图片、审核 zip、模型结果。历史 v1 单对象 API 的基础兼容代码/合成测试保留;当前数据仅 `data/v2/`,不携带旧评测清单。
233
 
234
  正式元数据:`cases.jsonl` 为完整任务;`asset_manifest.jsonl` 为 1185 项资产清单;`provenance.jsonl` 为来源;`instruction_design.jsonl` 和 `instruction_reviews.jsonl` 为逐对象设计/逐图审查;`statistics.json`、`release.json`、`validation.json` 为统计、版本和验证;`selection/` 为选择依据。`release.json` 的 manifest SHA256 绑定当前任务,编辑输入、模型输出与评分均有摘要绑定。
235
 
236
+ [下载完整 2.4.0 审核包](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip?download=true);[直接查看全部 200 case 的 PDF](https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_all_200_cases.pdf?download=true)。此次发布目标为 release 2.4.0 / instruction protocol 1.0,沿用旧下载名与兼容下载名;文件名中的日期不代表内部版本。远端是否已完成替换,以发布回执的 `status` 和 `remote_updated` 为准。发布脚本在单次 HF commit 中替换两个 zip、校验文件、PDF 和说明,并核验远端 SHA256。发布回执见 `data/v2/review_package.json`;包内仅记录归档前内容验证,远端回执存于仓库与 HF 同名 JSON。
237
 
238
  解压整个压缩包后,在包内运行:
239
 
 
250
  ## 8. 构建、验证与运行
251
 
252
  ```bash
253
+ cd /opt/tiger/tanyue/samtok_edit_benchmark_v2branch
254
  python -m pip install -e '.[dev,review]'
255
 
256
  python construction/build_sa1b_v2.py \
 
303
  | 目标 | 任务 | 正式输入 | English | 中文 |
304
  | --- | --- | --- | --- | --- |
305
  | U1 | remove | noref+mask | Remove the selected chair. | 移除选中的椅子。 |
306
+ | U2 | add | ref+none | Add one burgundy seat cushion on the chair facing away in front of the nearest table. | 给前景正面背向镜头的木椅加上一个酒红色坐垫。 |
307
  | U3 | attribute | ref+mask | Change the color of the partly hidden chair on the left of the nearest table to white. | 将前景桌左侧被遮挡的木椅改为白色。 |
308
 
309
  ### Case 033:食品摊位中交叉的竹签
 
325
 
326
  | 目标 | 任务 | 正式输入 | English | 中文 |
327
  | --- | --- | --- | --- | --- |
328
+ | U1 | add | ref+none | Add one small silver wire cage around the glass light bulb on the far right. | 给右侧吊灯的玻璃灯泡加上一个围住玻璃的小银色金属丝护笼。 |
329
  | U2 | replace | ref+mask | Replace the largest glass light bulb at the upper center with a long tubular glass light bulb. | 将上方中间最大吊灯的玻璃灯泡替换为长管形玻璃灯泡。 |
330
  | U3 | remove | noref+box | Remove the selected light bulb. | 移除选中的灯泡。 |
331
  | U4 | attribute | ref+point | Tint the glass light bulb at the middle left pale blue. | 将左侧中间吊灯的玻璃灯泡染成浅蓝色。 |
 
340
  | --- | --- | --- | --- | --- |
341
  | U1 | remove | ref+point | Remove the top handle of the pale-purple suitcase at the front right. | 移除前景右侧淡紫色箱子的顶部提手。 |
342
  | U2 | replace | noref+point | Replace the selected suitcase handle with a looped brown leather handle. | 将选中的行李箱提手替换为棕色皮革环形提手。 |
343
+ | U3 | add | ref+box | Add one small yellow luggage tag attached to the top handle of the champagne-colored suitcase behind the bright-pink one. | 给亮粉箱后方香槟色箱子的顶部提手加上一个小黄色行李牌。 |
344
  | U4 | attribute | noref+mask | Change the color of the selected suitcase handle to black. | 将选中的行李箱提手改为黑色。 |
345
  | U5 | replace | ref+none | Replace the top handle of the gray suitcase on the right with a curved wooden handle. | 将右侧灰色箱子的顶部提手替换为弧形木提手。 |
346
 
 
369
  | U1 | replace | ref+mask | Replace the visible ladder-back frame of the second green chair from the left with a rounded wooden backrest frame with two upright slats. | 将左起第二把绿椅的梯形靠背可见木框替换为带两根竖条的圆弧形木靠背框。 |
370
  | U2 | remove | noref+box | Remove the selected chair rail. | 移除选中的椅子横条。 |
371
  | U3 | attribute | ref+point | Change the color of the seat of the black chair on the far right to dark green. | 将最右黑椅的座面改为深绿色。 |
372
+ | U4 | add | noref+point | Add one small cream-colored seat cushion on the selected chair seat. | 给选中的椅子座面加上一个米白色小坐垫。 |
docs/INSTRUCTION_ALIGNMENT_20261013_ZH.md ADDED
@@ -0,0 +1,36 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Benchmark 与训练统一协议修复核查(2026-10-13)
2
+
3
+ 当前 release **2.4.0** 已原地更新数据标注、构造器、训练协议及方法文档。200 张源图、785 个独立目标;add 196、replace 196、remove 197、attribute 196。几何、实例绑定、编辑类别和正式交互分配与 2.3.0 逐项一致。
4
+
5
+ ## 统一规范与实质修复
6
+
7
+ 规范正文见 [统一 instruction 与源区域协议](INSTRUCTION_PROTOCOL_ZH.md)。两个仓库共用相同英文渲染代码、写作规范和中文协议正文。序列化版本 1.0、mask 含义 1.1、风格 benchmark-concise-2-direct-add-1 分别标记同一协议的三个方面。
8
+
9
+ 全部 196 条 add 已显式保存新增物 payload、附着 relation、必要的宿主内 site;全部采用直接锚点。原 14 条被 near/below/above 词面误分为 reference 的任务已改为真实附着关系;不再扫描介词猜测锚点。锚点是源图中已有的承载/附着对象,不是新物体的结果轮廓。协议仍允许仅在直接添加不自然时使用紧邻、唯一、有支撑面的例外;当前 benchmark 没有使用该例外。
10
+
11
+ Ref / No-ref 从相同结构渲染,动作、物品、数量、属性、子部件和安装位置保持等价。指代优先一个最短且无歧义的名词短语,不另起位置补充句。中文、完成标准和 edit contract 随作者记录同步。
12
+
13
+ ## 具体 case 修复
14
+
15
+ | Case / Unit | 原问题 | 当前修复 |
16
+ | --- | --- | --- |
17
+ | 006 / U2 | mask 选整椅,文字只改木框,内部层级未表达 | selector 保留第三把椅子,target_part 明确 wooden frame;No-ref 也保留木框 |
18
+ | 058 / U1、U2 | 顶部粉色 T 恤写成蓝色,另一条以此为参照 | 修正本目标颜色,同时修正依赖该人的指代 |
19
+ | 087 / U5 | 绿色购物袋写成黄色 | 按无标注原图改为绿色购物袋 |
20
+ | 114 / U1 | 托盘价格标为 220 | 原图读作 120,修正中英文 |
21
+ | 119 / U3、162 / U4 | 源物体颜色误写 | 使用两条黄围巾之间的围巾、夹克内白衬衫等已核实指代 |
22
+ | 132 / U5 | 胸口被纸牌挡住,新增胸袋不可见 | 在同一上衣可见肩部直接缝小白布贴 |
23
+ | 148 / U2、U5 | 灯头下方可能被读作悬空放置 | 明确花篮从灯杆悬挂、街名牌安装到灯杆 |
24
+ | 181 / U4 | visible knee 可涉及两侧膝部 | 明确画面右侧膝部并直接缝合 |
25
+
26
+ 所有改动详见 `data/v2/protocol_alignment_review.json`:134 条 unit 的语义记录或中英文文本有变化,未变更源图和 mask 像素。全量 add 另增加统一结构和 mask 契约,即使表面句子未变化也不代表未迁移。
27
+
28
+ ## 检查范围与结果
29
+
30
+ - 全量 785 组 Ref/No-ref 做结构一致性检查;196 个 add 均为 support。源图、mask、box、point、parent 实例和交互形式与旧版逐项比对。
31
+ - Qwen3.8-27B 对 785 条迁移初稿检查干净全图、局部图、二值 mask 和隔离区域,标出 37 条疑点。assistant 逐张查看这 37 条原图和 mask,修订 32 条,保留 5 条误报;修订也覆盖受影响的关联指代。
32
+ - 模型存在明显误报:051/U1 安全帽颜色、071/U2 路灯序数、079/U3 肩带、112/U5 全局方位、138/U1 最右灯泡。未将模型意见直接当成真值。
33
+ - 最终 Ref 平均 16.63 词、中位 17 词、最长 27 词;No-ref 平均 9.75 词、中位 10 词、最长 18 词。必要的局部安装位置不为长度硬截断。
34
+ - 训练和 benchmark 协议代码、风格模块与中文正文逐字校验。训练新建 unit 携带相同 mask_semantics;子部件任务标记需要局部执行区域。字段一致不等于区域分割或生图质量自动合格。
35
+
36
+ 这是全量自动核查加疑点目视复核,**不是独立人工验收,也不是 785 条全部经 assistant 再次逐图验收**。未新增 benchmark 编辑结果图,不声称已验证任意生成器的成功率。可视化展示源图、任务和输入;发布记录与浏览器检查分别留有回执。
docs/INSTRUCTION_PROTOCOL_ZH.md ADDED
@@ -0,0 +1,53 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 统一 instruction 与源区域协议
2
+
3
+ ### 一条指令与一个源区域
4
+
5
+ Benchmark 与训练数据共用以下规范:英文语义记录/渲染格式为 `instruction_protocol_version=1.0`,mask 含义契约为 `mask_semantics.version=1.1`,写作风格为 `benchmark-concise-2-direct-add-1`。三者分别描述可序列化字段、区域的意义和语言写法,不是三套不同任务协议。代码与本段正文在两个仓库逐字核对。
6
+
7
+ 每个编辑目标 U 绑定一个源实例或部件 S、一种操作及其指令。Point、box、mask 和文字 ref 是 S 的不同定位形式,互相转换不产生新目标。原始 mask 保留可见像素、遮挡和孔洞;不把 bbox 内未选中的醒目物体误当成 S。Mask 不因编辑改成结果轮廓,也不是允许任意修改其内部全部内容的授权。
8
+
9
+ 实际编辑对象 T 可以等于 S,也可以是 S 内明确命名的部件。若 mask 已指向袖口,直接说“选中的袖口”;若 mask 指向上衣而只编辑袖口,指令必须写明袖口,构造记录必须表达这一层级,不能把 scope 偷换成袖口以绕过执行区域约束。
10
+
11
+ ### 四类指令与 mask 的含义
12
+
13
+ | 类型 | 标准句式 | 源 mask 的含义 | 必须保持的边界 |
14
+ |---|---|---|---|
15
+ | add | `Add <item> <relation> <anchor>.` | 现有直接承载物、容器、穿戴对象、安装面或附着部位;少数符合条件的紧邻参照物 | 宿主保留;新增数量、接触、尺度及位置自然;不是新增物最终轮廓 |
16
+ | replace | `Replace <target> with <replacement>.` | 被替换的现有物体/部件;宿主选择时显式指定内部部件 | 新旧对应同一对象层级,有真实结构/品类变化;单纯换色归 attribute |
17
+ | remove | `Remove <target>.` 或 `Remove <part> from <host>.` | 要删除的现有目标,或包含所述删除部件的宿主 | 只删除指明范围;不把整个宿主清空;不设计不自然的断肢任务 |
18
+ | attribute | `Change the <property> of <target> to <value>.` | 属性变化所属的现有物体、表面或明确部件 | 保留身份、结构及未指定内容;不得把“给人改色”含糊代指衣服 |
19
+
20
+ Attribute 支持 color/material/finish/pattern/texture/text;透明物染色用 `Tint <target> <color>.`,透明度用 `Make <target> transparent/translucent/opaque.`。文字内容逐字保留并加引号;仅必要时在一句话内列多个属性。加实体徽章/布贴属于 add,改变原表面图案属于 attribute,删除已有标志属于 remove。
21
+
22
+ 删除内容物、连同内容物删除、剪短衣物等须写明范围和终点。一个 U 不混入不同操作;同一锚点添加多个同类物品可为一个 U,但必须说明数量。多目标 case 的每个 U 独立绑定指令,其他 U 授权的变化不算该 U 的越界。
23
+
24
+ ### Add:直接锚点优先,安装部位与关系分开
25
+
26
+ 1. 优先在所选对象上直接承载、容纳、穿戴、附着或印制。先根据宿主功能、材质、尺寸和可见空间选择自然的新物,而不是先想好物品再寻找远处参照。
27
+ 2. `placement.relation` 写新增物与宿主/安装部位的关系,如 `on/in/attached to/mounted on/sewn onto/clipped to/hanging from`;`placement.site` 只写必要的宿主内部位置。`ref` 负责区分哪个宿主,不重复承担 site 的内容。
28
+ 3. “在袖口下方的衣袖上缝补丁”是直接附着:`relation=sewn onto`、`site=area below the cuff`、`anchor_mode=support`。Site 里出现 below/near 不会把它变成参照添加。“椅子旁的包”用于识别包,给包提手加牌子仍是直接锚点。
29
+ 4. 新物边缘、必要接触阴影和遮挡可超出源 mask,不能要求全部新增像素都落在原 mask 内。但必须与该宿主保持真实接触/支撑,且不妨碍原有功能、不改动无关实例。
30
+ 5. 只有直接添加不自然时,才允许 `anchor_mode=reference`:位置真正紧邻、可见支撑面明确、侧别/安装位置唯一。远距离地标、悬浮新物、可落在多个位置的“附近”均不接受。训练构造必须有可信执行区域;缺少时换类型或拒绝该指令,不判原 mask 无效。
31
+ 6. 本版 benchmark 的全部 add 均使用直接锚点。协议允许紧邻例外,不等于当前样本含此例外。Benchmark 用户只提供源定位,不需要预先画出新物轮廓;训练内部执行 mask 不能冒充 benchmark 输入。
32
+
33
+ ### 精简、准确、无歧义
34
+
35
+ 默认一句祈使句:动作+最短无歧义目标短语+必要结果。目标唯一时停止添加限定;有竞争实例时才增加一个经图像核实的所属、方位、颜色或序数。序数必须说明可见计数组和方向;身体左右易混淆时用 image-left/image-right。颜色从无标注原图读取,不从彩色 mask 叠加读取。
36
+
37
+ 不要另起 `which is/located/the one...` 分句解释位置,不堆叠宿主、颜色、方向,不列排除项。不要附加“其他都不变”“保留材质/光照”等通用保留列表:这些由公���契约和内部生成提示承担。`qualifier` 默认空,仅当省略会改变请求语义时保留短限定。必要的计数、精确文字、安装位置和删除范围不可为缩句而删除。
38
+
39
+ 常规目标是 Ref 不超过26个英文空格词、No-ref 不超过16词;不是硬截断阈值,不填充到目标长度。Replace 的新形态写在一个完整替换物短语中,内部 form_change 证据不再追加到句尾。模型在同一次请求内检查并删冗,不默认增加润色调用。
40
+
41
+ ### Ref / No-ref 和结构化记录
42
+
43
+ 两种指令从同一 `instruction_spec` 渲染;No-ref 只把识别源实例的 ref 换成 `the selected <scope>`。操作、部件层级、物品、数量、目标属性、局部安装位置和必要限定必须相同。No-ref 必须有 point/box/mask;ref-only 不泄露私有区域或完整语义字段。
44
+
45
+ 例如 Ref 为 `Add a red tag clipped to the handle of the left suitcase.`,No-ref 为 `Add a red tag clipped to the handle of the selected suitcase.`。若源区域已经选中提手,则 No-ref 是 `Add a red tag clipped to the selected handle.`,不能重复“提手的提手”。
46
+
47
+ 作者记录包含 operation、核实后的 ref/scope、payload、target_part/remove_mode、attributes、placement 与必要 qualifier。Add 的物品 payload 不保留指代宿主的悬空 its/it,连接关系和 site 单独存储;构造器不得靠扫描 near/below/above 猜测锚点语义。英文、中文、completion requirement、edit contract 和摘要必须随同一条作者记录一起更新。
48
+
49
+ ### 训练执行与质量检查
50
+
51
+ 源定位 mask、实际执行区域 execution/support mask、邻近保护区域是不同概念。宿主内子部件及紧邻参照任务必须有可信执行区域;检查区域与语义层级相符,不能仅把 ref 改成部件名称而仍开放整个宿主。区域外像素不变只能证明合成边界,不能证明区域内改对、自然或没有误伤。
52
+
53
+ 检查依次覆盖:原图/mask 绑定及几何;逐条 Ref/No-ref 等价与规范;图像中的实例归属和最接近竞争目标;操作自然性与类别边界;add 接触关系和局部位置;生成后完成度、非目标保护和自然质量。自动校验、模型视觉审核、assistant 目视复核和独立人工验收分别记录,不能互相冒充。
sa1b_source_selection_200cases_review_20261010.zip CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:69f517684711c2e7ca661c985c1bb9f8a96b8b5790cc21eadbabdfc4f9b8d4e9
3
- size 540327991
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094
3
+ size 540528026
sa1b_source_selection_200cases_review_20261010.zip.sha256 CHANGED
@@ -1 +1 @@
1
- 69f517684711c2e7ca661c985c1bb9f8a96b8b5790cc21eadbabdfc4f9b8d4e9 sa1b_source_selection_200cases_review_20261010.zip
 
1
+ dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094 sa1b_source_selection_200cases_review_20261010.zip
samtok_edit_benchmark_v2_all_200_cases.pdf CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:5d5a9b14f8ac3d41cebdc0436b16abdb2d184e644c1b020da335beb3219538a4
3
- size 196475049
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:34912dcdb0d22f0ef78537e8ea0ff48247342fbb78001adcb05ac5643da783b8
3
+ size 196602966
samtok_edit_benchmark_v2_review_20261010.json CHANGED
@@ -1,14 +1,14 @@
1
  {
2
- "release_version": "2.3.0",
3
  "instruction_protocol_version": "1.0",
4
  "repo_id": "TTangenty/samtok_edit",
5
  "remote_names": [
6
  "samtok_edit_benchmark_v2_review_20261010.zip",
7
  "sa1b_source_selection_200cases_review_20261010.zip"
8
  ],
9
- "size_bytes": 540327991,
10
- "sha256": "69f517684711c2e7ca661c985c1bb9f8a96b8b5790cc21eadbabdfc4f9b8d4e9",
11
- "manifest_sha256": "923adabe64f29eab1b6fac4ef4c3ccee78015371cf932e9abc030ffb8668ecb2",
12
  "cases": 200,
13
  "units": 785,
14
  "unit_operations": {
@@ -21,6 +21,6 @@
21
  "same_content_compatibility_alias": true,
22
  "download_url": "https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip",
23
  "pdf_name": "samtok_edit_benchmark_v2_all_200_cases.pdf",
24
- "pdf_sha256": "5d5a9b14f8ac3d41cebdc0436b16abdb2d184e644c1b020da335beb3219538a4",
25
- "pdf_size_bytes": 196475049
26
  }
 
1
  {
2
+ "release_version": "2.4.0",
3
  "instruction_protocol_version": "1.0",
4
  "repo_id": "TTangenty/samtok_edit",
5
  "remote_names": [
6
  "samtok_edit_benchmark_v2_review_20261010.zip",
7
  "sa1b_source_selection_200cases_review_20261010.zip"
8
  ],
9
+ "size_bytes": 540528026,
10
+ "sha256": "dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094",
11
+ "manifest_sha256": "c39a555497e82a79a255c0e8160bdd874a3c0f387a07e08e8b42e85fdac3be70",
12
  "cases": 200,
13
  "units": 785,
14
  "unit_operations": {
 
21
  "same_content_compatibility_alias": true,
22
  "download_url": "https://huggingface.co/datasets/TTangenty/samtok_edit/resolve/main/samtok_edit_benchmark_v2_review_20261010.zip",
23
  "pdf_name": "samtok_edit_benchmark_v2_all_200_cases.pdf",
24
+ "pdf_sha256": "34912dcdb0d22f0ef78537e8ea0ff48247342fbb78001adcb05ac5643da783b8",
25
+ "pdf_size_bytes": 196602966
26
  }
samtok_edit_benchmark_v2_review_20261010.zip CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:69f517684711c2e7ca661c985c1bb9f8a96b8b5790cc21eadbabdfc4f9b8d4e9
3
- size 540327991
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094
3
+ size 540528026
samtok_edit_benchmark_v2_review_20261010.zip.sha256 CHANGED
@@ -1 +1 @@
1
- 69f517684711c2e7ca661c985c1bb9f8a96b8b5790cc21eadbabdfc4f9b8d4e9 samtok_edit_benchmark_v2_review_20261010.zip
 
1
+ dd4bb461baf5749d6db2bf255c87cb120804a4698076d3bc76b556830ef6c094 samtok_edit_benchmark_v2_review_20261010.zip