File size: 28,469 Bytes
362b86c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 | # ReMLVG → Ground-V → CLARE:遥感图文检索与区域定位完整实施方案
> 技术设计文档 · 2026-10-08 · 面向代码生成与实际比赛交付。主线固定为遥感 Grounding 预训练 → 标注锚定的数据扩展 → 跨图库实例级对齐;不包含 NAVER。
## 0. 一页结论:我们实际要实现什么
本项目服务两项赛事任务:任务 A 将中文目标描述映射为 81 张 1024×1024 遥感图的来源图排名;任务 B 在已给定大图中输出语言指向目标的水平框。四种对象为油罐、舰船、车辆、飞机。官方训练/验证大图数量为 376/51,标注约 3095 条(均以实际文件清点为准)。评分公式为 0.1×R@1 + 0.2×R@5 + 0.6×Acc@0.5 + 0.1×Acc@0.75;评测为断网 A100 80GB、60 分钟、Docker ≤10GB。
**最终推荐实现:一个共享 RemoteCLIP ViT-L/14 遥感视觉主干,保留 ReMLVG 的文本条件 Grounding 路径;另依照 CLARE/CLIA 的双流实例对齐构建 Retrieval 路径;Ground-V 只作为离线监督数据扩展方法。** 训练阶段允许使用外部大模型与公开数据,提交镜像只保留学生推理网络、中文输入适配器、必要权重及依赖。
| 模块 | 原论文直接提供的能力 | 本项目的必要适配 |
| --- | --- | --- |
| ReMLVG(Pattern Recognition Letters 2026) | RemoteCLIP 双分支 Adapter、MULLER、LUP、MSCMA、Deformable DETR | 遥感比赛数据与中文文本、精确 bbox 坐标、Grounding 推理接口 |
| Ground-V(CVPR 2025) | 基于可信视觉标注的教师生成复杂指代表达 | 对遥感对象及 bbox 生成经过验证的描述,不假装拥有像素级掩码 |
| CLARE / REIR(ACM MM 2025) | 双流文本—实例检索、CLIA 跨图库学习、图像与实例定位 | 将其图像侧实例提取/对齐机制适配到 RemoteCLIP 表征;不可直接把原 SigLIP 头当作兼容模块 |
**研究边界:这是一条可检验的跨任务迁移主线,不是已经证明的新论文创新。** REIR 已经提出跨图实例检索与定位,Ground-V 已经提出数据生成,ReMLVG 已经解决遥感视觉定位;必须通过实验观察新失效模式和改进幅度,再决定论文贡献。
## 1. 论文、代码与事实核验
1. ReMLVG:论文 DOI 10.1016/j.patrec.2026.08.020,官方 https://github.com/FoxWe1/ReMLVG 。作者公开的系统使用冻结的 RemoteCLIP ViT-L/14、双分支 Adapter、ViT 层 {0,7,15,23} 的 LUP、MULLER,以及沿用 LQVG 的 MSCMA / Deformable DETR。论文报告 DIOR-RSVG Pr@0.5 = 78.64%、cumIoU = 83.04%;不可等同于本比赛成绩。
2. RemoteCLIP:官方 https://github.com/ChenDelong1999/RemoteCLIP ,提供 ViT-L/14 的 OpenCLIP 格式预训练权重,必须离线取得,并保留许可证与来源记录。
3. Ground-V:CVPR 2025,https://openaccess.thecvf.com/content/CVPR2025/html/Zong_Ground-V_Teaching_VLMs_to_Ground_Complex_Instructions_in_Pixels_CVPR_2025_paper.html 。核心为借助已有像素标注及教师生成丰富的 grounding instruction-response 样本,涵盖多对象、推理、部分指代、粒度及空目标等情形。原论文以像素级监督为基础,本项目仅在确有可靠视觉证据时转换为 bbox 样本。
4. REIR / CLARE:ACM MM 2025,论文 https://arxiv.org/abs/2506.18246 ,官方 https://github.com/haoxiangzhao12138/REIR 。双流结构原本使用 SigLIP 视觉分支与目标提取器、文本编码器和关系专家(MORE);CLIA 是跨图库实例对齐训练,不只是 bbox 预测打分。
5. MULLER:ICCV 2023,https://openaccess.thecvf.com/content/ICCV2023/html/Tu_MULLER_Multilayer_Laplacian_Resizer_for_Vision_ICCV_2023_paper.html 。它是可学习的多层 Laplacian 图像缩放器;保留 ReMLVG 原实现而非自行替换。
**开源现实约束:** ReMLVG README 给出了 RemoteCLIP 预训练权重下载和训练/测试入口,但未核实一个可直接使用的 ReMLVG 完整已训 checkpoint;必须准备自行训练 DIOR-RSVG 定位头。Ground-V 教师生成全过程是否有可直接复用的完整代码需进一步核实,无法复现的部分必须依据正文/补充材料忠实重建并标注为任务适配。
## 2. 固定任务契约与必须先检查的数据
### 2.1 输入/输出
评测输入:`/input_path/images/`、`/input_path/info.json`、`/input_path/queries.json`,输出 `/output_path/pred.json`。以官方提交规范中的精确 schema 为唯一来源;在真实文件尚未解析前,**不要**假定字段名、排名长度、bbox 的 xyxy/xywh 格式、图像 ID 类型或是否允许空目标。
内部统一记录采用:`query_id, task_type, text_zh, image_id(optional), image_path, bbox_xyxy(optional), source_split`。`bbox_xyxy` 始终是原图像素坐标,形如 `[x1,y1,x2,y2]`。仅在输入解析和输出序列化边界转换到官方格式。训练和验证图像必须按原始 image_id 隔离,不能随机按描述分训练/验证。
### 2.2 真实数据审计先于训练
检查 ZIP 解压后的所有标注格式,抽样可视化 50–100 条 bbox(油罐/舰船/车辆/飞机各覆盖),并统计:每类数量、框大小分布、同图多描述、关系词占比、中文长度、图像尺寸、重复样本、是否有完整场景对象标注、是否允许多目标指代。生成 `dataset_audit.json` 和一组可视化图。
特别检查被指代目标的标注是不是**稀疏的**。单个 GT referring box 不等于全图对象清单,禁止把未标注的其他真实对象当作背景,也禁止直接据此为所有候选打负标签。
### 2.3 数据使用合规
训练允许采用比赛训练集及规则允许的公开遥感数据(如 DIOR-RSVG、RSVG-HR、DOTA,需核查各自许可证和训练用途)。评测图库及任何衍生索引仅能在评测容器启动后从当前输入动态生成,不得提前利用评测图像训练、蒸馏、调参或打包图像特征。
## 3. 系统整体架构:共享骨干、两条任务路径
```text
Chinese query --> offline-compatible zh-en adapter --> RemoteCLIP text
|
Image --> MULLER --> RemoteCLIP ViT-L/14 + visual adapters --> LUP
|
+-------------------------------------------+--------------------+
| |
Grounding path Retrieval path
MSCMA + Deformable DETR image-only proposals
text-conditioned decoding ROI / instance features
final bbox CLIA text-instance score
| |
Task B: specified image Task A: 81-image rank
```
ReMLVG 的 MSCMA/Deformable DETR 是**文本条件**定位器,适于任务 B;CLARE 的检索器需要**可跨 Query 重用的 image-only instance features**。不可将 ReMLVG 某个已经融合当前文本的中间特征缓存后供其他 Query 使用,也不可将单图 Grounding 置信度当成天然可跨图比较的检索概率。
图像侧实例提取首选复用 CLARE 源代码的 object extractor / proposal 机制,并适配共享 RemoteCLIP + LUP 特征。CLARE 原实现使用 SigLIP,不允许无改造地直接替换成 RemoteCLIP;需要清点输入维度、特征层数、position encoding、proposal queries、decoder 接口。若联合方案尚未实现,Task A 暂用对 81 张图独立运行 ReMLVG 并按得分排序的 V0 基线,但正式目标为 CLIA 路径。
## 4. Phase 0:代码审计、环境冻结、最小可运行基线
从官方 ReMLVG 仓库复制具体提交 hash;检查 `models/`, `main.py`, `engine.py`, `inference_rsvg.py`, `train.sh`, `requirements.txt`。先在一张允许使用的样例图上完成:模型构建 → 权重加载 → 文字 tokenization → 前向 → bbox 解码 → 还原原图尺寸。
锁定 CUDA/PyTorch/Deformable Attention 算子版本,不要在代码未跑通前升级依赖。设置随机种子、训练日志、严格 checkpoint 版本控制和环境锁文件。先使用官方 RemoteCLIP weights;如果只有 backbone 权重而没有 ReMLVG 完整 checkpoint,明确记录定位模块必须训练,不可称作 zero-shot grounding。
**验收门槛 G0:** 单条 forward、bbox 坐标单测、官方标注解析、可视化无错;至少支持一张图、一句查询输出合法框。任一项失败则不进入大规模训练。
## 5. Phase 1:ReMLVG 遥感 Grounding 强基线
### 5.1 完整复用原模型
保留 MULLER 图像细节缩放、冻结的 RemoteCLIP ViT-L/14 视觉与文本编码器、Transformer 内双分支 Adapter、从 {0,7,15,23} 层构建的 LUP 特征金字塔、MSCMA + Deformable DETR,以及论文原有 box regression 与匹配监督。具体网络通道数、loss 系数和 query 数目以源代码与论文为准,不自造简化版。
### 5.2 数据训练路线
先在允许使用的 DIOR-RSVG / RSVG-HR 等公开数据上训练适配器与定位模块,再利用比赛的 3095 条 bbox 监督微调;如果找到完整作者提供的 Grounding checkpoint,则优先从该 checkpoint 开始。RemoteCLIP Backbone 初期保持冻结,按原文训练适配模块;只有足够强的验证证据才考虑解冻更多层。
主损失完全沿用 ReMLVG 官方源码中的 Grounding 训练目标;不得直接将 CLIA loss 强行混入当前阶段。验证指标:Acc@0.5、Acc@0.75、mIoU、四类别细分,以及 bbox 误差随目标面积变化的曲线。
### 5.3 中文兼容路线
RemoteCLIP 原版语言编码以英文训练,不能假设中文输入有可靠表现。第一版采用本地部署的小型 zh→en 翻译器,并对“左、右、最左、最右、前后、附近、之间、数量、大小、颜色”等关键词进行规则对照审计。训练、验证、推理必须使用同一套翻译流水线;翻译模型必须离线可加载。
如果翻译对关系词损伤很严重,再单独开展双语文本适配实验;不可在第一版直接以 Chinese-CLIP 文本向量替换 RemoteCLIP 文本向量,这两者不是对齐的共享空间。
### 5.4 高 IoU 精度
优先验证官方 ReMLVG 输入分辨率;分析车辆等小目标在下采样后的大小。需要加大输入尺寸时先检查 positional encoding、ViT patch grid、LUP reshape、mask 与 bbox resize;不能粗暴改成 1024 直接运行。Acc@0.75 对小框特别敏感,所以保留坐标转换、水平框约束、尺度差异和可视化验收。
**验收门槛 G1:** 至少有一个经过验证的可运行 ReMLVG checkpoint;可以独立完成比赛 Task B;得到按类别和目标尺寸切分的准确率与失败样本清单。
## 6. Phase 2:Ground-V 风格的离线数据扩展
### 6.1 明确搬迁范围
迁移 Ground-V 已发表的**标注锚定的教师生成流程**,不是把 Ground-V 的像素级 segmentation 监督冒充现有 bbox 数据。训练教师(可用较大 VLM)只在离线设备运行。以可信 GT box / 公开目标检测数据中的真实 box 为锚,生成同一个目标的额外语言表达,继续用原有 bbox 监督 ReMLVG。
### 6.2 数据生成输入
为每条可用图文目标记录准备:原图、原 box、目标类别、目标 crop、带周边上下文的 crop、其他**已确认**目标的框及类别。输入 Teacher 时同时显示原图和带可视标记的目标框,使其明确只能为这个目标生成指代描述,不允许创造新框。
输出的生成记录包括:`source_id, target_box, text_zh, text_en, generation_type, referenced_object_ids, teacher_model, prompt_version, verification_status`。先保留原始标注不变,再关联新增文本。
### 6.3 直接迁移的样本类型
- 多对象场景:利用多个已标注目标产生“左边那艘船 / 两架飞机之间的飞机”等指代。
- 复杂关系与推理:仅在目标、参考对象和关系均有可靠证据时生成。
- 多粒度描述:从类别、属性、局部位置、周边上下文不同粒度描述同一目标。
- 部分目标或空目标:只有训练模型和比赛任务接口明确支持、且具备对应监督时才启用;第一版可关闭,避免训练目标不一致。
### 6.4 质量过滤与唯一性
对数量、方向、位置、相对距离可以使用真实 bbox 及已标注参考对象执行几何规则校验;对颜色、形状、上下文语义使用 Teacher/VLM 二次视觉检验;拒绝自相矛盾、关系错位、指代不唯一、翻译方向反转、虚构参照物的文本。稀疏标注时不声称“最左”“唯一”“所有”等全局事实,除非已确认完整对象清单。
将生成样本分为 `verified / uncertain / rejected`;只将 verified 引入第一版训练。必须保存原始教师输出、过滤原因和来源标注,以便复现。每个目标限制生成条数,避免特定图像或类别过度重复。
### 6.5 继续训练与对照
从 G1 checkpoint 初始化,混合人工真实描述与 verified 合成描述,继续使用 **ReMLVG 原 Grounding loss**,不需要另设计新的对比损失。记录 V1(原始数据)与 V2(加 Ground-V 风格增强)的结果;若合成数据降低真实性能,保留 V1。
**验收门槛 G2:** 合成监督具有人工抽查统计(正确率/唯一性/关系错误率),V2 可完整训练与评测;相比 V1 报告实际提升或下降,不预设一定有效。
## 7. Phase 3:CLARE/CLIA 的跨图库实例级检索
### 7.1 搬的是训练范式,不是直接替换整个 backbone
CLARE 已经提出 REIR 和双流实例检索:图像编码器与实例提取器产生 image-only object features;文本编码器产生 query features;CLIA 利用跨图实例关系训练相似度。原 CLARE 使用 SigLIP 视觉分支,而本项目优先保持 RemoteCLIP-L 骨干。因此需要**忠实移植实例提取/对齐功能及 CLIA 的目标函数**,同时处理不兼容的特征维度和 decoder 配置;这是移植工作,不是已经由任一原论文公开的联合 checkpoint。
### 7.2 数据流
**图像端:** 输入 1024×1024 图像 → 与 ReMLVG 相同的 MULLER/RemoteCLIP 图像特征 → LUP → 无文本条件的对象 proposals + region features → 线性映射到 CLIA 对齐空间 → L2 normalized instance embeddings。Image-only proposals 必须通过检测或已有可靠对象监督训练;不能直接从仅为指定 Query 解码的文本条件 bbox 中假定得到全部对象。
**文本端:** 中文 Query 经过离线翻译 → RemoteCLIP 文本特征 → CLIA 投影 / 关系专家(若严格照 CLARE 迁移)→ L2 normalized query embedding。
**跨图匹配:** 通过实例向量点积与 CLIA 的可训练温度、偏置产生实例匹配 logit,按每张图的最高可信实例得分聚合为来源图排序。CLIA 的 sigmoid 多标签形式及具体归一化要以论文/源代码为准;以下仅表示其监督结构:
```text
logit(q_i, o_j) = temperature * dot(text_i, object_j) + bias
label_ij in {+1, -1} for verified pairs
loss_CLIA ~ mean softplus(-label_ij * logit(q_i, o_j))
```
此处不是自行发明 loss,实际代码必须复用 CLARE 原始实现里的温度、偏置、样本权重、匹配 mask 和归一化约定。
### 7.3 严格的正负样本定义
- Positive:Query 的**被标注目标实例**,必须与正确来源图和 bbox 对应。
- 同图 Verified Negative:与 GT 实例不同、且能够确认不满足描述的目标。
- 跨图 Verified Negative:外观/类别相近但可确认不满足完整文字约束的候选实例。
- Unknown:描述可能同时成立或不具备完整实例标注的候选,不纳入二元正负 loss;不能将其他图里的全部同类目标默认判为负。
CLARE 原始 REIRCOCO 训练数据经过唯一指代验证;比赛描述不一定全库唯一。正式 CLIA 训练之前需要对含糊 Query 做唯一性审计,防止错误负标签使模型习得依赖数据集来源而不是语义的偏差。
### 7.4 训练顺序和冻结策略
先从 V1/V2 ReMLVG checkpoint 初始化图像编码与定位模块,冻结 Grounding decoder 大部分参数;训练 image-only proposal / region projection 与 CLIA 检索头,使跨图片的实例相似度能够比较。之后如有必要采用原有 Grounding loss 与 CLIA loss 的交替小步训练,**以验证集防退化检查为前提**。在没有正负实例可靠标注前不可开启大规模跨图负监督。
保留两个独立输出接口:`ground(image, text) -> bbox` 使用 ReMLVG,`retrieve(text, gallery) -> ordered_image_ids` 使用 CLIA。不能因为 Retrieval 变好就误删原始定位路径。
### 7.5 Stage 3 的候选框从哪里来
实现优先级:A. 检查 CLARE 官方 object extractor 能否在共享 RemoteCLIP/LUP 上成功运行、并使用允许的公开 object detection 标注训练;B. 如果无法稳健移植,使用单独的轻量 DOTA 预训练四类检测器生成 image-only boxes(作为明确标注的工程后备),再使用共享 RemoteCLIP 区域特征计算 CLIA;C. 在原理完整的前提下,比较后备方案与完整 CLARE 提取器,不能将 B 冒充为原始 CLARE。
重要:不能仅在初始 Retrieval Top-5 图上抽 instance features 然后宣称是跨图库完整排序;第一版需要覆盖所有 81 张图,才能正确评测 R@1/R@5。
**验收门槛 G3:** CLIA 分支在验证集上独立给出 R@1、R@5,Grounding 仍可独立给出 Acc@0.5/0.75。与 V1、V2 逐项对比并报告代价。若 CLIA 导致定位退化,正式提交采用两头独立 checkpoint 或冻结 Grounding 头,不强行联合更新。
## 8. 关键工程接口与目录
```text
rs_remlvg_reir/
README.md Dockerfile requirements.lock run.py
configs/{stage1_grounding.yaml,stage2_groundv.yaml,stage3_clia.yaml,infer.yaml}
third_party/{remlvg/,reir/}
src/data/{inspect.py,competition_adapter.py,bbox.py,translation.py}
src/grounding/{remlvg_wrapper.py,trainer.py,predictor.py}
src/groundv/{teacher_generator.py,visual_verify.py,geometry_verify.py,filter.py}
src/retrieval/{proposal_adapter.py,region_features.py,clia.py,trainer.py,index.py}
src/inference/{router.py,batch_engine.py,cache.py,submission.py}
src/eval/{metrics.py,breakdown.py,check_predictions.py}
scripts/{prepare.sh,train_stage1.sh,generate_groundv.sh,train_stage2.sh,
train_stage3.sh,eval.sh,build_docker.sh,offline_smoke_test.sh}
tests/{test_data.py,test_bbox.py,test_translation.py,test_model.py,
test_retrieval.py,test_submission.py,test_offline.py}
weights/{grounding.pth,retrieval.pth,translation/}
```
核心 Python 接口:
```python
class RemoteSensingSystem:
def load_weights(self, grounding_ckpt, retrieval_ckpt=None): ...
def ground(self, image_id, image, text_zh) -> dict: ...
def build_gallery_index(self, image_records) -> None: ...
def retrieve(self, text_zh, top_k=None) -> list: ...
def predict_batch(self, queries, images) -> list: ...
```
`Grounding` 输出内部 `[x1,y1,x2,y2]`、模型分数及坐标有效性;`Retrieval` 输出精确的原始 image_id 列表及匹配分数。允许 `retrieval_ckpt=None` 进入 V0 全库逐图 Grounding 的兼容模式,但最终目标是 CLIA 高效检索。
## 9. 测试集输入与完整推理 Pipeline
### 9.1 初始化(只做一次)
1. 读取 `info.json`、`queries.json`,建立真实 image_id → 路径映射,清点任务类型与 Query 总数。
2. 加载本地 RemoteCLIP/ReMLVG、CLIA 检索头和本地中文翻译器;在 `torch.inference_mode()` + eval 模式工作。
3. 对当前输入的 81 张大图运行 image-only proposal extraction 与实例特征提取,建立 GPU/CPU 实例 embedding 索引,并保留每条 instance 的 `image_id, bbox`;这是允许的运行时索引,不得进入提交镜像。
4. 合并重复中文 Query 的翻译缓存。若只请求 Grounding 且无需 Retrieval,可跳过完整图库实例索引。
### 9.2 Task A:Retrieval
```text
text_zh -> local translator -> RemoteCLIP text/CLIA embedding
-> batched match against image-only instance embeddings
-> calibrated instance logits
-> aggregate max valid instance per image
-> sort original image IDs -> ranking
```
每张图哪怕没有可信检测框,也要有明确的失败兜底策略;禁止输出不存在的 image_id、重复 ID 或 NaN。仅在验证可证实有收益时才运行 Top-K ReMLVG 重排;重排不是当前三篇论文的核心贡献,因此必须作为可关闭的工程开关。
### 9.3 Task B:Grounding
```text
(text_zh, specified image_id) -> local translator -> ReMLVG
-> text-conditioned spatial fusion -> predicted bbox
-> undo resizing -> clamp -> official bbox schema -> prediction
```
优先让 Grounding 独立于 CLIA 检索结果;Task B 给定的大图 ID 不允许被 Task A 的错误排序覆盖。原始图片大小以真实文件读取为准,不能默认所有图片恒为 1024×1024。
### 9.4 评测容错与耗时
所有预测必须在时限内完成。查询排序可将 Task B 优先处理,同时保证恢复官方顺序(如果协议要求)。使用批推理、图像缓存、文本缓存、BF16 推理,并监测初始化、图库索引、单条 Retrieval、单条 Grounding 和总耗时。可定期原子写入临时结果;接近预算时跳过昂贵的可选重排,优先保证全部 Query 输出合法结构。错误图片、空匹配及显存不足应被捕获并使用合法 fallback,而不是整批崩溃。
## 10. 训练配置初值、实验与验收
配置应继承官方仓库,不可随意更改原模型结构。可以初设:冻结 RemoteCLIP Base、训练 Adapter/LUP/Grounding、AdamW、混合精度、按图像分组训练、以验证集综合得分选择 checkpoint。学习率、图像输入尺寸、warmup、梯度累积、loss 权重必须以真实源码与显存为依据,不应把未经实测的固定数字写成最佳配置。
| 版本 | 训练内容 | 主要验证目的 |
| --- | --- | --- |
| V0 | 原始 RemoteCLIP + 可用 ReMLVG 权重(或公开 RSVG 训练得到的基线) | 遥感 Grounding 能力与原始 bbox 准确度 |
| V1 | ReMLVG + 比赛数据微调 | 官方四类目标域适配的贡献 |
| V2 | V1 + Ground-V 标注锚定增强 | 复杂指代增强对 Grounding 是否有效 |
| V3 | V1/V2 + CLARE/CLIA 实例级检索头 | 是否真正提升 R@1/R@5,是否影响定位 |
对每个版本独立计算:R@1、R@5、Acc@0.5、Acc@0.75、Mean IoU、总分、运行时间、峰值 GPU 显存。额外做按四类目标、框面积、小目标/大目标、描述包含空间词/不包含空间词、同图同类候选数目分组的分析。特别把错误划为:目标未被 proposal 召回、区域召回但指代选错、图内定位正确但跨图库排序失败、目标选对而 bbox 精度不足、描述跨图歧义。
**最关键的判别实验:** 比较 `ReMLVG 逐图排序` 与 `CLIA 实例检索`。如果 Grounding 有效而 Retrieval 失败,且 CLIA 在无标签泄漏的严格验证下改善 R@1/R@5,这才是研究“Grounding-to-Retrieval gap”的证据;若原始 ReMLVG 在这 81 张图上已经足够好,就不要强行讲跨图检索瓶颈。
## 11. Docker、合规和交付约束
- Docker tar/tar.gz 文件 ≤10GB。需分别测量镜像文件与压缩提交包的大小,按官方规则判断限制;不能只计算 FP16 权重文件大小。
- Runtime 仅装最终 ReMLVG、CLIA、小型中文翻译器和必要依赖。不打包 Ground-V 教师、训练数据、优化器状态、旧 checkpoint、公开图像数据、生成图片及验证集。
- 在构建阶段安装所有依赖并获取权重。运行时完全离线,不执行 `pip install`、`git clone`、自动下载或访问 Hugging Face。
- CUDA 扩展、Deformable Attention 与 PyTorch/驱动兼容性必须在容器内部测试,不能只在宿主机验证。
- `/workspace/run.py --input_path /input_path --output_path /output_path` 为唯一入口,并支持默认路径;真实 JSON schema 必须来自官方文档,不能根据示例推断。
- 不得将评测图库/评测衍生向量保存进镜像,不得采用评测集数据调参或预训练,不得人工硬编码答案。
### 最小验收测试(必须全部通过)
1. `test_bbox.py`:坐标缩放、边缘裁剪、IoU 与数值合法性。
2. `test_translation.py`:中文方向、序数、类别和数量的典型语义保存。
3. `test_model.py`:RemoteCLIP、LUP、Grounding 和 CLIA 两条 forward 均可运行。
4. `test_retrieval.py`:81 张图库中所有 image_id 唯一且完整,排序分数有限、排名稳定。
5. `test_submission.py`:输出符合官方 schema,字段名、bbox 格式、排名长度、Query ID 和顺序检查。
6. `test_offline.py`:隔离网络的 Docker 能加载所有权重,完成端到端预测;报告总时间、镜像大小和峰值内存。
## 12. 对 Qwen 的强制执行指令
请按照本文的 Phase 0 → Phase 1 → Phase 2 → Phase 3 依赖顺序实施,并优先克隆与复用三篇原作者的代码。不得用自行命名的替代网络、临时 InfoNCE、一个简化 CLIP classifier 冒充 ReMLVG/Ground-V/CLARE;不得用 `pass`、TODO 或伪代码交付关键路径。任何原始代码与当前任务不兼容的地方必须说明修改了哪个模块、为什么不能原封不动使用以及实现后的张量接口。
如果缺少完整 ReMLVG checkpoint、Ground-V 教师生成实现或 CLIA 可信负样本,必须准确报告阻塞,并先交付上一个已通过验收门槛的可运行版本;**不能杜撰权重、结果或已经跑通的训练流程**。第一优先级是可运行的 ReMLVG Grounding + 官方合法提交;第二优先级是经过过滤的 Ground-V 增强;第三优先级是忠实迁移 CLIA 的可缓存跨图实例检索路径。
最终交付包含完整源码、训练/评测命令、配置、权重准备与来源、训练数据构建说明、验证指标、Dockerfile、离线运行说明及提交检查报告。不要添加 NAVER、POGA、DynRefer、无关大模型、多余视觉骨干或未经验证的新算法。
## 13. 重要实现风险与决策规则
**风险 R1:ReMLVG 未公布完整已训 checkpoint。** 先基于 RemoteCLIP 公开权重在 DIOR-RSVG 等允许数据上完成训练,不假定仅靠比赛 3095 条数据就能从随机定位头达到论文报告性能。
**风险 R2:Ground-V 以 mask-level 数据为基础。** bbox 版属于方法迁移;原论文里要求细粒度 mask 的监督不能凭空复原,不要声称精确复现全部像素级管线。
**风险 R3:CLARE SigLIP 与 ReMLVG RemoteCLIP 结构不同。** 复用的是 CLIA 原始目标及双流检索机制,共享 Backbone 需要实际适配;若共享失败,先做可运行的两阶段/双模型对照,不能假装合并成功。
**风险 R4:跨图库文本天然可能不唯一。** 训练时限制负样本为可验证的语义不匹配对象;如存在描述本身适用于多个图,审计其评测定义并报告潜在上限问题。
**风险 R5:分数精度和竞争权重。** Grounding 占 70%,V3 检索收益不能以严重降低 bbox IoU 为代价;保留独立 Grounding 参数及完整 V1/V2 备份,只有验证集综合得分提升才替换正式提交版本。
**最终版本选择标准:选择官方验证集综合得分更高、离线时间和镜像均满足约束的 V1 / V2 / V3,而不是选择方法最复杂的版本。**
## 14. 参考资料
- ReMLVG:https://github.com/FoxWe1/ReMLVG | https://doi.org/10.1016/j.patrec.2026.08.020
- RemoteCLIP:https://github.com/ChenDelong1999/RemoteCLIP
- Ground-V:https://arxiv.org/abs/2505.13788 | https://openaccess.thecvf.com/content/CVPR2025/html/Zong_Ground-V_Teaching_VLMs_to_Ground_Complex_Instructions_in_Pixels_CVPR_2025_paper.html
- REIR / CLARE:https://arxiv.org/abs/2506.18246 | https://github.com/haoxiangzhao12138/REIR
- MULLER:https://openaccess.thecvf.com/content/ICCV2023/html/Tu_MULLER_Multilayer_Laplacian_Resizer_for_Vision_ICCV_2023_paper.html
|