SUM
High-Resolution Fine-Grained Perception Across Controlled Image Views
🤗 Hugging Face ·
🤖 ModelScope ·
English · 中文
700 questions · 29 aligned views · 5 task categories
## 🔎 数据集介绍
**SUM** 用于评估多模态模型在图像上下文、分辨率和背景发生可控变化时的细粒度视觉感知能力。数据集包含 **700 道选择题**，每道题配套 **29 种对齐的图像视图**，可以在原图、局部裁剪、原尺寸白底画布、降采样图及仅保留目标框像素的图像上比较同一道题的表现。
基础样本选自 **VStarBench 115 道、ZoomBench 485 道、HR-Bench 100 道**。发布包共有 **20,300 张视图图像**，700 个原图文件按 SHA-256 去重后为 **664 种文件内容**。问答数、独立原图文件内容数和变换图像数是不同统计口径。
## 🎯 图像视图设计
| 视图 | 参数 | 图像数 | 控制因素 |
| --- | --- | ---: | --- |
| Original | 原始图像 | 700 | 完整场景与参考分辨率 |
| Crop | 目标框面积的 1、1.5、3、6、12、18 倍 | 4,200 | 目标周围的上下文范围 |
| Whiteground | 同样的 6 档裁剪 | 4,200 | 将裁剪内容贴回原位置，其他区域为白色，画布保持原图尺寸 |
| Downsample | 宽高比例 0.9375 至 0.0625，共 11 档 | 7,700 | 完整场景的空间分辨率 |
| Target-only | 1、3、6、18 倍裁剪画布及原图画布 | 3,500 | 仅保留目标框内像素，其余区域置白 |
裁剪参数表示**面积倍数**，降采样参数表示**宽高线性比例**，二者含义不同。Target-only 使用边界框保留像素，并不是实例分割掩码；Whiteground 则保留整个裁剪区域，包括其中的上下文。
示例缩略图仅为页面展示而缩放，图下标注的是实际存储尺寸。发布数据保留原有图像编码、分辨率和字节内容。
## 📊 数据组成
| 任务 | 问答数 |
| --- | ---: |
| Color Attributes / 颜色属性 | 347 |
| OCR / 文本识别 | 118 |
| Structural Attributes / 结构属性 | 94 |
| Object Identification / 目标识别 | 84 |
| Material Attributes / 材质属性 | 57 |
| **合计** | **700** |
其中四选一 679 道，二选一 21 道。题目主要为英文，部分 OCR 内容及少量上游选项包含中文或日文。VStarBench 来自 `direct_attributes` 子集；HR-Bench 来自本地 `FSP_8k_100` 选择。发布包保留了原有类别映射与人工修订记录。
## 📦 文件与使用方式
现已提供 **Apache Parquet 格式**：29 个配置、每个配置 700 行，共 **187 个分片，约 44.10 GB**。默认加载配置直接读取 Parquet；每行包含问题、答案、视图标注和 `image` 图像列，保存原有编码与分辨率，无需额外下载单张图像。
文件位于 `parquet//test-*.parquet`，分片目标大小为 256 MiB，每个行组小于 100 MiB。转换后已逐条核对标注及有效图像的 SHA-256。[Parquet 清单](./metadata/parquet_manifest.json) 记录字段结构、行数、分片大小与校验值。
默认配置为 `original`，所有 29 个配置均包含 700 行的 `test` split。其他配置如 `crop_3x`、`whiteground_3x`、`downsample_0_25`、`target_only_original`，完整列表见 `metadata/validation_summary.json`。
```python
from datasets import load_dataset
dataset = load_dataset("RL-MIND/SUM", "original", split="test", streaming=True)
sample = next(iter(dataset))
print(sample["question"], sample["choices"], sample["answer"])
image = sample["image"]
```
魔搭镜像可下载所需视图的 Parquet 分片，再用 `datasets` 读取：
```python
from pathlib import Path
from datasets import load_dataset
from modelscope_hub import HubApi
root = HubApi().download_repo(
"KAIWANG/SUM", "dataset",
allow_patterns=["parquet/original/*.parquet"],
)
dataset = load_dataset(
"parquet",
data_files={"test": str(Path(root) / "parquet/original/*.parquet")},
split="test",
)
sample = dataset[0]
image = sample["image"]
```
`data//test/metadata.jsonl` 关联该视图的图片；`dataset.json` 是 700 条基础问答和原图相对路径。`metadata/image_manifest.json` 保存所有图像的 SHA-256、大小和尺寸；`metadata/legacy/` 保留去除服务器路径后的旧格式元数据；`metadata/path_mapping.json` 提供旧目录到发布目录的映射。
Parquet 还提供 `image_path`（图像仓库相对路径）、`image_sha256`（预期图像哈希）、`image_available`（图像是否可用）和 `image_unavailable_reason`（不可用原因，可用时为空）。
核心字段包括 `base_sample_id`、原图哈希分组 `image_group_id`、来源、纯题干 `question`、原始文本 `question_raw`、选项、答案、任务类别、视图宽高和边界框。边界框统一采用像素坐标 `xyxy`，同时提供原始框 `bbox_original`、裁切框 `bbox_clipped` 和当前视图坐标 `bbox_view`。完整字段表见[英文说明](./README.md)。
Parquet 版本约 44.10 GB；原有图像目录与 JSONL 标注继续保留，约 44.4 GB。按需选择一种格式和所需视图，可避免重复下载两套数据。
## ✅ 评测与已知问题
- 按相同 ID 比较不同视图，并分别统计来源、任务和视图准确率。`scripts/evaluate.py` 按答案字母评分，缺失或非法输出计为错误。
- 485 条 ZoomBench 原始题干已内含选项。发布版将其拆成纯题干与选项，同时通过 `question_raw` 和 `scripts/prompts.py` 保留旧提示词的复现方式。论文结果应注明使用的提示词版本。
- 30 条边界框略有越界，原始坐标和裁切后坐标均保留，现有图像不因标注整理而重新生成。
- `000669` 的两个干扰项为 `red` 和 `Red`，记录答案为 C / Brown。本版保留来源选项并标记问题，未自行编造替换选项。历史答案修正、类别合并和少量中英文混合选项见 `metadata/errata.json`。
- 同一原图可以对应不同问题。如需自行划分数据，同一 `image_group_id` 及其所有视图必须在同一 split 中，不能将 29 个视图当作独立样本随机拆分。
- 发布时对全部有效图像进行了完整解码、尺寸核对与哈希计算。这是文件与结构校验，不代表对每一道题的语义正确性重新进行了人工审核。
## 📜 来源、许可与引用
请按使用内容引用 [V*Bench](https://github.com/penghao-wu/vstar)、[ZoomBench](https://huggingface.co/datasets/inclusionAI/ZoomBench) 和 [HR-Bench](https://huggingface.co/datasets/DreamMr/HR-Bench)。SUM 提供来源样本的筛选、统一结构及变换视图，不将上游题目与图像描述为本项目全新采集。
各来源许可说明见 [THIRD_PARTY_NOTICES.md](./THIRD_PARTY_NOTICES.md)，包括尚未明确的上游许可细节。数据卡使用 `license: other`，不对所有来源图片统一授予 MIT 或 Apache 等许可。
