README_ZH.md

SUM

High-Resolution Fine-Grained Perception Across Controlled Image Views

🤗 Hugging Face · 🤖 ModelScope · English · 中文

700 questions · 29 aligned views · 5 task categories

🔎 数据集介绍

SUM 用于评估多模态模型在图像上下文、分辨率和背景发生可控变化时的细粒度视觉感知能力。数据集包含 700 道选择题，每道题配套 29 种对齐的图像视图，可以在原图、局部裁剪、原尺寸白底画布、降采样图及仅保留目标框像素的图像上比较同一道题的表现。

基础样本选自 VStarBench 115 道、ZoomBench 485 道、HR-Bench 100 道。发布包共有 20,300 张视图图像，700 个原图文件按 SHA-256 去重后为 664 种文件内容。问答数、独立原图文件内容数和变换图像数是不同统计口径。

🎯 图像视图设计

视图	参数	图像数	控制因素
Original	原始图像	700	完整场景与参考分辨率
Crop	目标框面积的 1、1.5、3、6、12、18 倍	4,200	目标周围的上下文范围
Whiteground	同样的 6 档裁剪	4,200	将裁剪内容贴回原位置，其他区域为白色，画布保持原图尺寸
Downsample	宽高比例 0.9375 至 0.0625，共 11 档	7,700	完整场景的空间分辨率
Target-only	1、3、6、18 倍裁剪画布及原图画布	3,500	仅保留目标框内像素，其余区域置白

裁剪参数表示面积倍数，降采样参数表示宽高线性比例，二者含义不同。Target-only 使用边界框保留像素，并不是实例分割掩码；Whiteground 则保留整个裁剪区域，包括其中的上下文。

示例缩略图仅为页面展示而缩放，图下标注的是实际存储尺寸。发布数据保留原有图像编码、分辨率和字节内容。

📊 数据组成

任务	问答数
Color Attributes / 颜色属性	347
OCR / 文本识别	118
Structural Attributes / 结构属性	94
Object Identification / 目标识别	84
Material Attributes / 材质属性	57
合计	700

其中四选一 679 道，二选一 21 道。题目主要为英文，部分 OCR 内容及少量上游选项包含中文或日文。VStarBench 来自 direct_attributes 子集；HR-Bench 来自本地 FSP_8k_100 选择。发布包保留了原有类别映射与人工修订记录。

📦 文件与使用方式

现已提供 Apache Parquet 格式：29 个配置、每个配置 700 行，共 187 个分片，约 44.10 GB。默认加载配置直接读取 Parquet；每行包含问题、答案、视图标注和 image 图像列，保存原有编码与分辨率，无需额外下载单张图像。

文件位于 parquet/<view>/test-*.parquet，分片目标大小为 256 MiB，每个行组小于 100 MiB。转换后已逐条核对标注及有效图像的 SHA-256。Parquet 清单 记录字段结构、行数、分片大小与校验值。

默认配置为 original，所有 29 个配置均包含 700 行的 test split。其他配置如 crop_3x、whiteground_3x、downsample_0_25、target_only_original，完整列表见 metadata/validation_summary.json。

from datasets import load_dataset

dataset = load_dataset("RL-MIND/SUM", "original", split="test", streaming=True)
sample = next(iter(dataset))
print(sample["question"], sample["choices"], sample["answer"])
image = sample["image"]

魔搭镜像可下载所需视图的 Parquet 分片，再用 datasets 读取：

from pathlib import Path
from datasets import load_dataset
from modelscope_hub import HubApi

root = HubApi().download_repo(
    "KAIWANG/SUM", "dataset",
    allow_patterns=["parquet/original/*.parquet"],
)
dataset = load_dataset(
    "parquet",
    data_files={"test": str(Path(root) / "parquet/original/*.parquet")},
    split="test",
)
sample = dataset[0]
image = sample["image"]

data/<view>/test/metadata.jsonl 关联该视图的图片；dataset.json 是 700 条基础问答和原图相对路径。metadata/image_manifest.json 保存所有图像的 SHA-256、大小和尺寸；metadata/legacy/ 保留去除服务器路径后的旧格式元数据；metadata/path_mapping.json 提供旧目录到发布目录的映射。

Parquet 还提供 image_path（图像仓库相对路径）、image_sha256（预期图像哈希）、image_available（图像是否可用）和 image_unavailable_reason（不可用原因，可用时为空）。

核心字段包括 base_sample_id、原图哈希分组 image_group_id、来源、纯题干 question、原始文本 question_raw、选项、答案、任务类别、视图宽高和边界框。边界框统一采用像素坐标 xyxy，同时提供原始框 bbox_original、裁切框 bbox_clipped 和当前视图坐标 bbox_view。完整字段表见英文说明。

Parquet 版本约 44.10 GB；原有图像目录与 JSONL 标注继续保留，约 44.4 GB。按需选择一种格式和所需视图，可避免重复下载两套数据。

✅ 评测与已知问题

• 按相同 ID 比较不同视图，并分别统计来源、任务和视图准确率。scripts/evaluate.py 按答案字母评分，缺失或非法输出计为错误。
• 485 条 ZoomBench 原始题干已内含选项。发布版将其拆成纯题干与选项，同时通过 question_raw 和 scripts/prompts.py 保留旧提示词的复现方式。论文结果应注明使用的提示词版本。
• 30 条边界框略有越界，原始坐标和裁切后坐标均保留，现有图像不因标注整理而重新生成。
• 000669 的两个干扰项为 red 和 Red，记录答案为 C / Brown。本版保留来源选项并标记问题，未自行编造替换选项。历史答案修正、类别合并和少量中英文混合选项见 metadata/errata.json。
• 同一原图可以对应不同问题。如需自行划分数据，同一 image_group_id 及其所有视图必须在同一 split 中，不能将 29 个视图当作独立样本随机拆分。
• 发布时对全部有效图像进行了完整解码、尺寸核对与哈希计算。这是文件与结构校验，不代表对每一道题的语义正确性重新进行了人工审核。

📜 来源、许可与引用

请按使用内容引用 V*Bench、ZoomBench 和 HR-Bench。SUM 提供来源样本的筛选、统一结构及变换视图，不将上游题目与图像描述为本项目全新采集。

各来源许可说明见 THIRD_PARTY_NOTICES.md，包括尚未明确的上游许可细节。数据卡使用 license: other，不对所有来源图片统一授予 MIT 或 Apache 等许可。