XHRBench

项目	内容
当前 JSON 发布	1,932 条 VQA 样本
任务类别	17 个原始类别标识
图像数量分布	单图 1,862 条；双图 50 条；三图 20 条
数据语言	英语
主要文件	`dataset.json`、`images/`、`data/train-00000-of-00001.parquet`
完整基准范围	5,329 张全景图像；9 类感知能力、4 类推理能力

基准数据来源包括 DOTA-v2.0、MiniFrance、FAIR1M、HRSCD、XLRS-Bench 以及团队采集的 100 MP 无人机影像。问题采用“LLM 对抗筛选 + 人工复核”的两阶段验证流程，减少仅依靠语言先验即可回答的问题。

🌟 任务设计

任务族	评测内容
多项选择视觉问答（MCQ）	固定选项空间中的视觉决策，覆盖单轮与多轮对话
开放式视觉问答（OEQ）	自由形式的视觉理解与组合推理
图像描述（IC）	全局场景概括与区域细节描述
单图评测（SIE）	超高分辨率单图上的多尺度感知与推理

上述四个任务族描述论文中的完整评测设计；当前仓库的 dataset.json 为带选项的 VQA 标注。完整评测协议请参阅论文与代码。

📦 数据格式

dataset.json                       # VQA 标注列表
images/                            # 标注引用的原始图像
data/train-00000-of-00001.parquet  # 仓库提供的 Parquet 文件
assets/                            # 数据集卡片图示与标识

字段	含义
`id`	样本标识
`images`	图像的相对路径列表
`question`	问题文本
`options`	从选项字母到选项文本的映射
`answer`	标准答案选项
`category`	原始任务类别标识

图像路径相对于仓库根目录。类别名称保留原始拼写，使用时请按原值读取。Parquet 文件名中的 train 是发布文件命名；它本身不定义论文的训练/测试划分。

类别分布

任务类别（原始标识）	样本数
`anomaly_detection`	50
`color`	200
`detection`	100
`future_prediction_two_image`	50
`multi_region_join_contrast`	20
`multi_region_join_contrast_singal`	50
`multitrun-future_prediction`	150
`multiturn_object_state_judgement`	132
`multturn_anomaly_detection`	60
`object_clasfication`	200
`object_counting`	200
`object_grounding`	200
`object_state_judgement`	50
`regional_grouding`	70
`regionla_counting`	100
`relation`	200
`shape`	100
总计	1,932

🚀 快速开始

先读取标注，再按需下载图像。

import json
from huggingface_hub import hf_hub_download

annotation_path = hf_hub_download(
    repo_id="RL-MIND/XHRBench",
    repo_type="dataset",
    filename="dataset.json",
)
with open(annotation_path, encoding="utf-8") as f:
    samples = json.load(f)

sample = samples[0]
print(sample["category"], sample["question"], sample["options"])

# Download only the image needed for this sample.
image_path = hf_hub_download(
    repo_id="RL-MIND/XHRBench",
    repo_type="dataset",
    filename=sample["images"][0],
)

📊 评测与可视化

原始项目报告评测了 14 个模型，包括 GPT-4o、Gemini 1.5 Pro、Qwen2.5-VL，以及 GeoChat、VHM 等遥感模型，覆盖多项选择问答、开放式问答与图像描述。以下保留原始发布的概览、排行榜和任务分布图；具体模型版本与评测设置请参阅论文。

评测图示

Task distribution

💡 使用说明

用于评估超高分辨率遥感视觉理解、感知与推理能力。
原始超高分辨率图像可能需要较多磁盘空间和解码内存，建议按需下载。
dataset.json 与 images/ 配套使用；保持相对路径完整。
本仓库与 RSHR-Bench 的打包形式不同，不应直接将文件数或分片数作为基准规模比较。

📜 许可与引用

仓库声明的许可证为 Apache-2.0。遥感图像来源包括其他公开数据集；使用相关源数据时，请同时查看其原始许可与使用条款。

相关论文为 A Benchmark for Ultra-High-Resolution Remote Sensing MLLMs。如果本数据集对研究有所帮助，请引用：

@article{dang2025RSHR,
  title={A Benchmark for Ultra-High-Resolution Remote Sensing MLLMs},
  author={Dang, Yunkai and Zhu, Meiyi and Wang, Donghao and Zhang, Yizhuo and Yang, Jiacheng and Fan, Qi and Yang, Yuekun and Li, Wenbin and Miao, Feng and Gao, Yang},
  journal={arXiv preprint arXiv:2512.17319},
  year={2025}
}