SHPDRG/medical-imaging-model-evaluation-benchmark

医学影像多模态模型评测集（精选示例版）

这是一个面向医学多模态大模型的高质量影像评测集，专门测试模型能否把“看见影像”进一步转化为可解释、可复核、符合临床语境的判断与表达。数据将医学影像与患者描述、病史摘要、检查信息或结构化临床资料配对，覆盖从影像分类、报告生成，到鉴别诊断、治疗方案和胸片质量控制的完整评测链路。

本次公开版本从 2026-07-22 质检通过产物中整理而来，按每个子集最多 50 题进行分层抽样；题量不足 50 的影像质量控制子集完整保留。因此，公开版本包含 5 个任务子集、213 题和 455 个配套影像文件，适合作为医学视觉语言模型的快速对比集、回归测试集和研究教学样例。

数据集亮点

• 多模态对齐：每条样例同时提供影像和结构化的 question、answer、explanation，支持检查视觉理解、临床语义整合与解释质量。
• 任务覆盖完整：从“影像是什么”到“如何描述、如何鉴别、如何处置”，并加入真实影像工作流中的胸片质量控制任务。
• 影像类型丰富：覆盖 X 光、CT、核磁共振和超声；样例中包含单图与多图输入。
• 评测信号清晰：答案和解析均围绕影像中可观察的证据组织，便于进行准确性、完整性、依据一致性和安全边界评估。
• 公开版本轻量：每个子集最多 50 题，便于快速下载、人工复核和接入模型评测流程；原始数据目录保持不变。

数据组成

子集	任务	题数	抽样后类别分布	配套影像	文件
2	图像分类	50	X 光 38、CT 10、核磁共振 1、超声 1	93	data/sets/01-image-classification/dataset.xlsx
3	报告生成（多模态摘要）	50	X 光 41、CT 8、核磁共振 1	106	data/sets/02-report-generation/dataset.xlsx
5	多模态输入的鉴别诊断	50	X 光 38、CT 10、核磁共振 1、超声 1	101	data/sets/03-differential-diagnosis/dataset.xlsx
6	多模态输入的治疗方案	50	X 光 41、CT 7、核磁共振 1、超声 1	142	data/sets/04-treatment-planning/dataset.xlsx
10	多模态报告质控	13	有问题 8、无问题 5	13	data/sets/05-image-quality-control/dataset.xlsx

任务说明

1. 图像分类

将医学影像与患者描述、病史或检查信息结合，完成疾病诊断、征象筛查等影像级分类任务。该子集强调视觉特征与临床文本的联合判断，并保留候选诊断和鉴别依据，适合评测多模态信息是否真正提升分类准确性与可解释性。

2. 报告生成（多模态摘要）

根据影像和结构化患者信息生成规范化影像报告，重点考察影像表现、诊断意见、关键征象和临床主诉之间的细粒度对应关系。该任务适合评估医学视觉语言模型的报告完整性、专业性、事实一致性和语言流畅性。

3. 多模态输入的鉴别诊断

结合影像、病史和实验室检查，输出按可能性排序的鉴别诊断，并分别说明支持或排除某项诊断的临床证据。该子集强调“鉴别”而非无依据的确定性诊断，适合评估模型的推理结构、证据使用和临床安全边界。

4. 多模态输入的治疗方案

基于影像、病理/检查结果、病史和患者特征提出分层治疗方案，覆盖急性处置、药物、手术、放疗、康复和随访等常见临床决策维度。样例特别关注方案与影像证据的对应，以及模型对不确定性和进一步评估边界的表达。

5. 多模态报告质控

面向胸部 X 光片质量控制，围绕伪影、体位、偏中心、侧别标识、肩胛骨、肺尖、肋膈角、吸气和体内植入物等 11 类问题进行多标签判断，并设置“无问题”类别。该子集可用于评估模型在进入诊断环节前发现影像采集质量问题的能力。

文件格式与字段

每个子集目录包含一个 dataset.xlsx 和与题目对应的影像目录。工作簿保留 8 个核心字段：

字段	说明
题量序号	原始样例编号
数据集名称	任务子集名称
子分类	影像类型或任务类别
整合版	将题干、输入、期望输出和答案解析整合后的完整样例
question（包含题干和提问）	模型输入问题，含影像提示和临床上下文
answer（答案）	参考答案或结构化输出
explanation（解析）	影像证据、临床依据和推理说明
图片路径及图片文件名	相对于当前子集目录的影像路径；一题可对应多张影像

影像文件采用 JPG、JPEG 和 PNG 等常见格式。图片路径字段与同一子集目录下的影像文件保持对应，可直接根据该字段建立读取器或评测样本。

抽样与质量说明

• 每个子集最多抽取 50 题；多模态报告质控 原始仅有 13 题，因此完整保留 13 题。
• 抽样按 子分类 分层并按原始类别比例选取，避免公开样例只集中在单一影像类型。
• 仅复制抽中题目实际引用的影像文件，未将未抽中的影像混入公开版本。
• 数据来自质检通过产物；公开前保留原始题目结构、答案和解析，便于审阅与复现实验。

加载示例

ModelScope

from modelscope.msdatasets import MsDataset

ds = MsDataset.load(
    "SHPDataGR/medical-imaging-model-evaluation-benchmark",
    subset_name="default",
    split="train",
)

本地读取 Excel

from pathlib import Path
import pandas as pd

root = Path("data/sets")
for workbook in sorted(root.glob("*/dataset.xlsx")):
    frame = pd.read_excel(workbook)
    print(workbook.parent.name, len(frame), list(frame.columns))

合规与使用边界

本数据集按 Apache License 2.0 发布，面向科研、教学、模型评测和产品验证参考。数据不应作为临床诊疗依据，模型输出也不应直接用于患者诊断或治疗决策。使用者应自行完成数据使用前的合规审查，并遵守适用的医疗数据、个人信息保护、版权和模型安全相关法律法规。

如需完整数据、专项影像评测集、定制标注或模型训练数据服务，请发送邮件至 zhouhaoran@shujuyoupu.com。

Hugging Face 获取与加载

同一数据集也发布在 GitHub 和 ModelScope。

from datasets import load_dataset
from huggingface_hub import snapshot_download

ds = load_dataset("SHPDRG/medical-imaging-model-evaluation-benchmark", name="01-image-classification", split="train")
local_dir = snapshot_download(repo_id="SHPDRG/medical-imaging-model-evaluation-benchmark", repo_type="dataset")

load_dataset 加载卡片中声明的结构化数据或索引；snapshot_download 获取原始附件。

hf_preview/ 提供由原 Excel 数据逐行转换的 Parquet 预览，保持原字段名和数据值；原 Excel 文件仍保留在原路径。各任务分别作为配置加载。

配置：01-image-classification、02-report-generation、03-differential-diagnosis、04-treatment-planning、05-image-quality-control。