README.md

---
pretty_name: Real-RSCM（图像划分与作者问答划分）
language:
- en
tags:
- remote-sensing
- image-forgery
- copy-move
- visual-question-answering
- parquet
task_categories:
- visual-question-answering
- image-segmentation
configs:
- config_name: images
  default: true
  data_files:
  - split: train
    path:
    - images/train-00000.parquet
    - images/train-00001.parquet
    - images/train-00002.parquet
    - images/train-00003.parquet
    - images/train-00004.parquet
  - split: validation
    path:
    - images/validation-00000.parquet
  - split: test
    path:
    - images/test-00000.parquet
- config_name: qa
  data_files:
  - split: train
    path:
    - qa/train-00000.parquet
  - split: validation
    path:
    - qa/val-00000.parquet
  - split: test
    path:
    - qa/test-00000.parquet
dataset_info:
- config_name: images
  features:
  - name: image
    dtype: image
  - name: original_image
    dtype: image
  - name: mask
    dtype: image
  - name: source_mask
    dtype: image
  - name: background_mask
    dtype: image
  - name: segmentation_mask
    dtype: image
  - name: image_id
    dtype: int64
  - name: question_ids
    list: int64
  - name: active
    dtype: bool
  - name: sample_id
    dtype: string
  - name: origin_dataset
    dtype: string
  - name: caption
    dtype: string
  - name: label
    dtype: int64
  - name: manipulation
    dtype: string
  - name: source_split
    dtype: string
  - name: filename_source_id
    dtype: string
  - name: source_image_path
    dtype: string
  - name: source_mask_path
    dtype: string
  - name: width
    dtype: int64
  - name: height
    dtype: int64
  - name: has_image
    dtype: bool
  - name: has_mask
    dtype: bool
  - name: missing_assets
    list: string
  - name: metadata_json
    dtype: string
---

# Real-RSCM：图像划分与作者问答划分

本仓库将作者发布的 224 版本数据包 `Real_RSCM_224(1).zip` 转为 Hugging Face Parquet。
来源为 [RSCMQA 作者仓库](https://github.com/shenyedepisa/RSCMQA) 的
[数据下载说明](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#download-datasets)，论文为
[Copy-Move Forgery Detection and Question Answering for Remote Sensing Image](https://arxiv.org/abs/2412.02575)。
本数据卡描述实际取得的压缩包，未确认它对应 arXiv v3 的数据版本。

本仓库提供 **`images` 与 `qa` 两张表，各有 `train`、`validation`、`test` 三个 split**：

- **`images` 按维护者的图片 ID 70/15/15 方案划分**，三个集合的图片 ID 互斥。
- **`qa` 按作者原始问题文件划分**，原始成员、题干、答案和行顺序保持不变。
- **`qa.img_id = images.image_id`** 关联问答与图片；`images.question_ids` 列出该图片对应的全部问答 ID。

两张表的同名 split 表示不同的划分协议。选择图片划分时，从所有问答 split 查找关联问题；
选择作者问答划分时，从所有图片 split 查找关联图片。**不要只连接两个同名 split，也不要按行号配对。**
Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。

## 配置与浏览入口

| 表 / Subset | Split | 行数 | Parquet 文件数 | 划分依据与浏览入口 |
| --- | --- | ---: | ---: | --- |
| `images` | `train` | 7,000 | 5 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/train) |
| `images` | `validation` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/validation) |
| `images` | `test` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/test) |
| `qa` | `train` | 121,645 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/train) |
| `qa` | `validation` | 26,068 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/validation) |
| `qa` | `test` | 26,067 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/test) |

`images` 合计 **10,000 个图片 ID**，图像及掩膜字节只存放在图片表中；
`qa` 合计 **173,780 条问答**，通过 `img_id` 引用图片。
图片和掩膜保持原始编码与字节，不缩放、不重新编码、不二值化。
原始 JSON 也按来源字节保留，问句和答案没有翻译、润色或替换。

作者原名 `val` 在 Viewer 和 `load_dataset` 中统一显示为 `validation`。
问答数据仍使用原有 `qa/val-00000.parquet`，该表中的 `source_split="val"` 保留来源名称；
这一显示名称调整不改变作者的问答划分。

## 关联键与两套读取协议

| 表 | 字段 | 含义 |
| --- | --- | --- |
| `images` | `image_id` | 原始图片 ID，在三个图片 split 的并集中唯一 |
| `images` | `question_ids` | 全部 `qa` 中满足 `qa.img_id = image_id` 的问答 `id`，按 ID 升序排列 |
| `qa` | `id` | 原始问答 ID，在三个问答 split 的并集中唯一 |
| `qa` | `img_id` | 指向 `images.image_id` 的关联键 |

`question_ids` 是一对多关系的反向索引，由发布的全部问答记录生成，包括其中的非活跃记录。
它不受图片所在 split 或某个作者问答 split 限制。
图像原始元数据中的 `questions_ids` 仍完整保留在 `metadata_json`，
与新增的顶层 `question_ids` 字段分别保存。

**使用图片划分：** 例如从 `images/train` 取得图片 ID，再从 `qa/train`、
`qa/validation`、`qa/test` 的并集中取出 `img_id` 属于这些图片的全部问答。
图片的验证、测试集合以相同方法关联，不沿用作者问题文件的 split 成员关系。

**使用作者问答划分：** 例如先选 `qa/train`，再依据各行的 `img_id`，
从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。
同一图片可能服务于不同作者问答 split，这一事实由原始问答划分保留。

原图像 ID 分配表保存在 [metadata/image_split.parquet](metadata/image_split.parquet) 作为来源记录。
其中 `split` 字段保留原名 `train`、`val`、`test`；当前图片 Viewer 对应为
`train`、`validation`、`test`。该来源表不作为第三个 subset 展示。

## 图片划分与资产完整性

图片划分以原始图片 ID 为单位：按数值排序后，用 `random.Random(44)` 打乱一次，
依次分配 70%、15%、15%。发布沿用已保存的 ID 分配，未重新抽样。
这个方案保证图片 ID 不跨集合；它没有额外按原图内容、重叠裁剪或地理场景分组。

| 图片 Split | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 |
| --- | ---: | ---: | ---: |
| `train` | 7,000 | 6,322 | 678 |
| `validation` | 1,500 | 1,334 | 166 |
| `test` | 1,500 | 1,344 | 156 |

原包图像元数据覆盖 **10,000 个 ID**，主图与 `original/` 各提供 **9,000 个文件**。
有 **1,000 个 ID 缺少这两项图像资产**；相应的元数据和全部关联问答仍保留，
`image=null`、`original_image=null`、`has_image=false`，主图的 `width`、`height` 为 `null`。
没有用其他版本补齐这些图片，也没有静默移除这些 ID。
因此 7,000 / 1,500 / 1,500 表示分配的 ID 数，不能当作实际可训练主图数。
需要图像输入的实验应明确记录 `has_image` 的处理方式。

六个图像列采用 Hugging Face `Image` 特征，底层为 `{bytes, path}`。
`bytes` 保存原包编码字节，`path` 保存原包成员的相对路径，缺失资产为 `null`。

| Image 列 | 内容 | 实际文件数 | 缺少此资产的图片 ID 数 |
| --- | --- | ---: | ---: |
| `image` | 原包 image/ 中的主图 | 9,000 | 1,000 |
| `original_image` | 原包 original/ 中的原图 | 9,000 | 1,000 |
| `mask` | 原包 target/ 中的目标区域掩膜 | 10,000 | 0 |
| `source_mask` | 原包 source/ 中的来源区域掩膜 | 10,000 | 0 |
| `background_mask` | 原包 background/ 中的背景掩膜 | 10,000 | 0 |
| `segmentation_mask` | 原包 segmentation/ 中的标注 | 10,000 | 0 |

`mask` **只对应作者的 target 掩膜**，保留原始编码及像素值，未与 source 合并。
`source_mask`、`background_mask`、`segmentation_mask` 分列保留，各自按作者定义解释；
缺失掩膜不会被替换为全零图。

| 其他图片字段 | 含义 |
| --- | --- |
| `active` | 原始 `All_Images.json` 的 active 标记 |
| `sample_id` | 转存样本标识 |
| `label` | 根据原始 Q1 整理的图像级标签：real = 0、fake = 1 |
| `origin_dataset`、`caption`、`manipulation` | 保留的来源、图像描述与操作类别信息 |
| `source_split` | 保留为 `full`，表示来源整表；当前图片归属以 `images` 的 HF split 为准 |
| `filename_source_id` | 来源文件名中的 ID 字段 |
| `source_image_path`、`source_mask_path` | 主图与 target 掩膜在原包内的相对路径 |
| `width`、`height` | 主图实际尺寸；缺主图时为 `null` |
| `has_image` | 是否有主图文件 |
| `has_mask` | 是否有 target 掩膜文件，不代表掩膜内含非空篡改区域 |
| `missing_assets` | 缺少的资产名称列表 |
| `metadata_json` | 原始 `All_Images.json` 中该图片的完整对象 |

字段 schema 记录在 [inventory.json](inventory.json)，并写入 Parquet 的 Hugging Face 特征元数据。

## 作者问答划分

问答表保留原始 `id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`。
`source_file`、`source_row`、`source_split` 记录来源文件、行序和原 split 名称。
每个作者 split 的记录顺序保持不变；不按图片去重问答，也不根据图片的三划分重新分配这些记录。
包括 `active=false` 在内的原始问答记录均保留，使用者应按所用协议解释 active 标记。

作者问答划分按问题组织，**图片 ID 可以跨问答 split 重叠**。
下面的图片计数包含主图缺失但元数据仍存在的 ID。

| 问答 Split | 问题数 | 不重复的 img_id 数 |
| --- | ---: | ---: |
| `train` | 121,645 | 9,574 |
| `validation` | 26,068 | 8,514 |
| `test` | 26,067 | 8,530 |

| 作者问答 Split 对 | 共同 img_id 数 |
| --- | ---: |
| `train/validation` | 8,299 |
| `train/test` | 8,319 |
| `validation/test` | 8,002 |

按作者问答划分报告图像检测或定位成绩时，应披露这种图像重叠；
问答集合互斥本身不能证明模型泛化到了未见图片。

## 原包题干差异

本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后，
**Train/Val/Test 的全部 173,780 条问题记录，其 `question` 题干都不同**；
其余字段、问题 ID 顺序和原始 split 成员相同。
这一观察仅说明题干发生变化，没有验证两版问句的语义是否等价。
本仓库保留实际取得压缩包中的题干；`All_Questions.json` 独立原样保存，
不用于覆盖三个 split 文件中的问题文本。

## 读取示例

下面分别建立两套训练集合的关联关系。`validation`、`test` 可以按相同方式处理。

```python
from datasets import concatenate_datasets, load_dataset

repo = 'ThaneJoss/Real-RSCM'
splits = ("train", "validation", "test")
images = load_dataset(repo, "images")
qa = load_dataset(repo, "qa")
all_images = concatenate_datasets([images[split] for split in splits])
all_qa = concatenate_datasets([qa[split] for split in splits])

# 图片协议：图片 train 对应的问答可能来自任意作者问答 split。
image_train_ids = set(images["train"]["image_id"])
questions_for_image_train = all_qa.filter(
    lambda img_id: img_id in image_train_ids,
    input_columns=["img_id"],
)

# 作者问答协议：qa/train 引用的图片可能来自任意图片 split。
qa_train_image_ids = set(qa["train"]["img_id"])
images_for_qa_train = all_images.filter(
    lambda image_id: image_id in qa_train_image_ids,
    input_columns=["image_id"],
)
```

读取主图前检查 `has_image`。如需原始编码字节，可将对应图像列设为 `datasets.Image(decode=False)`。
关联字段表达记录间的关系；原生 Viewer 展示字段与 split，不要求额外应用。

## 来源记录与转存范围

`metadata/original/` 保留压缩包中提供的原始 JSON 及其他已转存元数据字节，
包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 和三个问答 split 文件。
`metadata/image_split.parquet` 保存维护者既有的图片 ID 划分。
`inventory.json` 汇总配置、行数、文件路径、图像资产数量与问答图片交集。

这次组织方式保留作者数据内容，并增加图片划分和反向问答索引。
实际实验应说明采用图片协议还是作者问答协议，以及缺图筛选、掩膜解释和所用数据版本。

## 来源中的许可说明

作者 [README 的 License 小节](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#license) 列有
[CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.en) 链接，
随后将 **Global-TQA** 图像及其标注的使用限定为学术用途，并声明禁止商业使用。
其中 `Global-TQA` 与本包的 `Real-RSCM` 名称不一致；本数据卡保留这一来源差异，
未据此认定作者已经明确确认本包的许可范围。

原转存的来源核对记录未见作者仓库根目录独立的 `LICENSE` 文件。
模型子目录内第三方代码的许可不能作为数据集许可依据。
本转存未自行增加 Hugging Face `license` 标签，也不额外授予数据使用权；
相应数据包的许可和使用范围应以作者的明确声明为准。

## 引用

作者 README 提供的论文引用如下。使用本转存时，请同时注明
[本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM)、所用配置和划分协议。

```bibtex
@article{zhang2025copymove,
    title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image},
    author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang},
    journal={arXiv preprint arXiv:2412.02575},
    year={2025},
}
```