| --- |
| pretty_name: Real-RSCM（图像划分与作者问答划分） |
| language: |
| - en |
| tags: |
| - remote-sensing |
| - image-forgery |
| - copy-move |
| - visual-question-answering |
| - parquet |
| task_categories: |
| - visual-question-answering |
| - image-segmentation |
| configs: |
| - config_name: images |
| default: true |
| data_files: |
| - split: train |
| path: |
| - images/train-00000.parquet |
| - images/train-00001.parquet |
| - images/train-00002.parquet |
| - images/train-00003.parquet |
| - images/train-00004.parquet |
| - split: validation |
| path: |
| - images/validation-00000.parquet |
| - split: test |
| path: |
| - images/test-00000.parquet |
| - config_name: qa |
| data_files: |
| - split: train |
| path: |
| - qa/train-00000.parquet |
| - split: validation |
| path: |
| - qa/val-00000.parquet |
| - split: test |
| path: |
| - qa/test-00000.parquet |
| dataset_info: |
| - config_name: images |
| features: |
| - name: image |
| dtype: image |
| - name: original_image |
| dtype: image |
| - name: mask |
| dtype: image |
| - name: source_mask |
| dtype: image |
| - name: background_mask |
| dtype: image |
| - name: segmentation_mask |
| dtype: image |
| - name: image_id |
| dtype: int64 |
| - name: question_ids |
| list: int64 |
| - name: active |
| dtype: bool |
| - name: sample_id |
| dtype: string |
| - name: origin_dataset |
| dtype: string |
| - name: caption |
| dtype: string |
| - name: label |
| dtype: int64 |
| - name: manipulation |
| dtype: string |
| - name: source_split |
| dtype: string |
| - name: filename_source_id |
| dtype: string |
| - name: source_image_path |
| dtype: string |
| - name: source_mask_path |
| dtype: string |
| - name: width |
| dtype: int64 |
| - name: height |
| dtype: int64 |
| - name: has_image |
| dtype: bool |
| - name: has_mask |
| dtype: bool |
| - name: missing_assets |
| list: string |
| - name: metadata_json |
| dtype: string |
| --- |
| |
| # Real-RSCM：图像划分与作者问答划分 |
|
|
| 本仓库将作者发布的 224 版本数据包 `Real_RSCM_224(1).zip` 转为 Hugging Face Parquet。 |
| 来源为 [RSCMQA 作者仓库](https://github.com/shenyedepisa/RSCMQA) 的 |
| [数据下载说明](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#download-datasets)，论文为 |
| [Copy-Move Forgery Detection and Question Answering for Remote Sensing Image](https://arxiv.org/abs/2412.02575)。 |
| 本数据卡描述实际取得的压缩包，未确认它对应 arXiv v3 的数据版本。 |
|
|
| 本仓库提供 **`images` 与 `qa` 两张表，各有 `train`、`validation`、`test` 三个 split**： |
|
|
| - **`images` 按维护者的图片 ID 70/15/15 方案划分**，三个集合的图片 ID 互斥。 |
| - **`qa` 按作者原始问题文件划分**，原始成员、题干、答案和行顺序保持不变。 |
| - **`qa.img_id = images.image_id`** 关联问答与图片；`images.question_ids` 列出该图片对应的全部问答 ID。 |
|
|
| 两张表的同名 split 表示不同的划分协议。选择图片划分时，从所有问答 split 查找关联问题； |
| 选择作者问答划分时，从所有图片 split 查找关联图片。**不要只连接两个同名 split，也不要按行号配对。** |
| Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。 |
|
|
| ## 配置与浏览入口 |
|
|
| | 表 / Subset | Split | 行数 | Parquet 文件数 | 划分依据与浏览入口 | |
| | --- | --- | ---: | ---: | --- | |
| | `images` | `train` | 7,000 | 5 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/train) | |
| | `images` | `validation` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/validation) | |
| | `images` | `test` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/test) | |
| | `qa` | `train` | 121,645 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/train) | |
| | `qa` | `validation` | 26,068 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/validation) | |
| | `qa` | `test` | 26,067 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/test) | |
|
|
| `images` 合计 **10,000 个图片 ID**，图像及掩膜字节只存放在图片表中； |
| `qa` 合计 **173,780 条问答**，通过 `img_id` 引用图片。 |
| 图片和掩膜保持原始编码与字节，不缩放、不重新编码、不二值化。 |
| 原始 JSON 也按来源字节保留，问句和答案没有翻译、润色或替换。 |
|
|
| 作者原名 `val` 在 Viewer 和 `load_dataset` 中统一显示为 `validation`。 |
| 问答数据仍使用原有 `qa/val-00000.parquet`，该表中的 `source_split="val"` 保留来源名称； |
| 这一显示名称调整不改变作者的问答划分。 |
|
|
| ## 关联键与两套读取协议 |
|
|
| | 表 | 字段 | 含义 | |
| | --- | --- | --- | |
| | `images` | `image_id` | 原始图片 ID，在三个图片 split 的并集中唯一 | |
| | `images` | `question_ids` | 全部 `qa` 中满足 `qa.img_id = image_id` 的问答 `id`，按 ID 升序排列 | |
| | `qa` | `id` | 原始问答 ID，在三个问答 split 的并集中唯一 | |
| | `qa` | `img_id` | 指向 `images.image_id` 的关联键 | |
|
|
| `question_ids` 是一对多关系的反向索引，由发布的全部问答记录生成，包括其中的非活跃记录。 |
| 它不受图片所在 split 或某个作者问答 split 限制。 |
| 图像原始元数据中的 `questions_ids` 仍完整保留在 `metadata_json`， |
| 与新增的顶层 `question_ids` 字段分别保存。 |
|
|
| **使用图片划分：** 例如从 `images/train` 取得图片 ID，再从 `qa/train`、 |
| `qa/validation`、`qa/test` 的并集中取出 `img_id` 属于这些图片的全部问答。 |
| 图片的验证、测试集合以相同方法关联，不沿用作者问题文件的 split 成员关系。 |
|
|
| **使用作者问答划分：** 例如先选 `qa/train`，再依据各行的 `img_id`， |
| 从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。 |
| 同一图片可能服务于不同作者问答 split，这一事实由原始问答划分保留。 |
|
|
| 原图像 ID 分配表保存在 [metadata/image_split.parquet](metadata/image_split.parquet) 作为来源记录。 |
| 其中 `split` 字段保留原名 `train`、`val`、`test`；当前图片 Viewer 对应为 |
| `train`、`validation`、`test`。该来源表不作为第三个 subset 展示。 |
|
|
| ## 图片划分与资产完整性 |
|
|
| 图片划分以原始图片 ID 为单位：按数值排序后，用 `random.Random(44)` 打乱一次， |
| 依次分配 70%、15%、15%。发布沿用已保存的 ID 分配，未重新抽样。 |
| 这个方案保证图片 ID 不跨集合；它没有额外按原图内容、重叠裁剪或地理场景分组。 |
|
|
| | 图片 Split | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 | |
| | --- | ---: | ---: | ---: | |
| | `train` | 7,000 | 6,322 | 678 | |
| | `validation` | 1,500 | 1,334 | 166 | |
| | `test` | 1,500 | 1,344 | 156 | |
|
|
| 原包图像元数据覆盖 **10,000 个 ID**，主图与 `original/` 各提供 **9,000 个文件**。 |
| 有 **1,000 个 ID 缺少这两项图像资产**；相应的元数据和全部关联问答仍保留， |
| `image=null`、`original_image=null`、`has_image=false`，主图的 `width`、`height` 为 `null`。 |
| 没有用其他版本补齐这些图片，也没有静默移除这些 ID。 |
| 因此 7,000 / 1,500 / 1,500 表示分配的 ID 数，不能当作实际可训练主图数。 |
| 需要图像输入的实验应明确记录 `has_image` 的处理方式。 |
|
|
| 六个图像列采用 Hugging Face `Image` 特征，底层为 `{bytes, path}`。 |
| `bytes` 保存原包编码字节，`path` 保存原包成员的相对路径，缺失资产为 `null`。 |
|
|
| | Image 列 | 内容 | 实际文件数 | 缺少此资产的图片 ID 数 | |
| | --- | --- | ---: | ---: | |
| | `image` | 原包 image/ 中的主图 | 9,000 | 1,000 | |
| | `original_image` | 原包 original/ 中的原图 | 9,000 | 1,000 | |
| | `mask` | 原包 target/ 中的目标区域掩膜 | 10,000 | 0 | |
| | `source_mask` | 原包 source/ 中的来源区域掩膜 | 10,000 | 0 | |
| | `background_mask` | 原包 background/ 中的背景掩膜 | 10,000 | 0 | |
| | `segmentation_mask` | 原包 segmentation/ 中的标注 | 10,000 | 0 | |
|
|
| `mask` **只对应作者的 target 掩膜**，保留原始编码及像素值，未与 source 合并。 |
| `source_mask`、`background_mask`、`segmentation_mask` 分列保留，各自按作者定义解释； |
| 缺失掩膜不会被替换为全零图。 |
|
|
| | 其他图片字段 | 含义 | |
| | --- | --- | |
| | `active` | 原始 `All_Images.json` 的 active 标记 | |
| | `sample_id` | 转存样本标识 | |
| | `label` | 根据原始 Q1 整理的图像级标签：real = 0、fake = 1 | |
| | `origin_dataset`、`caption`、`manipulation` | 保留的来源、图像描述与操作类别信息 | |
| | `source_split` | 保留为 `full`，表示来源整表；当前图片归属以 `images` 的 HF split 为准 | |
| | `filename_source_id` | 来源文件名中的 ID 字段 | |
| | `source_image_path`、`source_mask_path` | 主图与 target 掩膜在原包内的相对路径 | |
| | `width`、`height` | 主图实际尺寸；缺主图时为 `null` | |
| | `has_image` | 是否有主图文件 | |
| | `has_mask` | 是否有 target 掩膜文件，不代表掩膜内含非空篡改区域 | |
| | `missing_assets` | 缺少的资产名称列表 | |
| | `metadata_json` | 原始 `All_Images.json` 中该图片的完整对象 | |
|
|
| 字段 schema 记录在 [inventory.json](inventory.json)，并写入 Parquet 的 Hugging Face 特征元数据。 |
|
|
| ## 作者问答划分 |
|
|
| 问答表保留原始 `id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`。 |
| `source_file`、`source_row`、`source_split` 记录来源文件、行序和原 split 名称。 |
| 每个作者 split 的记录顺序保持不变；不按图片去重问答，也不根据图片的三划分重新分配这些记录。 |
| 包括 `active=false` 在内的原始问答记录均保留，使用者应按所用协议解释 active 标记。 |
|
|
| 作者问答划分按问题组织，**图片 ID 可以跨问答 split 重叠**。 |
| 下面的图片计数包含主图缺失但元数据仍存在的 ID。 |
|
|
| | 问答 Split | 问题数 | 不重复的 img_id 数 | |
| | --- | ---: | ---: | |
| | `train` | 121,645 | 9,574 | |
| | `validation` | 26,068 | 8,514 | |
| | `test` | 26,067 | 8,530 | |
| |
| | 作者问答 Split 对 | 共同 img_id 数 | |
| | --- | ---: | |
| | `train/validation` | 8,299 | |
| | `train/test` | 8,319 | |
| | `validation/test` | 8,002 | |
|
|
| 按作者问答划分报告图像检测或定位成绩时，应披露这种图像重叠； |
| 问答集合互斥本身不能证明模型泛化到了未见图片。 |
|
|
| ## 原包题干差异 |
|
|
| 本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后， |
| **Train/Val/Test 的全部 173,780 条问题记录，其 `question` 题干都不同**； |
| 其余字段、问题 ID 顺序和原始 split 成员相同。 |
| 这一观察仅说明题干发生变化，没有验证两版问句的语义是否等价。 |
| 本仓库保留实际取得压缩包中的题干；`All_Questions.json` 独立原样保存， |
| 不用于覆盖三个 split 文件中的问题文本。 |
|
|
| ## 读取示例 |
|
|
| 下面分别建立两套训练集合的关联关系。`validation`、`test` 可以按相同方式处理。 |
|
|
| ```python |
| from datasets import concatenate_datasets, load_dataset |
| |
| repo = 'ThaneJoss/Real-RSCM' |
| splits = ("train", "validation", "test") |
| images = load_dataset(repo, "images") |
| qa = load_dataset(repo, "qa") |
| all_images = concatenate_datasets([images[split] for split in splits]) |
| all_qa = concatenate_datasets([qa[split] for split in splits]) |
| |
| # 图片协议：图片 train 对应的问答可能来自任意作者问答 split。 |
| image_train_ids = set(images["train"]["image_id"]) |
| questions_for_image_train = all_qa.filter( |
| lambda img_id: img_id in image_train_ids, |
| input_columns=["img_id"], |
| ) |
| |
| # 作者问答协议：qa/train 引用的图片可能来自任意图片 split。 |
| qa_train_image_ids = set(qa["train"]["img_id"]) |
| images_for_qa_train = all_images.filter( |
| lambda image_id: image_id in qa_train_image_ids, |
| input_columns=["image_id"], |
| ) |
| ``` |
|
|
| 读取主图前检查 `has_image`。如需原始编码字节，可将对应图像列设为 `datasets.Image(decode=False)`。 |
| 关联字段表达记录间的关系；原生 Viewer 展示字段与 split，不要求额外应用。 |
|
|
| ## 来源记录与转存范围 |
|
|
| `metadata/original/` 保留压缩包中提供的原始 JSON 及其他已转存元数据字节， |
| 包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 和三个问答 split 文件。 |
| `metadata/image_split.parquet` 保存维护者既有的图片 ID 划分。 |
| `inventory.json` 汇总配置、行数、文件路径、图像资产数量与问答图片交集。 |
|
|
| 这次组织方式保留作者数据内容，并增加图片划分和反向问答索引。 |
| 实际实验应说明采用图片协议还是作者问答协议，以及缺图筛选、掩膜解释和所用数据版本。 |
|
|
| ## 来源中的许可说明 |
|
|
| 作者 [README 的 License 小节](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#license) 列有 |
| [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.en) 链接， |
| 随后将 **Global-TQA** 图像及其标注的使用限定为学术用途，并声明禁止商业使用。 |
| 其中 `Global-TQA` 与本包的 `Real-RSCM` 名称不一致；本数据卡保留这一来源差异， |
| 未据此认定作者已经明确确认本包的许可范围。 |
|
|
| 原转存的来源核对记录未见作者仓库根目录独立的 `LICENSE` 文件。 |
| 模型子目录内第三方代码的许可不能作为数据集许可依据。 |
| 本转存未自行增加 Hugging Face `license` 标签，也不额外授予数据使用权； |
| 相应数据包的许可和使用范围应以作者的明确声明为准。 |
|
|
| ## 引用 |
|
|
| 作者 README 提供的论文引用如下。使用本转存时，请同时注明 |
| [本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM)、所用配置和划分协议。 |
|
|
| ```bibtex |
| @article{zhang2025copymove, |
| title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image}, |
| author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang}, |
| journal={arXiv preprint arXiv:2412.02575}, |
| year={2025}, |
| } |
| ``` |
|
|
