添加 Real-RSCM 数据说明与清单

README.md

@@ -0,0 +1,226 @@
+---
+pretty_name: "Real-RSCM（作者 224 发布包，Parquet 转存）"
+language:
+- "en"
+tags:
+- remote-sensing
+- image-forgery
+- copy-move
+- visual-question-answering
+- parquet
+task_categories:
+- visual-question-answering
+- image-segmentation
+configs:
+- config_name: "images"
+  default: true
+  data_files:
+  - split: "full"
+    path:
+    - "images/full-00000.parquet"
+    - "images/full-00001.parquet"
+    - "images/full-00002.parquet"
+    - "images/full-00003.parquet"
+    - "images/full-00004.parquet"
+    - "images/full-00005.parquet"
+    - "images/full-00006.parquet"
+- config_name: "qa"
+  data_files:
+  - split: "train"
+    path:
+    - "qa/train-00000.parquet"
+  - split: "val"
+    path:
+    - "qa/val-00000.parquet"
+  - split: "test"
+    path:
+    - "qa/test-00000.parquet"
+- config_name: "image_split"
+  data_files:
+  - split: "full"
+    path:
+    - "image_split/full-00000.parquet"
+---
+
+# Real-RSCM：图像与问答双表 Parquet 转存
+
+本仓库将作者发布的 224 版本数据包 `Real_RSCM_224(1).zip` 转为 Hugging Face Parquet。
+来源为 [RSCMQA 作者仓库](https://github.com/shenyedepisa/RSCMQA) 的
+[数据下载说明](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#download-datasets)，论文为
+[Copy-Move Forgery Detection and Question Answering for Remote Sensing Image](https://arxiv.org/abs/2412.02575)。
+本数据卡描述本次实际取得的压缩包，不将其认定为 arXiv v3 对应的最新数据包。
+
+`images/full` 含 **10,000 条图像 ID 元数据**；图像与各类掩膜字节集中保存在这张表中。
+问答分别放在实际存在的 `qa`、`qa_cn`、`qa_balanced`、`qa_balanced_cn` 配置中，
+通过 **`qa.img_id = images.image_id`** 关联，不为每个问题重复存储图像。
+图片、掩膜和原始 JSON 保留来源字节；问句、答案和原始问题划分按来源记录保留。
+导出不重新编码或缩放图片，不二值化掩膜，不翻译、润色或替换题干。
+
+## 配置与规模
+
+| 配置 | Split | 行数 | Parquet 文件数 | 每行含义 |
+| --- | --- | ---: | ---: | --- |
+| `images` | `full` | 10,000 | 7 | 每个原始图像 ID 一行的图像、掩膜与元数据表 |
+| `qa` | `train` | 121,645 | 1 | 原包一般版问答，保留原始问题划分 |
+| `qa` | `val` | 26,068 | 1 | 原包一般版问答，保留原始问题划分 |
+| `qa` | `test` | 26,067 | 1 | 原包一般版问答，保留原始问题划分 |
+| `image_split` | `full` | 10,000 | 1 | 另附的图像 ID 划分外键表；不包含图像字节或新问答 |
+
+`full` 表示完整图像元数据表，不是额外的官方测试集。
+问答配置只列出压缩包中实际存在的版本与 split；原名 `val` 保留为 `val`。
+平衡版读取作者单独提供的文件，不在转存时重新采样一般版问答。
+
+## 图像表字段与资产完整性
+
+六个图像列采用 Hugging Face `Image` 特征，底层为 `{bytes, path}`；
+`bytes` 是原包文件字节，`path` 是来源成员的相对路径。缺失资产为 `null`。
+
+| Image 列 | 原包资产 | 实际文件数 | 元数据中缺少此资产的 ID 数 |
+| --- | --- | ---: | ---: |
+| `image` | 原包 image/ 中的主图 | 9,000 | 1,000 |
+| `original_image` | 原包 original/ 中的图像 | 9,000 | 1,000 |
+| `mask` | 原包 target/ 中的目标区域掩膜 | 10,000 | 0 |
+| `source_mask` | 原包 source/ 中的来源区域掩膜 | 10,000 | 0 |
+| `background_mask` | 原包 background/ 中的背景掩膜 | 10,000 | 0 |
+| `segmentation_mask` | 原包 segmentation/ 中的标注 | 10,000 | 0 |
+
+`mask` **只对应作者的 target 掩膜**，保留原始编码及像素值，未与 source 合并。
+`source_mask`、`background_mask` 和 `segmentation_mask` 分列保留，
+不把它们统一解释成同一二值篡改标签，也不把缺失掩膜替换成全零图。
+
+| 字段 | 含义 |
+| --- | --- |
+| `image_id` | `All_Images.json` 的原始图像 ID，也是 QA 外键所指向的键 |
+| `active` | 一般版 `JsonFiles/All_Images.json` 的 active 标记 |
+| `sample_id` | 本次转存的样本标识 |
+| `label` | 从原始 Q1 真实性问答整理的图像级标签：real = 0、fake = 1 |
+| `manipulation` | 图像操作类别元数据；RS-TQA 假图保留原字符串 `Copy` / `Blur`，不重命名为 `Copy-move` |
+| `source_split` | 图像表固定为 `full`；不代表作者问题 split |
+| `filename_source_id` | 来源文件名中的 ID 字段 |
+| `source_image_path`、`source_mask_path` | 原包主图与 target 掩膜的相对成员路径 |
+| `width`、`height` | 主图实际尺寸；主图缺失时为 `null` |
+| `has_image` | 原包是否提供主图文件 |
+| `has_mask` | 原包是否提供 target 掩膜文件；不等同于含有非空篡改区域 |
+| `missing_assets` | 当前图像 ID 缺失的资产列表 |
+| `metadata_json` | 一般版 `JsonFiles/All_Images.json` 中该图像对象的完整 JSON 内容 |
+
+图像表元数据统一取自一般版 `JsonFiles/All_Images.json`，
+包括 `metadata_json`、`active` 及保留的 `questions_ids` 信息。
+
+
+原始字段的完整 schema 记录在 [inventory.json](inventory.json)，并写入 Parquet 的 Hugging Face 特征元数据。
+
+## 问答表与原始 split
+
+`id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`
+按原文件记录保留；`source_split`、`source_file`、`source_row` 记录来源 split、文件与行序。
+每个 split 保留原始行顺序，不按 image_id 去重问题。
+不同语言、一般版与平衡版分别读取自己的原文件，不互相替换。
+所有原始问题记录均保留，包括 `active=false` 的记录；转存不默认过滤，
+使用者应按对应作者配置解释和使用 active 标记。
+RS-CMQA 的 Q2 表示对象类别，RS-TQA 的 Q2 表示篡改类别，不能跨数据集直接套用问题编号的含义。
+
+原始 QA split 按问题记录组织，**不能视为图像 ID 互斥划分**。
+同一个图像可以关联多个问题，也可以出现在不同 QA split 中；平衡版同样需检查图像交集。
+以下交集按每个 split 内不重复的 `img_id` 集合计算，包含主图缺失但元数据仍存在的 ID。
+
+| 问答配置 | Split | 问题数 | 不重复的 img_id 数 |
+| --- | --- | ---: | ---: |
+| `qa` | `train` | 121,645 | 9,574 |
+| `qa` | `val` | 26,068 | 8,514 |
+| `qa` | `test` | 26,067 | 8,530 |
+
+| 问答配置 | Split 对 | 共同 img_id 数 |
+| --- | --- | ---: |
+| `qa` | `train/val` | 8,299 |
+| `qa` | `train/test` | 8,319 |
+| `qa` | `val/test` | 8,002 |
+
+如果依据这些 split 评估图像篡改检测或定位，应披露实际图像重叠；
+不能仅依据问题 split 名称宣称图像独立的泛化结果。
+
+## Real-RSCM 原包差异与缺图
+
+本包的图像元数据覆盖 **10,000 个 ID**，主图与 `original/` 各提供 **9,000 个文件**；
+有 **1,000 个 ID 缺少这两项图像资产**。这些 ID 的元数据和所有关联问题均保留，
+对应 `image=null`、`original_image=null`、`has_image=false`，主图 `width`、`height` 为 `null`。
+`source/`、`target/`、`background/`、`segmentation/` 的标注仍各覆盖全部 10,000 个 ID。
+没有用旧本地数据补齐缺失图像，也没有静默删除这些问题或元数据。
+
+本次作者压缩包与此前使用的本地 Real-RSCM 版本逐字段比对后，
+**Train/Val/Test 的全部 173,780 条问题记录，其 `question` 题干都不同**；
+其余字段、问题 ID 顺序及原始 split 成员相同。
+这一观察只说明题干有变化，未验证新旧问句语义等价。
+本仓库原样保留作者压缩包里的新题干；`All_Questions.json` 也独立原样保存，
+不会用它覆盖三个 split 文件中的题干。
+
+## Real-RSCM 的图像划分外键表
+
+`image_split/full` 单独保存既有的 7,000 / 1,500 / 1,500 个图像 ID 划分。
+它是本次转存额外附带的 `image_id → split` 关系表，不是作者新增的 QA 划分。
+`full` 是这张外键表的 Hugging Face split；表内的 split 字段记录 train、val、test。
+作者各问答配置的题干、顺序和原始 split 不受这张表影响。
+
+| 图像划分 | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 |
+| --- | ---: | ---: | ---: |
+| `train` | 7,000 | 6,322 | 678 |
+| `val` | 1,500 | 1,334 | 166 |
+| `test` | 1,500 | 1,344 | 156 |
+
+完整 ID 划分包含缺图记录，因此 7,000 / 1,500 / 1,500 不能当作可训练图像数。
+如需按图像划分建立实验，先通过外键关联，再明确筛选 `has_image=true`；
+这样得到的是使用者定义的实验子集，应与作者原始 QA split 分开报告。
+
+## 读取示例
+
+```python
+from datasets import load_dataset
+
+repo = 'ThaneJoss/Real-RSCM'
+images = load_dataset(repo, "images", split="full", streaming=True)
+questions = load_dataset(repo, "qa", split='train', streaming=True)
+
+question = next(iter(questions))
+print(question["img_id"], question["question"], question["answer"])
+```
+
+`images` 与 `questions` 的行数和顺序不同；关联时使用 `questions.img_id = images.image_id`，
+不要直接按行号配对。读取主图前检查 `has_image`，保留缺图问题是否进入某个实验由使用者明确记录。
+需要读取未解码的文件字节时，可将对应图像列设为 `datasets.Image(decode=False)`。
+
+## 原始元数据与转存范围
+
+`metadata/original/JsonFiles*/` 按原目录保存所有提供的 JSON 文件原始字节，
+包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 以及各个实际存在的 split、语言和平衡版本文件。
+QA 表以对应的 split 文件为准，不从 `All_Questions.json` 重建或覆盖题干。
+`inventory.json` 汇总配置、行数、Parquet 路径、资产数量与图像交集。
+
+这次转存调整存储组织并增加来源索引，不声称重新收集图像、增加标注或修订作者数据。
+实际实验使用的配置、缺图筛选、图像划分和掩膜解释应在实验报告中另行写明。
+
+## 来源中的许可说明
+
+作者 [README 的 License 小节](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#license) 列有
+[CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.en) 链接，
+随后将 **Global-TQA** 图像及其标注的使用限定为学术用途，并声明禁止商业使用。
+该句中的 `Global-TQA` 名称与这里的 `Real-RSCM` 包名不一致；本数据卡保留这一事实，
+不将该名称差异改写成作者已经明确确认本包许可范围。
+
+本次核对的作者仓库根目录没有独立 `LICENSE` 文件。
+模型子目录内的第三方代码许可不能作为数据集许可依据。
+因此本转存未自行增加 Hugging Face `license` 标签，也不额外授予数据使用权；
+许可与使用范围以作者对相应数据包的明确声明为准。
+
+## 引用
+
+作者 README 提供的论文引用如下；使用本 Parquet 转存时，也请注明
+[本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM) 和所用配置。
+
+```bibtex
+@article{zhang2025copymove,
+    title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image},
+    author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang},
+    journal={arXiv preprint arXiv:2412.02575},
+    year={2025},
+}
+```

inventory.json

@@ -0,0 +1,391 @@
+{
+  "format": "rscmqa-parquet-v1",
+  "dataset": "Real-RSCM",
+  "repo_id": "ThaneJoss/Real-RSCM",
+  "archive_name": "Real_RSCM_224(1).zip",
+  "archive_bytes": 1730860934,
+  "configs": {
+    "images": {
+      "features": {
+        "image_id": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "active": {
+          "dtype": "bool",
+          "_type": "Value"
+        },
+        "sample_id": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "origin_dataset": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "caption": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "label": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "manipulation": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "source_split": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "filename_source_id": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "source_image_path": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "source_mask_path": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "width": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "height": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "has_image": {
+          "dtype": "bool",
+          "_type": "Value"
+        },
+        "has_mask": {
+          "dtype": "bool",
+          "_type": "Value"
+        },
+        "missing_assets": {
+          "feature": {
+            "dtype": "string",
+            "_type": "Value"
+          },
+          "_type": "List"
+        },
+        "metadata_json": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "image": {
+          "_type": "Image"
+        },
+        "original_image": {
+          "_type": "Image"
+        },
+        "mask": {
+          "_type": "Image"
+        },
+        "source_mask": {
+          "_type": "Image"
+        },
+        "background_mask": {
+          "_type": "Image"
+        },
+        "segmentation_mask": {
+          "_type": "Image"
+        }
+      },
+      "splits": {
+        "full": {
+          "rows": 10000,
+          "files": [
+            "images/full-00000.parquet",
+            "images/full-00001.parquet",
+            "images/full-00002.parquet",
+            "images/full-00003.parquet",
+            "images/full-00004.parquet",
+            "images/full-00005.parquet",
+            "images/full-00006.parquet"
+          ]
+        }
+      }
+    },
+    "qa": {
+      "features": {
+        "id": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "active": {
+          "dtype": "bool",
+          "_type": "Value"
+        },
+        "img_id": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "question": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "type": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "answer": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "origin_dataset": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "source_file": {
+          "dtype": "string",
+          "_type": "Value"
+        },
+        "source_row": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "source_split": {
+          "dtype": "string",
+          "_type": "Value"
+        }
+      },
+      "splits": {
+        "train": {
+          "rows": 121645,
+          "files": [
+            "qa/train-00000.parquet"
+          ]
+        },
+        "val": {
+          "rows": 26068,
+          "files": [
+            "qa/val-00000.parquet"
+          ]
+        },
+        "test": {
+          "rows": 26067,
+          "files": [
+            "qa/test-00000.parquet"
+          ]
+        }
+      }
+    },
+    "image_split": {
+      "features": {
+        "image_id": {
+          "dtype": "int64",
+          "_type": "Value"
+        },
+        "split": {
+          "dtype": "string",
+          "_type": "Value"
+        }
+      },
+      "splits": {
+        "full": {
+          "rows": 10000,
+          "files": [
+            "image_split/full-00000.parquet"
+          ]
+        }
+      }
+    }
+  },
+  "files": [
+    {
+      "path": "metadata/missing_assets.json",
+      "bytes": 26868,
+      "kind": "metadata"
+    },
+    {
+      "path": "metadata/original/JsonFiles/All_Images.json",
+      "bytes": 5071944,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/All_Images.json"
+    },
+    {
+      "path": "metadata/original/JsonFiles/All_Questions.json",
+      "bytes": 32108733,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/All_Questions.json"
+    },
+    {
+      "path": "metadata/original/JsonFiles/Answers.json",
+      "bytes": 2028,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/Answers.json"
+    },
+    {
+      "path": "metadata/original/JsonFiles/Test_Questions.json",
+      "bytes": 7572963,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/Test_Questions.json"
+    },
+    {
+      "path": "metadata/original/JsonFiles/Train_Questions.json",
+      "bytes": 35357544,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/Train_Questions.json"
+    },
+    {
+      "path": "metadata/original/JsonFiles/Val_Questions.json",
+      "bytes": 7578264,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/JsonFiles/Val_Questions.json"
+    },
+    {
+      "path": "metadata/original/segmentation.txt",
+      "bytes": 96,
+      "kind": "original_metadata",
+      "source_member": "Real_RSCM_224/segmentation.txt"
+    },
+    {
+      "path": "images/full-00000.parquet",
+      "bytes": 171264257,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1467,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00001.parquet",
+      "bytes": 241864983,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1590,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00002.parquet",
+      "bytes": 233872985,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1759,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00003.parquet",
+      "bytes": 256101913,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1456,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00004.parquet",
+      "bytes": 264203726,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1428,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00005.parquet",
+      "bytes": 257239028,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 1657,
+      "row_groups": 17
+    },
+    {
+      "path": "images/full-00006.parquet",
+      "bytes": 103326248,
+      "kind": "parquet",
+      "config": "images",
+      "split": "full",
+      "rows": 643,
+      "row_groups": 7
+    },
+    {
+      "path": "qa/train-00000.parquet",
+      "bytes": 3193854,
+      "kind": "parquet",
+      "config": "qa",
+      "split": "train",
+      "rows": 121645,
+      "row_groups": 476
+    },
+    {
+      "path": "qa/val-00000.parquet",
+      "bytes": 685648,
+      "kind": "parquet",
+      "config": "qa",
+      "split": "val",
+      "rows": 26068,
+      "row_groups": 102
+    },
+    {
+      "path": "qa/test-00000.parquet",
+      "bytes": 687104,
+      "kind": "parquet",
+      "config": "qa",
+      "split": "test",
+      "rows": 26067,
+      "row_groups": 102
+    },
+    {
+      "path": "image_split/full-00000.parquet",
+      "bytes": 31563,
+      "kind": "parquet",
+      "config": "image_split",
+      "split": "full",
+      "rows": 10000,
+      "row_groups": 40
+    }
+  ],
+  "images_stats": {
+    "metadata_image_ids": 10000,
+    "asset_counts": {
+      "image": 9000,
+      "original_image": 9000,
+      "mask": 10000,
+      "source_mask": 10000,
+      "background_mask": 10000,
+      "segmentation_mask": 10000
+    }
+  },
+  "qa_overlap": {
+    "qa": {
+      "unique_images_by_split": {
+        "train": 9574,
+        "val": 8514,
+        "test": 8530
+      },
+      "pairwise_image_overlap": {
+        "train/val": 8299,
+        "train/test": 8319,
+        "val/test": 8002
+      }
+    }
+  },
+  "images_metadata_source": "Real_RSCM_224/JsonFiles/All_Images.json",
+  "excluded_members": [],
+  "image_split_stats": {
+    "id_counts": {
+      "train": 7000,
+      "val": 1500,
+      "test": 1500
+    },
+    "available_image_counts": {
+      "train": 6322,
+      "val": 1334,
+      "test": 1344
+    }
+  },
+  "image_split_source": {
+    "source_name": "image_split.json",
+    "source_kind": "existing_image_id_map"
+  }
+}