--- pretty_name: Real-RSCM(图像划分与作者问答划分) language: - en tags: - remote-sensing - image-forgery - copy-move - visual-question-answering - parquet task_categories: - visual-question-answering - image-segmentation configs: - config_name: images default: true data_files: - split: train path: - images/train-00000.parquet - images/train-00001.parquet - images/train-00002.parquet - images/train-00003.parquet - images/train-00004.parquet - split: validation path: - images/validation-00000.parquet - split: test path: - images/test-00000.parquet - config_name: qa data_files: - split: train path: - qa/train-00000.parquet - split: validation path: - qa/val-00000.parquet - split: test path: - qa/test-00000.parquet dataset_info: - config_name: images features: - name: image dtype: image - name: original_image dtype: image - name: mask dtype: image - name: source_mask dtype: image - name: background_mask dtype: image - name: segmentation_mask dtype: image - name: image_id dtype: int64 - name: question_ids list: int64 - name: active dtype: bool - name: sample_id dtype: string - name: origin_dataset dtype: string - name: caption dtype: string - name: label dtype: int64 - name: manipulation dtype: string - name: source_split dtype: string - name: filename_source_id dtype: string - name: source_image_path dtype: string - name: source_mask_path dtype: string - name: width dtype: int64 - name: height dtype: int64 - name: has_image dtype: bool - name: has_mask dtype: bool - name: missing_assets list: string - name: metadata_json dtype: string --- # Real-RSCM:图像划分与作者问答划分 本仓库将作者发布的 224 版本数据包 `Real_RSCM_224(1).zip` 转为 Hugging Face Parquet。 来源为 [RSCMQA 作者仓库](https://github.com/shenyedepisa/RSCMQA) 的 [数据下载说明](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#download-datasets),论文为 [Copy-Move Forgery Detection and Question Answering for Remote Sensing Image](https://arxiv.org/abs/2412.02575)。 本数据卡描述实际取得的压缩包,未确认它对应 arXiv v3 的数据版本。 本仓库提供 **`images` 与 `qa` 两张表,各有 `train`、`validation`、`test` 三个 split**: - **`images` 按维护者的图片 ID 70/15/15 方案划分**,三个集合的图片 ID 互斥。 - **`qa` 按作者原始问题文件划分**,原始成员、题干、答案和行顺序保持不变。 - **`qa.img_id = images.image_id`** 关联问答与图片;`images.question_ids` 列出该图片对应的全部问答 ID。 两张表的同名 split 表示不同的划分协议。选择图片划分时,从所有问答 split 查找关联问题; 选择作者问答划分时,从所有图片 split 查找关联图片。**不要只连接两个同名 split,也不要按行号配对。** Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。 ## 配置与浏览入口 | 表 / Subset | Split | 行数 | Parquet 文件数 | 划分依据与浏览入口 | | --- | --- | ---: | ---: | --- | | `images` | `train` | 7,000 | 5 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/train) | | `images` | `validation` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/validation) | | `images` | `test` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/test) | | `qa` | `train` | 121,645 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/train) | | `qa` | `validation` | 26,068 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/validation) | | `qa` | `test` | 26,067 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/test) | `images` 合计 **10,000 个图片 ID**,图像及掩膜字节只存放在图片表中; `qa` 合计 **173,780 条问答**,通过 `img_id` 引用图片。 图片和掩膜保持原始编码与字节,不缩放、不重新编码、不二值化。 原始 JSON 也按来源字节保留,问句和答案没有翻译、润色或替换。 作者原名 `val` 在 Viewer 和 `load_dataset` 中统一显示为 `validation`。 问答数据仍使用原有 `qa/val-00000.parquet`,该表中的 `source_split="val"` 保留来源名称; 这一显示名称调整不改变作者的问答划分。 ## 关联键与两套读取协议 | 表 | 字段 | 含义 | | --- | --- | --- | | `images` | `image_id` | 原始图片 ID,在三个图片 split 的并集中唯一 | | `images` | `question_ids` | 全部 `qa` 中满足 `qa.img_id = image_id` 的问答 `id`,按 ID 升序排列 | | `qa` | `id` | 原始问答 ID,在三个问答 split 的并集中唯一 | | `qa` | `img_id` | 指向 `images.image_id` 的关联键 | `question_ids` 是一对多关系的反向索引,由发布的全部问答记录生成,包括其中的非活跃记录。 它不受图片所在 split 或某个作者问答 split 限制。 图像原始元数据中的 `questions_ids` 仍完整保留在 `metadata_json`, 与新增的顶层 `question_ids` 字段分别保存。 **使用图片划分:** 例如从 `images/train` 取得图片 ID,再从 `qa/train`、 `qa/validation`、`qa/test` 的并集中取出 `img_id` 属于这些图片的全部问答。 图片的验证、测试集合以相同方法关联,不沿用作者问题文件的 split 成员关系。 **使用作者问答划分:** 例如先选 `qa/train`,再依据各行的 `img_id`, 从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。 同一图片可能服务于不同作者问答 split,这一事实由原始问答划分保留。 原图像 ID 分配表保存在 [metadata/image_split.parquet](metadata/image_split.parquet) 作为来源记录。 其中 `split` 字段保留原名 `train`、`val`、`test`;当前图片 Viewer 对应为 `train`、`validation`、`test`。该来源表不作为第三个 subset 展示。 ## 图片划分与资产完整性 图片划分以原始图片 ID 为单位:按数值排序后,用 `random.Random(44)` 打乱一次, 依次分配 70%、15%、15%。发布沿用已保存的 ID 分配,未重新抽样。 这个方案保证图片 ID 不跨集合;它没有额外按原图内容、重叠裁剪或地理场景分组。 | 图片 Split | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 | | --- | ---: | ---: | ---: | | `train` | 7,000 | 6,322 | 678 | | `validation` | 1,500 | 1,334 | 166 | | `test` | 1,500 | 1,344 | 156 | 原包图像元数据覆盖 **10,000 个 ID**,主图与 `original/` 各提供 **9,000 个文件**。 有 **1,000 个 ID 缺少这两项图像资产**;相应的元数据和全部关联问答仍保留, `image=null`、`original_image=null`、`has_image=false`,主图的 `width`、`height` 为 `null`。 没有用其他版本补齐这些图片,也没有静默移除这些 ID。 因此 7,000 / 1,500 / 1,500 表示分配的 ID 数,不能当作实际可训练主图数。 需要图像输入的实验应明确记录 `has_image` 的处理方式。 六个图像列采用 Hugging Face `Image` 特征,底层为 `{bytes, path}`。 `bytes` 保存原包编码字节,`path` 保存原包成员的相对路径,缺失资产为 `null`。 | Image 列 | 内容 | 实际文件数 | 缺少此资产的图片 ID 数 | | --- | --- | ---: | ---: | | `image` | 原包 image/ 中的主图 | 9,000 | 1,000 | | `original_image` | 原包 original/ 中的原图 | 9,000 | 1,000 | | `mask` | 原包 target/ 中的目标区域掩膜 | 10,000 | 0 | | `source_mask` | 原包 source/ 中的来源区域掩膜 | 10,000 | 0 | | `background_mask` | 原包 background/ 中的背景掩膜 | 10,000 | 0 | | `segmentation_mask` | 原包 segmentation/ 中的标注 | 10,000 | 0 | `mask` **只对应作者的 target 掩膜**,保留原始编码及像素值,未与 source 合并。 `source_mask`、`background_mask`、`segmentation_mask` 分列保留,各自按作者定义解释; 缺失掩膜不会被替换为全零图。 | 其他图片字段 | 含义 | | --- | --- | | `active` | 原始 `All_Images.json` 的 active 标记 | | `sample_id` | 转存样本标识 | | `label` | 根据原始 Q1 整理的图像级标签:real = 0、fake = 1 | | `origin_dataset`、`caption`、`manipulation` | 保留的来源、图像描述与操作类别信息 | | `source_split` | 保留为 `full`,表示来源整表;当前图片归属以 `images` 的 HF split 为准 | | `filename_source_id` | 来源文件名中的 ID 字段 | | `source_image_path`、`source_mask_path` | 主图与 target 掩膜在原包内的相对路径 | | `width`、`height` | 主图实际尺寸;缺主图时为 `null` | | `has_image` | 是否有主图文件 | | `has_mask` | 是否有 target 掩膜文件,不代表掩膜内含非空篡改区域 | | `missing_assets` | 缺少的资产名称列表 | | `metadata_json` | 原始 `All_Images.json` 中该图片的完整对象 | 字段 schema 记录在 [inventory.json](inventory.json),并写入 Parquet 的 Hugging Face 特征元数据。 ## 作者问答划分 问答表保留原始 `id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`。 `source_file`、`source_row`、`source_split` 记录来源文件、行序和原 split 名称。 每个作者 split 的记录顺序保持不变;不按图片去重问答,也不根据图片的三划分重新分配这些记录。 包括 `active=false` 在内的原始问答记录均保留,使用者应按所用协议解释 active 标记。 作者问答划分按问题组织,**图片 ID 可以跨问答 split 重叠**。 下面的图片计数包含主图缺失但元数据仍存在的 ID。 | 问答 Split | 问题数 | 不重复的 img_id 数 | | --- | ---: | ---: | | `train` | 121,645 | 9,574 | | `validation` | 26,068 | 8,514 | | `test` | 26,067 | 8,530 | | 作者问答 Split 对 | 共同 img_id 数 | | --- | ---: | | `train/validation` | 8,299 | | `train/test` | 8,319 | | `validation/test` | 8,002 | 按作者问答划分报告图像检测或定位成绩时,应披露这种图像重叠; 问答集合互斥本身不能证明模型泛化到了未见图片。 ## 原包题干差异 本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后, **Train/Val/Test 的全部 173,780 条问题记录,其 `question` 题干都不同**; 其余字段、问题 ID 顺序和原始 split 成员相同。 这一观察仅说明题干发生变化,没有验证两版问句的语义是否等价。 本仓库保留实际取得压缩包中的题干;`All_Questions.json` 独立原样保存, 不用于覆盖三个 split 文件中的问题文本。 ## 读取示例 下面分别建立两套训练集合的关联关系。`validation`、`test` 可以按相同方式处理。 ```python from datasets import concatenate_datasets, load_dataset repo = 'ThaneJoss/Real-RSCM' splits = ("train", "validation", "test") images = load_dataset(repo, "images") qa = load_dataset(repo, "qa") all_images = concatenate_datasets([images[split] for split in splits]) all_qa = concatenate_datasets([qa[split] for split in splits]) # 图片协议:图片 train 对应的问答可能来自任意作者问答 split。 image_train_ids = set(images["train"]["image_id"]) questions_for_image_train = all_qa.filter( lambda img_id: img_id in image_train_ids, input_columns=["img_id"], ) # 作者问答协议:qa/train 引用的图片可能来自任意图片 split。 qa_train_image_ids = set(qa["train"]["img_id"]) images_for_qa_train = all_images.filter( lambda image_id: image_id in qa_train_image_ids, input_columns=["image_id"], ) ``` 读取主图前检查 `has_image`。如需原始编码字节,可将对应图像列设为 `datasets.Image(decode=False)`。 关联字段表达记录间的关系;原生 Viewer 展示字段与 split,不要求额外应用。 ## 来源记录与转存范围 `metadata/original/` 保留压缩包中提供的原始 JSON 及其他已转存元数据字节, 包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 和三个问答 split 文件。 `metadata/image_split.parquet` 保存维护者既有的图片 ID 划分。 `inventory.json` 汇总配置、行数、文件路径、图像资产数量与问答图片交集。 这次组织方式保留作者数据内容,并增加图片划分和反向问答索引。 实际实验应说明采用图片协议还是作者问答协议,以及缺图筛选、掩膜解释和所用数据版本。 ## 来源中的许可说明 作者 [README 的 License 小节](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#license) 列有 [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.en) 链接, 随后将 **Global-TQA** 图像及其标注的使用限定为学术用途,并声明禁止商业使用。 其中 `Global-TQA` 与本包的 `Real-RSCM` 名称不一致;本数据卡保留这一来源差异, 未据此认定作者已经明确确认本包的许可范围。 原转存的来源核对记录未见作者仓库根目录独立的 `LICENSE` 文件。 模型子目录内第三方代码的许可不能作为数据集许可依据。 本转存未自行增加 Hugging Face `license` 标签,也不额外授予数据使用权; 相应数据包的许可和使用范围应以作者的明确声明为准。 ## 引用 作者 README 提供的论文引用如下。使用本转存时,请同时注明 [本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM)、所用配置和划分协议。 ```bibtex @article{zhang2025copymove, title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image}, author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang}, journal={arXiv preprint arXiv:2412.02575}, year={2025}, } ```