Real-RSCM / README.md
ThaneJoss's picture
将图片与掩膜列移至浏览表左侧
789b9c0 verified
|
Raw History Blame Contribute Delete
14.1 kB
metadata
pretty_name: Real-RSCM(图像划分与作者问答划分)
language:
  - en
tags:
  - remote-sensing
  - image-forgery
  - copy-move
  - visual-question-answering
  - parquet
task_categories:
  - visual-question-answering
  - image-segmentation
configs:
  - config_name: images
    default: true
    data_files:
      - split: train
        path:
          - images/train-00000.parquet
          - images/train-00001.parquet
          - images/train-00002.parquet
          - images/train-00003.parquet
          - images/train-00004.parquet
      - split: validation
        path:
          - images/validation-00000.parquet
      - split: test
        path:
          - images/test-00000.parquet
  - config_name: qa
    data_files:
      - split: train
        path:
          - qa/train-00000.parquet
      - split: validation
        path:
          - qa/val-00000.parquet
      - split: test
        path:
          - qa/test-00000.parquet
dataset_info:
  - config_name: images
    features:
      - name: image
        dtype: image
      - name: original_image
        dtype: image
      - name: mask
        dtype: image
      - name: source_mask
        dtype: image
      - name: background_mask
        dtype: image
      - name: segmentation_mask
        dtype: image
      - name: image_id
        dtype: int64
      - name: question_ids
        list: int64
      - name: active
        dtype: bool
      - name: sample_id
        dtype: string
      - name: origin_dataset
        dtype: string
      - name: caption
        dtype: string
      - name: label
        dtype: int64
      - name: manipulation
        dtype: string
      - name: source_split
        dtype: string
      - name: filename_source_id
        dtype: string
      - name: source_image_path
        dtype: string
      - name: source_mask_path
        dtype: string
      - name: width
        dtype: int64
      - name: height
        dtype: int64
      - name: has_image
        dtype: bool
      - name: has_mask
        dtype: bool
      - name: missing_assets
        list: string
      - name: metadata_json
        dtype: string

Real-RSCM:图像划分与作者问答划分

本仓库将作者发布的 224 版本数据包 Real_RSCM_224(1).zip 转为 Hugging Face Parquet。 来源为 RSCMQA 作者仓库 的 数据下载说明,论文为 Copy-Move Forgery Detection and Question Answering for Remote Sensing Image。 本数据卡描述实际取得的压缩包,未确认它对应 arXiv v3 的数据版本。

本仓库提供 images 与 qa 两张表,各有 train、validation、test 三个 split:

  • images 按维护者的图片 ID 70/15/15 方案划分,三个集合的图片 ID 互斥。
  • qa 按作者原始问题文件划分,原始成员、题干、答案和行顺序保持不变。
  • qa.img_id = images.image_id 关联问答与图片;images.question_ids 列出该图片对应的全部问答 ID。

两张表的同名 split 表示不同的划分协议。选择图片划分时,从所有问答 split 查找关联问题; 选择作者问答划分时,从所有图片 split 查找关联图片。不要只连接两个同名 split,也不要按行号配对。 Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。

配置与浏览入口

表 / Subset Split 行数 Parquet 文件数 划分依据与浏览入口
images train 7,000 5 维护者的图片 ID 划分
images validation 1,500 1 维护者的图片 ID 划分
images test 1,500 1 维护者的图片 ID 划分
qa train 121,645 1 作者原始问答划分
qa validation 26,068 1 作者原始问答划分
qa test 26,067 1 作者原始问答划分

images 合计 10,000 个图片 ID,图像及掩膜字节只存放在图片表中; qa 合计 173,780 条问答,通过 img_id 引用图片。 图片和掩膜保持原始编码与字节,不缩放、不重新编码、不二值化。 原始 JSON 也按来源字节保留,问句和答案没有翻译、润色或替换。

作者原名 val 在 Viewer 和 load_dataset 中统一显示为 validation。 问答数据仍使用原有 qa/val-00000.parquet,该表中的 source_split="val" 保留来源名称; 这一显示名称调整不改变作者的问答划分。

关联键与两套读取协议

表 字段 含义
images image_id 原始图片 ID,在三个图片 split 的并集中唯一
images question_ids 全部 qa 中满足 qa.img_id = image_id 的问答 id,按 ID 升序排列
qa id 原始问答 ID,在三个问答 split 的并集中唯一
qa img_id 指向 images.image_id 的关联键

question_ids 是一对多关系的反向索引,由发布的全部问答记录生成,包括其中的非活跃记录。 它不受图片所在 split 或某个作者问答 split 限制。 图像原始元数据中的 questions_ids 仍完整保留在 metadata_json, 与新增的顶层 question_ids 字段分别保存。

使用图片划分: 例如从 images/train 取得图片 ID,再从 qa/train、 qa/validation、qa/test 的并集中取出 img_id 属于这些图片的全部问答。 图片的验证、测试集合以相同方法关联,不沿用作者问题文件的 split 成员关系。

使用作者问答划分: 例如先选 qa/train,再依据各行的 img_id, 从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。 同一图片可能服务于不同作者问答 split,这一事实由原始问答划分保留。

原图像 ID 分配表保存在 metadata/image_split.parquet 作为来源记录。 其中 split 字段保留原名 train、val、test;当前图片 Viewer 对应为 train、validation、test。该来源表不作为第三个 subset 展示。

图片划分与资产完整性

图片划分以原始图片 ID 为单位:按数值排序后,用 random.Random(44) 打乱一次, 依次分配 70%、15%、15%。发布沿用已保存的 ID 分配,未重新抽样。 这个方案保证图片 ID 不跨集合;它没有额外按原图内容、重叠裁剪或地理场景分组。

图片 Split 分配 ID 数 实际可用主图数 缺主图 ID 数
train 7,000 6,322 678
validation 1,500 1,334 166
test 1,500 1,344 156

原包图像元数据覆盖 10,000 个 ID,主图与 original/ 各提供 9,000 个文件。 有 1,000 个 ID 缺少这两项图像资产;相应的元数据和全部关联问答仍保留, image=null、original_image=null、has_image=false,主图的 width、height 为 null。 没有用其他版本补齐这些图片,也没有静默移除这些 ID。 因此 7,000 / 1,500 / 1,500 表示分配的 ID 数,不能当作实际可训练主图数。 需要图像输入的实验应明确记录 has_image 的处理方式。

六个图像列采用 Hugging Face Image 特征,底层为 {bytes, path}。 bytes 保存原包编码字节,path 保存原包成员的相对路径,缺失资产为 null。

Image 列 内容 实际文件数 缺少此资产的图片 ID 数
image 原包 image/ 中的主图 9,000 1,000
original_image 原包 original/ 中的原图 9,000 1,000
mask 原包 target/ 中的目标区域掩膜 10,000 0
source_mask 原包 source/ 中的来源区域掩膜 10,000 0
background_mask 原包 background/ 中的背景掩膜 10,000 0
segmentation_mask 原包 segmentation/ 中的标注 10,000 0

mask 只对应作者的 target 掩膜,保留原始编码及像素值,未与 source 合并。 source_mask、background_mask、segmentation_mask 分列保留,各自按作者定义解释; 缺失掩膜不会被替换为全零图。

其他图片字段 含义
active 原始 All_Images.json 的 active 标记
sample_id 转存样本标识
label 根据原始 Q1 整理的图像级标签:real = 0、fake = 1
origin_dataset、caption、manipulation 保留的来源、图像描述与操作类别信息
source_split 保留为 full,表示来源整表;当前图片归属以 images 的 HF split 为准
filename_source_id 来源文件名中的 ID 字段
source_image_path、source_mask_path 主图与 target 掩膜在原包内的相对路径
width、height 主图实际尺寸;缺主图时为 null
has_image 是否有主图文件
has_mask 是否有 target 掩膜文件,不代表掩膜内含非空篡改区域
missing_assets 缺少的资产名称列表
metadata_json 原始 All_Images.json 中该图片的完整对象

字段 schema 记录在 inventory.json,并写入 Parquet 的 Hugging Face 特征元数据。

作者问答划分

问答表保留原始 id、active、img_id、question、type、answer、origin_dataset。 source_file、source_row、source_split 记录来源文件、行序和原 split 名称。 每个作者 split 的记录顺序保持不变;不按图片去重问答,也不根据图片的三划分重新分配这些记录。 包括 active=false 在内的原始问答记录均保留,使用者应按所用协议解释 active 标记。

作者问答划分按问题组织,图片 ID 可以跨问答 split 重叠。 下面的图片计数包含主图缺失但元数据仍存在的 ID。

问答 Split 问题数 不重复的 img_id 数
train 121,645 9,574
validation 26,068 8,514
test 26,067 8,530
作者问答 Split 对 共同 img_id 数
train/validation 8,299
train/test 8,319
validation/test 8,002

按作者问答划分报告图像检测或定位成绩时,应披露这种图像重叠; 问答集合互斥本身不能证明模型泛化到了未见图片。

原包题干差异

本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后, Train/Val/Test 的全部 173,780 条问题记录,其 question 题干都不同; 其余字段、问题 ID 顺序和原始 split 成员相同。 这一观察仅说明题干发生变化,没有验证两版问句的语义是否等价。 本仓库保留实际取得压缩包中的题干;All_Questions.json 独立原样保存, 不用于覆盖三个 split 文件中的问题文本。

读取示例

下面分别建立两套训练集合的关联关系。validation、test 可以按相同方式处理。

from datasets import concatenate_datasets, load_dataset

repo = 'ThaneJoss/Real-RSCM'
splits = ("train", "validation", "test")
images = load_dataset(repo, "images")
qa = load_dataset(repo, "qa")
all_images = concatenate_datasets([images[split] for split in splits])
all_qa = concatenate_datasets([qa[split] for split in splits])

# 图片协议:图片 train 对应的问答可能来自任意作者问答 split。
image_train_ids = set(images["train"]["image_id"])
questions_for_image_train = all_qa.filter(
    lambda img_id: img_id in image_train_ids,
    input_columns=["img_id"],
)

# 作者问答协议:qa/train 引用的图片可能来自任意图片 split。
qa_train_image_ids = set(qa["train"]["img_id"])
images_for_qa_train = all_images.filter(
    lambda image_id: image_id in qa_train_image_ids,
    input_columns=["image_id"],
)

读取主图前检查 has_image。如需原始编码字节,可将对应图像列设为 datasets.Image(decode=False)。 关联字段表达记录间的关系;原生 Viewer 展示字段与 split,不要求额外应用。

来源记录与转存范围

metadata/original/ 保留压缩包中提供的原始 JSON 及其他已转存元数据字节, 包括 All_Images.json、All_Questions.json、Answers.json 和三个问答 split 文件。 metadata/image_split.parquet 保存维护者既有的图片 ID 划分。 inventory.json 汇总配置、行数、文件路径、图像资产数量与问答图片交集。

这次组织方式保留作者数据内容,并增加图片划分和反向问答索引。 实际实验应说明采用图片协议还是作者问答协议,以及缺图筛选、掩膜解释和所用数据版本。

来源中的许可说明

作者 README 的 License 小节 列有 CC BY-NC-SA 4.0 链接, 随后将 Global-TQA 图像及其标注的使用限定为学术用途,并声明禁止商业使用。 其中 Global-TQA 与本包的 Real-RSCM 名称不一致;本数据卡保留这一来源差异, 未据此认定作者已经明确确认本包的许可范围。

原转存的来源核对记录未见作者仓库根目录独立的 LICENSE 文件。 模型子目录内第三方代码的许可不能作为数据集许可依据。 本转存未自行增加 Hugging Face license 标签,也不额外授予数据使用权; 相应数据包的许可和使用范围应以作者的明确声明为准。

引用

作者 README 提供的论文引用如下。使用本转存时,请同时注明 本数据仓库、所用配置和划分协议。

@article{zhang2025copymove,
    title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image},
    author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang},
    journal={arXiv preprint arXiv:2412.02575},
    year={2025},
}