Download README.md from ThaneJoss/Real-RSCM: direct link, hf CLI and curl.
- Browser
- Download file 14.1 kB
-
https://huggingface.co/datasets/ThaneJoss/Real-RSCM/resolve/main/README.md
- Command line
-
hf download hf://datasets/ThaneJoss/Real-RSCM/README.md
-
curl -L -o README.md https://huggingface.co/datasets/ThaneJoss/Real-RSCM/resolve/main/README.md
pretty_name: Real-RSCM(图像划分与作者问答划分)
language:
- en
tags:
- remote-sensing
- image-forgery
- copy-move
- visual-question-answering
- parquet
task_categories:
- visual-question-answering
- image-segmentation
configs:
- config_name: images
default: true
data_files:
- split: train
path:
- images/train-00000.parquet
- images/train-00001.parquet
- images/train-00002.parquet
- images/train-00003.parquet
- images/train-00004.parquet
- split: validation
path:
- images/validation-00000.parquet
- split: test
path:
- images/test-00000.parquet
- config_name: qa
data_files:
- split: train
path:
- qa/train-00000.parquet
- split: validation
path:
- qa/val-00000.parquet
- split: test
path:
- qa/test-00000.parquet
dataset_info:
- config_name: images
features:
- name: image
dtype: image
- name: original_image
dtype: image
- name: mask
dtype: image
- name: source_mask
dtype: image
- name: background_mask
dtype: image
- name: segmentation_mask
dtype: image
- name: image_id
dtype: int64
- name: question_ids
list: int64
- name: active
dtype: bool
- name: sample_id
dtype: string
- name: origin_dataset
dtype: string
- name: caption
dtype: string
- name: label
dtype: int64
- name: manipulation
dtype: string
- name: source_split
dtype: string
- name: filename_source_id
dtype: string
- name: source_image_path
dtype: string
- name: source_mask_path
dtype: string
- name: width
dtype: int64
- name: height
dtype: int64
- name: has_image
dtype: bool
- name: has_mask
dtype: bool
- name: missing_assets
list: string
- name: metadata_json
dtype: string
Real-RSCM:图像划分与作者问答划分
本仓库将作者发布的 224 版本数据包 Real_RSCM_224(1).zip 转为 Hugging Face Parquet。
来源为 RSCMQA 作者仓库 的
数据下载说明,论文为
Copy-Move Forgery Detection and Question Answering for Remote Sensing Image。
本数据卡描述实际取得的压缩包,未确认它对应 arXiv v3 的数据版本。
本仓库提供 images 与 qa 两张表,各有 train、validation、test 三个 split:
images按维护者的图片 ID 70/15/15 方案划分,三个集合的图片 ID 互斥。qa按作者原始问题文件划分,原始成员、题干、答案和行顺序保持不变。qa.img_id = images.image_id关联问答与图片;images.question_ids列出该图片对应的全部问答 ID。
两张表的同名 split 表示不同的划分协议。选择图片划分时,从所有问答 split 查找关联问题; 选择作者问答划分时,从所有图片 split 查找关联图片。不要只连接两个同名 split,也不要按行号配对。 Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。
配置与浏览入口
| 表 / Subset | Split | 行数 | Parquet 文件数 | 划分依据与浏览入口 |
|---|---|---|---|---|
images |
train |
7,000 | 5 | 维护者的图片 ID 划分 |
images |
validation |
1,500 | 1 | 维护者的图片 ID 划分 |
images |
test |
1,500 | 1 | 维护者的图片 ID 划分 |
qa |
train |
121,645 | 1 | 作者原始问答划分 |
qa |
validation |
26,068 | 1 | 作者原始问答划分 |
qa |
test |
26,067 | 1 | 作者原始问答划分 |
images 合计 10,000 个图片 ID,图像及掩膜字节只存放在图片表中;
qa 合计 173,780 条问答,通过 img_id 引用图片。
图片和掩膜保持原始编码与字节,不缩放、不重新编码、不二值化。
原始 JSON 也按来源字节保留,问句和答案没有翻译、润色或替换。
作者原名 val 在 Viewer 和 load_dataset 中统一显示为 validation。
问答数据仍使用原有 qa/val-00000.parquet,该表中的 source_split="val" 保留来源名称;
这一显示名称调整不改变作者的问答划分。
关联键与两套读取协议
| 表 | 字段 | 含义 |
|---|---|---|
images |
image_id |
原始图片 ID,在三个图片 split 的并集中唯一 |
images |
question_ids |
全部 qa 中满足 qa.img_id = image_id 的问答 id,按 ID 升序排列 |
qa |
id |
原始问答 ID,在三个问答 split 的并集中唯一 |
qa |
img_id |
指向 images.image_id 的关联键 |
question_ids 是一对多关系的反向索引,由发布的全部问答记录生成,包括其中的非活跃记录。
它不受图片所在 split 或某个作者问答 split 限制。
图像原始元数据中的 questions_ids 仍完整保留在 metadata_json,
与新增的顶层 question_ids 字段分别保存。
使用图片划分: 例如从 images/train 取得图片 ID,再从 qa/train、
qa/validation、qa/test 的并集中取出 img_id 属于这些图片的全部问答。
图片的验证、测试集合以相同方法关联,不沿用作者问题文件的 split 成员关系。
使用作者问答划分: 例如先选 qa/train,再依据各行的 img_id,
从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。
同一图片可能服务于不同作者问答 split,这一事实由原始问答划分保留。
原图像 ID 分配表保存在 metadata/image_split.parquet 作为来源记录。
其中 split 字段保留原名 train、val、test;当前图片 Viewer 对应为
train、validation、test。该来源表不作为第三个 subset 展示。
图片划分与资产完整性
图片划分以原始图片 ID 为单位:按数值排序后,用 random.Random(44) 打乱一次,
依次分配 70%、15%、15%。发布沿用已保存的 ID 分配,未重新抽样。
这个方案保证图片 ID 不跨集合;它没有额外按原图内容、重叠裁剪或地理场景分组。
| 图片 Split | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 |
|---|---|---|---|
train |
7,000 | 6,322 | 678 |
validation |
1,500 | 1,334 | 166 |
test |
1,500 | 1,344 | 156 |
原包图像元数据覆盖 10,000 个 ID,主图与 original/ 各提供 9,000 个文件。
有 1,000 个 ID 缺少这两项图像资产;相应的元数据和全部关联问答仍保留,
image=null、original_image=null、has_image=false,主图的 width、height 为 null。
没有用其他版本补齐这些图片,也没有静默移除这些 ID。
因此 7,000 / 1,500 / 1,500 表示分配的 ID 数,不能当作实际可训练主图数。
需要图像输入的实验应明确记录 has_image 的处理方式。
六个图像列采用 Hugging Face Image 特征,底层为 {bytes, path}。
bytes 保存原包编码字节,path 保存原包成员的相对路径,缺失资产为 null。
| Image 列 | 内容 | 实际文件数 | 缺少此资产的图片 ID 数 |
|---|---|---|---|
image |
原包 image/ 中的主图 | 9,000 | 1,000 |
original_image |
原包 original/ 中的原图 | 9,000 | 1,000 |
mask |
原包 target/ 中的目标区域掩膜 | 10,000 | 0 |
source_mask |
原包 source/ 中的来源区域掩膜 | 10,000 | 0 |
background_mask |
原包 background/ 中的背景掩膜 | 10,000 | 0 |
segmentation_mask |
原包 segmentation/ 中的标注 | 10,000 | 0 |
mask 只对应作者的 target 掩膜,保留原始编码及像素值,未与 source 合并。
source_mask、background_mask、segmentation_mask 分列保留,各自按作者定义解释;
缺失掩膜不会被替换为全零图。
| 其他图片字段 | 含义 |
|---|---|
active |
原始 All_Images.json 的 active 标记 |
sample_id |
转存样本标识 |
label |
根据原始 Q1 整理的图像级标签:real = 0、fake = 1 |
origin_dataset、caption、manipulation |
保留的来源、图像描述与操作类别信息 |
source_split |
保留为 full,表示来源整表;当前图片归属以 images 的 HF split 为准 |
filename_source_id |
来源文件名中的 ID 字段 |
source_image_path、source_mask_path |
主图与 target 掩膜在原包内的相对路径 |
width、height |
主图实际尺寸;缺主图时为 null |
has_image |
是否有主图文件 |
has_mask |
是否有 target 掩膜文件,不代表掩膜内含非空篡改区域 |
missing_assets |
缺少的资产名称列表 |
metadata_json |
原始 All_Images.json 中该图片的完整对象 |
字段 schema 记录在 inventory.json,并写入 Parquet 的 Hugging Face 特征元数据。
作者问答划分
问答表保留原始 id、active、img_id、question、type、answer、origin_dataset。
source_file、source_row、source_split 记录来源文件、行序和原 split 名称。
每个作者 split 的记录顺序保持不变;不按图片去重问答,也不根据图片的三划分重新分配这些记录。
包括 active=false 在内的原始问答记录均保留,使用者应按所用协议解释 active 标记。
作者问答划分按问题组织,图片 ID 可以跨问答 split 重叠。 下面的图片计数包含主图缺失但元数据仍存在的 ID。
| 问答 Split | 问题数 | 不重复的 img_id 数 |
|---|---|---|
train |
121,645 | 9,574 |
validation |
26,068 | 8,514 |
test |
26,067 | 8,530 |
| 作者问答 Split 对 | 共同 img_id 数 |
|---|---|
train/validation |
8,299 |
train/test |
8,319 |
validation/test |
8,002 |
按作者问答划分报告图像检测或定位成绩时,应披露这种图像重叠; 问答集合互斥本身不能证明模型泛化到了未见图片。
原包题干差异
本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后,
Train/Val/Test 的全部 173,780 条问题记录,其 question 题干都不同;
其余字段、问题 ID 顺序和原始 split 成员相同。
这一观察仅说明题干发生变化,没有验证两版问句的语义是否等价。
本仓库保留实际取得压缩包中的题干;All_Questions.json 独立原样保存,
不用于覆盖三个 split 文件中的问题文本。
读取示例
下面分别建立两套训练集合的关联关系。validation、test 可以按相同方式处理。
from datasets import concatenate_datasets, load_dataset
repo = 'ThaneJoss/Real-RSCM'
splits = ("train", "validation", "test")
images = load_dataset(repo, "images")
qa = load_dataset(repo, "qa")
all_images = concatenate_datasets([images[split] for split in splits])
all_qa = concatenate_datasets([qa[split] for split in splits])
# 图片协议:图片 train 对应的问答可能来自任意作者问答 split。
image_train_ids = set(images["train"]["image_id"])
questions_for_image_train = all_qa.filter(
lambda img_id: img_id in image_train_ids,
input_columns=["img_id"],
)
# 作者问答协议:qa/train 引用的图片可能来自任意图片 split。
qa_train_image_ids = set(qa["train"]["img_id"])
images_for_qa_train = all_images.filter(
lambda image_id: image_id in qa_train_image_ids,
input_columns=["image_id"],
)
读取主图前检查 has_image。如需原始编码字节,可将对应图像列设为 datasets.Image(decode=False)。
关联字段表达记录间的关系;原生 Viewer 展示字段与 split,不要求额外应用。
来源记录与转存范围
metadata/original/ 保留压缩包中提供的原始 JSON 及其他已转存元数据字节,
包括 All_Images.json、All_Questions.json、Answers.json 和三个问答 split 文件。
metadata/image_split.parquet 保存维护者既有的图片 ID 划分。
inventory.json 汇总配置、行数、文件路径、图像资产数量与问答图片交集。
这次组织方式保留作者数据内容,并增加图片划分和反向问答索引。 实际实验应说明采用图片协议还是作者问答协议,以及缺图筛选、掩膜解释和所用数据版本。
来源中的许可说明
作者 README 的 License 小节 列有
CC BY-NC-SA 4.0 链接,
随后将 Global-TQA 图像及其标注的使用限定为学术用途,并声明禁止商业使用。
其中 Global-TQA 与本包的 Real-RSCM 名称不一致;本数据卡保留这一来源差异,
未据此认定作者已经明确确认本包的许可范围。
原转存的来源核对记录未见作者仓库根目录独立的 LICENSE 文件。
模型子目录内第三方代码的许可不能作为数据集许可依据。
本转存未自行增加 Hugging Face license 标签,也不额外授予数据使用权;
相应数据包的许可和使用范围应以作者的明确声明为准。
引用
作者 README 提供的论文引用如下。使用本转存时,请同时注明 本数据仓库、所用配置和划分协议。
@article{zhang2025copymove,
title={Copy-Move Forgery Detection and Question Answering for Remote Sensing Image},
author={Z. Zhang and E. Zhao and D. Niu and J. Nie and X. Liang and L. Huang},
journal={arXiv preprint arXiv:2412.02575},
year={2025},
}