按图片与问答分别发布三划分并补齐关联键

README.md

@@ -1,7 +1,7 @@
 ---
-pretty_name: "Real-RSCM（作者 224 发布包，Parquet 转存）"
+pretty_name: "Real-RSCM（图像划分与作者问答划分）"
 language:
-- "en"
+- en
 tags:
 - remote-sensing
 - image-forgery
@@ -15,206 +15,241 @@ configs:
 - config_name: "images"
   default: true
   data_files:
-  - split: "full"
+  - split: "train"
+    path:
+    - "images/train-00000.parquet"
+    - "images/train-00001.parquet"
+    - "images/train-00002.parquet"
+    - "images/train-00003.parquet"
+    - "images/train-00004.parquet"
+  - split: "validation"
+    path:
+    - "images/validation-00000.parquet"
+  - split: "test"
     path:
-    - "images/full-00000.parquet"
-    - "images/full-00001.parquet"
-    - "images/full-00002.parquet"
-    - "images/full-00003.parquet"
-    - "images/full-00004.parquet"
-    - "images/full-00005.parquet"
-    - "images/full-00006.parquet"
+    - "images/test-00000.parquet"
 - config_name: "qa"
   data_files:
   - split: "train"
     path:
     - "qa/train-00000.parquet"
-  - split: "val"
+  - split: "validation"
     path:
     - "qa/val-00000.parquet"
   - split: "test"
     path:
     - "qa/test-00000.parquet"
-- config_name: "image_split"
-  data_files:
-  - split: "full"
-    path:
-    - "image_split/full-00000.parquet"
 ---
 
-# Real-RSCM：图像与问答双表 Parquet 转存
+# Real-RSCM：图像划分与作者问答划分
 
 本仓库将作者发布的 224 版本数据包 `Real_RSCM_224(1).zip` 转为 Hugging Face Parquet。
 来源为 [RSCMQA 作者仓库](https://github.com/shenyedepisa/RSCMQA) 的
 [数据下载说明](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#download-datasets)，论文为
 [Copy-Move Forgery Detection and Question Answering for Remote Sensing Image](https://arxiv.org/abs/2412.02575)。
-本数据卡描述本次实际取得的压缩包，不将其认定为 arXiv v3 对应的最新数据包。
+本数据卡描述实际取得的压缩包，未确认它对应 arXiv v3 的数据版本。
 
-`images/full` 含 **10,000 条图像 ID 元数据**；图像与各类掩膜字节集中保存在这张表中。
-问答分别放在实际存在的 `qa`、`qa_cn`、`qa_balanced`、`qa_balanced_cn` 配置中，
-通过 **`qa.img_id = images.image_id`** 关联，不为每个问题重复存储图像。
-图片、掩膜和原始 JSON 保留来源字节；问句、答案和原始问题划分按来源记录保留。
-导出不重新编码或缩放图片，不二值化掩膜，不翻译、润色或替换题干。
+本仓库提供 **`images` 与 `qa` 两张表，各有 `train`、`validation`、`test` 三个 split**：
 
-## 配置与规模
+- **`images` 按维护者的图片 ID 70/15/15 方案划分**，三个集合的图片 ID 互斥。
+- **`qa` 按作者原始问题文件划分**，原始成员、题干、答案和行顺序保持不变。
+- **`qa.img_id = images.image_id`** 关联问答与图片；`images.question_ids` 列出该图片对应的全部问答 ID。
 
-| 配置 | Split | 行数 | Parquet 文件数 | 每行含义 |
-| --- | --- | ---: | ---: | --- |
-| `images` | `full` | 10,000 | 7 | 每个原始图像 ID 一行的图像、掩膜与元数据表 |
-| `qa` | `train` | 121,645 | 1 | 原包一般版问答，保留原始问题划分 |
-| `qa` | `val` | 26,068 | 1 | 原包一般版问答，保留原始问题划分 |
-| `qa` | `test` | 26,067 | 1 | 原包一般版问答，保留原始问题划分 |
-| `image_split` | `full` | 10,000 | 1 | 另附的图像 ID 划分外键表；不包含图像字节或新问答 |
+两张表的同名 split 表示不同的划分协议。选择图片划分时，从所有问答 split 查找关联问题；
+选择作者问答划分时，从所有图片 split 查找关联图片。**不要只连接两个同名 split，也不要按行号配对。**
+Hugging Face 原生 Viewer 分别展示这两张表及其 ID 关联字段。
 
-`full` 表示完整图像元数据表，不是额外的官方测试集。
-问答配置只列出压缩包中实际存在的版本与 split；原名 `val` 保留为 `val`。
-平衡版读取作者单独提供的文件，不在转存时重新采样一般版问答。
+## 配置与浏览入口
 
-## 图像表字段与资产完整性
+| 表 / Subset | Split | 行数 | Parquet 文件数 | 划分依据与浏览入口 |
+| --- | --- | ---: | ---: | --- |
+| `images` | `train` | 7,000 | 5 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/train) |
+| `images` | `validation` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/validation) |
+| `images` | `test` | 1,500 | 1 | [维护者的图片 ID 划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/images/test) |
+| `qa` | `train` | 121,645 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/train) |
+| `qa` | `validation` | 26,068 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/validation) |
+| `qa` | `test` | 26,067 | 1 | [作者原始问答划分](https://huggingface.co/datasets/ThaneJoss/Real-RSCM/viewer/qa/test) |
+
+`images` 合计 **10,000 个图片 ID**，图像及掩膜字节只存放在图片表中；
+`qa` 合计 **173,780 条问答**，通过 `img_id` 引用图片。
+图片和掩膜保持原始编码与字节，不缩放、不重新编码、不二值化。
+原始 JSON 也按来源字节保留，问句和答案没有翻译、润色或替换。
+
+作者原名 `val` 在 Viewer 和 `load_dataset` 中统一显示为 `validation`。
+问答数据仍使用原有 `qa/val-00000.parquet`，该表中的 `source_split="val"` 保留来源名称；
+这一显示名称调整不改变作者的问答划分。
+
+## 关联键与两套读取协议
+
+| 表 | 字段 | 含义 |
+| --- | --- | --- |
+| `images` | `image_id` | 原始图片 ID，在三个图片 split 的并集中唯一 |
+| `images` | `question_ids` | 全部 `qa` 中满足 `qa.img_id = image_id` 的问答 `id`，按 ID 升序排列 |
+| `qa` | `id` | 原始问答 ID，在三个问答 split 的并集中唯一 |
+| `qa` | `img_id` | 指向 `images.image_id` 的关联键 |
+
+`question_ids` 是一对多关系的反向索引，由发布的全部问答记录生成，包括其中的非活跃记录。
+它不受图片所在 split 或某个作者问答 split 限制。
+图像原始元数据中的 `questions_ids` 仍完整保留在 `metadata_json`，
+与新增的顶层 `question_ids` 字段分别保存。
+
+**使用图片划分：** 例如从 `images/train` 取得图片 ID，再从 `qa/train`、
+`qa/validation`、`qa/test` 的并集中取出 `img_id` 属于这些图片的全部问答。
+图片的验证、测试集合以相同方法关联，不沿用作者问题文件的 split 成员关系。
+
+**使用作者问答划分：** 例如先选 `qa/train`，再依据各行的 `img_id`，
+从三个图片 split 的并集中查找图片。作者的验证、测试问题同理。
+同一图片可能服务于不同作者问答 split，这一事实由原始问答划分保留。
+
+原图像 ID 分配表保存在 [metadata/image_split.parquet](metadata/image_split.parquet) 作为来源记录。
+其中 `split` 字段保留原名 `train`、`val`、`test`；当前图片 Viewer 对应为
+`train`、`validation`、`test`。该来源表不作为第三个 subset 展示。
+
+## 图片划分与资产完整性
+
+图片划分以原始图片 ID 为单位：按数值排序后，用 `random.Random(44)` 打乱一次，
+依次分配 70%、15%、15%。发布沿用已保存的 ID 分配，未重新抽样。
+这个方案保证图片 ID 不跨集合；它没有额外按原图内容、重叠裁剪或地理场景分组。
+
+| 图片 Split | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 |
+| --- | ---: | ---: | ---: |
+| `train` | 7,000 | 6,322 | 678 |
+| `validation` | 1,500 | 1,334 | 166 |
+| `test` | 1,500 | 1,344 | 156 |
+
+原包图像元数据覆盖 **10,000 个 ID**，主图与 `original/` 各提供 **9,000 个文件**。
+有 **1,000 个 ID 缺少这两项图像资产**；相应的元数据和全部关联问答仍保留，
+`image=null`、`original_image=null`、`has_image=false`，主图的 `width`、`height` 为 `null`。
+没有用其他版本补齐这些图片，也没有静默移除这些 ID。
+因此 7,000 / 1,500 / 1,500 表示分配的 ID 数，不能当作实际可训练主图数。
+需要图像输入的实验应明确记录 `has_image` 的处理方式。
 
-六个图像列采用 Hugging Face `Image` 特征，底层为 `{bytes, path}`；
-`bytes` 是原包文件字节，`path` 是来源成员的相对路径。缺失资产为 `null`。
+六个图像列采用 Hugging Face `Image` 特征，底层为 `{bytes, path}`。
+`bytes` 保存原包编码字节，`path` 保存原包成员的相对路径，缺失资产为 `null`。
 
-| Image 列 | 原包资产 | 实际文件数 | 元数据中缺少此资产的 ID 数 |
+| Image 列 | 内容 | 实际文件数 | 缺少此资产的图片 ID 数 |
 | --- | --- | ---: | ---: |
 | `image` | 原包 image/ 中的主图 | 9,000 | 1,000 |
-| `original_image` | 原包 original/ 中的图像 | 9,000 | 1,000 |
+| `original_image` | 原包 original/ 中的原图 | 9,000 | 1,000 |
 | `mask` | 原包 target/ 中的目标区域掩膜 | 10,000 | 0 |
 | `source_mask` | 原包 source/ 中的来源区域掩膜 | 10,000 | 0 |
 | `background_mask` | 原包 background/ 中的背景掩膜 | 10,000 | 0 |
 | `segmentation_mask` | 原包 segmentation/ 中的标注 | 10,000 | 0 |
 
 `mask` **只对应作者的 target 掩膜**，保留原始编码及像素值，未与 source 合并。
-`source_mask`、`background_mask` 和 `segmentation_mask` 分列保留，
-不把它们统一解释成同一二值篡改标签，也不把缺失掩膜替换成全零图。
+`source_mask`、`background_mask`、`segmentation_mask` 分列保留，各自按作者定义解释；
+缺失掩膜不会被替换为全零图。
 
-| 字段 | 含义 |
+| 其他图片字段 | 含义 |
 | --- | --- |
-| `image_id` | `All_Images.json` 的原始图像 ID，也是 QA 外键所指向的键 |
-| `active` | 一般版 `JsonFiles/All_Images.json` 的 active 标记 |
-| `sample_id` | 本次转存的样本标识 |
-| `label` | 从原始 Q1 真实性问答整理的图像级标签：real = 0、fake = 1 |
-| `manipulation` | 图像操作类别元数据；RS-TQA 假图保留原字符串 `Copy` / `Blur`，不重命名为 `Copy-move` |
-| `source_split` | 图像表固定为 `full`；不代表作者问题 split |
+| `active` | 原始 `All_Images.json` 的 active 标记 |
+| `sample_id` | 转存样本标识 |
+| `label` | 根据原始 Q1 整理的图像级标签：real = 0、fake = 1 |
+| `origin_dataset`、`caption`、`manipulation` | 保留的来源、图像描述与操作类别信息 |
+| `source_split` | 保留为 `full`，表示来源整表；当前图片归属以 `images` 的 HF split 为准 |
 | `filename_source_id` | 来源文件名中的 ID 字段 |
-| `source_image_path`、`source_mask_path` | 原包主图与 target 掩膜的相对成员路径 |
-| `width`、`height` | 主图实际尺寸；主图缺失时为 `null` |
-| `has_image` | 原包是否提供主图文件 |
-| `has_mask` | 原包是否提供 target 掩膜文件；不等同于含有非空篡改区域 |
-| `missing_assets` | 当前图像 ID 缺失的资产列表 |
-| `metadata_json` | 一般版 `JsonFiles/All_Images.json` 中该图像对象的完整 JSON 内容 |
+| `source_image_path`、`source_mask_path` | 主图与 target 掩膜在原包内的相对路径 |
+| `width`、`height` | 主图实际尺寸；缺主图时为 `null` |
+| `has_image` | 是否有主图文件 |
+| `has_mask` | 是否有 target 掩膜文件，不代表掩膜内含非空篡改区域 |
+| `missing_assets` | 缺少的资产名称列表 |
+| `metadata_json` | 原始 `All_Images.json` 中该图片的完整对象 |
 
-图像表元数据统一取自一般版 `JsonFiles/All_Images.json`，
-包括 `metadata_json`、`active` 及保留的 `questions_ids` 信息。
+字段 schema 记录在 [inventory.json](inventory.json)，并写入 Parquet 的 Hugging Face 特征元数据。
 
+## 作者问答划分
 
-原始字段的完整 schema 记录在 [inventory.json](inventory.json)，并写入 Parquet 的 Hugging Face 特征元数据。
+问答表保留原始 `id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`。
+`source_file`、`source_row`、`source_split` 记录来源文件、行序和原 split 名称。
+每个作者 split 的记录顺序保持不变；不按图片去重问答，也不根据图片的三划分重新分配这些记录。
+包括 `active=false` 在内的原始问答记录均保留，使用者应按所用协议解释 active 标记。
 
-## 问答表与原始 split
+作者问答划分按问题组织，**图片 ID 可以跨问答 split 重叠**。
+下面的图片计数包含主图缺失但元数据仍存在的 ID。
 
-`id`、`active`、`img_id`、`question`、`type`、`answer`、`origin_dataset`
-按原文件记录保留；`source_split`、`source_file`、`source_row` 记录来源 split、文件与行序。
-每个 split 保留原始行顺序，不按 image_id 去重问题。
-不同语言、一般版与平衡版分别读取自己的原文件，不互相替换。
-所有原始问题记录均保留，包括 `active=false` 的记录；转存不默认过滤，
-使用者应按对应作者配置解释和使用 active 标记。
-RS-CMQA 的 Q2 表示对象类别，RS-TQA 的 Q2 表示篡改类别，不能跨数据集直接套用问题编号的含义。
+| 问答 Split | 问题数 | 不重复的 img_id 数 |
+| --- | ---: | ---: |
+| `train` | 121,645 | 9,574 |
+| `validation` | 26,068 | 8,514 |
+| `test` | 26,067 | 8,530 |
 
-原始 QA split 按问题记录组织，**不能视为图像 ID 互斥划分**。
-同一个图像可以关联多个问题，也可以出现在不同 QA split 中；平衡版同样需检查图像交集。
-以下交集按每个 split 内不重复的 `img_id` 集合计算，包含主图缺失但元数据仍存在的 ID。
+| 作者问答 Split 对 | 共同 img_id 数 |
+| --- | ---: |
+| `train/validation` | 8,299 |
+| `train/test` | 8,319 |
+| `validation/test` | 8,002 |
 
-| 问答配置 | Split | 问题数 | 不重复的 img_id 数 |
-| --- | --- | ---: | ---: |
-| `qa` | `train` | 121,645 | 9,574 |
-| `qa` | `val` | 26,068 | 8,514 |
-| `qa` | `test` | 26,067 | 8,530 |
+按作者问答划分报告图像检测或定位成绩时，应披露这种图像重叠；
+问答集合互斥本身不能证明模型泛化到了未见图片。
 
-| 问答配置 | Split 对 | 共同 img_id 数 |
-| --- | --- | ---: |
-| `qa` | `train/val` | 8,299 |
-| `qa` | `train/test` | 8,319 |
-| `qa` | `val/test` | 8,002 |
+## 原包题干差异
 
-如果依据这些 split 评估图像篡改检测或定位，应披露实际图像重叠；
-不能仅依据问题 split 名称宣称图像独立的泛化结果。
-
-## Real-RSCM 原包差异与缺图
-
-本包的图像元数据覆盖 **10,000 个 ID**，主图与 `original/` 各提供 **9,000 个文件**；
-有 **1,000 个 ID 缺少这两项图像资产**。这些 ID 的元数据和所有关联问题均保留，
-对应 `image=null`、`original_image=null`、`has_image=false`，主图 `width`、`height` 为 `null`。
-`source/`、`target/`、`background/`、`segmentation/` 的标注仍各覆盖全部 10,000 个 ID。
-没有用旧本地数据补齐缺失图像，也没有静默删除这些问题或元数据。
-
-本次作者压缩包与此前使用的本地 Real-RSCM 版本逐字段比对后，
+本次作者压缩包与此前使用的 Real-RSCM 版本逐字段比对后，
 **Train/Val/Test 的全部 173,780 条问题记录，其 `question` 题干都不同**；
-其余字段、问题 ID 顺序及原始 split 成员相同。
-这一观察只说明题干有变化，未验证新旧问句语义等价。
-本仓库原样保留作者压缩包里的新题干；`All_Questions.json` 也独立原样保存，
-不会用它覆盖三个 split 文件中的题干。
-
-## Real-RSCM 的图像划分外键表
-
-`image_split/full` 单独保存既有的 7,000 / 1,500 / 1,500 个图像 ID 划分。
-它是本次转存额外附带的 `image_id → split` 关系表，不是作者新增的 QA 划分。
-`full` 是这张外键表的 Hugging Face split；表内的 split 字段记录 train、val、test。
-作者各问答配置的题干、顺序和原始 split 不受这张表影响。
-
-| 图像划分 | 分配 ID 数 | 实际可用主图数 | 缺主图 ID 数 |
-| --- | ---: | ---: | ---: |
-| `train` | 7,000 | 6,322 | 678 |
-| `val` | 1,500 | 1,334 | 166 |
-| `test` | 1,500 | 1,344 | 156 |
-
-完整 ID 划分包含缺图记录，因此 7,000 / 1,500 / 1,500 不能当作可训练图像数。
-如需按图像划分建立实验，先通过外键关联，再明确筛选 `has_image=true`；
-这样得到的是使用者定义的实验子集，应与作者原始 QA split 分开报告。
+其余字段、问题 ID 顺序和原始 split 成员相同。
+这一观察仅说明题干发生变化，没有验证两版问句的语义是否等价。
+本仓库保留实际取得压缩包中的题干；`All_Questions.json` 独立原样保存，
+不用于覆盖三个 split 文件中的问题文本。
 
 ## 读取示例
 
+下面分别建立两套训练集合的关联关系。`validation`、`test` 可以按相同方式处理。
+
 ```python
-from datasets import load_dataset
+from datasets import concatenate_datasets, load_dataset
 
 repo = 'ThaneJoss/Real-RSCM'
-images = load_dataset(repo, "images", split="full", streaming=True)
-questions = load_dataset(repo, "qa", split='train', streaming=True)
-
-question = next(iter(questions))
-print(question["img_id"], question["question"], question["answer"])
+splits = ("train", "validation", "test")
+images = load_dataset(repo, "images")
+qa = load_dataset(repo, "qa")
+all_images = concatenate_datasets([images[split] for split in splits])
+all_qa = concatenate_datasets([qa[split] for split in splits])
+
+# 图片协议：图片 train 对应的问答可能来自任意作者问答 split。
+image_train_ids = set(images["train"]["image_id"])
+questions_for_image_train = all_qa.filter(
+    lambda img_id: img_id in image_train_ids,
+    input_columns=["img_id"],
+)
+
+# 作者问答协议：qa/train 引用的图片可能来自任意图片 split。
+qa_train_image_ids = set(qa["train"]["img_id"])
+images_for_qa_train = all_images.filter(
+    lambda image_id: image_id in qa_train_image_ids,
+    input_columns=["image_id"],
+)
 ```
 
-`images` 与 `questions` 的行数和顺序不同；关联时使用 `questions.img_id = images.image_id`，
-不要直接按行号配对。读取主图前检查 `has_image`，保留缺图问题是否进入某个实验由使用者明确记录。
-需要读取未解码的文件字节时，可将对应图像列设为 `datasets.Image(decode=False)`。
+读取主图前检查 `has_image`。如需原始编码字节，可将对应图像列设为 `datasets.Image(decode=False)`。
+关联字段表达记录间的关系；原生 Viewer 展示字段与 split，不要求额外应用。
 
-## 原始元数据与转存范围
+## 来源记录与转存范围
 
-`metadata/original/JsonFiles*/` 按原目录保存所有提供的 JSON 文件原始字节，
-包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 以及各个实际存在的 split、语言和平衡版本文件。
-QA 表以对应的 split 文件为准，不从 `All_Questions.json` 重建或覆盖题干。
-`inventory.json` 汇总配置、行数、Parquet 路径、资产数量与图像交集。
+`metadata/original/` 保留压缩包中提供的原始 JSON 及其他已转存元数据字节，
+包括 `All_Images.json`、`All_Questions.json`、`Answers.json` 和三个问答 split 文件。
+`metadata/image_split.parquet` 保存维护者既有的图片 ID 划分。
+`inventory.json` 汇总配置、行数、文件路径、图像资产数量与问答图片交集。
 
-这次转存调整存储组织并增加来源索引，不声称重新收集图像、增加标注或修订作者数据。
-实际实验使用的配置、缺图筛选、图像划分和掩膜解释应在实验报告中另行写明。
+这次组织方式保留作者数据内容，并增加图片划分和反向问答索引。
+实际实验应说明采用图片协议还是作者���答协议，以及缺图筛选、掩膜解释和所用数据版本。
 
 ## 来源中的许可说明
 
 作者 [README 的 License 小节](https://github.com/shenyedepisa/RSCMQA/blob/main/README.md#license) 列有
 [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.en) 链接，
 随后将 **Global-TQA** 图像及其标注的使用限定为学术用途，并声明禁止商业使用。
-该句中的 `Global-TQA` 名称与这里的 `Real-RSCM` 包名不一致；本数据卡保留这一事实，
-不将该名称差异改写成作者已经明确确认本包许可范围。
+其中 `Global-TQA` 与本包的 `Real-RSCM` 名称不一致；本数据卡保留这一来源差异，
+未据此认定作者已经明确确认本包的许可范围。
 
-本次核对的作者仓库根目录没有独立 `LICENSE` 文件。
-模型子目录内的第三方代码许可不能作为数据集许可依据。
-因此本转存未自行增加 Hugging Face `license` 标签，也不额外授予数据使用权；
-许可与使用范围以作者对相应数据包的明确声明为准。
+原转存的来源核对记录未见作者仓库根目录独立的 `LICENSE` 文件。
+模型子目录内第三方代码的许可不能作为数据集许可依据。
+本转存未自行增加 Hugging Face `license` 标签，也不额外授予数据使用权；
+相应数据包的许可和使用范围应以作者的明确声明为准。
 
 ## 引用
 
-作者 README 提供的论文引用如下；使用本 Parquet 转存时，也请注明
-[本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM) 和所用配置。
+作者 README 提供的论文引用如下。使用本转存时，请同时注明
+[本数据仓库](https://huggingface.co/datasets/ThaneJoss/Real-RSCM)、所用配置和划分协议。
 
 ```bibtex
 @article{zhang2025copymove,

images/full-00004.parquet

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:13d7a736a330fc2567dd018c7e83d0bc84285c5f05e81253b911355d94b4f74b
-size 264203726

images/full-00005.parquet

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:cdddd52a8d55aa074c7386f44b36c127fe9806dfbc6723e26663c09c4bc4457b
-size 257239028

images/full-00006.parquet

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:6f6e16c9e28725f7e98cf0b008da3c3c69bfddf32bd9013566e2ab0dd324749c
-size 103326248

images/{full-00000.parquet → test-00000.parquet}

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:f1615e803d131a7fb9fed703b27aaafed83ed5809e5478ee8d7a987e3400156e
-size 171264257
+oid sha256:51b5830e57299f9d9f60eeb866748b2b32c88ef8cf15f8b6e5198ed5ce3da845
+size 248185041

images/{full-00001.parquet → train-00000.parquet}

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:15e01a7cc16f63dcfe82da5558a54a8651c8d3532ef614906979d2b05f81b73a
-size 241864983
+oid sha256:14ae4310a7e58b7b7532f738a764ceca144ef4e66edf3a558a2ba051061896c9
+size 200781518

images/{full-00002.parquet → train-00001.parquet}

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:3160c46ae1df35ee9f5bf7a61b8c195c0a0c4b65a0d639c32ae801fd421061b4
-size 233872985
+oid sha256:cd7b4257002d460dc0383b25bae35ee5e548e90156bb9c3e976d1b29b0f6a8ec
+size 252790440

images/{full-00003.parquet → train-00002.parquet}

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:f7d48611f69f03981d4e4e6f04ad50d9a662ca77f2c697980b4e370597b1b668
-size 256101913
+oid sha256:82e0d18809f848f236e89557309a2a26214355bbd51b90a9d8f40c02d20ade55
+size 257683884

images/train-00003.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0a2158759903ebd9fdf9cc91bc9f3448b925304b34fae374a444f031c3dff02e
+size 263243577

images/train-00004.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3a842608ef2ed1b5a2b4095d9f2fbdd78b7fcdb49653cc6aee6c88d64461b5ff
+size 128907907

images/validation-00000.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:54834c78f3633d001be216eae027f82c9494a5d180a0bb745994e70866b9e9ab
+size 244700407

inventory.json

@@ -1,5 +1,5 @@
 {
-  "format": "rscmqa-parquet-v1",
+  "format": "rscmqa-parquet-dual-split-v2",
   "dataset": "Real-RSCM",
   "repo_id": "ThaneJoss/Real-RSCM",
   "archive_name": "Real_RSCM_224(1).zip",
@@ -11,6 +11,13 @@
           "dtype": "int64",
           "_type": "Value"
         },
+        "question_ids": {
+          "feature": {
+            "dtype": "int64",
+            "_type": "Value"
+          },
+          "_type": "List"
+        },
         "active": {
           "dtype": "bool",
           "_type": "Value"
@@ -98,16 +105,26 @@
         }
       },
       "splits": {
-        "full": {
-          "rows": 10000,
+        "train": {
+          "rows": 7000,
+          "files": [
+            "images/train-00000.parquet",
+            "images/train-00001.parquet",
+            "images/train-00002.parquet",
+            "images/train-00003.parquet",
+            "images/train-00004.parquet"
+          ]
+        },
+        "validation": {
+          "rows": 1500,
           "files": [
-            "images/full-00000.parquet",
-            "images/full-00001.parquet",
-            "images/full-00002.parquet",
-            "images/full-00003.parquet",
-            "images/full-00004.parquet",
-            "images/full-00005.parquet",
-            "images/full-00006.parquet"
+            "images/validation-00000.parquet"
+          ]
+        },
+        "test": {
+          "rows": 1500,
+          "files": [
+            "images/test-00000.parquet"
           ]
         }
       }
@@ -162,7 +179,7 @@
             "qa/train-00000.parquet"
           ]
         },
-        "val": {
+        "validation": {
           "rows": 26068,
           "files": [
             "qa/val-00000.parquet"
@@ -175,29 +192,72 @@
           ]
         }
       }
-    },
-    "image_split": {
-      "features": {
-        "image_id": {
-          "dtype": "int64",
-          "_type": "Value"
-        },
-        "split": {
-          "dtype": "string",
-          "_type": "Value"
-        }
-      },
-      "splits": {
-        "full": {
-          "rows": 10000,
-          "files": [
-            "image_split/full-00000.parquet"
-          ]
-        }
-      }
     }
   },
   "files": [
+    {
+      "path": "images/train-00000.parquet",
+      "bytes": 200781518,
+      "kind": "parquet",
+      "config": "images",
+      "split": "train",
+      "rows": 1523,
+      "row_groups": 17
+    },
+    {
+      "path": "images/train-00001.parquet",
+      "bytes": 252790440,
+      "kind": "parquet",
+      "config": "images",
+      "split": "train",
+      "rows": 1653,
+      "row_groups": 17
+    },
+    {
+      "path": "images/train-00002.parquet",
+      "bytes": 257683884,
+      "kind": "parquet",
+      "config": "images",
+      "split": "train",
+      "rows": 1486,
+      "row_groups": 17
+    },
+    {
+      "path": "images/train-00003.parquet",
+      "bytes": 263243577,
+      "kind": "parquet",
+      "config": "images",
+      "split": "train",
+      "rows": 1522,
+      "row_groups": 17
+    },
+    {
+      "path": "images/train-00004.parquet",
+      "bytes": 128907907,
+      "kind": "parquet",
+      "config": "images",
+      "split": "train",
+      "rows": 816,
+      "row_groups": 8
+    },
+    {
+      "path": "images/validation-00000.parquet",
+      "bytes": 244700407,
+      "kind": "parquet",
+      "config": "images",
+      "split": "validation",
+      "rows": 1500,
+      "row_groups": 16
+    },
+    {
+      "path": "images/test-00000.parquet",
+      "bytes": 248185041,
+      "kind": "parquet",
+      "config": "images",
+      "split": "test",
+      "rows": 1500,
+      "row_groups": 16
+    },
     {
       "path": "metadata/missing_assets.json",
       "bytes": 26868,
@@ -245,69 +305,6 @@
       "kind": "original_metadata",
       "source_member": "Real_RSCM_224/segmentation.txt"
     },
-    {
-      "path": "images/full-00000.parquet",
-      "bytes": 171264257,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1467,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00001.parquet",
-      "bytes": 241864983,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1590,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00002.parquet",
-      "bytes": 233872985,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1759,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00003.parquet",
-      "bytes": 256101913,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1456,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00004.parquet",
-      "bytes": 264203726,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1428,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00005.parquet",
-      "bytes": 257239028,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 1657,
-      "row_groups": 17
-    },
-    {
-      "path": "images/full-00006.parquet",
-      "bytes": 103326248,
-      "kind": "parquet",
-      "config": "images",
-      "split": "full",
-      "rows": 643,
-      "row_groups": 7
-    },
     {
       "path": "qa/train-00000.parquet",
       "bytes": 3193854,
@@ -322,7 +319,7 @@
       "bytes": 685648,
       "kind": "parquet",
       "config": "qa",
-      "split": "val",
+      "split": "validation",
       "rows": 26068,
       "row_groups": 102
     },
@@ -336,13 +333,9 @@
       "row_groups": 102
     },
     {
-      "path": "image_split/full-00000.parquet",
+      "path": "metadata/image_split.parquet",
       "bytes": 31563,
-      "kind": "parquet",
-      "config": "image_split",
-      "split": "full",
-      "rows": 10000,
-      "row_groups": 40
+      "kind": "split_provenance"
     }
   ],
   "images_stats": {
@@ -360,13 +353,13 @@
     "qa": {
       "unique_images_by_split": {
         "train": 9574,
-        "val": 8514,
+        "validation": 8514,
         "test": 8530
       },
       "pairwise_image_overlap": {
-        "train/val": 8299,
+        "train/validation": 8299,
         "train/test": 8319,
-        "val/test": 8002
+        "validation/test": 8002
       }
     }
   },
@@ -374,18 +367,42 @@
   "excluded_members": [],
   "image_split_stats": {
     "id_counts": {
-      "train": 7000,
-      "val": 1500,
-      "test": 1500
+      "test": 1500,
+      "validation": 1500,
+      "train": 7000
     },
     "available_image_counts": {
-      "train": 6322,
-      "val": 1334,
-      "test": 1344
+      "test": 1344,
+      "validation": 1334,
+      "train": 6322
     }
   },
   "image_split_source": {
     "source_name": "image_split.json",
-    "source_kind": "existing_image_id_map"
+    "source_kind": "existing_image_id_map",
+    "preserved_table": "metadata/image_split.parquet",
+    "source_val_name": "val",
+    "viewer_val_name": "validation"
+  },
+  "relationships": {
+    "qa_to_images": {
+      "foreign_key": "qa.img_id",
+      "primary_key": "images.image_id",
+      "cardinality": "many-to-one",
+      "lookup_scope": "all images splits"
+    },
+    "images_to_qa": {
+      "foreign_keys": "images.question_ids",
+      "primary_key": "qa.id",
+      "cardinality": "one-to-many",
+      "lookup_scope": "all qa splits",
+      "derived_from": "all qa.img_id records, question IDs sorted ascending"
+    }
+  },
+  "split_protocols": {
+    "images": "Existing user-defined image-ID 70/15/15 split; each image ID appears in exactly one split",
+    "qa": "Author's original question split membership and row order; val exposed as validation",
+    "source_split_column": "Original provenance retained: images=full; QA=train/val/test",
+    "join_rule": "Join by ID across the entire referenced table, not only splits with the same name"
   }
 }