wliafe/PSG

Panoptic Scene Graph

PSG（Panoptic Scene Graph）是面向全景场景图生成的数据集。每个场景图节点不仅包含对象类别和边界框，还通过 panoptic segmentation mask 与像素级区域对应。数据集同时覆盖 thing 和 stuff 类别。

本仓库将 RGB 图片和 panoptic PNG 直接嵌入 Parquet。通过 Hugging Face Image feature 加载后，两者都会解码为 Pillow 图像，不需要额外下载图片目录。

数据集规模

Split	样本	对象 / segments	关系
train	46,563	513,243	261,666
validation	2,186	24,910	13,705
总计	48,749	538,153	275,371

validation 对应完整 PSG 发布版中的官方 test split。完整发布版带有 test ground truth，因此这里保留其对象、mask 和关系标注，并改名为 Hugging Face 常用的 validation。部分样本没有关系，其关系数组为空。

PSG 中有少量不同样本引用同一张 COCO 图片；id 是 PSG 样本 ID，不应使用图片文件名替代。

加载

from datasets import load_dataset

dataset = load_dataset("wliafe/PSG")
sample = dataset["train"][0]

image = sample["image"]                  # PIL.Image.Image
panoptic_mask = sample["panoptic_mask"]  # PIL.Image.Image
print(sample["id"], image.size, panoptic_mask.size)

字段

字段	类型	说明
id	string	PSG 样本 ID
image	Image	嵌入式 RGB 图片；源文件主要是 JPEG，少量 .jpg 实际为 PNG
panoptic_mask	Image	嵌入式 RGB 编码 panoptic PNG
width / height	int32	解码后 RGB 图片的实际像素尺寸
boxes	List[[float32; 4]]	与 segments 平行的 [x1, y1, x2, y2] 边界框
labels	List[ClassLabel]	与 segments 平行的对象类别
segments.id	List[int64]	panoptic mask 中的 segment ID
segments.area	List[int64]	segment 的标注面积
segments.iscrowd	List[bool]	COCO crowd 标记
segments.isthing	List[bool]	thing/stuff 标记
relations.subject_index	List[int64]	主语在当前 segment 数组中的零基索引
relations.object_index	List[int64]	宾语在当前 segment 数组中的零基索引
relations.predicate	List[ClassLabel]	有向关系的谓词类别

boxes、labels 和四个 segments 数组长度相同。同一位置表示同一个场景图节点。三个 relations 数组长度也相同，同一位置共同表示一条有向关系。

Panoptic mask

panoptic PNG 使用 RGB 三通道编码整数 segment ID：

import numpy as np

rgb = np.asarray(sample["panoptic_mask"].convert("RGB"), dtype=np.int64)
segment_id_map = (
    rgb[..., 0]
    + 256 * rgb[..., 1]
    + 256 * 256 * rgb[..., 2]
)

first_segment_id = sample["segments"]["id"][0]
first_segment_mask = segment_id_map == first_segment_id
print(first_segment_mask.sum())

mask 中的非零 segment ID 与 segments.id 对应。背景像素的 ID 为 0，这与 taxonomy 中保留的 __background__ 类别编号是两个不同概念。

类别与关系

对象和谓词 taxonomy 都在索引 0 保留 __background__：

• 对象前景类别编号为 1–133，依次对应 80 个 thing 类和 53 个 stuff 类。
• 谓词前景类别编号为 1–56。
• subject_index 和 object_index 是样本内部 segment 数组的位置，不是类别 ID。

features = dataset["train"].features
object_names = features["labels"].feature.names
predicate_names = features["relations"]["predicate"].feature.names

for subject, object_, predicate in zip(
    sample["relations"]["subject_index"],
    sample["relations"]["object_index"],
    sample["relations"]["predicate"],
):
    print(
        object_names[sample["labels"][subject]],
        predicate_names[predicate],
        object_names[sample["labels"][object_]],
    )

坐标约定

boxes 使用实际图片像素坐标下的 [x1, y1, x2, y2] 格式，并位于图片边界内。width 和 height 与解码后的 RGB 图片及 panoptic mask 尺寸一致。

使用限制

• 类别和谓词呈长尾分布，评估结果可能受高频类别主导。
• 场景图和分割标注可能包含遗漏、歧义或类别噪声。
• 本仓库不重新授予原始 COCO 图片版权；使用者应遵守 COCO 与 PSG 的许可和使用要求。
• 比较模型结果时，应确认采用相同 split、taxonomy 和 background 编号。

引用

@inproceedings{yang2022panoptic,
  title={Panoptic Scene Graph Generation},
  author={Yang, Jingkang and Ang, Yi Zhe and Guo, Zujin and Zhou, Kaiyang
          and Zhang, Wayne and Liu, Ziwei},
  booktitle={European Conference on Computer Vision},
  year={2022}
}