VG150

VG150 是从 Visual Genome 派生的场景图生成 （Scene Graph Generation, SGG）基准数据集，包含 150 个对象类别、50 个 关系谓词类别和 200 个属性类别。图片直接嵌入 Parquet。

该数据集适用于场景图生成、场景图检测、视觉关系检测和相关多模态研究。

数据集规模

Split	图片数量	用途
train	57,723	模型训练
validation	5,000	验证与模型选择
test	26,446	最终评估
总计	89,169	仅包含同时具有对象和关系标注的图片

所有 split 均包含完整的对象、属性和关系标注。

加载

from datasets import load_dataset

dataset = load_dataset("wliafe/VG150")
print(dataset)

sample = dataset["train"][0]
image = sample["image"]  # PIL.Image.Image
image.show()

图片字节已经嵌入 Parquet，因此不需要额外下载或拼接 Visual Genome 图片目录。 image 使用 Hugging Face Image feature，默认读取时会解码为 Pillow 图像。

如需取得类别名称，可以读取 ClassLabel feature：

features = dataset["train"].features

object_names = features["labels"].feature.names
predicate_names = features["relations"]["predicate"].feature.names
attribute_names = features["attributes"].feature.feature.names

sample = dataset["train"][0]
object_labels = [object_names[index] for index in sample["labels"]]
predicate_labels = [
    predicate_names[index]
    for index in sample["relations"]["predicate"]
]
attribute_labels = [
    [attribute_names[index] for index in object_attributes]
    for object_attributes in sample["attributes"]
]

数据字段

字段	类型	说明
id	string	Visual Genome 图片 ID
image	Image	嵌入 Parquet 并可直接解码的图片
width	int32	实际 JPEG 宽度，单位为像素
height	int32	实际 JPEG 高度，单位为像素
boxes	List[[float32; 4]]	与对象平行的 [x1, y1, x2, y2] 边界框
labels	List[ClassLabel]	与 boxes 平行的对象类别
attributes	List[List[ClassLabel]]	每个对象对应的零个或多个属性
relations.subject_index	List[int64]	每条关系的主语对象索引
relations.object_index	List[int64]	每条关系的宾语对象索引
relations.predicate	List[ClassLabel]	每条关系的谓词类别

boxes、labels 和 attributes 的外层长度相同。三个关系数组也具有相同 长度；相同位置的主语索引、宾语索引和谓词共同构成一条有向关系：

sample = dataset["train"][0]

for subject, object_, predicate in zip(
    sample["relations"]["subject_index"],
    sample["relations"]["object_index"],
    sample["relations"]["predicate"],
):
    print(
        object_names[sample["labels"][subject]],
        predicate_names[predicate],
        object_names[sample["labels"][object_]],
    )

类别编号

对象、谓词和属性 taxonomy 均在索引 0 保留 __background__：

• 对象前景类别编号为 1–150。
• 谓词前景类别编号为 1–50。
• 属性前景类别编号为 1–200。

没有属性的对象对应空列表，而不是包含 __background__ 的列表。

边界框与图片尺寸

boxes 使用实际图片像素坐标下的 [x1, y1, x2, y2] 格式，坐标位于图片 边界内。width 和 height 与 image 的实际尺寸一致。关系端点使用当前样本 对象数组中的零基索引。

本仓库提供可直接加载的 Parquet 数据，不包含原始 H5 或 JSON 文件。对象、关系和 属性标注可能继承 Visual Genome 中的类别偏差、长尾分布、歧义和错误。

使用限制

• VG150 只保留高频类别，不能代表 Visual Genome 的完整开放词汇分布。
• 关系类别分布高度不均衡，模型结果可能被少数高频谓词主导。
• boxes 是对象边界框，不是实例分割轮廓。
• 本仓库不重新授予原始图片版权。使用者应同时遵守 Visual Genome 的使用条款， 并确认原始图片适用于自己的研究或发布场景。
• 比较论文结果时，应确认对方使用相同的 VG150 taxonomy、过滤规则和 split。

引用

使用本数据集时，请引用 Visual Genome：

@article{krishna2017visual,
  title={Visual Genome: Connecting Language and Vision Using Crowdsourced Dense Image Annotations},
  author={Krishna, Ranjay and Zhu, Yuke and Groth, Oliver and Johnson, Justin and
          Hata, Kenji and Kravitz, Joshua and Chen, Stephanie and
          Kalantidis, Yannis and Li, Li-Jia and Shamma, David A. and
          Bernstein, Michael S. and Fei-Fei, Li},
  journal={International Journal of Computer Vision},
  volume={123},
  number={1},
  pages={32--73},
  year={2017}
}

标准 VG150 场景图划分也常用于 Neural Motifs：

@inproceedings{zellers2018neural,
  title={Neural Motifs: Scene Graph Parsing with Global Context},
  author={Zellers, Rowan and Yatskar, Mark and Thomson, Sam and Choi, Yejin},
  booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition},
  year={2018}
}