mm_template_parquet（PCT 专利多模态语料）

PCT 专利公开文件的图文多模态语料，按 MNBVC 通用多模态模板 mm_template_mnbvc 的 BLOCK_SCHEMA 组织： 一块一行——一页一条 image-text-pair 块；无图但有 XML 的文档另出 text 块。

按目标体积分片：多个专利共用一个 parquet（目标 5GB/文件），不再是"一件专利一个文件"。 1000 件专利共 3 个分片；专利不跨文件，块ID 是实体内从 0 起的局部编号。

数据统计

项目	数值
专利（实体）	1,000
文档（源 ZIP）	20,084
页面图像	196,710
数据块	197,221（196,710 个 image-text-pair + 511 个 text）
数据大小	12,308,229,040 字节（约 11.5 GiB）
分片	3 个：417 / 438 / 145 个实体，4.98 / 4.99 / 1.49 GiB

分片命名即 WO-shard-{序号}.parquet（--target-size 5G 下的默认前缀）。 index.json 里有 layout=sharded 与每个分片的 file / rows / bytes / n_entities / entities。

字段（BLOCK_SCHEMA，13 列）

列	类型	说明
实体ID	string	专利号（如 WO2017021797）
md5	string	块内容的 md5（图片字节 + 文本）
块ID	int32	实体内从 0 递增（分片里多实体共片，不是文件内连续）
块类型	string	image-text-pair 或 text
扩展字段	string	JSON：patent_no、zip_name、form_type、sha256、图宽高、来源 TIFF 等
时间	string	YYYYMMDD；取文档公开日，无可用日期时填处理日期（本批为 20260922）
页ID	int32	专利内页码，从 0 起（text 块为空）
文本	large_string	该页对应的 XML/表单正文（多数扫描页为空，仅有图像）
图片	struct<bytes, path>	页面 PNG 字节 + 文件名，可直接用 datasets.Image 解码
视频 / 音频	struct<bytes, path>	本数据集为空
OCR文本 / STT文本	large_string	本数据集为空

数据来源与处理

• 来源：PCT 专利公开文件包（ZIP，内含 XML 与 TIFF 页面扫描件）
• 处理：TIFF → PNG（Pillow 12）；按专利归并各时期文件，按文档内日期排序； XML 递归解析表单类型与正文
• 产出：build_patent_parquet.py --format mm --target-size 5G --workers 8 （1000 专利 / 20 万页，8 进程并行 20m02s；串行约 2h06m）
• 合规性：13 列 schema 与 mm_template_mnbvc BLOCK_SCHEMA 逐字段一致（列名/顺序/类型）， 并经 check_mm_schema.py 校验：3/3 分片通过、0 个问题
• 完整性：分片校验（块ID 实体内连续、实体不跨片、manifest 与实际一致）通过； 与上一版（一专利一文件、1000 文件）逐实体结构对照：1000/1000 实体、 197,221/197,221 块的数量/块ID/块类型/图片路径/文本长度完全一致

使用

from datasets import load_dataset, Image

# 分片目录整目录加载：datasets 会把多个 parquet 拼成一个 split
ds = load_dataset("parquet", data_files="mm_template_parquet/*.parquet", split="train")
ds = ds.cast_column("图片", Image())

ds[0]["图片"]   # PIL.Image（页面 PNG）
ds[0]["文本"]   # 该页正文（可能为 None）
ds[0]["实体ID"] # 专利号

只取有文本的块：

ds_text = ds.filter(lambda r: r["文本"])

按实体取一个专利的所有块：

one = ds.filter(lambda r: r["实体ID"] == "WO2017021797")

说明

• 时间列兜底：部分文档（纯扫描件无 XML、只有 page-count.xml、XML 无日期字段）取不到 公开日，按官方约定填处理日期，保证时间列始终可按 YYYYMMDD 筛选。本批约 13 万行 （多为无 XML 的纯扫描件）用的是兜底值 20260922；该值随跑批日期变化。
• 每行至多一种媒体内容（图片/视频/音频）；OCR 文本与 STT 文本按官方约定暂留空。
• PNG 字节随 Pillow 版本变化：本批用 Pillow 12.3.0 编码。与用 Pillow 10.3.0 产出的 上一版相比，解码像素完全一致（抽样 4,451 张全部逐像素相同），但字节与 sha256/md5 不同，体积小约 2%。