Tiendat88/vpa-poster-dataset

VPA Poster Dataset

Ảnh bộ đội Quân đội nhân dân Việt Nam kèm caption, dùng để train LoRA cho pipeline sinh poster. 844 ảnh, có caption tiếng Anh, kèm đầy đủ nguồn gốc từng ảnh.

⚠️ Bản quyền — đọc trước khi dùng

Dataset này trộn hai nhóm quyền hoàn toàn khác nhau. Không được dùng chung một cách.

Nhóm	Số ảnh	License	Dùng lại được không
wikimedia_commons	175	Public domain (94), CC BY-SA 4.0 (22), CC BY-SA 3.0 (20), CC BY 2.0 (19), CC0 (8), CC BY-SA 2.0 (8), CC BY 4.0 (2), CC BY 3.0 (2)	Được, theo đúng điều kiện từng license — phần lớn yêu cầu ghi công
qdnd_crawl	669	All Rights Reserved (Internal Training Use)	Không. Crawl từ hc.qdnd.vn, chưa xin phép

Toàn bộ 844 ảnh đang ở rights_status: pending — chưa ảnh nào qua review quyền.

Lọc ra phần dùng lại được:

from datasets import load_dataset
ds = load_dataset("Tiendat88/vpa-poster-dataset", split="train")
open_only = ds.filter(lambda r: r["origin"] == "wikimedia_commons")   # 175 ảnh

Dataset để nghiên cứu phi thương mại. Phần qdnd_crawl không được phát tán lại, không dùng thương mại, và nên xin phép Báo QĐND trước khi dùng ngoài phạm vi thử nghiệm nội bộ.

Cấu trúc

Cột	Nội dung
file_name	đường dẫn ảnh trong repo
text	caption tiếng Anh, sinh tự động rồi review
license, license_url	license gốc của từng ảnh
rights_status	trạng thái review quyền (hiện tất cả là pending)
author, source_page, source_image_url	nguồn gốc để kiểm chứng
retrieved_at	thời điểm crawl
origin	wikimedia_commons hoặc qdnd_crawl
group_id	⚠️ rỗng toàn bộ — xem mục Chia train/val
uniform_type, branch, period	nhãn quân phục, quân binh chủng, thời kỳ
split	train (402) · validation (45) · unassigned (397)

⚠️ Chia train/val — CHƯA chống rò rỉ

Ý định ban đầu là chia theo group_id để ảnh cùng một sự kiện không nằm cả ở train lẫn val. Việc đó chưa thực hiện được. group_id rỗng trong chính manifest gốc — chỉ 1/689 bản ghi qdnd có giá trị, 0/775 bản ghi commons có. Nên split hiện tại chia theo từng ảnh, không theo nhóm.

Đo rò rỉ thực tế:

• Trùng perceptual_hash tuyệt đối giữa train và val: 0
• Ảnh train có near_duplicate nằm trong val: 4 — trên val chỉ 45 ảnh, tức khoảng 9%
• Chỉ 153/447 ảnh trong split có perceptual_hash, nên phần còn lại không đo được

Hệ quả: val loss của các run hiện tại lạc quan hơn thực tế ở mức chưa xác định. Đừng dùng con số val tuyệt đối để so với mô hình khác; chỉ dùng để so các run với nhau trên cùng split này.

Ghi chú kỹ thuật

• Ảnh curated đã được mã hoá lại nên sha256 khác bản raw. Nguồn gốc khôi phục qua id trong manifest gốc, không qua hash.
• 397 ảnh unassigned nằm trong curated nhưng chưa vào split nào.
• Caption sinh tự động bằng VLM rồi review tay; chất lượng không đồng đều.

Nguồn gốc dữ liệu

• Wikimedia Commons — tải qua API, giữ nguyên license và thông tin tác giả.
• hc.qdnd.vn (Báo Quân đội nhân dân) — crawl trang ảnh, tác giả ghi Báo QĐND.

Tình trạng đã biết

• group_id rỗng → split chưa chống rò rỉ (xem trên).
• 397/844 ảnh ở split: unassigned — nằm trong curated nhưng chưa vào train lẫn val.
• 12 ảnh bị đánh dấu trùng hoặc gần trùng, chưa gỡ.
• sha256 trong qdnd_manifest.jsonl gốc chỉ có 1/733 dòng được điền; nguồn gốc ở đây khôi phục qua field id, không qua hash.