Add QDU recordings: qdu_damo, qdu_gimbal_0507, qdu_gimbal_0509; add pack.py

README.md

@@ -1,140 +1,146 @@
----
-pretty_name: RoboMaster Armor Plates
-license: other
-license_name: per-source
-license_link: LICENSE.md
-task_categories:
-  - object-detection
-  - keypoint-detection
-tags:
-  - robomaster
-  - armor-plate
-  - webdataset
-configs:
-  - config_name: default
-    data_files:
-      - split: train
-        path: "data/*/train/*.tar"
-      - split: test
-        path: "data/*/test/*.tar"
----
-
-# RoboMaster 装甲板数据集
-
-多支队伍共同维护的装甲板数据集。每块装甲板给出四个角点或检测框，以及颜色、大小和贴纸图案，有哪项给哪项。
-
-## 1. 文件
-
-```
-data/<source>/<split>/<source>-<split>-00000.tar   图像和标签
-data/<source>/cameras.json                         相机内参（可选）
-sources.csv                                        来源登记
-stickers.json                                      贴纸图案登记
-tools/export.py                                    导出为训练格式
-```
-
-- `<source>`：来源编号，小写字母、数字和下划线，如 `qdu_infantry_2026`。
-- `<split>`：`train` 或 `test`。同一段视频或同一个采集序列只放在一个 split 中。
-- tar 分片每个 0.5–2 GB，内部成对存放 `<key>.jpg` 和 `<key>.json`（WebDataset 格式）。
-
-## 2. 标签
-
-每张图一个 JSON：
-
-```json
-{
-  "image": {"width": 1440, "height": 1080, "source": "qdu_infantry_2026", "sequence": "match03", "camera": "cam0"},
-  "objects": [
-    {
-      "corners": [[612.3, 401.8], [610.9, 452.6], [741.2, 455.0], [742.8, 404.1]],
-      "color": "blue",
-      "size": "small",
-      "sticker": "3"
-    }
-  ]
-}
-```
-
-`corners` 和 `bbox` 至少有一个，其余字段有就填，没有就省略。缺失的字段在训练时只是该项不计损失，不影响其他字段。
-
-| 字段 | 取值 |
-|---|---|
-| `corners` | 四个角点的像素坐标，顺序见第 3 节 |
-| `bbox` | `[x, y, w, h]`，只有框没有角点时填 |
-| `color` | `blue`、`red`、`gray`（灭灯）、`purple` |
-| `size` | `small`、`large` |
-| `sticker` | 贴纸图案：`sentry`、`1`–`5`、`outpost`、`base` |
-| `visibility` | 每个角点 0 不可见、1 被遮挡但可推断、2 可见；省略为全部可见 |
-| `flags` | `truncated`、`occluded`、`motion_blur`、`overexposed`、`unlit` |
-| `corner_def` | `sjtu4`（上交格式，默认）或 `unspecified`（不确定） |
-| `label_type` | `human` 人工标注、`human_checked` 模型标注后人工检查、`model` 模型标注 |
-| `role` | `positive`（默认）、`ignore`（不确定，训练时不计损失）、`negative`（确认不是装甲板） |
-| `image.sequence` | 视频或采集序列编号 |
-| `image.camera` | 对应 `cameras.json` 中的相机 |
-
-没有装甲板的图也可以上传，`objects` 留空，作为负样本。
-
-`sticker` 记录贴纸上印的图案，不记录是哪台机器人。新赛季出现新图案时在 `stickers.json` 末尾追加一行。`stickers.json` 同时给出各图案对应的官方机器人 ID（《RMU 2026 通信协议》，红方 1–5、哨兵 7、基地 10、前哨站 11，蓝方加 100），只作对照。
-
-## 3. 角点
-
-角点采用上交 LabelRoboMaster 的定义，顺序为 LT, LB, RB, RT：
-
-- 正对贴纸、图案正立时，左手边的灯条为左灯条。LT、LB 是左灯条的上端、下端，RB、RT 是右灯条的下端、上端。
-- 上下左右按装甲板本身判定，不按图像坐标排序；装甲板倾斜很大时也一样。
-- 在图像中四点依次为逆时针。顺序反了（或是镜像）的标注在导出时会被当作无效。
-- 被图像边缘截断的角点，按装甲板形状推出图外的位置，`visibility` 记 0。
-
-## 4. 相机内参
-
-有标定的来源在 `data/<source>/cameras.json` 中给出内参，可用于 PnP 测距评测：
-
-```json
-{"cam0": {"width": 1440, "height": 1080, "fx": 1800.0, "fy": 1800.0, "cx": 720.0, "cy": 540.0, "dist": [0, 0, 0, 0, 0]}}
-```
-
-`dist` 为 OpenCV 畸变系数 `[k1, k2, p1, p2, k3]`。内参对应图像的实际分辨率，缩放、裁剪、binning 后要相应换算。
-
-## 5. 导出
-
-```bash
-python tools/export.py <armor/data> <输出目录>                    # YOLO pose
-python tools/export.py <armor/data> <输出目录> --format coco      # COCO 关键点
-python tools/export.py <armor/data> <输出目录> --format sjtu      # 上交 txt
-```
-
-- `--classes`：`sjtu`（默认，与上交 36 类编号一致）、`color`（只分红蓝）、`plate`（单类）。
-- `--order tongji`：关键点按 TL, TR, BR, BL 输出。
-- `ignore` 区域和无法归类的装甲板：YOLO pose 和上交 txt 中涂灰，COCO 中写成 `iscrowd: 1`；`negative` 作为背景。
-- 训练时不要开水平翻转，翻转后数字是镜像的。
-
-依赖 numpy 和 Pillow。
-
-## 6. 贡献
-
-1. 只上传自己队拍摄、自己标注的数据；转载需写明出处并确认原授权允许再分发。
-2. 按第 1、2 节打包，在 `sources.csv` 中登记一行：
-
-   | 列 | 内容 |
-   |---|---|
-   | `source` | 来源编号 |
-   | `team` | 队伍 |
-   | `year` | 采集年份 |
-   | `camera` | 相机、分辨率、帧率 |
-   | `scene` | 场地或赛事 |
-   | `images`、`objects` | 图像数、装甲板数 |
-   | `label_tool` | 标注工具 |
-   | `license` | 授权，如 `CC-BY-4.0` |
-   | `origin` | 自采，或原始链接 |
-
-3. 有 write 权限的维护者直接上传，其他人发 Pull Request。
-4. 每次合并新来源后打版本标签（`v1`、`v2` …），训练时固定版本：
-
-   ```python
-   from datasets import load_dataset
-   ds = load_dataset("rmcv/armor", revision="v1", split="train", streaming=True)
-   ```
-
-## 7. 授权
-
-数据按来源分别授权，以 `sources.csv` 为准；工具和文档采用 MIT，见 `LICENSE.md`。
+---
+pretty_name: RoboMaster Armor Plates
+license: other
+license_name: per-source
+license_link: LICENSE.md
+task_categories:
+  - object-detection
+  - keypoint-detection
+tags:
+  - robomaster
+  - armor-plate
+  - webdataset
+configs:
+  - config_name: default
+    data_files:
+      - split: train
+        path: "data/*/train/*.tar"
+      - split: test
+        path: "data/*/test/*.tar"
+---
+
+# RoboMaster 装甲板数据集
+
+多支队伍共同维护的装甲板数据集。每块装甲板给出四个角点或检测框，以及颜色、大小和贴纸图案，有哪项给哪项。
+
+## 1. 文件
+
+```
+data/<source>/<split>/<source>-<split>-00000.tar   图像和标签
+data/<source>/cameras.json                         相机内参（可选）
+sources.csv                                        来源登记
+stickers.json                                      贴纸图案登记
+tools/pack.py                                      检查标签并打包
+tools/export.py                                    导出为训练格式
+```
+
+- `<source>`：来源编号，小写字母、数字和下划线，如 `qdu_infantry_2026`。
+- `<split>`：`train` 或 `test`。同一段视频或同一个采集序列只放在一个 split 中。
+- tar 分片每个 0.5–2 GB，内部成对存放 `<key>.jpg` 和 `<key>.json`（WebDataset 格式）。
+
+## 2. 标签
+
+每张图一个 JSON：
+
+```json
+{
+  "image": {"width": 1440, "height": 1080, "source": "qdu_infantry_2026", "sequence": "match03", "camera": "cam0"},
+  "objects": [
+    {
+      "corners": [[612.3, 401.8], [610.9, 452.6], [741.2, 455.0], [742.8, 404.1]],
+      "color": "blue",
+      "size": "small",
+      "sticker": "3"
+    }
+  ]
+}
+```
+
+`corners` 和 `bbox` 至少有一个，其余字段有就填，没有就省略。缺失的字段在训练时只是该项不计损失，不影响其他字段。
+
+| 字段 | 取值 |
+|---|---|
+| `corners` | 四个角点的像素坐标，顺序见第 3 节 |
+| `bbox` | `[x, y, w, h]`，只有框没有角点时填 |
+| `color` | `blue`、`red`、`gray`（灭灯）、`purple` |
+| `size` | `small`、`large` |
+| `sticker` | 贴纸图案：`sentry`、`1`–`5`、`outpost`、`base` |
+| `visibility` | 每个角点 0 不可见、1 被遮挡但可推断、2 可见；省略为全部可见 |
+| `flags` | `truncated`、`occluded`、`motion_blur`、`overexposed`、`unlit` |
+| `corner_def` | `sjtu4`（上交格式，默认）或 `unspecified`（不确定） |
+| `label_type` | `human` 人工标注、`human_checked` 模型标注后人工检查、`model` 模型标注 |
+| `role` | `positive`（默认）、`ignore`（不确定，训练时不计损失）、`negative`（确认不是装甲板） |
+| `image.sequence` | 视频或采集序列编号 |
+| `image.camera` | 对应 `cameras.json` 中的相机 |
+
+没有装甲板的图也可以上传，`objects` 留空，作为负样本。
+
+`sticker` 记录贴纸上印的图案，不记录是哪台机器人。新赛季出现新图案时在 `stickers.json` 末尾追加一行。`stickers.json` 同时给出各图案对应的官方机器人 ID（《RMU 2026 通信协议》，红方 1–5、哨兵 7、基地 10、前哨站 11，蓝方加 100），只作对照。
+
+## 3. 角点
+
+角点采用上交 LabelRoboMaster 的定义，顺序为 LT, LB, RB, RT：
+
+- 正对贴纸、图案正立时，左手边的灯条为左灯条。LT、LB 是左灯条的上端、下端，RB、RT 是右灯条的下端、上端。
+- 上下左右按装甲板本身判定，不按图像坐标排序；装甲板倾斜很大时也一样。
+- 在图像中四点依次为逆时针。顺序反了（或是镜像）的标注在导出时会被当作无效。
+- 被图像边缘截断的角点，按装甲板形状推出图外的位置，`visibility` 记 0。
+
+## 4. 相机内参
+
+有标定的来源在 `data/<source>/cameras.json` 中给出内参，可用于 PnP 测距评测：
+
+```json
+{"cam0": {"width": 1440, "height": 1080, "fx": 1800.0, "fy": 1800.0, "cx": 720.0, "cy": 540.0, "dist": [0, 0, 0, 0, 0]}}
+```
+
+`dist` 为 OpenCV 畸变系数 `[k1, k2, p1, p2, k3]`。内参对应图像的实际分辨率，缩放、裁剪、binning 后要相应换算。
+
+## 5. 导出
+
+```bash
+python tools/export.py <armor/data> <输出目录>                    # YOLO pose
+python tools/export.py <armor/data> <输出目录> --format coco      # COCO 关键点
+python tools/export.py <armor/data> <输出目录> --format sjtu      # 上交 txt
+```
+
+- `--classes`：`sjtu`（默认，与上交 36 类编号一致）、`color`（只分红蓝）、`plate`（单类）。
+- `--order tongji`：关键点按 TL, TR, BR, BL 输出。
+- `ignore` 区域和无法归类的装甲板：YOLO pose 和上交 txt 中涂灰，COCO 中写成 `iscrowd: 1`；`negative` 作为背景。
+- 训练时不要开水平翻转，翻转后数字是镜像的。
+
+依赖 numpy 和 Pillow。
+
+## 6. 贡献
+
+1. 只上传自己队拍摄、自己标注的数据；转载需写明出处并确认原授权允许再分发。
+2. 把 `<key>.jpg` 和 `<key>.json` 放在同一个文件夹，用 `tools/pack.py` 检查并打包（有任何一条标签不合格都不会写出），再在 `sources.csv` 中登记一行：
+
+   ```bash
+   python tools/pack.py <文件夹> <仓库根目录> --source qdu_damo --split train
+   ```
+
+
+   | 列 | 内容 |
+   |---|---|
+   | `source` | 来源编号 |
+   | `team` | 队伍 |
+   | `year` | 采集年份 |
+   | `camera` | 相机、分辨率、帧率 |
+   | `scene` | 场地或赛事 |
+   | `images`、`objects` | 图像数、装甲板数 |
+   | `label_tool` | 标注工具 |
+   | `license` | 授权，如 `CC-BY-4.0` |
+   | `origin` | 自采，或原始链接 |
+
+3. 有 write 权限的维护者直接上传，其他人发 Pull Request。
+4. 每次合并新来源后打版本标签（`v1`、`v2` …），训练时固定版本：
+
+   ```python
+   from datasets import load_dataset
+   ds = load_dataset("rmcv/armor", revision="v1", split="train", streaming=True)
+   ```
+
+## 7. 授权
+
+数据按来源分别授权，以 `sources.csv` 为准；工具和文档采用 MIT，见 `LICENSE.md`。

data/qdu_damo/cameras.json

@@ -0,0 +1,8 @@
+{
+  "cs016_8mm": {
+    "width": 1440, "height": 1080,
+    "fx": 2328.6857198980888, "fy": 2328.6701077899961,
+    "cx": 733.35646250924742, "cy": 540.61872869227727,
+    "dist": [-0.091821039187099038, 0.46399073468302049, 0.0026098786426372819, 0.0009819586010405485, -0.47512788503104569]
+  }
+}

data/qdu_damo/train/qdu_damo-train-00000.tar

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e70083ac857c77dcc41b417836acdc34d8c45e417d8f580000fbb150891ee7bb
+size 215244800

data/qdu_gimbal_0507/cameras.json

@@ -0,0 +1,8 @@
+{
+  "cs016_8mm_2x2": {
+    "width": 720, "height": 540,
+    "fx": 1164.3428599490444, "fy": 1164.3350538949981,
+    "cx": 366.67823125462371, "cy": 270.30936434613864,
+    "dist": [-0.091821039187099038, 0.46399073468302049, 0.0026098786426372819, 0.0009819586010405485, -0.47512788503104569]
+  }
+}

data/qdu_gimbal_0507/train/qdu_gimbal_0507-train-00000.tar

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:adeab0cf28812efd59ae9273a87570ee5651f4d48367e18b3b35cabfbdff40ba
+size 144240640

data/qdu_gimbal_0509/cameras.json

@@ -0,0 +1,8 @@
+{
+  "cs016_8mm_2x2": {
+    "width": 720, "height": 540,
+    "fx": 1164.3428599490444, "fy": 1164.3350538949981,
+    "cx": 366.67823125462371, "cy": 270.30936434613864,
+    "dist": [-0.091821039187099038, 0.46399073468302049, 0.0026098786426372819, 0.0009819586010405485, -0.47512788503104569]
+  }
+}

data/qdu_gimbal_0509/train/qdu_gimbal_0509-train-00000.tar

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:369a20dac37bc3fcce0514a332bf77b43c5816b0daf67e46e6fc4edfc699e1cc
+size 260864000

sources.csv

@@ -1 +1,4 @@
 source,team,year,camera,scene,images,objects,label_tool,license,origin
+qdu_damo,青岛大学,2026,"海康 MV-CS016 + 8 mm, 1440x1080, 100 fps",实验室,404,539,模型自动标注,CC-BY-4.0,自采
+qdu_gimbal_0507,青岛大学,2026,"海康 MV-CS016 + 8 mm, 720x540 (2x2), 100 fps, 每 20 帧取 1 帧",实验室,1434,2580,模型自动标注,CC-BY-4.0,自采
+qdu_gimbal_0509,青岛大学,2026,"海康 MV-CS016 + 8 mm, 720x540 (2x2), 约 20 fps",实验室,1650,4998,模型自动标注,CC-BY-4.0,自采

tools/export.py

@@ -147,16 +147,16 @@ def coco_ann(ann_id, img_id, cls, obj, order, w, h, ref_ids):
         pts, vis, (x0, y0, x1, y1) = keypoints(obj, order, w, h)
         kps = [v for (x, y), s in zip(pts, vis) for v in (round(float(x), 2), round(float(y), 2), int(s))]
         nk = int((vis > 0).sum())
-    attrs = {k: obj[k] for k in ATTR_KEYS if k in obj}
+    fields = {k: obj[k] for k in ATTR_KEYS if k in obj}
     side = {"red": 0, "blue": 100}.get(obj.get("color"))
     if side is not None and obj.get("sticker") in ref_ids:
-        attrs["ref_id"] = ref_ids[obj["sticker"]] + side
+        fields["ref_id"] = ref_ids[obj["sticker"]] + side
     bw, bh = float(x1 - x0), float(y1 - y0)
     return {
         "id": ann_id, "image_id": img_id, "category_id": 1 if cls is None else cls + 1,
         "iscrowd": int(cls is None), "num_keypoints": nk, "keypoints": kps,
         "bbox": [round(float(x0), 2), round(float(y0), 2), round(bw, 2), round(bh, 2)],
-        "area": round(bw * bh, 2), "attributes": attrs,
+        "area": round(bw * bh, 2), "attributes": fields,
     }
 
 

tools/pack.py

@@ -0,0 +1,122 @@
+"""Check rmcv/armor labels and pack <key>.jpg + <key>.json pairs into WebDataset tar shards.
+
+Usage:
+    python pack.py <input_dir> <dataset_root> --source <source> --split train|test [--shard-mb 1024]
+
+Writes <dataset_root>/data/<source>/<split>/<source>-<split>-00000.tar ... and prints a
+summary. Every label is checked first; nothing is written if any label fails.
+
+Requires Pillow.
+"""
+
+import argparse
+import io
+import json
+import re
+import sys
+import tarfile
+from pathlib import Path
+
+from PIL import Image
+
+ENUMS = {
+    "color": {"blue", "red", "gray", "purple"},
+    "size": {"small", "large"},
+    "corner_def": {"sjtu4", "unspecified"},
+    "label_type": {"human", "human_checked", "model"},
+    "role": {"positive", "ignore", "negative"},
+}
+FLAGS = {"truncated", "occluded", "motion_blur", "overexposed", "unlit"}
+STICKERS = Path(__file__).resolve().parent.parent / "stickers.json"
+
+
+def check(label, jpg, stickers):
+    """Return a list of problems for one image."""
+    errors = []
+    image = label.get("image", {})
+    try:
+        w, h = Image.open(io.BytesIO(jpg)).size
+    except Exception as e:  # unreadable image
+        return [f"image: {e}"]
+    if (image.get("width"), image.get("height")) != (w, h):
+        errors.append(f"image size {image.get('width')}x{image.get('height')} != jpg {w}x{h}")
+    for i, obj in enumerate(label.get("objects", [])):
+        where = f"objects[{i}]"
+        if "corners" not in obj and "bbox" not in obj:
+            errors.append(f"{where}: needs corners or bbox")
+        if "corners" in obj:
+            q = obj["corners"]
+            if len(q) != 4 or any(len(p) != 2 for p in q):
+                errors.append(f"{where}: corners must be 4 [x, y] points")
+            else:
+                area = sum(q[k][0] * q[(k + 1) % 4][1] - q[k][1] * q[(k + 1) % 4][0] for k in range(4))
+                if area >= 0:
+                    errors.append(f"{where}: corners not LT, LB, RB, RT counter-clockwise")
+        if "bbox" in obj and (len(obj["bbox"]) != 4 or obj["bbox"][2] <= 0 or obj["bbox"][3] <= 0):
+            errors.append(f"{where}: bbox must be [x, y, w, h] with w, h > 0")
+        for key, allowed in ENUMS.items():
+            if key in obj and obj[key] not in allowed:
+                errors.append(f"{where}: {key}={obj[key]!r}")
+        if "sticker" in obj and obj["sticker"] not in stickers:
+            errors.append(f"{where}: sticker={obj['sticker']!r} not in stickers.json")
+        if "visibility" in obj and (len(obj["visibility"]) != 4 or set(obj["visibility"]) - {0, 1, 2}):
+            errors.append(f"{where}: visibility must be 4 values of 0/1/2")
+        if set(obj.get("flags", [])) - FLAGS:
+            errors.append(f"{where}: unknown flags {sorted(set(obj['flags']) - FLAGS)}")
+    return errors
+
+
+def main():
+    ap = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter)
+    ap.add_argument("input_dir")
+    ap.add_argument("dataset_root")
+    ap.add_argument("--source", required=True)
+    ap.add_argument("--split", required=True, choices=["train", "test"])
+    ap.add_argument("--shard-mb", type=int, default=1024)
+    args = ap.parse_args()
+
+    if not re.fullmatch(r"[a-z0-9_]+", args.source):
+        sys.exit("source must use lowercase letters, digits and underscores")
+    stickers = {s["id"] for s in json.loads(STICKERS.read_text("utf-8"))["stickers"]}
+
+    pairs, problems = [], []
+    for json_path in sorted(Path(args.input_dir).rglob("*.json")):
+        jpg_path = json_path.with_suffix(".jpg")
+        if not jpg_path.exists():
+            continue
+        label = json.loads(json_path.read_text("utf-8"))
+        label.setdefault("image", {})["source"] = args.source
+        jpg = jpg_path.read_bytes()
+        problems += [f"{json_path.name}: {e}" for e in check(label, jpg, stickers)]
+        pairs.append((json_path.stem, jpg, label))
+    if problems:
+        print("\n".join(problems[:50]))
+        sys.exit(f"{len(problems)} problems, nothing written")
+    if not pairs:
+        sys.exit("no <key>.jpg + <key>.json pairs found")
+
+    out_dir = Path(args.dataset_root) / "data" / args.source / args.split
+    out_dir.mkdir(parents=True, exist_ok=True)
+    limit = args.shard_mb * 1024 * 1024
+    shard, size, tar, counts = 0, 0, None, {"images": 0, "objects": 0, "shards": 0}
+    for key, jpg, label in pairs:
+        data = json.dumps(label, ensure_ascii=False).encode("utf-8")
+        if tar is None or size + len(jpg) + len(data) > limit:
+            if tar:
+                tar.close()
+            tar = tarfile.open(out_dir / f"{args.source}-{args.split}-{shard:05d}.tar", "w")
+            shard, size = shard + 1, 0
+            counts["shards"] += 1
+        for ext, payload in (("jpg", jpg), ("json", data)):
+            info = tarfile.TarInfo(f"{key}.{ext}")
+            info.size = len(payload)
+            tar.addfile(info, io.BytesIO(payload))
+        size += len(jpg) + len(data) + 2048
+        counts["images"] += 1
+        counts["objects"] += len(label.get("objects", []))
+    tar.close()
+    print(json.dumps({"out": str(out_dir), **counts}))
+
+
+if __name__ == "__main__":
+    main()