|
Download EgoHOS/shared-v1.0/script/README.md from ParityLab/Hand-Datasets-Raw: direct link, hf CLI and curl.
- Browser
- Download file 8.89 kB
-
https://huggingface.co/datasets/ParityLab/Hand-Datasets-Raw/resolve/refs%2Fpr%2F5/EgoHOS/shared-v1.0/script/README.md
- Command line
-
hf download hf://datasets/ParityLab/Hand-Datasets-Raw@refs/pr/5/EgoHOS/shared-v1.0/script/README.md
-
curl -L -o README.md https://huggingface.co/datasets/ParityLab/Hand-Datasets-Raw/resolve/refs%2Fpr%2F5/EgoHOS/shared-v1.0/script/README.md
8.89 kB
| # EgoHOS / OakInk-v1 预处理脚本 | |
| 以随包 CONTRACT.md 与 schema.json 为规范,输出 `<数据集>/shared-v1.0/{doc,script,data}`。默认只跑试点。**人工查看试点 HTML 后才能全量;全量结束后再次抽样人工确认才能上传。** 本包不是全量处理结果。 | |
| ## 当前覆盖范围 | |
| | 数据集 | 可用路径 | 待补充 | | |
| |---|---|---| | |
| | EgoHOS | RGB + 9 类语义分割;四个官方 split;真实源样本可直接 Range 下载试点 | raw 包没有独立 contact 图,无标定/几何 | | |
| | OakInk-v1 / OakInk-Image | RGB-only 明确选项;可在服务器处理图像分卷 | 当前 HF raw 不含 anno_v2_1.zip;几何分支须补齐后真实试点 | | |
| | OakInk 几何可选分支 | K、外参、相机系右手 xyz/派生 uv、物体位姿、居中 OBJ 与依赖 | 无真实标注验收前,仅视为待验证适配器;MANO 未实现,不伪造参数 | | |
| OakInk-Shape/OakBase 不作为图像帧转换;具体排除原因见 DATA_MAPPING 文档。FreiHAND 参考链接本次匿名访问返回 401,未以未读内容作实现依据;目录和字段按用户提供的两个约定文件实现。 | |
| ## 环境 | |
| Python 3.10+、FFmpeg(须有 ffv1 与 libx264rgb)、OakInk 分卷解压需要 7z/7zz。CPU 即可。 | |
| ```bash | |
| python3 -m venv .venv | |
| . .venv/bin/activate | |
| python -m pip install -r requirements.txt | |
| python test_self.py | |
| ``` | |
| 如只用 CPU,可先按 PyTorch 官方 CPU 索引安装 torch 再安装 requirements,避免下载 CUDA 依赖。HF 下载/上传使用本机 `hf auth login` 或 HF_TOKEN;不要把 token 写入脚本或发布目录。 | |
| ## 1. EgoHOS 真实小试点(不下载 4.5 GB 全包) | |
| 以下命令在本脚本目录运行,所有输出路径可改到大容量磁盘。extracted 是工作区;不在 raw 内解压。 | |
| ```bash | |
| python acquire.py pilot-egohos --out /storage/work/egohos-pilot --per-split 4 | |
| python preprocess.py build --dataset EgoHOS \ | |
| --input /storage/work/egohos-pilot --out /storage/pilot/EgoHOS/shared-v1.0 | |
| ``` | |
| 浏览 `/storage/pilot/EgoHOS/shared-v1.0/doc/validation/index.html`(静态 HTML,可直接打开)。下拉框能逐帧查看全部试点样本、源 RGB、shared 解码 RGB、mask、叠加、valid、来源、元信息和缺失原因。请核对左右手、背景编码、细物体边界、四个 split。**只有人实际看过并接受后执行:** | |
| ```bash | |
| python preprocess.py approve --release /storage/pilot/EgoHOS/shared-v1.0 --reviewer '审核者姓名' | |
| ``` | |
| approve 是人工声明记录,不会自行判断人工是否看过。程序不会自动调用 approve。 | |
| ## 2. 原始包下载与工作区解压 | |
| ```bash | |
| python acquire.py download --dataset EgoHOS --raw /storage/EgoHOS/raw | |
| python acquire.py extract --dataset EgoHOS --raw /storage/EgoHOS/raw --out /storage/work/egohos-full | |
| python acquire.py download --dataset OakInk-v1 --raw /storage/OakInk-v1/raw | |
| python acquire.py extract --dataset OakInk-v1 --raw /storage/OakInk-v1/raw --out /storage/work/oakink-full | |
| ``` | |
| 固定 HF commit,并校验来源文档给出的每包大小/SHA256;原始包保持不变。OakInk `.z01`–`.z10` 与最终 `.zip` 是分卷 ZIP,由 7z 从最终 .zip 读取,不用 `cat` 伪拼接。下载约 124 GB,还需解压、编码候选与输出空间;预先准备数百 GB 空间,命令做磁盘预检但不保证压缩率估计准确。提取失败的目录不自动覆盖,诊断后选新目录重跑。 | |
| ## 3. OakInk 试点 | |
| 无需先下载全部 124 GB,也可做有限范围 RGB 小试点(只从首个分卷的前 128 个 PNG 条目中按相机抽样,不代表全数据集随机覆盖): | |
| ```bash | |
| python acquire.py pilot-oakink-rgb --out /storage/work/oakink-pilot --per-split 2 | |
| python acquire.py fetch-oakink-objects --out /storage/work/oakink-pilot | |
| python preprocess.py build --dataset OakInk-v1 --input /storage/work/oakink-pilot \ | |
| --out /storage/pilot/OakInk-v1/shared-v1.0 --allow-rgb-only | |
| ``` | |
| 完整工作区已解压时,当前 HF 没有 anno,若本次范围只接受现有 RGB: | |
| ```bash | |
| python preprocess.py build --dataset OakInk-v1 \ | |
| --input /storage/work/oakink-full --out /storage/pilot/OakInk-v1/shared-v1.0 \ | |
| --allow-rgb-only --per-stratum 4 | |
| ``` | |
| 按 camera×split 固定种子抽样,unknown split 明确保留,不随意划分训练集。该结果没有手关键点或手/物逐帧位姿;如果工作区已有 image/obj,会保留静态网格和规范坐标系预览,仍不能作为完整几何交付。 | |
| 若已获可信官方 `anno_v2_1.zip`,先用以下命令校验每成员 CRC、记录文件和原包 SHA256,再解压到同一工作区 `image/anno`: | |
| ```bash | |
| python acquire.py extract-annotations --archive /storage/OakInk-v1/raw/data/image/anno_v2_1.zip \ | |
| --out /storage/work/oakink-full | |
| ``` | |
| 该命令要求包内根目录为 anno/,发现不同布局会停止,避免猜错路径。然后运行: | |
| ```bash | |
| python preprocess.py build --dataset OakInk-v1 \ | |
| --input /storage/work/oakink-full --out /storage/pilot/OakInk-v1/shared-v1.0 \ | |
| --annotations /storage/work/oakink-full/image/anno --trust-pickle --split-scheme split0 | |
| ``` | |
| `--trust-pickle` 仅用于可信官方标注,因为 pickle 可执行代码。每条来源记录格式(路径相对 --input;SHA256 填真实结果): | |
| ```json | |
| {"path":"image/anno/seq_all.json","sha256":"实际文件SHA256","source_locator":{"file":"OakInk-v1/raw/data/image/anno_v2_1.zip","archive_sha256":"实际包SHA256","member":"anno/seq_all.json"}} | |
| ``` | |
| 几何路径不会强行把 sbj_flag 0/1 映射成左右手;两人的右手分别在 person0/person1 序列。检查 canonical 网格、相机系关键点/物体点云以及 2D 叠加。模型来源、量纲或关键点定义无法确认时不要 approve。MANO 需要另做模型配置与顶点重建对照,当前不导出。 | |
| ## 4. 试点批准后全量 | |
| ```bash | |
| python preprocess.py build --dataset EgoHOS --phase full \ | |
| --input /storage/work/egohos-full --out /storage/EgoHOS/shared-v1.0 \ | |
| --pilot /storage/pilot/EgoHOS/shared-v1.0 | |
| python preprocess.py approve --release /storage/pilot/OakInk-v1/shared-v1.0 --reviewer '审核者姓名' | |
| python preprocess.py build --dataset OakInk-v1 --phase full \ | |
| --input /storage/work/oakink-full --out /storage/OakInk-v1/shared-v1.0 \ | |
| --pilot /storage/pilot/OakInk-v1/shared-v1.0 --allow-rgb-only | |
| ``` | |
| OakInk 若试点启用标注,全量也用相同 --annotations、--trust-pickle、--split-scheme,去掉 --allow-rgb-only。chunk、seed、代码、模态范围须与试点一致;变更后须重做试点。输出目录必须不存在。EgoHOS full 强制核对四组完整数量,防止把试点数据当全量。 | |
| 所有视图均逐帧校验视频/数组;全量 HTML 按 split×camera 随机抽取视图并显示所选视图的每一帧,绝不将人工抽检称为全量人工审核。若要浏览所有帧的所有要素(会生成大量 PNG/HTML): | |
| ```bash | |
| python validate.py /storage/EgoHOS/shared-v1.0 --all --source-root /storage/work/egohos-full | |
| ``` | |
| 重新 validate 会使旧人工审核失效。输入、输出、每帧 provenance 与文件 SHA256 均可检查。自动检查只验证实现支持的字段,并不能自动证明数据集原生语义和真实几何正确。 | |
| ## 5. 最终抽检与上传 | |
| 打开全量结果的 doc/validation/index.html,再次人工抽检后: | |
| ```bash | |
| python preprocess.py approve --release /storage/EgoHOS/shared-v1.0 --reviewer '审核者姓名' | |
| python preprocess.py upload --release /storage/EgoHOS/shared-v1.0 | |
| python preprocess.py approve --release /storage/OakInk-v1/shared-v1.0 --reviewer '审核者姓名' | |
| python preprocess.py upload --release /storage/OakInk-v1/shared-v1.0 | |
| ``` | |
| 目标按用户要求固定为 **ParityLab/Hand-Datasets-Raw**,分别是 `EgoHOS/shared-v1.0` 和 **大小写准确的** `OakInk-v1/shared-v1.0`。需要写权限;任何 pilot 都禁止作为正式 shared-v1.0 上传。上传前验证文件哈希,按最多 128 个文件分批提交、文档最后上传;拒绝合并到已经存在的同版本目录,防止留下旧文件。中途失败会保留已提交批次,脚本不会自动覆盖/删除,须核验远端后恢复。未自动上传、未代替用户签署人工审核。 | |
| ## 输出文件 | |
| - `doc/DATA_MAPPING.md` 与兼容约定文件名 `doc/RAW_TO_SHARED.md`:raw 映射、未纳入内容和原因。 | |
| - `doc/validation/index.html`、预览 PNG、`report.json`:视觉与自动检查。 | |
| - `doc/build.json`:完整命令、源 inventory 摘要、选择策略、处理数。 | |
| - `script/`:本次处理脚本和全部必需支持文件;不包含 venv、token 或 MANO 权重。 | |
| - `data/<sequence>/<camera>/`:metainfo、frames、MKV、CPU tensor、已选物体资产。 | |
| 测试状态与真实试点范围见随包 `TEST_RESULTS.md`。没有真实标注包时,对几何分支的检查只能算合成端到端检查。 | |