Hand-Datasets-Raw / EgoHOS /shared-v1.1 /script /EgoHOS_DATA_MAPPING.md
orz2333's picture yhl826459's picture
EgoHOS: rename shared-v1.0 to shared-v1.1 and replace doc/CONTRACT.md (candidate PR) (#7)
6a4018d
|
Raw History Blame Contribute Delete
3.61 kB
# EgoHOS raw → shared-v1.1
范围:RGB、官方九类语义分割。数据不是已验证连续视频;按独立图片打包,不推断跟踪、时间、相机标定、实例身份或接触延续。
## 来源与实际输入
- 仓库:<https://huggingface.co/datasets/ParityLab/Hand-Datasets-Raw/tree/main/EgoHOS/raw>
- 固定 HF revision:`8818d04d6cbdc0bf32b6ef949257b82310f16798`。
- 官方语义:<https://github.com/owenzlz/EgoHOS/blob/cd9bdf427ef1d94582334ebba4188d5aa18433e7/README.md>。
- 外层 `egohos_dataset.zip` 同时包含内层 ZIP 与解压副本;转换只取外层的 image/label,避免重复收录。
- 四组原始图片数:train 8993、val 1124、test_indomain 1126、test_outdomain 500。来源是仓库 raw/doc/SOURCES.md;全量脚本另做实际计数校验。
- 试点 HTTP Range 只取中央目录及选中成员,逐成员 CRC、SHA256 校验。没有下载全包时,不声称验证了整个 ZIP 的 SHA256。
## 字段映射
| raw | shared | 规则 |
|---|---|---|
| `<split>/image/<name>` | `observation/rgb.mkv` | JPEG 优先原码流 remux,所有包 SHA256 和全部解码 RGB 核对;不适用时同时验证 FFV1 / libx264rgb CRF=0,取完整视图文件较小者 |
| RGB 文件可正常解码 | `rgb_valid.pt [T] bool` | 全部 true;坏文件立即失败,不跳过、不补邻帧 |
| `<split>/label/<stem>.png` | `annotation/segment/mask.mkv` | 保留索引值,不将调色板 RGB 当标签;FFV1 gray16le,全帧逐整数核对 |
| 类别 0 background | shared mask 9 | shared 0 保留给 unassigned,显式背景不能继续占用 0 |
| 类别 1、2 | shared mask 1、2 | 解剖学 left/right,entity_id=hand_left/hand_right |
| 类别 3、4、5 | shared mask 3、4、5 | 左/右/双手一级交互物体类别;entity_id=null |
| 类别 6、7、8 | shared mask 6、7、8 | 左/右/双手二级交互物体类别;entity_id=null |
| 以上类别表 | `instances.jsonl` | 每帧一行,semantic 类型;无实例/部件 ID,不捏造实例跟踪 |
| 源 label 存在且类别/尺寸合法 | `mask_valid.pt [T] bool` | 无额外官方 QA 输入;不能用 mask valid 推断手可见性 |
| 目录 split | metainfo + frames.split | 两个 test 目录均为 test,source_split 完整区分 indomain/outdomain |
| 原文件名、归档路径 | `camera/frames.jsonl` | 稳定 sample_id、源 member、源 SHA256、revision、逐帧原定位 |
| 真实时间/标定缺失 | null / component unavailable | camera model=unknown;不伪造 K、单位外参、FPS |
按 split 和分辨率分组,每片最多 `--chunk` 张。T=1 为 image/single,T>1 为 image/independent;所有 timestamp_ns/clock_domain/source_fps 为 null。MKV 1 FPS 仅作索引,不是采集帧率。view_type=ego。
## 未纳入内容及原因
- contact:官方 README 描述 contact/,但 ParityLab 原始包实际上没有此目录;标注为缺失,不能把交互物体类别推断成逐实体 positive/negative 接触。
- 几何、MANO、深度、内外参、visibility:该输入无对应监督,缺省,不生成空几何或虚构单位阵。
- 模型训练源码、权重、演示 GIF:不是观测或标注;原始包和源码仍在 raw。
- semantic 的 task background 不是所有物体的完备负样本,coverage=partial。
## 验收
`encoding_validation.json` 是每视图逐帧字节验收证明;`doc/validation/report.json` 记录自动检查范围、HTML 样本和全发布文件 SHA256。HTML 展示所有已提供模态及缺失原因。只有人工查看 HTML 后才运行 approve;自动测试不替代人工审核。