BillLin66's picture
Add files using upload-large-folder tool
f4fe7bc verified
|
Raw History Blame Contribute Delete
9.18 kB
# ASE 导出
## 目录
```text
ASE_exported/
├── README.md
├── data/
│ ├── index.json
│ ├── original/<split>/<scene>/
│ │ ├── ase_scene_language.txt
│ │ └── object_instances_to_classes.json
│ └── atek/cubercnn/train/<scene>/annotations.tar.gz
├── kits/
│ ├── download_ase.py
│ ├── convert_ase.py
│ ├── unify_ase.py
│ └── verify_ase.py
├── ase.jsonl
├── source_inventory.json
├── json_room.json
└── multiroom/
├── json_multi_merged.json
└── json_multi_split.json
```
`data/` 仅保留已选源标注,不含视频、RGB 或完整远端分片。上游缺失的语言或类别文件不会补造。`index.json` 是转换所需的源文件定位与选择索引;`annotations.tar.gz` 存放选中的原始 GT 成员。
上图为本地及解压后的目录。Hugging Face 交付将 `data/original/` 原样打包为 `data/original.tar.gz`,避免其 train 下 100,000 个场景目录超过 Hub 每层 10,000 条目的限制。下载后在 `ASE_exported/` 内执行 `tar -xzf data/original.tar.gz -C data` 即恢复上述路径,随后脚本与 `index.json` 无需修改;其余文件保持原目录结构。
`ase.jsonl` 与 `multiroom/json_multi_merged.json` 分别以 JSONL、JSON 数组保存 8,373 个完整场景;`json_room.json` 包含全部 16,375 个逐房间场景;`json_multi_split.json` 仅包含多房间场景拆出的 12,936 个房间。完整场景共含 396,948 条已归房家具,保留其中 331 个空房间。`source_inventory.json` 是这 8,373 个场景的源信息与未归房实例配套清单。
`kits/` 保留下载、转换、汇总和验收脚本。本地 `.git/`、`.gitignore` 可保留,上传 Hugging Face 时排除。
## 上游源数据
源数据为 Meta 的 Aria Synthetic Environments。原始 ZIP 提供场景语言和实例类别;ATEK 的 `cubercnn/train` 标注提供实例框、位姿和相机下的 GT 记录。两者通过原始场景号、实例 ID 对应。
下载入口来自官方 [EFM3D 数据说明](https://github.com/facebookresearch/efm3d/blob/61d30ed4eca836ab0d5e63df18bb4b915050fa89/data/README.md)及 [ATEK 仓库](https://github.com/facebookresearch/atek/tree/aae40aa7d5b9573b5b81460467d7377c519127fb),对应清单为 `aria_synthetic_environments_dataset_download_urls.json`、`AriaSyntheticEnvironment_ATEK_download_urls.json`。具体本地选择以 `data/index.json` 为准。
原始索引覆盖 101,000 个场景,但所用 ATEK 清单只覆盖 9,966 个 train 场景。导出还要求能够形成房间记录,且至少一个房间有已归入家具,因此当前交付为 8,373 个 train 场景,不代表原数据集全量。`source_subset` 始终取原始 ZIP 的划分,不改写为模型任务划分。
## schema 字段表
字段以[转换脚本](kits/convert_ase.py)和[汇总脚本](kits/unify_ase.py)为准。长度为米,面积为平方米。原坐标 Z-up、场景全局原点,源未声明手性;家具位置为源 OBB 中心,尺寸为局部 XYZ 全尺寸,旋转满足 `R = Rz · Ry · Rx`,单位为度。
### 场景字段
| 字段 | 类型 | 来源与取值 |
|---|---|---|
| `scene_id` | string | 完整场景为 `ase_<split>_<源场景号补足7位>`;逐房间视图改为对应 `room_id`。 |
| `sample_id` | string | 与所在视图的 `scene_id` 相同。 |
| `dataset` | string | `ASE`。 |
| `source_dataset` | string | `aria_synthetic_environments`。 |
| `source_subset` | string | 原始 ZIP 划分 `train` 或 `test`;当前交付只有 `train`。 |
| `room_count` | integer | `len(rooms)`,逐房间视图为 1。 |
| `total_area` | number / null | 完整场景累加已知房间面积,全部缺失则 `null`;逐房间视图取该房间面积。部分缺失时只是已知部分之和。 |
| `building_style` | null | 无源风格标注。 |
| `description` | null | 不从场景命令生成描述。 |
| `description_source` | null | 无描述来源。 |
| `provenance` | object | `source_file` 为原始 ZIP 文件名,`source_scene_index` 为原始场景号整数,`split` 为原始划分。 |
| `rooms` | array<object> | 按墙端点连通组建立房间,按组内最小 wall ID 排序;保留场景中的空房间。 |
### 房间字段
| 字段 | 类型 | 来源与取值 |
|---|---|---|
| `room_id` | string | `<完整scene_id>::room_<room_index>`。 |
| `room_index` | integer | 墙组排序后的连续索引,从 0 开始。 |
| `room_type` | string / null | 项目决定:按已归房家具的 ATEK `category_ids` 与边界顶点数推断,规则见下文。 |
| `room_type_source` | string | 有推断为 `inferred_from_furniture`,否则 `unavailable`。 |
| `room_boundary` | array<[number, number]> / null | 沿源墙端点邻接关系遍历链或环所得 XY 顶点,不重复起点;开放链以首尾连线闭合,不能完整表达则 `null`。 |
| `room_boundary_type` | string / null | 有边界为 `wall_polygon`,否则 `null`。 |
| `room_area_m2` | number / null | 上述轮廓的鞋带面积;无边界则 `null`。 |
| `room_height` | number / null | 本组源墙 `height` 全部一致时取该值,缺失或不一致则 `null`,不平均。 |
| `coordinate_system` | string | 固定说明米制、源手性未声明、Z-up、场景全局原点、OBB 中心与局部尺寸、ZYX 欧拉角。 |
| `doors` | array<object> | 源 `make_door` 通过 wall ID 关联本组,每项为 `{position:{x,y,z}, width, height}`;无记录为 `[]`。 |
| `windows` | array<object> | 同 `doors`,来源为 `make_window`。同一开口关联两房间时分别保留。 |
| `furniture_quantity` | integer | `len(furniture)`,不是源类别表总数。 |
| `furniture` | array<object> | 非结构实例按源 OBB 中心 XY 唯一归房,按实例 ID 排序;无法唯一归房的进入配套清单。 |
| `source_fields` | object | `make_wall`、`make_door`、`make_window` 数组,保留本组墙和关联开口的完整原参数。 |
房型使用 ATEK 类别 ID 6 作为睡眠信号、ID 4 作为沙发信号。边界顶点多于 4 时,有睡眠信号为 `apartment`,否则有沙发为 `living room`;其他情况下,两种信号均有为 `studio`,只有睡眠为 `bedroom`,只有沙发为 `living room`。无信号为 `null`。这些是项目推断,不是上游房型标签。
### 家具字段
| 字段 | 类型 | 来源与取值 |
|---|---|---|
| `furniture_category` | string / null | 仅取 `object_instances_to_classes.json[str(instance_id)]` 原字符串;缺失则 `null`,不用 ATEK 合并类别补值。 |
| `furniture_instance_id` | string | `<完整scene_id>::inst_<源instance_id>`。 |
| `furniture_position` | object / null | ATEK `ts_world_object` 平移列对应的 `{x,y,z}`;无 GT 则 `null`。 |
| `furniture_rotation` | object | ATEK 旋转矩阵分解出的 `{x:roll,y:pitch,z:yaw}`,角度归一到 `[-180,180)`,保留 8 位小数;无 GT 则三个分量均为 `null`。 |
| `furniture_size` | object / null | 源 `object_dimensions` 的 X/Y/Z 对应 `{width,length,height}`;不乘 2、不按长短边重排,无 GT 则 `null`。 |
| `source_fields` | object | 有 GT 时保留 `source_file`、`obb3_gt`、`obb2_gt`;无 GT 为 `{}`。源路径相对导出根目录,归档成员以 `::` 定位。 |
`obb3_gt` 按源 camera 保存单实例切片,保留 `instance_ids`、`category_names`、`category_ids`、`object_dimensions`、`ts_world_object` 的原键与批维。`obb2_gt` 同样保留 `instance_ids`、`category_names`、`category_ids`、`box_ranges`、`visibility_ratios`;缺失 2D 记录为 `{}`。
### 配套清单字段
| 字段 | 类型 | 来源与取值 |
|---|---|---|
| `scene_id` | string | 对应完整场景 ID。 |
| `unassigned_objects` | array<object> | 家具 schema 的实例记录:无位置、未落入任何房间或落入多个房间。 |
| `structural_instances` | array<object> | 被识别为 `wall`、`floor`、`ceiling`、`door`、`window` 的实例记录,不计入房间家具。 |
| `source_fields` | object | `object_instances_to_classes` 原类别表,以及场景语言的全部命令及参数。 |
## 已知缺陷
- 所选 GT 只覆盖原数据集的一部分场景和实例;有类别表不代表有几何。全部房间为空或没有房间的场景不进入交付,其配套清单也不输出,需回查源数据。
- 墙端点连通组不等于建筑学房间,可能包含整个住宅。开放墙链的首尾连线没有缺口距离限制;分叉或无法遍历的组边界为空,影响面积和家具归属。
- 家具按中心点唯一归房,不按物体实际占地切分;边界附近、跨房间或几何缺失的对象可能进入未归房清单。
- 房型仅有 `apartment`、`studio`、`bedroom`、`living room` 四类及 `null`,无法表达厨房等类型;源家具类别与 ATEK 推断类别采用不同词表。
- 同一实例有多条 GT 时采用所选记录中的第一条;所留片段不能保证覆盖完整序列中的所有冲突或可见实例。门窗是墙引用的开口,不能视为与实例清单一一对应。