Datasets:

jini-yang
/

molmospace_pseudo

	SE(3) 출처	프레임0 3D
object	GT 점 100개로 프레임0→t 풀이 (잔차 0.0000cm)	GT 점 깊이를 이미지 평면에서 보간
gripper	`tcp_pose` (시뮬레이터 상태)	Franka Hand 메시를 렌더한 z-buffer

오차가 프레임이 지나도 누적되지 않는다. 회전이 노름을 보존하므로 프레임 0 의 오차가 그대로 유지된다. 매 프레임을 프레임 0 에서 직접 계산하지, 이전 프레임에서 이어받지 않는다.

정확도 (홀드아웃 실측)

GT 점 절반으로만 SE(3) 와 깊이를 만들고, 파이프라인이 본 적 없는 나머지 절반에서 채점했다 (200클립 표본).

앵커로부터	0	1–30	31–60	61–90	91–120	121–200	201–999
SE(3) 만	0.00cm	0.00	0.00	0.00	0.00	0.00	0.00
전체 (SE3+깊이)	0.89cm	0.89	0.89	0.89	0.89	0.89	0.89

앵커에서 999프레임 떨어져도 같다 — 오차 비누적의 직접 증거다. p90 은 2.05cm.

그리퍼 SE(3) 는 잡고 있는 물체를 자로 써서 3D 로 검증했다 (파지 중 물체는 그리퍼에 강체로 붙어 있고 그 물체엔 GT 3D 가 있다): 중앙 0.80cm, p90 4.38cm.

visibility

3D 자체에는 occlusion 이 없다 — 강체변환으로 정해지는 위치는 보이든 안 보이든 존재한다. 그래서 vis 는 라벨의 정확도가 아니라 학습 시 마스크/가중치로 쓸 값이다. GT 3D 는 100% 유효한 반면 가시성은 68% 라, 가시 프레임만 쓰면 라벨의 32% 를 버리게 된다.

대상	방법	균형정확도
object	molmospaces GT 가시성을 dense 픽셀로 전파	98%
gripper	기하 (자기 가림 + 물체 가림 + 팔 링크 가림)	80%

물체에는 팔 가림을 일부러 넣지 않았다. GT 가 시뮬레이터 가시성이라 팔 가림이 이미 들어 있어서, FK 렌더로 또 가리면 이중 계산이 되어 98% → 95% 로 나빠진다.

구성

data/object-0000.tar ... object-0095.tar    # 클립 1000개씩
data/gripper-0000.tar ... gripper-0016.tar
data/object_index.json, gripper_index.json  # 클립키 -> 샤드
meta/object_keys.txt      95,404   물체 라벨이 있는 클립
meta/gripper_keys.txt     15,195   그리퍼 게이트를 통과한 클립
meta/qc_all.json          클립별 진단값 (아래 참고)
load_labels.py            읽는 예시

tar 안의 멤버는 cNNNNN.npz 그대로다. 풀어도 되고 webdataset 으로 스트리밍해도 된다.

읽기

import numpy as np, tarfile, io

with tarfile.open('data/object-0000.tar') as t:
    d = np.load(io.BytesIO(t.extractfile('c00000.npz').read()))

# delta8 코덱: 프레임0 은 그대로, 이후는 프레임간 차분의 누적합
m  = np.unpackbits(d['obj_mask'])[:480*832].reshape(480, 832).astype(bool)
ys, xs = np.where(m)
f0 = d['td_first'][ys, xs].astype(np.float32)
dq = d['td_dq'][:, ys, xs].astype(np.float32) * d['td_ds'][:, None, None]
P  = np.concatenate([f0[None], f0[None] + np.cumsum(dq, 0)], 0)   # (T, N, 3) 미터
V  = d['vis'][:, ys, xs] > 0                                      # (T, N) 보임 여부

load_labels.py 에 재투영까지 포함한 함수가 있다.

npz 필드

필드	모양	뜻
`td_first`	(480, 832, 3) fp16	프레임0 의 3D (미터)
`td_dq`	(T-1, 480, 832, 3) int8	프레임간 차분 (양자화)
`td_ds`	(T-1,) fp32	프레임별 스케일
`obj_mask` / `grip_mask`	packbits	어느 픽셀이 라벨 대상인지
`vis`	(T, 480, 832) uint8	255 = 그 프레임에서 보임
`offsets`	(T,) int64	원본 영상의 프레임 번호
`intrinsics_4vec`	(4,)	원본 해상도 기준 fx, fy, cx, cy

좌표계는 영상 프레임 0 의 카메라 좌표(미터) 다. 카메라가 정적이라 프레임 t 의 이미지에 그대로 재투영된다. 480×832 로 쓰려면 intrinsics 를 원본 해상도 대비 sx = 832/native_w, sy = 480/native_h 로 스케일할 것.

T = 45 이고 offsets 가 에피소드 전체를 균등하게 덮는다 (offsets[0] = 0). 시간 해상도는 정확도와 무관하다 — 강체변환이라 프레임을 더 촘촘히 뽑아도 오차가 같다.

클립 선별

meta/qc_all.json 에 클립별 진단값이 있다. 더 엄하게 고르고 싶을 때 쓴다.

필드	뜻
`on_gripper`	그리퍼 트랙이 실제 그리퍼(검은 픽셀) 위에 머무는 비율. 이것만 하드 게이트 (≥0.5)
`grip3d_cm`	그리퍼 SE(3) 의 3D 오차. 기록만 함
`k_rot_dev`	tcp 와 '물체에서 유도한 포즈' 의 회전 불일치(도). 기록만 함

grip3d_cm 과 k_rot_dev 를 하드 게이트로 안 쓴 이유: 둘 다 잡은 물체를 기준으로 재는데, 파지 중 물체가 미끄러지면 그리퍼 포즈가 정확해도 값이 커진다. 그리퍼 오류와 물체 미끄러짐을 구분할 수 없다. tcp_pose 는 시뮬레이터 값이므로 이런 클립의 그리퍼 라벨 자체는 정확하다.

더 좁히고 싶다면: grip3d_cm ≤ 3cm → 10,039 · ≤ 2cm → 9,343 · ≤ 1cm → 7,036.

물체 라벨에는 게이트가 없다 (SE(3) 잔차 0). 마스크 오염만 생성 단계에서 걸렀다 (GT 점군에서 3cm 넘게 떨어진 픽셀 제거).

카메라

손목 카메라 2종(wrist_camera, wrist_camera_zed_mini)은 제외했다 — 카메라가 움직여서 "프레임0 카메라 좌표" 규약이 깨진다 (실측 최대 이동 17.9 / 18.3cm). 나머지 5종은 전부 정확히 0.000cm 로 정적이다. 고프로 계열도 포함했다: 이름과 달리 왜곡이 없고, GT 3D 를 핀홀로 투영했을 때 재투영 오차가 7개 카메라 전부 0.000px 다.

그리퍼 라벨은 robot_trajectories h5 가 있는 클립(=exo_camera_1, 28,009개)에서만 만들 수 있다.

한계

그리퍼 점별 깊이는 3D 로 직접 검증되지 않았다. 그리퍼 표면 GT 가 없어 실루엣 IoU, 측광 일관성, 접촉 검사(파지 순간 물체까지 최소거리 0.5cm)까지만 확인했다. 검증된 것은 그리퍼의 SE(3)(0.80cm) 다.
손가락 개폐는 강체가 아니라 이 방식으로 못 잡는다 (개폐 범위 ~8cm).
팔 링크 자체의 라벨은 없다. 같은 방식(관절값 + 링크 메시 FK)으로 확장 가능하다.

출처

원본: allenai/MolmoMotion-1M 의 molmospaces subset (Apache 2.0). 이 저장소는 그 위에서 계산한 파생 라벨이며 원본 영상·트랙·카메라를 포함하지 않는다. 원본 라이선스와 인용 요건을 함께 따를 것.

라벨 자체는 Apache 2.0 으로 배포한다.

Downloads last month: 11

Total file size:

30.1 GB