{ "codebase_version": "v3.0", "fps": 15, "features": { "observation.images.left": { "dtype": "video", "shape": [ 600, 960, 3 ], "names": [ "height", "width", "channels" ], "info": { "video.height": 600, "video.width": 960, "video.codec": "av1", "video.pix_fmt": "yuv420p", "video.fps": 15, "video.channels": 3, "has_audio": false, "video.g": 2, "video.crf": 30, "video.preset": 12, "video.fast_decode": 0, "video.video_backend": "pyav", "video.extra_options": {}, "is_depth_map": false } }, "observation.images.right": { "dtype": "video", "shape": [ 600, 960, 3 ], "names": [ "height", "width", "channels" ], "info": { "video.height": 600, "video.width": 960, "video.codec": "av1", "video.pix_fmt": "yuv420p", "video.fps": 15, "video.channels": 3, "has_audio": false, "video.g": 2, "video.crf": 30, "video.preset": 12, "video.fast_decode": 0, "video.video_backend": "pyav", "video.extra_options": {}, "is_depth_map": false } }, "observation.intrinsics.left": { "dtype": "float32", "shape": [ 9 ], "names": [ "fx", "fy", "cx", "cy", "d0", "d1", "d2", "d3", "d4" ] }, "observation.intrinsics.right": { "dtype": "float32", "shape": [ 9 ], "names": [ "fx", "fy", "cx", "cy", "d0", "d1", "d2", "d3", "d4" ] }, "observation.extrinsics": { "dtype": "float32", "shape": [ 12 ], "names": [ "r00", "r01", "r02", "r10", "r11", "r12", "r20", "r21", "r22", "tx", "ty", "tz" ] }, "observation.hands.kp2d.left": { "dtype": "float32", "shape": [ 126 ], "names": [ "left_wrist_u", "left_wrist_v", "left_wrist_score", "left_thumb_cmc_u", "left_thumb_cmc_v", "left_thumb_cmc_score", "left_thumb_mcp_u", "left_thumb_mcp_v", "left_thumb_mcp_score", "left_thumb_ip_u", "left_thumb_ip_v", "left_thumb_ip_score", "left_thumb_tip_u", "left_thumb_tip_v", "left_thumb_tip_score", "left_index_mcp_u", "left_index_mcp_v", "left_index_mcp_score", "left_index_pip_u", "left_index_pip_v", "left_index_pip_score", "left_index_dip_u", "left_index_dip_v", "left_index_dip_score", "left_index_tip_u", "left_index_tip_v", "left_index_tip_score", "left_middle_mcp_u", "left_middle_mcp_v", "left_middle_mcp_score", "left_middle_pip_u", "left_middle_pip_v", "left_middle_pip_score", "left_middle_dip_u", "left_middle_dip_v", "left_middle_dip_score", "left_middle_tip_u", "left_middle_tip_v", "left_middle_tip_score", "left_ring_mcp_u", "left_ring_mcp_v", "left_ring_mcp_score", "left_ring_pip_u", "left_ring_pip_v", "left_ring_pip_score", "left_ring_dip_u", "left_ring_dip_v", "left_ring_dip_score", "left_ring_tip_u", "left_ring_tip_v", "left_ring_tip_score", "left_little_mcp_u", "left_little_mcp_v", "left_little_mcp_score", "left_little_pip_u", "left_little_pip_v", "left_little_pip_score", "left_little_dip_u", "left_little_dip_v", "left_little_dip_score", "left_little_tip_u", "left_little_tip_v", "left_little_tip_score", "right_wrist_u", "right_wrist_v", "right_wrist_score", "right_thumb_cmc_u", "right_thumb_cmc_v", "right_thumb_cmc_score", "right_thumb_mcp_u", "right_thumb_mcp_v", "right_thumb_mcp_score", "right_thumb_ip_u", "right_thumb_ip_v", "right_thumb_ip_score", "right_thumb_tip_u", "right_thumb_tip_v", "right_thumb_tip_score", "right_index_mcp_u", "right_index_mcp_v", "right_index_mcp_score", "right_index_pip_u", "right_index_pip_v", "right_index_pip_score", "right_index_dip_u", "right_index_dip_v", "right_index_dip_score", "right_index_tip_u", "right_index_tip_v", "right_index_tip_score", "right_middle_mcp_u", "right_middle_mcp_v", "right_middle_mcp_score", "right_middle_pip_u", "right_middle_pip_v", "right_middle_pip_score", "right_middle_dip_u", "right_middle_dip_v", "right_middle_dip_score", "right_middle_tip_u", "right_middle_tip_v", "right_middle_tip_score", "right_ring_mcp_u", "right_ring_mcp_v", "right_ring_mcp_score", "right_ring_pip_u", "right_ring_pip_v", "right_ring_pip_score", "right_ring_dip_u", "right_ring_dip_v", "right_ring_dip_score", "right_ring_tip_u", "right_ring_tip_v", "right_ring_tip_score", "right_little_mcp_u", "right_little_mcp_v", "right_little_mcp_score", "right_little_pip_u", "right_little_pip_v", "right_little_pip_score", "right_little_dip_u", "right_little_dip_v", "right_little_dip_score", "right_little_tip_u", "right_little_tip_v", "right_little_tip_score" ] }, "observation.hands.kp2d.right": { "dtype": "float32", "shape": [ 126 ], "names": [ "left_wrist_u", "left_wrist_v", "left_wrist_score", "left_thumb_cmc_u", "left_thumb_cmc_v", "left_thumb_cmc_score", "left_thumb_mcp_u", "left_thumb_mcp_v", "left_thumb_mcp_score", "left_thumb_ip_u", "left_thumb_ip_v", "left_thumb_ip_score", "left_thumb_tip_u", "left_thumb_tip_v", "left_thumb_tip_score", "left_index_mcp_u", "left_index_mcp_v", "left_index_mcp_score", "left_index_pip_u", "left_index_pip_v", "left_index_pip_score", "left_index_dip_u", "left_index_dip_v", "left_index_dip_score", "left_index_tip_u", "left_index_tip_v", "left_index_tip_score", "left_middle_mcp_u", "left_middle_mcp_v", "left_middle_mcp_score", "left_middle_pip_u", "left_middle_pip_v", "left_middle_pip_score", "left_middle_dip_u", "left_middle_dip_v", "left_middle_dip_score", "left_middle_tip_u", "left_middle_tip_v", "left_middle_tip_score", "left_ring_mcp_u", "left_ring_mcp_v", "left_ring_mcp_score", "left_ring_pip_u", "left_ring_pip_v", "left_ring_pip_score", "left_ring_dip_u", "left_ring_dip_v", "left_ring_dip_score", "left_ring_tip_u", "left_ring_tip_v", "left_ring_tip_score", "left_little_mcp_u", "left_little_mcp_v", "left_little_mcp_score", "left_little_pip_u", "left_little_pip_v", "left_little_pip_score", "left_little_dip_u", "left_little_dip_v", "left_little_dip_score", "left_little_tip_u", "left_little_tip_v", "left_little_tip_score", "right_wrist_u", "right_wrist_v", "right_wrist_score", "right_thumb_cmc_u", "right_thumb_cmc_v", "right_thumb_cmc_score", "right_thumb_mcp_u", "right_thumb_mcp_v", "right_thumb_mcp_score", "right_thumb_ip_u", "right_thumb_ip_v", "right_thumb_ip_score", "right_thumb_tip_u", "right_thumb_tip_v", "right_thumb_tip_score", "right_index_mcp_u", "right_index_mcp_v", "right_index_mcp_score", "right_index_pip_u", "right_index_pip_v", "right_index_pip_score", "right_index_dip_u", "right_index_dip_v", "right_index_dip_score", "right_index_tip_u", "right_index_tip_v", "right_index_tip_score", "right_middle_mcp_u", "right_middle_mcp_v", "right_middle_mcp_score", "right_middle_pip_u", "right_middle_pip_v", "right_middle_pip_score", "right_middle_dip_u", "right_middle_dip_v", "right_middle_dip_score", "right_middle_tip_u", "right_middle_tip_v", "right_middle_tip_score", "right_ring_mcp_u", "right_ring_mcp_v", "right_ring_mcp_score", "right_ring_pip_u", "right_ring_pip_v", "right_ring_pip_score", "right_ring_dip_u", "right_ring_dip_v", "right_ring_dip_score", "right_ring_tip_u", "right_ring_tip_v", "right_ring_tip_score", "right_little_mcp_u", "right_little_mcp_v", "right_little_mcp_score", "right_little_pip_u", "right_little_pip_v", "right_little_pip_score", "right_little_dip_u", "right_little_dip_v", "right_little_dip_score", "right_little_tip_u", "right_little_tip_v", "right_little_tip_score" ] }, "observation.hands.kp3d": { "dtype": "float32", "shape": [ 126 ], "names": [ "left_wrist_x", "left_wrist_y", "left_wrist_z", "left_thumb_cmc_x", "left_thumb_cmc_y", "left_thumb_cmc_z", "left_thumb_mcp_x", "left_thumb_mcp_y", "left_thumb_mcp_z", "left_thumb_ip_x", "left_thumb_ip_y", "left_thumb_ip_z", "left_thumb_tip_x", "left_thumb_tip_y", "left_thumb_tip_z", "left_index_mcp_x", "left_index_mcp_y", "left_index_mcp_z", "left_index_pip_x", "left_index_pip_y", "left_index_pip_z", "left_index_dip_x", "left_index_dip_y", "left_index_dip_z", "left_index_tip_x", "left_index_tip_y", "left_index_tip_z", "left_middle_mcp_x", "left_middle_mcp_y", "left_middle_mcp_z", "left_middle_pip_x", "left_middle_pip_y", "left_middle_pip_z", "left_middle_dip_x", "left_middle_dip_y", "left_middle_dip_z", "left_middle_tip_x", "left_middle_tip_y", "left_middle_tip_z", "left_ring_mcp_x", "left_ring_mcp_y", "left_ring_mcp_z", "left_ring_pip_x", "left_ring_pip_y", "left_ring_pip_z", "left_ring_dip_x", "left_ring_dip_y", "left_ring_dip_z", "left_ring_tip_x", "left_ring_tip_y", "left_ring_tip_z", "left_little_mcp_x", "left_little_mcp_y", "left_little_mcp_z", "left_little_pip_x", "left_little_pip_y", "left_little_pip_z", "left_little_dip_x", "left_little_dip_y", "left_little_dip_z", "left_little_tip_x", "left_little_tip_y", "left_little_tip_z", "right_wrist_x", "right_wrist_y", "right_wrist_z", "right_thumb_cmc_x", "right_thumb_cmc_y", "right_thumb_cmc_z", "right_thumb_mcp_x", "right_thumb_mcp_y", "right_thumb_mcp_z", "right_thumb_ip_x", "right_thumb_ip_y", "right_thumb_ip_z", "right_thumb_tip_x", "right_thumb_tip_y", "right_thumb_tip_z", "right_index_mcp_x", "right_index_mcp_y", "right_index_mcp_z", "right_index_pip_x", "right_index_pip_y", "right_index_pip_z", "right_index_dip_x", "right_index_dip_y", "right_index_dip_z", "right_index_tip_x", "right_index_tip_y", "right_index_tip_z", "right_middle_mcp_x", "right_middle_mcp_y", "right_middle_mcp_z", "right_middle_pip_x", "right_middle_pip_y", "right_middle_pip_z", "right_middle_dip_x", "right_middle_dip_y", "right_middle_dip_z", "right_middle_tip_x", "right_middle_tip_y", "right_middle_tip_z", "right_ring_mcp_x", "right_ring_mcp_y", "right_ring_mcp_z", "right_ring_pip_x", "right_ring_pip_y", "right_ring_pip_z", "right_ring_dip_x", "right_ring_dip_y", "right_ring_dip_z", "right_ring_tip_x", "right_ring_tip_y", "right_ring_tip_z", "right_little_mcp_x", "right_little_mcp_y", "right_little_mcp_z", "right_little_pip_x", "right_little_pip_y", "right_little_pip_z", "right_little_dip_x", "right_little_dip_y", "right_little_dip_z", "right_little_tip_x", "right_little_tip_y", "right_little_tip_z" ] }, "observation.hands.kp3d_status": { "dtype": "float32", "shape": [ 42 ], "names": [ "left_wrist", "left_thumb_cmc", "left_thumb_mcp", "left_thumb_ip", "left_thumb_tip", "left_index_mcp", "left_index_pip", "left_index_dip", "left_index_tip", "left_middle_mcp", "left_middle_pip", "left_middle_dip", "left_middle_tip", "left_ring_mcp", "left_ring_pip", "left_ring_dip", "left_ring_tip", "left_little_mcp", "left_little_pip", "left_little_dip", "left_little_tip", "right_wrist", "right_thumb_cmc", "right_thumb_mcp", "right_thumb_ip", "right_thumb_tip", "right_index_mcp", "right_index_pip", "right_index_dip", "right_index_tip", "right_middle_mcp", "right_middle_pip", "right_middle_dip", "right_middle_tip", "right_ring_mcp", "right_ring_pip", "right_ring_dip", "right_ring_tip", "right_little_mcp", "right_little_pip", "right_little_dip", "right_little_tip" ] }, "observation.hands.joint_angles": { "dtype": "float32", "shape": [ 40 ], "names": [ "left_thumb_base", "left_thumb_middle", "left_thumb_end", "left_index_base", "left_index_middle", "left_index_end", "left_middle_base", "left_middle_middle", "left_middle_end", "left_ring_base", "left_ring_middle", "left_ring_end", "left_little_base", "left_little_middle", "left_little_end", "left_spread_thumb_index", "left_spread_index_middle", "left_spread_middle_ring", "left_spread_ring_little", "left_closure", "right_thumb_base", "right_thumb_middle", "right_thumb_end", "right_index_base", "right_index_middle", "right_index_end", "right_middle_base", "right_middle_middle", "right_middle_end", "right_ring_base", "right_ring_middle", "right_ring_end", "right_little_base", "right_little_middle", "right_little_end", "right_spread_thumb_index", "right_spread_index_middle", "right_spread_middle_ring", "right_spread_ring_little", "right_closure" ] }, "observation.hands.valid": { "dtype": "float32", "shape": [ 2 ], "names": [ "left", "right" ] }, "observation.hands.ee": { "dtype": "float32", "shape": [ 20 ], "names": [ "left_x", "left_y", "left_z", "left_r1x", "left_r1y", "left_r1z", "left_r2x", "left_r2y", "left_r2z", "left_pinch", "right_x", "right_y", "right_z", "right_r1x", "right_r1y", "right_r1z", "right_r2x", "right_r2y", "right_r2z", "right_pinch" ] }, "action": { "dtype": "float32", "shape": [ 20 ], "names": [ "left_x", "left_y", "left_z", "left_r1x", "left_r1y", "left_r1z", "left_r2x", "left_r2y", "left_r2z", "left_pinch", "right_x", "right_y", "right_z", "right_r1x", "right_r1y", "right_r1z", "right_r2x", "right_r2y", "right_r2z", "right_pinch" ] }, "observation.imu": { "dtype": "float32", "shape": [ 6 ], "names": [ "gx", "gy", "gz", "ax", "ay", "az" ] }, "observation.head.pose": { "dtype": "float32", "shape": [ 9 ], "names": [ "x", "y", "z", "r1x", "r1y", "r1z", "r2x", "r2y", "r2z" ] }, "observation.head.valid": { "dtype": "float32", "shape": [ 1 ], "names": [ "valid" ] }, "observation.hands.kp3d_world": { "dtype": "float32", "shape": [ 126 ], "names": [ "left_wrist_x", "left_wrist_y", "left_wrist_z", "left_thumb_cmc_x", "left_thumb_cmc_y", "left_thumb_cmc_z", "left_thumb_mcp_x", "left_thumb_mcp_y", "left_thumb_mcp_z", "left_thumb_ip_x", "left_thumb_ip_y", "left_thumb_ip_z", "left_thumb_tip_x", "left_thumb_tip_y", "left_thumb_tip_z", "left_index_mcp_x", "left_index_mcp_y", "left_index_mcp_z", "left_index_pip_x", "left_index_pip_y", "left_index_pip_z", "left_index_dip_x", "left_index_dip_y", "left_index_dip_z", "left_index_tip_x", "left_index_tip_y", "left_index_tip_z", "left_middle_mcp_x", "left_middle_mcp_y", "left_middle_mcp_z", "left_middle_pip_x", "left_middle_pip_y", "left_middle_pip_z", "left_middle_dip_x", "left_middle_dip_y", "left_middle_dip_z", "left_middle_tip_x", "left_middle_tip_y", "left_middle_tip_z", "left_ring_mcp_x", "left_ring_mcp_y", "left_ring_mcp_z", "left_ring_pip_x", "left_ring_pip_y", "left_ring_pip_z", "left_ring_dip_x", "left_ring_dip_y", "left_ring_dip_z", "left_ring_tip_x", "left_ring_tip_y", "left_ring_tip_z", "left_little_mcp_x", "left_little_mcp_y", "left_little_mcp_z", "left_little_pip_x", "left_little_pip_y", "left_little_pip_z", "left_little_dip_x", "left_little_dip_y", "left_little_dip_z", "left_little_tip_x", "left_little_tip_y", "left_little_tip_z", "right_wrist_x", "right_wrist_y", "right_wrist_z", "right_thumb_cmc_x", "right_thumb_cmc_y", "right_thumb_cmc_z", "right_thumb_mcp_x", "right_thumb_mcp_y", "right_thumb_mcp_z", "right_thumb_ip_x", "right_thumb_ip_y", "right_thumb_ip_z", "right_thumb_tip_x", "right_thumb_tip_y", "right_thumb_tip_z", "right_index_mcp_x", "right_index_mcp_y", "right_index_mcp_z", "right_index_pip_x", "right_index_pip_y", "right_index_pip_z", "right_index_dip_x", "right_index_dip_y", "right_index_dip_z", "right_index_tip_x", "right_index_tip_y", "right_index_tip_z", "right_middle_mcp_x", "right_middle_mcp_y", "right_middle_mcp_z", "right_middle_pip_x", "right_middle_pip_y", "right_middle_pip_z", "right_middle_dip_x", "right_middle_dip_y", "right_middle_dip_z", "right_middle_tip_x", "right_middle_tip_y", "right_middle_tip_z", "right_ring_mcp_x", "right_ring_mcp_y", "right_ring_mcp_z", "right_ring_pip_x", "right_ring_pip_y", "right_ring_pip_z", "right_ring_dip_x", "right_ring_dip_y", "right_ring_dip_z", "right_ring_tip_x", "right_ring_tip_y", "right_ring_tip_z", "right_little_mcp_x", "right_little_mcp_y", "right_little_mcp_z", "right_little_pip_x", "right_little_pip_y", "right_little_pip_z", "right_little_dip_x", "right_little_dip_y", "right_little_dip_z", "right_little_tip_x", "right_little_tip_y", "right_little_tip_z" ] }, "observation.hands.ee_world": { "dtype": "float32", "shape": [ 20 ], "names": [ "left_x", "left_y", "left_z", "left_r1x", "left_r1y", "left_r1z", "left_r2x", "left_r2y", "left_r2z", "left_pinch", "right_x", "right_y", "right_z", "right_r1x", "right_r1y", "right_r1z", "right_r2x", "right_r2y", "right_r2z", "right_pinch" ] }, "timestamp": { "dtype": "float32", "shape": [ 1 ], "names": null }, "frame_index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "episode_index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "task_index": { "dtype": "int64", "shape": [ 1 ], "names": null } }, "total_episodes": 106, "total_frames": 10827, "total_tasks": 35, "chunks_size": 1000, "data_files_size_in_mb": 100, "video_files_size_in_mb": 200, "data_path": "data/chunk-{chunk_index:03d}/file-{file_index:03d}.parquet", "video_path": "videos/{video_key}/chunk-{chunk_index:03d}/file-{file_index:03d}.mp4", "robot_type": "human_hands", "splits": { "train": "0:106" } }