File size: 2,420 Bytes
116e377
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
# SpatialVID synthetic camera controls

SpatialVID 원본은 관측 RGB와 그 RGB에 대응하는 source camera만 제공한다.
이 평가판의 novel camera paths는 실제 별도 촬영 camera가 아니라 NeoVerse
demo 규약을 이용해 명시적으로 합성한 benchmark instructions다.

## Twelve instructions

| trajectory ID | NeoVerse endpoint operation | relative endpoint translation |
|---|---|---|
| `orbit_left` | `angle=15`, `orbit_radius=1.0` | `[-0.258819, 0, 0.034074]` |
| `orbit_right` | `angle=15`, `orbit_radius=1.0` | `[+0.258819, 0, 0.034074]` |
| `tilt_up` | `angle=15` | `[0, 0, 0]` |
| `tilt_down` | `angle=15` | `[0, 0, 0]` |
| `pan_left` | `angle=15` | `[0, 0, 0]` |
| `pan_right` | `angle=15` | `[0, 0, 0]` |
| `move_left` | `distance=0.1` | `[-0.1, 0, 0]` |
| `move_right` | `distance=0.1` | `[+0.1, 0, 0]` |
| `push_in` | `distance=0.1` | `[0, 0, +0.1]` |
| `pull_out` | `distance=0.1` | `[0, 0, -0.1]` |
| `boom_up` | `distance=0.1` | `[0, -0.1, 0]` |
| `boom_down` | `distance=0.1` | `[0, +0.1, 0]` |

각 path는 `num_frames=81`, `mode="relative"`, `zoom_ratio=1.0`,
`use_first_frame=true`다. Frame 0은 identity이고 frame 80은 위 endpoint다.
NeoVerse `CameraTrajectory._compose_keyframes`와 동일하게 rotation은 Slerp,
translation은 선형 보간한다. 좌우/상하 부호는 일반적인 이름 추측이 아니라
NeoVerse `_get_camera_matrix` 구현을 그대로 따른다.

SpatialVID는 dynamic scene으로 취급하므로 각 frame의 absolute control은 다음과 같다.

```text
target_c2w[t] = source_c2w[t] @ relative_c2w[t]
```

따라서 target frame 0은 source frame 0과 정확히 같고, 원래 관측 camera
motion 위에 지시 motion이 합성된다. 모든 행렬은 OpenCV camera-to-world다.
Orbit radius 1.0과 translation distance 0.1은 물리 미터가 아니라 source
reconstruction unit이다.

## Files

- NeoVerse-compatible relative keyframes:
  `trajectory_specs/<trajectory_id>.json`
- 평가 loader가 읽는 absolute OpenCV c2w:
  `camera_controls/<scene_id>/<trajectory_id>/transforms.json`
- Case ID: `<scene_id>__<trajectory_id>`
- 재생성 및 검증: `python build_camera_controls.py`
- 읽기 전용 검증: `python build_camera_controls.py --check`

200개 source 각각에 12개 path를 연결하므로 manifest에는 2,400개
camera-control-only case와 194,400개 control pose가 있다. Paired target RGB는 없다.