Dataset Viewer
Auto-converted to Parquet Duplicate
id
string
instruction
string
task
string
oracle
int8
is_complete
bool
tags
list
origin
string
split_group
string
source_path
string
source_row
int32
pair_role
string
paired_example_id
string
head_score
float32
head_score_prompt
string
head_checkpoint_sha256
string
view_mask
list
initial_view_mask
list
robot_obs
list
robot_obs_mask
list
initial_robot_obs
list
privileged_initial_scene_obs
list
metadata_json
string
training_role
string
stall_subtype
string
loss_event_id
string
loss_duration_s
float32
previous_success_s
float32
stable_before_and_after
bool
execution_phase_status
string
same_current_rgb_instruction_count
int32
rgb_static
image
rgb_initial_static
image
rgb_wrist
image
rgb_initial_wrist
image
rgb_side
image
rgb_initial_side
image
ep0000_sub0_f000015
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
5
none
null
-0.054013
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 15, "row": 5, "context_rows": [1, 2, 3, 4, 5, 6, 7, 8, 9], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4, 5], "context_oracle": [0, 0, 0, 0, 0, 0, 0,...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000039
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
13
none
null
0.888658
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 39, "row": 13, "context_rows": [9, 10, 11, 12, 13, 14, 15, 16, 17], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [8, 9, 10, 11, 12, 13], "context_oracle": [0, 0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000042
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
14
none
null
0.122874
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 42, "row": 14, "context_rows": [10, 11, 12, 13, 14, 15, 16, 17, 18], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [9, 10, 11, 12, 13, 14], "context_oracle": [0, 0,...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000072
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
24
none
null
0.058456
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 72, "row": 24, "context_rows": [20, 21, 22, 23, 24, 25, 26, 27, 28], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [19, 20, 21, 22, 23, 24], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000090
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
30
none
null
0.250459
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 90, "row": 30, "context_rows": [26, 27, 28, 29, 30, 31, 32, 33, 34], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [25, 26, 27, 28, 29, 30], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000111
grasp the blue block, then rotate it right
rotate_blue_block_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
37
none
null
0.042377
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 111, "row": 37, "context_rows": [33, 34, 35, 36, 37, 38, 39, 40, 41], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [32, 33, 34, 35, 36, 37], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000162
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
54
none
null
0.32765
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 162, "row": 54, "context_rows": [50, 51, 52, 53, 54, 55, 56, 57, 58], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [49, 50, 51, 52, 53, 54], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
judge_episode_0000_sub0_loss_f162
1.3
2
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000201
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
67
none
null
0.339949
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 201, "row": 67, "context_rows": [53, 63, 64, 65, 66, 67, 68, 69, 70, 71], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [62, 63, 64, 65, 66, 67], "context_oracle": ...
prior_evaluation_diagnostic
null
judge_episode_0000_sub0_loss_f162
1.3
2
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000207
grasp the blue block, then rotate it right
rotate_blue_block_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
69
none
null
0.207139
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 207, "row": 69, "context_rows": [65, 66, 67, 68, 69, 70, 71, 72, 73], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [64, 65, 66, 67, 68, 69], "context_oracle": [0, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000261
grasp the blue block, then rotate it right
rotate_blue_block_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
87
none
null
0.023381
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 261, "row": 87, "context_rows": [83, 84, 85, 86, 87, 88, 89, 90, 91], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [82, 83, 84, 85, 86, 87], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000279
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
93
none
null
0.240531
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 279, "row": 93, "context_rows": [89, 90, 91, 92, 93, 94, 95, 96, 97], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [88, 89, 90, 91, 92, 93], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
judge_episode_0000_sub0_loss_f279
2.6
2.4
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000318
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
106
none
null
1.058606
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 318, "row": 106, "context_rows": [102, 103, 104, 105, 106, 107, 108, 109, 110], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [101, 102, 103, 104, 105, 106], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub0_f000357
grasp the blue block, then rotate it right
rotate_blue_block_right
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
119
none
null
-0.062489
grasp the blue block, then rotate it right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 357, "row": 119, "context_rows": [92, 115, 116, 117, 118, 119], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [114, 115, 116, 117, 118, 119], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
judge_episode_0000_sub0_loss_f279
2.6
2.4
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000369
grasp the door handle, then slide the door to the right
move_slider_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
123
none
null
0.055901
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 369, "row": 123, "context_rows": [120, 121, 122, 123, 124, 125, 126, 127], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [120, 121, 122, 123], "context_oracle": [0,...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000390
grasp the door handle, then slide the door to the right
move_slider_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
130
none
null
-0.0631
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 390, "row": 130, "context_rows": [126, 127, 128, 129, 130, 131, 132, 133, 134], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [125, 126, 127, 128, 129, 130], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000411
grasp the door handle, then slide the door to the right
move_slider_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
137
none
null
0.076247
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 411, "row": 137, "context_rows": [133, 134, 135, 136, 137, 138, 139, 140, 141], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [132, 133, 134, 135, 136, 137], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000426
grasp the door handle, then slide the door to the right
move_slider_right
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
142
none
null
0.501416
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 426, "row": 142, "context_rows": [138, 139, 140, 141, 142, 143, 144, 145, 146], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [137, 138, 139, 140, 141, 142], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000450
grasp the door handle, then slide the door to the right
move_slider_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
150
none
null
0.701002
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 450, "row": 150, "context_rows": [146, 147, 148, 149, 150, 151, 152, 153, 154], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [145, 146, 147, 148, 149, 150], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000528
grasp the door handle, then slide the door to the right
move_slider_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
176
none
null
0.282527
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 528, "row": 176, "context_rows": [172, 173, 174, 175, 176, 177, 178, 179, 180], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [171, 172, 173, 174, 175, 176], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub1_f000606
grasp the door handle, then slide the door to the right
move_slider_right
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
202
none
null
0.510346
grasp the door handle, then slide the door to the right
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 606, "row": 202, "context_rows": [198, 199, 200, 201, 202, 203, 204, 205, 206], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [197, 198, 199, 200, 201, 202], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000642
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
214
none
null
0.007279
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 642, "row": 214, "context_rows": [210, 211, 212, 213, 214, 215, 216, 217, 218], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [210, 211, 212, 213, 214], "context_or...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000669
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
223
none
null
0.061369
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 669, "row": 223, "context_rows": [219, 220, 221, 222, 223, 224, 225, 226, 227], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [218, 219, 220, 221, 222, 223], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000693
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
231
none
null
-0.033422
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 693, "row": 231, "context_rows": [227, 228, 229, 230, 231, 232, 233, 234, 235], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [226, 227, 228, 229, 230, 231], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000711
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
237
none
null
0.59762
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 711, "row": 237, "context_rows": [233, 234, 235, 236, 237, 238, 239, 240, 241], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [232, 233, 234, 235, 236, 237], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000714
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
238
none
null
0.834097
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 714, "row": 238, "context_rows": [234, 235, 236, 237, 238, 239, 240, 241, 242], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [233, 234, 235, 236, 237, 238], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000723
pick up the red block from the shelf
lift_red_block_slider
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
241
none
null
1.148297
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 723, "row": 241, "context_rows": [237, 238, 239, 240, 241, 242, 243, 244, 245], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [236, 237, 238, 239, 240, 241], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000741
pick up the red block from the shelf
lift_red_block_slider
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
247
none
null
1.258845
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 741, "row": 247, "context_rows": [243, 244, 245, 246, 247, 248, 249, 250, 251], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [242, 243, 244, 245, 246, 247], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000759
pick up the red block from the shelf
lift_red_block_slider
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
253
none
null
1.018054
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 759, "row": 253, "context_rows": [249, 250, 251, 252, 253, 254, 255, 256, 257], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [248, 249, 250, 251, 252, 253], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000768
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
256
none
null
1.020929
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 768, "row": 256, "context_rows": [252, 253, 254, 255, 256, 257, 258, 259, 260], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [251, 252, 253, 254, 255, 256], "conte...
prior_evaluation_diagnostic
null
judge_episode_0000_sub2_loss_f768
3.6
1.6
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000774
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
258
none
null
1.15943
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 774, "row": 258, "context_rows": [254, 255, 256, 257, 258, 259, 260, 261, 262], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [253, 254, 255, 256, 257, 258], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub2_f000876
pick up the red block from the shelf
lift_red_block_slider
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
292
none
null
0.121538
pick up the red block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 876, "row": 292, "context_rows": [255, 288, 289, 290, 291, 292], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [287, 288, 289, 290, 291, 292], "context_oracle": [1,...
prior_evaluation_diagnostic
null
judge_episode_0000_sub2_loss_f768
3.6
1.6
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f000915
place in slider
place_in_slider
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
305
none
null
-0.0616
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 915, "row": 305, "context_rows": [301, 302, 303, 304, 305, 306, 307, 308, 309], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [300, 301, 302, 303, 304, 305], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f000966
place in slider
place_in_slider
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
322
none
null
1.08671
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 966, "row": 322, "context_rows": [318, 319, 320, 321, 322, 323, 324, 325, 326], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [317, 318, 319, 320, 321, 322], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f001005
place in slider
place_in_slider
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
335
none
null
0.154087
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1005, "row": 335, "context_rows": [331, 332, 333, 334, 335, 336, 337, 338, 339], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [330, 331, 332, 333, 334, 335], "cont...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f001092
place in slider
place_in_slider
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
364
none
null
0.070858
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1092, "row": 364, "context_rows": [360, 361, 362, 363, 364, 365, 366, 367, 368], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [359, 360, 361, 362, 363, 364], "cont...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f001182
place in slider
place_in_slider
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
394
none
null
0.05657
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1182, "row": 394, "context_rows": [390, 391, 392, 393, 394, 395, 396, 397, 398], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [389, 390, 391, 392, 393, 394], "cont...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0000_sub3_f001236
place in slider
place_in_slider
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0000
source_rollouts/ep0000.npz
412
none
null
0.122772
place in slider
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1236, "row": 412, "context_rows": [408, 409, 410, 411, 412], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [407, 408, 409, 410, 411, 412], "context_oracle": [0, 0, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000012
turn off the led light
turn_off_led
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
4
none
null
0.046141
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 12, "row": 4, "context_rows": [0, 1, 2, 3, 4, 5, 6, 7, 8], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4], "context_oracle": [0, 0, 0, 0, 0, 0, 0, 0,...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000036
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
12
none
null
1.067299
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 36, "row": 12, "context_rows": [8, 9, 10, 11, 12, 13, 14, 15, 16], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [7, 8, 9, 10, 11, 12], "context_oracle": [0, 0, 0, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000039
turn off the led light
turn_off_led
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
13
none
null
1.06272
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 39, "row": 13, "context_rows": [9, 10, 11, 12, 13, 14, 15, 16, 17], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [8, 9, 10, 11, 12, 13], "context_oracle": [0, 0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000066
turn off the led light
turn_off_led
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
22
none
null
-0.037434
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 66, "row": 22, "context_rows": [18, 19, 20, 21, 22, 23, 24, 25, 26], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [17, 18, 19, 20, 21, 22], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000078
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
26
none
null
1.062759
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 78, "row": 26, "context_rows": [22, 23, 24, 25, 26, 27, 28, 29, 30], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [21, 22, 23, 24, 25, 26], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000084
turn off the led light
turn_off_led
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
28
none
null
0.574648
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 84, "row": 28, "context_rows": [24, 25, 26, 27, 28, 29, 30, 31, 32], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [23, 24, 25, 26, 27, 28], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000096
turn off the led light
turn_off_led
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
32
none
null
1.179666
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 96, "row": 32, "context_rows": [28, 29, 30, 31, 32, 33, 34, 35, 36], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [27, 28, 29, 30, 31, 32], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000102
turn off the led light
turn_off_led
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
34
none
null
1.121619
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 102, "row": 34, "context_rows": [30, 31, 32, 33, 34, 35, 36, 37, 38], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [29, 30, 31, 32, 33, 34], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
judge_episode_0001_sub0_loss_f102
0.6
0.3
false
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000105
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
35
none
null
1.14516
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 105, "row": 35, "context_rows": [31, 32, 33, 34, 35, 36, 37, 38, 39], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [30, 31, 32, 33, 34, 35], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000120
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete", "success_then_failure" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
40
none
null
0.808527
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 120, "row": 40, "context_rows": [33, 36, 37, 38, 39, 40, 41, 42, 43, 44], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [35, 36, 37, 38, 39, 40], "context_oracle": ...
prior_evaluation_diagnostic
null
judge_episode_0001_sub0_loss_f102
0.6
0.3
false
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000135
turn off the led light
turn_off_led
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
45
none
null
0.284973
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 135, "row": 45, "context_rows": [41, 42, 43, 44, 45, 46, 47, 48, 49], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [40, 41, 42, 43, 44, 45], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000141
turn off the led light
turn_off_led
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
47
none
null
0.936081
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 141, "row": 47, "context_rows": [43, 44, 45, 46, 47, 48, 49, 50, 51], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [42, 43, 44, 45, 46, 47], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
judge_episode_0001_sub0_loss_f141
0.8
0.5
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000144
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
48
none
null
1.0657
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 144, "row": 48, "context_rows": [44, 45, 46, 47, 48, 49, 50, 51, 52], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [43, 44, 45, 46, 47, 48], "context_oracle": [1, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000165
turn off the led light
turn_off_led
0
false
[ "success_then_failure" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
55
none
null
0.657041
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 165, "row": 55, "context_rows": [46, 51, 52, 53, 54, 55, 56, 57, 58, 59], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [50, 51, 52, 53, 54, 55], "context_oracle": ...
prior_evaluation_diagnostic
null
judge_episode_0001_sub0_loss_f141
0.8
0.5
true
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000183
turn off the led light
turn_off_led
1
true
[ "recorded_success_control" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
61
none
null
0.586926
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 183, "row": 61, "context_rows": [57, 58, 59, 60, 61, 62, 63, 64], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [56, 57, 58, 59, 60, 61], "context_oracle": [1, 1, 1...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub0_f000192
turn off the led light
turn_off_led
0
false
[ "high_head_score_incomplete", "success_then_failure" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
64
none
null
1.072892
turn off the led light
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 192, "row": 64, "context_rows": [60, 61, 62, 63, 64], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [59, 60, 61, 62, 63, 64], "context_oracle": [1, 1, 1, 1, 0], "co...
prior_evaluation_diagnostic
null
judge_episode_0001_sub0_loss_f192
0
0.7
false
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub1_f000231
push the object into the drawer
push_into_drawer
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
77
none
null
-0.02761
push the object into the drawer
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 231, "row": 77, "context_rows": [73, 74, 75, 76, 77, 78, 79, 80, 81], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [72, 73, 74, 75, 76, 77], "context_oracle": [0, ...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub1_f000321
push the object into the drawer
push_into_drawer
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
107
none
null
0.198046
push the object into the drawer
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 321, "row": 107, "context_rows": [103, 104, 105, 106, 107, 108, 109, 110, 111], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [102, 103, 104, 105, 106, 107], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub1_f000408
push the object into the drawer
push_into_drawer
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
136
none
null
0.001002
push the object into the drawer
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 408, "row": 136, "context_rows": [132, 133, 134, 135, 136, 137, 138, 139, 140], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [131, 132, 133, 134, 135, 136], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub1_f000498
push the object into the drawer
push_into_drawer
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
166
none
null
-0.025897
push the object into the drawer
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 498, "row": 166, "context_rows": [162, 163, 164, 165, 166, 167, 168, 169, 170], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [161, 162, 163, 164, 165, 166], "conte...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0001_sub1_f000552
push the object into the drawer
push_into_drawer
0
false
[ "never_completed_cause_unverified" ]
recorded_policy_rollout
judge_episode_0001
source_rollouts/ep0001.npz
184
none
null
0.047717
push the object into the drawer
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 552, "row": 184, "context_rows": [180, 181, 182, 183, 184], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [179, 180, 181, 182, 183, 184], "context_oracle": [0, 0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
null
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0002_sub0_f000012
pick up the pink block from the shelf
lift_pink_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0002
source_rollouts/ep0002.npz
4
none
null
0.030684
pick up the pink block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 12, "row": 4, "context_rows": [0, 1, 2, 3, 4, 5, 6, 7, 8], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4], "context_oracle": [0, 0, 0, 0, 0, 0, 0, 0,...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0002_sub0_f000036
pick up the pink block from the shelf
lift_pink_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0002
source_rollouts/ep0002.npz
12
none
null
-0.008743
pick up the pink block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 36, "row": 12, "context_rows": [8, 9, 10, 11, 12, 13, 14, 15, 16], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [7, 8, 9, 10, 11, 12], "context_oracle": [0, 0, 0, ...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
ep0002_sub0_f000060
pick up the pink block from the shelf
lift_pink_block_slider
0
false
[ "in_progress_incomplete" ]
recorded_policy_rollout
judge_episode_0002
source_rollouts/ep0002.npz
20
none
null
0.1561
pick up the pink block from the shelf
0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141
[ true, true, false ]
[ true, false, false ]
null
[ false, false, false, false, false, false, false, false, false, false, false, false, false, false, false ]
null
null
{"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 60, "row": 20, "context_rows": [16, 17, 18, 19, 20, 21, 22, 23, 24], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [15, 16, 17, 18, 19, 20], "context_oracle": [0, 0...
prior_evaluation_diagnostic
null
null
null
null
null
not_verified_from_motion; temporal_sampling_only
1
Not supported with pagination yet
Not supported with pagination yet
Not supported with pagination yet
End of preview. Expand in Data Studio

CALVIN 완료 판정의 진단 및 보조 예시

지시와 현재 관측을 묶은 예시 941 개를 제공한다. 미완료 예시는 685 개이고 성공 대조군은 256 개다. 기존 평가 영상에서 추출한 예시와 시뮬레이터에서 추가로 구성한 예시를 구분한다. 분포 재검토 결과, 이 모음은 의도한 주 학습 D1 의 준비 조건을 충족하지 못한다. 진단과 명시적인 보조 실험용으로 구분한다. 파일과 정답의 정합성은 검사했지만 실제 정책 실패의 종류와 작업별 성공 대조군이 부족하다.

2026-10-27 사용자 요청으로 공개했다. 기존 데이터의 이용 조건은 해당 원본을 따른다.

데이터 읽기

from datasets import load_dataset

ds = load_dataset(
    "madokalif/calvin-completion-failure-examples-v1",
    split="pool",
    token=True,
)
example = ds[0]
print(example["instruction"], example["oracle"], example["tags"])
example["rgb_initial_static"].show()
example["rgb_static"].show()

pool 은 예시 전체를 담은 분할이다. 별도의 최종 평가 집합을 뜻하지 않는다. 이 자료에서 오판 예시를 골랐으므로, 같은 자료를 학습에 사용한 뒤 최종 성능을 주장하는 평가 집합으로 다시 사용하지 않는다.

분포 재검토와 사용 범위

현재 상태는 NOT_READY_FOR_INTENDED_MAIN_TRAINING 이다. 기존 평가 영상의 라벨은 원본과 대조했으며 전체 상태가 없어 로컬 물리 재검증은 하지 못했다. 추가 생성 예시는 저장 상태를 복원해 정답을 다시 확인했다. 각 예시의 검증 범위는 metadata_json 의 분포 검사 기록에 구분했다. readiness.json 에 준비 상태와 부족한 조건을 기록했다. audit/ 에는 전체 결과, 예시별 근거와 작업별 분포가 있다. 기존 이진 정답은 바꾸지 않았다.

training_role 관측 수 사용 범위
prior_evaluation_diagnostic 651 기존 평가 에피소드 20 개에서 고른 진단 자료다. 새 최종 시험 집합으로 사용하지 않는다.
controlled_hold_auxiliary 172 수집기가 정지 명령으로 만든 보조 자료다. 실패 151 개와 성공 21 개다.
instruction_pair_auxiliary 18 원본 시연에 지시를 바꿔 붙인 대조 자료다. 실패 9 개와 성공 9 개다.
state_edit_sanity_check 100 물체 상태를 직접 바꾼 보조 자료다. 실패 50 개와 성공 50 개다.

핵심 부족 사항은 다음과 같다.

  • 정지 미완료 151 개 중 72 개는 작업을 시도하기 전의 초기 상태다. 79 개는 시연 중 상태를 복원한 뒤 정지시킨 상태다. 실제 정책이 실패하고 멈춘 원인을 검증한 자료는 아직 없다.
  • 잘못된 대상 예시 59 개는 모두 지시 변경 또는 상태 변경으로 만든 예시다. 실제 정책의 오조작 원인을 확인한 자료로 기록하지 않는다.
  • 센서와 측면 영상이 있는 26 종류 작업 중 16 종류에는 성공 예시가 없다. 같은 입력으로 성공과 실패를 비교하는 주 학습과 센서 및 시점 비교를 바로 수행할 수 없다.
  • CALVIN 의 작업 34 종류 중 4 종류는 전체 모음에 없다. 서랍에서 각 색의 블록을 드는 세 작업과 unstack_block 이다. 전체 입력이 있고 성공 및 미완료가 모두 있는 작업은 10 종류다.
  • 성공 후 실패 95 개 중 성공과 뒤이은 실패가 각각 0.5 초 이상인 관측은 48 개이며 상태 전환 사건은 24 개다. 나머지 관측 47 개에는 짧은 성공 구간 또는 짧은 실패 구간이 있다. 0.5 초는 저장된 같은 라벨의 첫 관측과 마지막 관측 사이의 시간에 적용하는 진단 기준이다. 마지막 샘플 뒤의 간격을 더하지 않으며 이진 정답도 바꾸지 않는다. 원본의 모든 제어 프레임을 연속으로 확인한 시간은 아니다.
  • 수행 중 미완료 219 개는 시간 비율로 골랐다. 접근, 파지와 운반 같은 실제 동작 단계가 검증된 annotation 은 아니다.

센서가 있는 290 개 중 여러 프레임이 있는 clip 은 172 개이며 모두 정지 제어 구간이다. 나머지 118 개는 한 프레임이므로 정책의 접근, 파지와 이동 과정의 센서 이력으로 사용할 수 없다.

추가 생성한 290 개 관측은 모두 D 장면이다. ABC 학습과 D 평가를 유지하려면 이 자료를 학습에 혼합하지 않는다. D 장면 적응 실험은 별도 조건으로 기록해야 한다. 기존 평가 영상의 원본 NPZ 에는 명시적인 장면 식별자가 없다.

주 학습을 위해서는 기준 정책의 실제 성공 및 실패 롤아웃에서 모든 시점과 센서를 함께 수집해야 한다. 학습, 검증과 시험을 원본 에피소드 단위로 먼저 나누고, 작업별 성공과 미완료 및 실패 원인을 확인해야 한다. 반복 추출이나 단순한 행 수 균형으로 부족한 독립적인 실패 시도를 대신하지 않는다.

실패 유형과 성공 대조군

유형 관측 수 작업 종류
수행하지 못한 채 멈춘 상태 151 26
잘못된 물체나 위치를 조작한 상태 59 9
수행 중이지만 완료되지 않은 상태 219 26
성공했다가 다시 실패한 상태 95 15
기존 완료 head 의 점수가 0.8 이상인 미완료 상태 122 23

유형 간 중복이 있으며, 원인을 확인하지 못한 미완료 관측 65 개도 별도로 보관한다. 위 표의 수를 더한 값은 서로 다른 미완료 관측 수와 일치하지 않는다.

성공 대조군은 원본 평가 영상의 성공 관측 176 개, 성공한 뒤 정지한 상태 21 개, 실패 예시와 영상은 같지만 원래 지시를 주면 성공인 대조 쌍 59 개다. 동일한 영상이라도 지시에 따라 정답이 달라질 수 있다.

각 작업에는 CALVIN 의 대표 영어 지시 한 가지를 사용했다. 현재 입력 지시는 30 종류이며, 한국어 본문은 설명 문서다. 이 모음에는 언어 표현을 다양하게 바꾼 자료나 task 를 통째로 제외한 평가 분할이 없다. 지시를 단순히 바꿔 써서 새로운 작업을 수집한 것으로 집계하지 않는다.

주요 annotation

열 뜻
id 지시와 관측을 묶은 예시의 고유 식별자다.
instruction 해당 예시에서 판정할 지시다. CALVIN 의 원래 지시 표현을 유지한다.
task 해당 지시에 대응하는 CALVIN 작업 이름이다.
oracle 해당 지시와 현재 상태에 대한 진짜 성공 여부다. 1 은 성공이고 0 은 미완료다.
is_complete oracle 과 같은 정답을 bool 로 표현한다.
tags 실패 유형 또는 성공 대조군의 종류다.
origin 실제 평가 영상인지, 정지 명령 또는 상태 변경으로 만든 예시인지 구분한다.
training_role 진단, 정지 제어의 보조 자료, 지시 대조 자료와 상태 변경 자료를 구분한다. 주 학습용으로 자동 승격하지 않는다.
stall_subtype 작업 시도 전 초기 상태와 시연 상태에서의 정지를 구분한다.
loss_event_id 성공 후 조건을 잃은 상태 전환 사건의 식별자다. 반복 프레임을 독립적인 사건으로 집계하지 않는다.
previous_success_s, loss_duration_s 직전 성공 구간과 현재 실패 구간의 지속 시간이다.
stable_before_and_after 두 구간이 각각 진단 기준 0.5 초 이상인지 표시한다.
execution_phase_status 실제 동작 단계를 검증했는지 표시한다. 시간 비율로만 고른 경우 검증되지 않았다고 기록한다.
split_group 학습과 검증을 나눌 때 함께 유지할 원본 에피소드 또는 초기 상태 그룹이다.
paired_example_id 같은 현재 영상에 다른 지시를 붙인 대조 예시의 식별자다.
pair_role 대조 쌍에서 성공 예시는 positive, 실패 예시는 negative 로 표시한다. 나머지는 none 이다.
source_path 이 저장소 안에서 대응하는 clip 또는 원본 평가 NPZ 의 상대 경로다.
source_row 해당 파일에서 현재 관측에 대응하는 행 번호다.
metadata_json 생성 방법, 프레임 이력과 상태 재현에 필요한 부가 기록이다.

성공 대조 쌍도 자신의 지시에 맞는 별도 clip 경로를 가진다. annotations.jsonl 과 Parquet 의 oracle, 해당 clip 내부의 oracle 은 같은 지시에 대한 같은 정답이다. 비교 대상의 실패 라벨을 성공 예시의 정답으로 사용하지 않는다.

영상과 센서 입력

현재 영상은 rgb_static, rgb_wrist, rgb_side 에 있다. 시작 영상은 rgb_initial_static, rgb_initial_wrist, rgb_initial_side 에 있다. 시작 영상은 다른 시점의 현재 영상이 아니라 해당 지시의 시작 상태다. 이동과 회전처럼 상태 변화를 요구하는 지시는 시작 영상이나 과거 관측과 함께 확인한다.

원본 평가 영상에는 현재 정면 영상과 손목 영상, 시작 정면 영상이 있다. 추가 생성 예시에는 시작과 현재의 세 시점 영상이 있다. 없는 영상은 null 이며, view_mask 와 initial_view_mask 가 입력의 존재 여부를 나타낸다. 순서는 정면, 손목, 측면이다. 영상은 PNG 로 저장했으며 원본 uint8 배열과 픽셀이 같은지 검사했다.

robot_obs 는 추가 생성 자료에만 있다. 손끝 위치 3 개, 자세 3 개, 실제 집게 폭 1 개, 관절 위치 7 개, 직전 집게 명령 1 개로 구성한다. 원본 평가 자료의 센서 값은 null 로 두고 robot_obs_mask 를 거짓으로 표시한다. 힘이나 토크 센서를 수집한 자료는 아니다.

initial_robot_obs 와 privileged_initial_scene_obs 는 상태 재현과 검증에 사용한다. 특히 privileged_initial_scene_obs 는 물체 위치와 장면의 실제 상태이므로 판정기의 센서 입력으로 사용하지 않는다. tags, origin, head_score 등 정답과 생성 과정을 설명하는 열도 기본 모델 입력에서 제외한다.

현재 관측만 필요한 기존 로더를 위해 current_observations.npz 도 보관한다. 시작 영상과 annotation 을 함께 읽으려면 Parquet 을 사용하는 것이 좋다.

예시를 만든 방법

  • recorded_policy_rollout 은 기존 정책의 평가 영상이다. 원본 20 개 에피소드에서 예시를 추출했다. 성공 이후에도 현재 성공 여부를 다시 확인했으며, 한 번 성공했다고 이후 전체를 성공으로 표시하지 않았다.
  • constructed_zero_motion_hold 는 상태를 복원한 뒤 이동 명령을 0 으로 유지한 예시다. 현재 성공 여부가 일정하고, 최소 0.5 초 동안 손끝 속도가 0.01 m/s 이하이며 관절 속도가 0.2 rad/s 이하인 구간을 사용했다. 실제 정책이 스스로 정지한 실패를 측정한 자료는 아니다.
  • counterfactual_instruction_on_recorded_success 는 원본 시연을 복원한 성공 상태에 다른 물체나 위치를 요구하는 지시를 붙인 예시다. 실패 예시 9 개가 이 방식으로 만들어졌다. 원본 debug 시연은 긴 플레이 에피소드 두 개에서 나왔다.
  • constructed_object_state_intervention 은 다른 초기 배치에서 물체를 0.13 m 옮기고 물리 상태를 안정시킨 보조 예시다. 실패 예시 50 개가 이 방식으로 만들어졌다. 실제 로봇 정책이 물체를 조작하는 궤적을 생성한 것은 아니다.

추가 생성 예시는 모두 CALVIN debug validation 설정의 장면에서 렌더링했다. 상태의 출처가 debug training 인 경우에도 영상은 이 설정에서 다시 렌더링한 것이다. 이를 원본 training 장면의 영상을 그대로 복구한 결과로 해석하지 않는다.

완료 head 점수

head_score 는 stop0_done_detach_s42_10k 가 실제로 출력한 회귀 점수다. 확률이 아니며 0 보다 작거나 1 보다 클 수 있다. sigmoid 를 추가하지 않았다. head_score_prompt 는 점수를 계산할 때 실제 사용한 지시다.

체크포인트 SHA256 은 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 이다. 원본 평가 관측 6,974 개 중 점수가 0.8 이상인 미완료 관측은 435 개였고, 시간상 중복을 제한해 예시 122 개를 골랐다. 추가 생성 예시의 head 점수는 계산하지 않았으며 null 로 둔다.

이력과 상태 재현

clips/ 에는 추가 생성 예시의 현재 영상, 깊이, 로봇 상태, 시뮬레이터 상태와 카메라 행렬이 있다. 정지 clip 은 30 Hz 로 기록한 24 프레임이며, 실제 실행 액션과 clip_time_s 를 포함한다. 한 프레임인 상태 대조 예시는 이동 궤적이나 센서 이력이 있는 예시로 사용하지 않는다.

source_rollouts/ 에는 원본 평가 에피소드의 정면 영상, 손목 영상, 시작 정면 영상과 프레임별 라벨이 있다. 저장된 행 사이의 원본 프레임 간격은 3 이며 원본 제어 주기는 30 Hz 다. 두 종류의 이력을 합칠 때는 프레임 번호와 시간을 기준으로 맞춘다.

원본 평가 자료의 metadata_json 안에 있는 causal_history_rows 는 현재까지의 행만 포함한다. context_rows 는 검토용이며 미래 영상이 들어갈 수 있다. 모델 입력에는 검토용 미래 영상을 넣지 않는다. 카메라 행렬은 PyBullet OpenGL 의 column-major view 행렬과 projection 행렬이다.

파일 정합성 검사와 분포 검토

941 개 예시의 지시, 작업, 성공 라벨, 원본 영상, 입력 mask 와 대조 쌍을 기계로 검사했다. 실패 유형, 작업, 생성 방법과 성공 여부를 고르게 포함하도록 고른 190 개 예시는 시작 영상과 현재 영상을 시각적으로 검토했다. 941 개 전체를 사람이 직접 판정한 자료라는 뜻은 아니다.

추가 생성 예시 231 개는 상태를 다시 복원했을 때 정답과 시작 조건이 재현됐다. 동일 상태를 GPU 에서 다시 렌더링해 현재 영상과 카메라 행렬도 대조했다. 상세 결과는 export_validation.json, image_replay_audit.json 과 review_report.json 에 있다.

학습과 검증을 나눌 때 split_group 과 대조 쌍을 유지한다. 이번 분포 재검토에서 주 학습의 준비 조건을 충족하지 못하는 것을 확인했다. 파일 검사를 통과한 사실을 학습 분포의 준비 완료로 해석하지 않는다. 특히 상태를 직접 바꾼 예시만으로 실제 정책의 오조작을 잘 판정한다고 주장하지 않는다.

CALVIN 저장소의 목적

분류 저장소 쓰는 곳
완료 판정의 학습과 평가 데이터 calvin-completion-abc 고정한 정책의 롤아웃으로 정지 head 와 외부 판정기를 학습하고 평가한다
완료 판정의 최종 시험 데이터 calvin-completion-d-test 판정기를 처음 보는 장면 D 에서 채점한다. 학습에 쓰지 않는다
정지 행동의 SFT 학습 데이터 calvin-abc-plain, calvin-abc-stop0-h15, calvin-abc-stop0-h30, calvin-abc-stop0-h90, calvin-abc-retract-h30, calvin-abc-stop0-then-h30, calvin-abc-stop0-then-h30-cam 정책을 CALVIN 시연으로 다시 학습해 성공한 뒤 멈추게 하는 실험이다. 모두 성공한 시연이라 정책의 실패가 없다
정지 행동의 SFT 모델 체크포인트 progress-stop (모델 저장소) 위 데이터와 원본 시연으로 학습한 모델이다
외부 판정기의 평가 이미지 calvin-judge-frames-sft 학습하지 않은 판정기에 정면 해상도를 바꿔 묻는 평가다
완료 판정의 진단 예시 calvin-completion-failure-examples-v1 (이 저장소) 오판 사례의 진단과 보조 실험이다
Downloads last month
120