Datasets:
id string | instruction string | task string | oracle int8 | is_complete bool | tags list | origin string | split_group string | source_path string | source_row int32 | pair_role string | paired_example_id string | head_score float32 | head_score_prompt string | head_checkpoint_sha256 string | view_mask list | initial_view_mask list | robot_obs list | robot_obs_mask list | initial_robot_obs list | privileged_initial_scene_obs list | metadata_json string | training_role string | stall_subtype string | loss_event_id string | loss_duration_s float32 | previous_success_s float32 | stable_before_and_after bool | execution_phase_status string | same_current_rgb_instruction_count int32 | rgb_static image | rgb_initial_static image | rgb_wrist image | rgb_initial_wrist image | rgb_side image | rgb_initial_side image |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
ep0000_sub0_f000015 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 5 | none | null | -0.054013 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 15, "row": 5, "context_rows": [1, 2, 3, 4, 5, 6, 7, 8, 9], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4, 5], "context_oracle": [0, 0, 0, 0, 0, 0, 0,... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000039 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 13 | none | null | 0.888658 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 39, "row": 13, "context_rows": [9, 10, 11, 12, 13, 14, 15, 16, 17], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [8, 9, 10, 11, 12, 13], "context_oracle": [0, 0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000042 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 14 | none | null | 0.122874 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 42, "row": 14, "context_rows": [10, 11, 12, 13, 14, 15, 16, 17, 18], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [9, 10, 11, 12, 13, 14], "context_oracle": [0, 0,... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000072 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 24 | none | null | 0.058456 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 72, "row": 24, "context_rows": [20, 21, 22, 23, 24, 25, 26, 27, 28], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [19, 20, 21, 22, 23, 24], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000090 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 30 | none | null | 0.250459 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 90, "row": 30, "context_rows": [26, 27, 28, 29, 30, 31, 32, 33, 34], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [25, 26, 27, 28, 29, 30], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000111 | grasp the blue block, then rotate it right | rotate_blue_block_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 37 | none | null | 0.042377 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 111, "row": 37, "context_rows": [33, 34, 35, 36, 37, 38, 39, 40, 41], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [32, 33, 34, 35, 36, 37], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000162 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 54 | none | null | 0.32765 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 162, "row": 54, "context_rows": [50, 51, 52, 53, 54, 55, 56, 57, 58], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [49, 50, 51, 52, 53, 54], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | judge_episode_0000_sub0_loss_f162 | 1.3 | 2 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000201 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 67 | none | null | 0.339949 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 201, "row": 67, "context_rows": [53, 63, 64, 65, 66, 67, 68, 69, 70, 71], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [62, 63, 64, 65, 66, 67], "context_oracle": ... | prior_evaluation_diagnostic | null | judge_episode_0000_sub0_loss_f162 | 1.3 | 2 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000207 | grasp the blue block, then rotate it right | rotate_blue_block_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 69 | none | null | 0.207139 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 207, "row": 69, "context_rows": [65, 66, 67, 68, 69, 70, 71, 72, 73], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [64, 65, 66, 67, 68, 69], "context_oracle": [0, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000261 | grasp the blue block, then rotate it right | rotate_blue_block_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 87 | none | null | 0.023381 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 261, "row": 87, "context_rows": [83, 84, 85, 86, 87, 88, 89, 90, 91], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [82, 83, 84, 85, 86, 87], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000279 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 93 | none | null | 0.240531 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 279, "row": 93, "context_rows": [89, 90, 91, 92, 93, 94, 95, 96, 97], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [88, 89, 90, 91, 92, 93], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | judge_episode_0000_sub0_loss_f279 | 2.6 | 2.4 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000318 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 106 | none | null | 1.058606 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 318, "row": 106, "context_rows": [102, 103, 104, 105, 106, 107, 108, 109, 110], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [101, 102, 103, 104, 105, 106], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub0_f000357 | grasp the blue block, then rotate it right | rotate_blue_block_right | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 119 | none | null | -0.062489 | grasp the blue block, then rotate it right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 0, "frame": 357, "row": 119, "context_rows": [92, 115, 116, 117, 118, 119], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [114, 115, 116, 117, 118, 119], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | judge_episode_0000_sub0_loss_f279 | 2.6 | 2.4 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000369 | grasp the door handle, then slide the door to the right | move_slider_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 123 | none | null | 0.055901 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 369, "row": 123, "context_rows": [120, 121, 122, 123, 124, 125, 126, 127], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [120, 121, 122, 123], "context_oracle": [0,... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000390 | grasp the door handle, then slide the door to the right | move_slider_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 130 | none | null | -0.0631 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 390, "row": 130, "context_rows": [126, 127, 128, 129, 130, 131, 132, 133, 134], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [125, 126, 127, 128, 129, 130], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000411 | grasp the door handle, then slide the door to the right | move_slider_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 137 | none | null | 0.076247 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 411, "row": 137, "context_rows": [133, 134, 135, 136, 137, 138, 139, 140, 141], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [132, 133, 134, 135, 136, 137], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000426 | grasp the door handle, then slide the door to the right | move_slider_right | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 142 | none | null | 0.501416 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 426, "row": 142, "context_rows": [138, 139, 140, 141, 142, 143, 144, 145, 146], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [137, 138, 139, 140, 141, 142], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000450 | grasp the door handle, then slide the door to the right | move_slider_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 150 | none | null | 0.701002 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 450, "row": 150, "context_rows": [146, 147, 148, 149, 150, 151, 152, 153, 154], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [145, 146, 147, 148, 149, 150], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000528 | grasp the door handle, then slide the door to the right | move_slider_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 176 | none | null | 0.282527 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 528, "row": 176, "context_rows": [172, 173, 174, 175, 176, 177, 178, 179, 180], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [171, 172, 173, 174, 175, 176], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub1_f000606 | grasp the door handle, then slide the door to the right | move_slider_right | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 202 | none | null | 0.510346 | grasp the door handle, then slide the door to the right | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 1, "frame": 606, "row": 202, "context_rows": [198, 199, 200, 201, 202, 203, 204, 205, 206], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [197, 198, 199, 200, 201, 202], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000642 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 214 | none | null | 0.007279 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 642, "row": 214, "context_rows": [210, 211, 212, 213, 214, 215, 216, 217, 218], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [210, 211, 212, 213, 214], "context_or... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000669 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 223 | none | null | 0.061369 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 669, "row": 223, "context_rows": [219, 220, 221, 222, 223, 224, 225, 226, 227], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [218, 219, 220, 221, 222, 223], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000693 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 231 | none | null | -0.033422 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 693, "row": 231, "context_rows": [227, 228, 229, 230, 231, 232, 233, 234, 235], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [226, 227, 228, 229, 230, 231], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000711 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 237 | none | null | 0.59762 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 711, "row": 237, "context_rows": [233, 234, 235, 236, 237, 238, 239, 240, 241], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [232, 233, 234, 235, 236, 237], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000714 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 238 | none | null | 0.834097 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 714, "row": 238, "context_rows": [234, 235, 236, 237, 238, 239, 240, 241, 242], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [233, 234, 235, 236, 237, 238], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000723 | pick up the red block from the shelf | lift_red_block_slider | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 241 | none | null | 1.148297 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 723, "row": 241, "context_rows": [237, 238, 239, 240, 241, 242, 243, 244, 245], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [236, 237, 238, 239, 240, 241], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000741 | pick up the red block from the shelf | lift_red_block_slider | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 247 | none | null | 1.258845 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 741, "row": 247, "context_rows": [243, 244, 245, 246, 247, 248, 249, 250, 251], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [242, 243, 244, 245, 246, 247], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000759 | pick up the red block from the shelf | lift_red_block_slider | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 253 | none | null | 1.018054 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 759, "row": 253, "context_rows": [249, 250, 251, 252, 253, 254, 255, 256, 257], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [248, 249, 250, 251, 252, 253], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000768 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 256 | none | null | 1.020929 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 768, "row": 256, "context_rows": [252, 253, 254, 255, 256, 257, 258, 259, 260], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [251, 252, 253, 254, 255, 256], "conte... | prior_evaluation_diagnostic | null | judge_episode_0000_sub2_loss_f768 | 3.6 | 1.6 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000774 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 258 | none | null | 1.15943 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 774, "row": 258, "context_rows": [254, 255, 256, 257, 258, 259, 260, 261, 262], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [253, 254, 255, 256, 257, 258], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub2_f000876 | pick up the red block from the shelf | lift_red_block_slider | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 292 | none | null | 0.121538 | pick up the red block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 2, "frame": 876, "row": 292, "context_rows": [255, 288, 289, 290, 291, 292], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [287, 288, 289, 290, 291, 292], "context_oracle": [1,... | prior_evaluation_diagnostic | null | judge_episode_0000_sub2_loss_f768 | 3.6 | 1.6 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f000915 | place in slider | place_in_slider | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 305 | none | null | -0.0616 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 915, "row": 305, "context_rows": [301, 302, 303, 304, 305, 306, 307, 308, 309], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [300, 301, 302, 303, 304, 305], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f000966 | place in slider | place_in_slider | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 322 | none | null | 1.08671 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 966, "row": 322, "context_rows": [318, 319, 320, 321, 322, 323, 324, 325, 326], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [317, 318, 319, 320, 321, 322], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f001005 | place in slider | place_in_slider | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 335 | none | null | 0.154087 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1005, "row": 335, "context_rows": [331, 332, 333, 334, 335, 336, 337, 338, 339], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [330, 331, 332, 333, 334, 335], "cont... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f001092 | place in slider | place_in_slider | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 364 | none | null | 0.070858 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1092, "row": 364, "context_rows": [360, 361, 362, 363, 364, 365, 366, 367, 368], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [359, 360, 361, 362, 363, 364], "cont... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f001182 | place in slider | place_in_slider | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 394 | none | null | 0.05657 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1182, "row": 394, "context_rows": [390, 391, 392, 393, 394, 395, 396, 397, 398], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [389, 390, 391, 392, 393, 394], "cont... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0000_sub3_f001236 | place in slider | place_in_slider | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0000 | source_rollouts/ep0000.npz | 412 | none | null | 0.122772 | place in slider | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 0, "subtask": 3, "frame": 1236, "row": 412, "context_rows": [408, 409, 410, 411, 412], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [407, 408, 409, 410, 411, 412], "context_oracle": [0, 0, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000012 | turn off the led light | turn_off_led | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 4 | none | null | 0.046141 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 12, "row": 4, "context_rows": [0, 1, 2, 3, 4, 5, 6, 7, 8], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4], "context_oracle": [0, 0, 0, 0, 0, 0, 0, 0,... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000036 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 12 | none | null | 1.067299 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 36, "row": 12, "context_rows": [8, 9, 10, 11, 12, 13, 14, 15, 16], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [7, 8, 9, 10, 11, 12], "context_oracle": [0, 0, 0, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000039 | turn off the led light | turn_off_led | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 13 | none | null | 1.06272 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 39, "row": 13, "context_rows": [9, 10, 11, 12, 13, 14, 15, 16, 17], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [8, 9, 10, 11, 12, 13], "context_oracle": [0, 0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000066 | turn off the led light | turn_off_led | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 22 | none | null | -0.037434 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 66, "row": 22, "context_rows": [18, 19, 20, 21, 22, 23, 24, 25, 26], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [17, 18, 19, 20, 21, 22], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000078 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 26 | none | null | 1.062759 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 78, "row": 26, "context_rows": [22, 23, 24, 25, 26, 27, 28, 29, 30], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [21, 22, 23, 24, 25, 26], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000084 | turn off the led light | turn_off_led | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 28 | none | null | 0.574648 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 84, "row": 28, "context_rows": [24, 25, 26, 27, 28, 29, 30, 31, 32], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [23, 24, 25, 26, 27, 28], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000096 | turn off the led light | turn_off_led | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 32 | none | null | 1.179666 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 96, "row": 32, "context_rows": [28, 29, 30, 31, 32, 33, 34, 35, 36], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [27, 28, 29, 30, 31, 32], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000102 | turn off the led light | turn_off_led | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 34 | none | null | 1.121619 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 102, "row": 34, "context_rows": [30, 31, 32, 33, 34, 35, 36, 37, 38], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [29, 30, 31, 32, 33, 34], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | judge_episode_0001_sub0_loss_f102 | 0.6 | 0.3 | false | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000105 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 35 | none | null | 1.14516 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 105, "row": 35, "context_rows": [31, 32, 33, 34, 35, 36, 37, 38, 39], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [30, 31, 32, 33, 34, 35], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000120 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete",
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 40 | none | null | 0.808527 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 120, "row": 40, "context_rows": [33, 36, 37, 38, 39, 40, 41, 42, 43, 44], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [35, 36, 37, 38, 39, 40], "context_oracle": ... | prior_evaluation_diagnostic | null | judge_episode_0001_sub0_loss_f102 | 0.6 | 0.3 | false | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000135 | turn off the led light | turn_off_led | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 45 | none | null | 0.284973 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 135, "row": 45, "context_rows": [41, 42, 43, 44, 45, 46, 47, 48, 49], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [40, 41, 42, 43, 44, 45], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000141 | turn off the led light | turn_off_led | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 47 | none | null | 0.936081 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 141, "row": 47, "context_rows": [43, 44, 45, 46, 47, 48, 49, 50, 51], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [42, 43, 44, 45, 46, 47], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | judge_episode_0001_sub0_loss_f141 | 0.8 | 0.5 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000144 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 48 | none | null | 1.0657 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 144, "row": 48, "context_rows": [44, 45, 46, 47, 48, 49, 50, 51, 52], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [43, 44, 45, 46, 47, 48], "context_oracle": [1, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000165 | turn off the led light | turn_off_led | 0 | false | [
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 55 | none | null | 0.657041 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 165, "row": 55, "context_rows": [46, 51, 52, 53, 54, 55, 56, 57, 58, 59], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [50, 51, 52, 53, 54, 55], "context_oracle": ... | prior_evaluation_diagnostic | null | judge_episode_0001_sub0_loss_f141 | 0.8 | 0.5 | true | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000183 | turn off the led light | turn_off_led | 1 | true | [
"recorded_success_control"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 61 | none | null | 0.586926 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 183, "row": 61, "context_rows": [57, 58, 59, 60, 61, 62, 63, 64], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [56, 57, 58, 59, 60, 61], "context_oracle": [1, 1, 1... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub0_f000192 | turn off the led light | turn_off_led | 0 | false | [
"high_head_score_incomplete",
"success_then_failure"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 64 | none | null | 1.072892 | turn off the led light | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 0, "frame": 192, "row": 64, "context_rows": [60, 61, 62, 63, 64], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [59, 60, 61, 62, 63, 64], "context_oracle": [1, 1, 1, 1, 0], "co... | prior_evaluation_diagnostic | null | judge_episode_0001_sub0_loss_f192 | 0 | 0.7 | false | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub1_f000231 | push the object into the drawer | push_into_drawer | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 77 | none | null | -0.02761 | push the object into the drawer | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 231, "row": 77, "context_rows": [73, 74, 75, 76, 77, 78, 79, 80, 81], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [72, 73, 74, 75, 76, 77], "context_oracle": [0, ... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub1_f000321 | push the object into the drawer | push_into_drawer | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 107 | none | null | 0.198046 | push the object into the drawer | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 321, "row": 107, "context_rows": [103, 104, 105, 106, 107, 108, 109, 110, 111], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [102, 103, 104, 105, 106, 107], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub1_f000408 | push the object into the drawer | push_into_drawer | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 136 | none | null | 0.001002 | push the object into the drawer | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 408, "row": 136, "context_rows": [132, 133, 134, 135, 136, 137, 138, 139, 140], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [131, 132, 133, 134, 135, 136], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub1_f000498 | push the object into the drawer | push_into_drawer | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 166 | none | null | -0.025897 | push the object into the drawer | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 498, "row": 166, "context_rows": [162, 163, 164, 165, 166, 167, 168, 169, 170], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [161, 162, 163, 164, 165, 166], "conte... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0001_sub1_f000552 | push the object into the drawer | push_into_drawer | 0 | false | [
"never_completed_cause_unverified"
] | recorded_policy_rollout | judge_episode_0001 | source_rollouts/ep0001.npz | 184 | none | null | 0.047717 | push the object into the drawer | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 1, "subtask": 1, "frame": 552, "row": 184, "context_rows": [180, 181, 182, 183, 184], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [179, 180, 181, 182, 183, 184], "context_oracle": [0, 0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | null | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0002_sub0_f000012 | pick up the pink block from the shelf | lift_pink_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0002 | source_rollouts/ep0002.npz | 4 | none | null | 0.030684 | pick up the pink block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 12, "row": 4, "context_rows": [0, 1, 2, 3, 4, 5, 6, 7, 8], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [0, 1, 2, 3, 4], "context_oracle": [0, 0, 0, 0, 0, 0, 0, 0,... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0002_sub0_f000036 | pick up the pink block from the shelf | lift_pink_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0002 | source_rollouts/ep0002.npz | 12 | none | null | -0.008743 | pick up the pink block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 36, "row": 12, "context_rows": [8, 9, 10, 11, 12, 13, 14, 15, 16], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [7, 8, 9, 10, 11, 12], "context_oracle": [0, 0, 0, ... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet | |||
ep0002_sub0_f000060 | pick up the pink block from the shelf | lift_pink_block_slider | 0 | false | [
"in_progress_incomplete"
] | recorded_policy_rollout | judge_episode_0002 | source_rollouts/ep0002.npz | 20 | none | null | 0.1561 | pick up the pink block from the shelf | 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 | [
true,
true,
false
] | [
true,
false,
false
] | null | [
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false,
false
] | null | null | {"source_revision": "9ba580722fd12b8474de7d91a5307bd21243f140", "episode": 2, "subtask": 0, "frame": 60, "row": 20, "context_rows": [16, 17, 18, 19, 20, 21, 22, 23, 24], "context_use": "review_only_contains_future_frames_never_feed_to_classifier", "causal_history_rows": [15, 16, 17, 18, 19, 20], "context_oracle": [0, 0... | prior_evaluation_diagnostic | null | null | null | null | null | not_verified_from_motion; temporal_sampling_only | 1 | Not supported with pagination yet | Not supported with pagination yet | Not supported with pagination yet |
CALVIN 완료 판정의 진단 및 보조 예시
지시와 현재 관측을 묶은 예시 941 개를 제공한다. 미완료 예시는 685 개이고 성공 대조군은 256 개다. 기존 평가 영상에서 추출한 예시와 시뮬레이터에서 추가로 구성한 예시를 구분한다. 분포 재검토 결과, 이 모음은 의도한 주 학습 D1 의 준비 조건을 충족하지 못한다. 진단과 명시적인 보조 실험용으로 구분한다. 파일과 정답의 정합성은 검사했지만 실제 정책 실패의 종류와 작업별 성공 대조군이 부족하다.
2026-10-27 사용자 요청으로 공개했다. 기존 데이터의 이용 조건은 해당 원본을 따른다.
데이터 읽기
from datasets import load_dataset
ds = load_dataset(
"madokalif/calvin-completion-failure-examples-v1",
split="pool",
token=True,
)
example = ds[0]
print(example["instruction"], example["oracle"], example["tags"])
example["rgb_initial_static"].show()
example["rgb_static"].show()
pool 은 예시 전체를 담은 분할이다. 별도의 최종 평가 집합을 뜻하지 않는다. 이 자료에서 오판 예시를 골랐으므로, 같은 자료를 학습에 사용한 뒤 최종 성능을 주장하는 평가 집합으로 다시 사용하지 않는다.
분포 재검토와 사용 범위
현재 상태는 NOT_READY_FOR_INTENDED_MAIN_TRAINING 이다. 기존 평가 영상의 라벨은 원본과 대조했으며 전체 상태가 없어 로컬 물리 재검증은 하지 못했다. 추가 생성 예시는 저장 상태를 복원해 정답을 다시 확인했다. 각 예시의 검증 범위는 metadata_json 의 분포 검사 기록에 구분했다. readiness.json 에 준비 상태와 부족한 조건을 기록했다. audit/ 에는 전체 결과, 예시별 근거와 작업별 분포가 있다. 기존 이진 정답은 바꾸지 않았다.
training_role |
관측 수 | 사용 범위 |
|---|---|---|
prior_evaluation_diagnostic |
651 | 기존 평가 에피소드 20 개에서 고른 진단 자료다. 새 최종 시험 집합으로 사용하지 않는다. |
controlled_hold_auxiliary |
172 | 수집기가 정지 명령으로 만든 보조 자료다. 실패 151 개와 성공 21 개다. |
instruction_pair_auxiliary |
18 | 원본 시연에 지시를 바꿔 붙인 대조 자료다. 실패 9 개와 성공 9 개다. |
state_edit_sanity_check |
100 | 물체 상태를 직접 바꾼 보조 자료다. 실패 50 개와 성공 50 개다. |
핵심 부족 사항은 다음과 같다.
- 정지 미완료 151 개 중 72 개는 작업을 시도하기 전의 초기 상태다. 79 개는 시연 중 상태를 복원한 뒤 정지시킨 상태다. 실제 정책이 실패하고 멈춘 원인을 검증한 자료는 아직 없다.
- 잘못된 대상 예시 59 개는 모두 지시 변경 또는 상태 변경으로 만든 예시다. 실제 정책의 오조작 원인을 확인한 자료로 기록하지 않는다.
- 센서와 측면 영상이 있는 26 종류 작업 중 16 종류에는 성공 예시가 없다. 같은 입력으로 성공과 실패를 비교하는 주 학습과 센서 및 시점 비교를 바로 수행할 수 없다.
- CALVIN 의 작업 34 종류 중 4 종류는 전체 모음에 없다. 서랍에서 각 색의 블록을 드는 세 작업과
unstack_block이다. 전체 입력이 있고 성공 및 미완료가 모두 있는 작업은 10 종류다. - 성공 후 실패 95 개 중 성공과 뒤이은 실패가 각각 0.5 초 이상인 관측은 48 개이며 상태 전환 사건은 24 개다. 나머지 관측 47 개에는 짧은 성공 구간 또는 짧은 실패 구간이 있다. 0.5 초는 저장된 같은 라벨의 첫 관측과 마지막 관측 사이의 시간에 적용하는 진단 기준이다. 마지막 샘플 뒤의 간격을 더하지 않으며 이진 정답도 바꾸지 않는다. 원본의 모든 제어 프레임을 연속으로 확인한 시간은 아니다.
- 수행 중 미완료 219 개는 시간 비율로 골랐다. 접근, 파지와 운반 같은 실제 동작 단계가 검증된 annotation 은 아니다.
센서가 있는 290 개 중 여러 프레임이 있는 clip 은 172 개이며 모두 정지 제어 구간이다. 나머지 118 개는 한 프레임이므로 정책의 접근, 파지와 이동 과정의 센서 이력으로 사용할 수 없다.
추가 생성한 290 개 관측은 모두 D 장면이다. ABC 학습과 D 평가를 유지하려면 이 자료를 학습에 혼합하지 않는다. D 장면 적응 실험은 별도 조건으로 기록해야 한다. 기존 평가 영상의 원본 NPZ 에는 명시적인 장면 식별자가 없다.
주 학습을 위해서는 기준 정책의 실제 성공 및 실패 롤아웃에서 모든 시점과 센서를 함께 수집해야 한다. 학습, 검증과 시험을 원본 에피소드 단위로 먼저 나누고, 작업별 성공과 미완료 및 실패 원인을 확인해야 한다. 반복 추출이나 단순한 행 수 균형으로 부족한 독립적인 실패 시도를 대신하지 않는다.
실패 유형과 성공 대조군
| 유형 | 관측 수 | 작업 종류 |
|---|---|---|
| 수행하지 못한 채 멈춘 상태 | 151 | 26 |
| 잘못된 물체나 위치를 조작한 상태 | 59 | 9 |
| 수행 중이지만 완료되지 않은 상태 | 219 | 26 |
| 성공했다가 다시 실패한 상태 | 95 | 15 |
| 기존 완료 head 의 점수가 0.8 이상인 미완료 상태 | 122 | 23 |
유형 간 중복이 있으며, 원인을 확인하지 못한 미완료 관측 65 개도 별도로 보관한다. 위 표의 수를 더한 값은 서로 다른 미완료 관측 수와 일치하지 않는다.
성공 대조군은 원본 평가 영상의 성공 관측 176 개, 성공한 뒤 정지한 상태 21 개, 실패 예시와 영상은 같지만 원래 지시를 주면 성공인 대조 쌍 59 개다. 동일한 영상이라도 지시에 따라 정답이 달라질 수 있다.
각 작업에는 CALVIN 의 대표 영어 지시 한 가지를 사용했다. 현재 입력 지시는 30 종류이며, 한국어 본문은 설명 문서다. 이 모음에는 언어 표현을 다양하게 바꾼 자료나 task 를 통째로 제외한 평가 분할이 없다. 지시를 단순히 바꿔 써서 새로운 작업을 수집한 것으로 집계하지 않는다.
주요 annotation
| 열 | 뜻 |
|---|---|
id |
지시와 관측을 묶은 예시의 고유 식별자다. |
instruction |
해당 예시에서 판정할 지시다. CALVIN 의 원래 지시 표현을 유지한다. |
task |
해당 지시에 대응하는 CALVIN 작업 이름이다. |
oracle |
해당 지시와 현재 상태에 대한 진짜 성공 여부다. 1 은 성공이고 0 은 미완료다. |
is_complete |
oracle 과 같은 정답을 bool 로 표현한다. |
tags |
실패 유형 또는 성공 대조군의 종류다. |
origin |
실제 평가 영상인지, 정지 명령 또는 상태 변경으로 만든 예시인지 구분한다. |
training_role |
진단, 정지 제어의 보조 자료, 지시 대조 자료와 상태 변경 자료를 구분한다. 주 학습용으로 자동 승격하지 않는다. |
stall_subtype |
작업 시도 전 초기 상태와 시연 상태에서의 정지를 구분한다. |
loss_event_id |
성공 후 조건을 잃은 상태 전환 사건의 식별자다. 반복 프레임을 독립적인 사건으로 집계하지 않는다. |
previous_success_s, loss_duration_s |
직전 성공 구간과 현재 실패 구간의 지속 시간이다. |
stable_before_and_after |
두 구간이 각각 진단 기준 0.5 초 이상인지 표시한다. |
execution_phase_status |
실제 동작 단계를 검증했는지 표시한다. 시간 비율로만 고른 경우 검증되지 않았다고 기록한다. |
split_group |
학습과 검증을 나눌 때 함께 유지할 원본 에피소드 또는 초기 상태 그룹이다. |
paired_example_id |
같은 현재 영상에 다른 지시를 붙인 대조 예시의 식별자다. |
pair_role |
대조 쌍에서 성공 예시는 positive, 실패 예시는 negative 로 표시한다. 나머지는 none 이다. |
source_path |
이 저장소 안에서 대응하는 clip 또는 원본 평가 NPZ 의 상대 경로다. |
source_row |
해당 파일에서 현재 관측에 대응하는 행 번호다. |
metadata_json |
생성 방법, 프레임 이력과 상태 재현에 필요한 부가 기록이다. |
성공 대조 쌍도 자신의 지시에 맞는 별도 clip 경로를 가진다. annotations.jsonl 과 Parquet 의 oracle, 해당 clip 내부의 oracle 은 같은 지시에 대한 같은 정답이다. 비교 대상의 실패 라벨을 성공 예시의 정답으로 사용하지 않는다.
영상과 센서 입력
현재 영상은 rgb_static, rgb_wrist, rgb_side 에 있다. 시작 영상은 rgb_initial_static, rgb_initial_wrist, rgb_initial_side 에 있다. 시작 영상은 다른 시점의 현재 영상이 아니라 해당 지시의 시작 상태다. 이동과 회전처럼 상태 변화를 요구하는 지시는 시작 영상이나 과거 관측과 함께 확인한다.
원본 평가 영상에는 현재 정면 영상과 손목 영상, 시작 정면 영상이 있다. 추가 생성 예시에는 시작과 현재의 세 시점 영상이 있다. 없는 영상은 null 이며, view_mask 와 initial_view_mask 가 입력의 존재 여부를 나타낸다. 순서는 정면, 손목, 측면이다. 영상은 PNG 로 저장했으며 원본 uint8 배열과 픽셀이 같은지 검사했다.
robot_obs 는 추가 생성 자료에만 있다. 손끝 위치 3 개, 자세 3 개, 실제 집게 폭 1 개, 관절 위치 7 개, 직전 집게 명령 1 개로 구성한다. 원본 평가 자료의 센서 값은 null 로 두고 robot_obs_mask 를 거짓으로 표시한다. 힘이나 토크 센서를 수집한 자료는 아니다.
initial_robot_obs 와 privileged_initial_scene_obs 는 상태 재현과 검증에 사용한다. 특히 privileged_initial_scene_obs 는 물체 위치와 장면의 실제 상태이므로 판정기의 센서 입력으로 사용하지 않는다. tags, origin, head_score 등 정답과 생성 과정을 설명하는 열도 기본 모델 입력에서 제외한다.
현재 관측만 필요한 기존 로더를 위해 current_observations.npz 도 보관한다. 시작 영상과 annotation 을 함께 읽으려면 Parquet 을 사용하는 것이 좋다.
예시를 만든 방법
recorded_policy_rollout은 기존 정책의 평가 영상이다. 원본 20 개 에피소드에서 예시를 추출했다. 성공 이후에도 현재 성공 여부를 다시 확인했으며, 한 번 성공했다고 이후 전체를 성공으로 표시하지 않았다.constructed_zero_motion_hold는 상태를 복원한 뒤 이동 명령을 0 으로 유지한 예시다. 현재 성공 여부가 일정하고, 최소 0.5 초 동안 손끝 속도가 0.01 m/s 이하이며 관절 속도가 0.2 rad/s 이하인 구간을 사용했다. 실제 정책이 스스로 정지한 실패를 측정한 자료는 아니다.counterfactual_instruction_on_recorded_success는 원본 시연을 복원한 성공 상태에 다른 물체나 위치를 요구하는 지시를 붙인 예시다. 실패 예시 9 개가 이 방식으로 만들어졌다. 원본 debug 시연은 긴 플레이 에피소드 두 개에서 나왔다.constructed_object_state_intervention은 다른 초기 배치에서 물체를 0.13 m 옮기고 물리 상태를 안정시킨 보조 예시다. 실패 예시 50 개가 이 방식으로 만들어졌다. 실제 로봇 정책이 물체를 조작하는 궤적을 생성한 것은 아니다.
추가 생성 예시는 모두 CALVIN debug validation 설정의 장면에서 렌더링했다. 상태의 출처가 debug training 인 경우에도 영상은 이 설정에서 다시 렌더링한 것이다. 이를 원본 training 장면의 영상을 그대로 복구한 결과로 해석하지 않는다.
완료 head 점수
head_score 는 stop0_done_detach_s42_10k 가 실제로 출력한 회귀 점수다. 확률이 아니며 0 보다 작거나 1 보다 클 수 있다. sigmoid 를 추가하지 않았다. head_score_prompt 는 점수를 계산할 때 실제 사용한 지시다.
체크포인트 SHA256 은 0a536717953e88a3c79d9e3a49417f2d37d93c18fae68345b72a1490c3c0f141 이다. 원본 평가 관측 6,974 개 중 점수가 0.8 이상인 미완료 관측은 435 개였고, 시간상 중복을 제한해 예시 122 개를 골랐다. 추가 생성 예시의 head 점수는 계산하지 않았으며 null 로 둔다.
이력과 상태 재현
clips/ 에는 추가 생성 예시의 현재 영상, 깊이, 로봇 상태, 시뮬레이터 상태와 카메라 행렬이 있다. 정지 clip 은 30 Hz 로 기록한 24 프레임이며, 실제 실행 액션과 clip_time_s 를 포함한다. 한 프레임인 상태 대조 예시는 이동 궤적이나 센서 이력이 있는 예시로 사용하지 않는다.
source_rollouts/ 에는 원본 평가 에피소드의 정면 영상, 손목 영상, 시작 정면 영상과 프레임별 라벨이 있다. 저장된 행 사이의 원본 프레임 간격은 3 이며 원본 제어 주기는 30 Hz 다. 두 종류의 이력을 합칠 때는 프레임 번호와 시간을 기준으로 맞춘다.
원본 평가 자료의 metadata_json 안에 있는 causal_history_rows 는 현재까지의 행만 포함한다. context_rows 는 검토용이며 미래 영상이 들어갈 수 있다. 모델 입력에는 검토용 미래 영상을 넣지 않는다. 카메라 행렬은 PyBullet OpenGL 의 column-major view 행렬과 projection 행렬이다.
파일 정합성 검사와 분포 검토
941 개 예시의 지시, 작업, 성공 라벨, 원본 영상, 입력 mask 와 대조 쌍을 기계로 검사했다. 실패 유형, 작업, 생성 방법과 성공 여부를 고르게 포함하도록 고른 190 개 예시는 시작 영상과 현재 영상을 시각적으로 검토했다. 941 개 전체를 사람이 직접 판정한 자료라는 뜻은 아니다.
추가 생성 예시 231 개는 상태를 다시 복원했을 때 정답과 시작 조건이 재현됐다. 동일 상태를 GPU 에서 다시 렌더링해 현재 영상과 카메라 행렬도 대조했다. 상세 결과는 export_validation.json, image_replay_audit.json 과 review_report.json 에 있다.
학습과 검증을 나눌 때 split_group 과 대조 쌍을 유지한다. 이번 분포 재검토에서 주 학습의 준비 조건을 충족하지 못하는 것을 확인했다. 파일 검사를 통과한 사실을 학습 분포의 준비 완료로 해석하지 않는다. 특히 상태를 직접 바꾼 예시만으로 실제 정책의 오조작을 잘 판정한다고 주장하지 않는다.
CALVIN 저장소의 목적
| 분류 | 저장소 | 쓰는 곳 |
|---|---|---|
| 완료 판정의 학습과 평가 데이터 | calvin-completion-abc |
고정한 정책의 롤아웃으로 정지 head 와 외부 판정기를 학습하고 평가한다 |
| 완료 판정의 최종 시험 데이터 | calvin-completion-d-test |
판정기를 처음 보는 장면 D 에서 채점한다. 학습에 쓰지 않는다 |
| 정지 행동의 SFT 학습 데이터 | calvin-abc-plain, calvin-abc-stop0-h15, calvin-abc-stop0-h30, calvin-abc-stop0-h90, calvin-abc-retract-h30, calvin-abc-stop0-then-h30, calvin-abc-stop0-then-h30-cam |
정책을 CALVIN 시연으로 다시 학습해 성공한 뒤 멈추게 하는 실험이다. 모두 성공한 시연이라 정책의 실패가 없다 |
| 정지 행동의 SFT 모델 체크포인트 | progress-stop (모델 저장소) |
위 데이터와 원본 시연으로 학습한 모델이다 |
| 외부 판정기의 평가 이미지 | calvin-judge-frames-sft |
학습하지 않은 판정기에 정면 해상도를 바꿔 묻는 평가다 |
| 완료 판정의 진단 예시 | calvin-completion-failure-examples-v1 (이 저장소) |
오판 사례의 진단과 보조 실험이다 |
- Downloads last month
- 120