calvin-completion-d-test: 완료 판정의 최종 시험 데이터 (장면 D)

분류: 완료 판정의 최종 시험 데이터. 학습과 세팅 고르기에 쓰지 않는다. 판정기가 처음 보는 장면 D 에서 프레임마다 "지금 subtask 가 끝났는가" 를 맞히는지 채점하는 데만 쓴다. 장면 A, B, C 로 학습한 판정기와 학습하지 않은 판정기를 함께 채점한다. 학습 데이터는 madokalif/calvin-completion-abc 다.

항목	값
정책	공개 π0.5 CALVIN SFT (RLinf/RLinf-Pi05-CALVIN-ABC-D-SFT, revision ffe18938a37d3855c9ff50d6220d39bcd6434f15) 를 고정하고 평가 모드로 돌렸다. calvin-completion-abc 와 같은 정책과 수집기다
장면	CALVIN 의 D 하나다. 분할 이름은 test 다
에피소드	165 개. calvin-completion-abc 의 검증 분할과 에피소드 수, 작업마다의 에피소드 수가 같다
짜임	본 수집 방식으로 34 작업 세 시드 (102 개, 시드 991000 부터), 보충 방식으로 앞선 동작이 필요한 7 작업 아홉 시드 (63 개, 시드 992000 부터) 다. 두 방식은 앞선 동작의 첫 성공 뒤에 5 초를 더 관측하는지만 다르다
실행	성공한 뒤에도 같은 지시로 5 초를 더 실행한다. 정책의 실패도 모두 남겼다. 목표 작업을 시도한 에피소드는 146 개다
프레임	제어 30 Hz, 영상 10 Hz. 영상 프레임 16,321 개 가운데 14,981 개를 정답으로 채점한다 (완료 5,498, 미완료 9,483)

정답

• 프레임마다 진짜 성공 (오라클, 시뮬레이터 상태로 확인한 성공) 의 현재 값이다. 첫 성공 뒤를 모두 완료로 두지 않는다.
• calvin-completion-abc 와 같은 규칙으로 겉보기가 성공과 같은 미완료 프레임을 채점에서 뺐다 (use 가 거짓). 라벨이 바뀌는 순간의 앞뒤 914 개, 블록을 쥐고 들었는데 높이 기준에 못 미친 프레임 294 개, 0.5 초보다 짧은 깜빡임 132 개다.
• 프레임마다 정답, 뺀 이유, 구간의 역할 (목표 작업 또는 앞선 동작) 은 test_manifest/frames.parquet 에 있다.

파일

경로	내용	크기
test_manifest/	프레임마다의 정답 (frames.parquet), 집계 (summary.json)	1 MB
bundles/collection.tar.part-*	main_collection/, supplement_collection/. 구간마다 npz 하나에 네 카메라의 RGB 와 깊이, 30 Hz 의 로봇 상태, 장면 상태, 관절 속도와 토크, 손목 힘, 손가락 힘, 평균 관절 토크, 정책의 액션, 34 작업 전체의 성공 여부가 있다	6 GB
bundles/static448.tar.part-*	static448/. 저장한 상태를 되돌려 정면 카메라를 448 × 448 로 다시 그린 것이다	3 GB
policy_features/cache/	고정한 π0.5 가 프레임마다 계산하는 prefix 마지막 층의 토큰이다. calvin-completion-abc 와 같은 형식이다 (정면과 손목마다 4 × 4 로 평균 낸 토큰, instruction 토큰, float16, manifest 의 행 순서)	3 GB

• 카메라는 정면 (200 × 200), 손목 (84 × 84), 추가 시점 둘 (200 × 200) 이다.
• 정면 448 은 프레임마다 200 으로도 그려 저장 이미지와 견줬다. 프레임의 44.4% 가 픽셀까지 같았다 (calvin-completion-abc 는 46.4%).
• 하중은 수집할 때 물리 계산마다 읽어 함께 저장했다. calvin-completion-abc 는 같은 값을 다시 재생해 load_replay/ 에 두었다. 시뮬레이터가 계산한 값이고 실제 센서의 측정값이 아니다.
• 이미지 인코더 특징 (vision_features) 은 만들지 않았다.
• 외부 판정기의 입력은 레포의 calvin/export_judge_frames.py --split test 로 만든다. 정면 448 은 --static-root 로 준다.

받는 법

bash calvin/unpack_collection_dataset.sh <받은 폴더>

스크립트는 레포 Index-23227/vla-progress-label 에 있다. 수집과 처리는 레포의 docs/FOURTH_COLLECTION_SETUP.ko.md 의 "장면 D 시험 수집" 에 있다.

쓰는 법

• 학습, 조기 종료와 세팅 고르기에 쓰지 않는다. 판정기를 채점하는 데만 쓴다.
• 정지 head 는 학습 때 저장한 체크포인트를 calvin/completion_judge.py --evaluate 로 적용한다. 정규화 값과 과제 순서는 체크포인트의 것을 쓴다.

CALVIN 저장소의 목적

분류	저장소	쓰는 곳
완료 판정의 학습과 평가 데이터	calvin-completion-abc	고정한 정책의 롤아웃으로 정지 head 와 외부 판정기를 학습하고 평가한다
완료 판정의 최종 시험 데이터	calvin-completion-d-test (이 저장소)	판정기를 처음 보는 장면 D 에서 채점한다. 학습에 쓰지 않는다
정지 행동의 SFT 학습 데이터	calvin-abc-plain, calvin-abc-stop0-h15, calvin-abc-stop0-h30, calvin-abc-stop0-h90, calvin-abc-retract-h30, calvin-abc-stop0-then-h30, calvin-abc-stop0-then-h30-cam	정책을 CALVIN 시연으로 다시 학습해 성공한 뒤 멈추게 하는 실험이다. 모두 성공한 시연이라 정책의 실패가 없다
정지 행동의 SFT 모델 체크포인트	progress-stop (모델 저장소)	위 데이터와 원본 시연으로 학습한 모델이다
외부 판정기의 평가 이미지	calvin-judge-frames-sft	학습하지 않은 판정기에 정면 해상도를 바꿔 묻는 평가다
완료 판정의 진단 예시	calvin-completion-failure-examples-v1	오판 사례의 진단과 보조 실험이다

원본 CALVIN 과 정책의 이용 조건을 따른다.