|
Download docs/evaluation_protocol.md from zikaizhao/robot-history-progress: direct link, hf CLI and curl.
- Browser
- Download file 1.85 kB
-
https://huggingface.co/datasets/zikaizhao/robot-history-progress/resolve/main/docs/evaluation_protocol.md
- Command line
-
hf download hf://datasets/zikaizhao/robot-history-progress/docs/evaluation_protocol.md
-
curl -L -o evaluation_protocol.md https://huggingface.co/datasets/zikaizhao/robot-history-progress/resolve/main/docs/evaluation_protocol.md
1.85 kB
评测划分与使用
当前59条源轨迹固定为43训练/8验证/8测试,对应587/82/122个问答。完整计划与归属见splits/frozen_plan.json、逐轨迹清单、逐来源索引。
同一源轨迹的视角、时间片、所有问题、重复导出及已知转换版本归到同一个source_group_id,禁止随机拆分帧或问题。VideoFolder的train是技术媒体索引,不能当成研究训练划分。
train用于优化参数,validation用于选择设置,test用于最终报告;使用过测试轨迹训练的模型不满足本划分的留出条件。公开源数据是否进入基础模型预训练不在本划分控制范围内。
LIBERO每个任务demo0和demo1用于训练,四个demo2按固定任务名SHA排序分到2validation和2test。其他来源保持既定归属。RoboTwin原始成员身份审计见reports/robotwin_partition_identity_audit.json;12个身份尚未排除的RoboValue/RoboCasa源组只训练。未来导入外部转换或新版本必须重查原始身份。
按配置、划分调用training/evaluate_predictions.py,输入JSONL包含sample_id与prediction,ID必须恰好覆盖相应划分。主指标是源轨迹宏平均准确率;同时报告问答微平均准确率,计数目标另给MAE。一个轨迹内多个问题具有相关性,不视为独立试验。
python training/evaluate_predictions.py --root . --config visible-cycle-count --split test --predictions predictions.jsonl --report scores.json
类别覆盖见reports/split_label_support.json。部分配置没有验证或测试轨迹,不生成空评测集。当前方案不保证语义任务或场景互斥,相似候选也不等于单帧不可解;需要时另做单帧与历史长度控制实验。