robot-history-progress / docs /evaluation_protocol.md
zikaizhao's picture
Streamline dataset documentation and process metadata v0.0.17
7d41516 verified
|
Raw History Blame Contribute Delete
1.85 kB

评测划分与使用

当前59条源轨迹固定为43训练/8验证/8测试,对应587/82/122个问答。完整计划与归属见splits/frozen_plan.json、逐轨迹清单、逐来源索引。

同一源轨迹的视角、时间片、所有问题、重复导出及已知转换版本归到同一个source_group_id,禁止随机拆分帧或问题。VideoFolder的train是技术媒体索引,不能当成研究训练划分。

train用于优化参数,validation用于选择设置,test用于最终报告;使用过测试轨迹训练的模型不满足本划分的留出条件。公开源数据是否进入基础模型预训练不在本划分控制范围内。

LIBERO每个任务demo0和demo1用于训练,四个demo2按固定任务名SHA排序分到2validation和2test。其他来源保持既定归属。RoboTwin原始成员身份审计见reports/robotwin_partition_identity_audit.json;12个身份尚未排除的RoboValue/RoboCasa源组只训练。未来导入外部转换或新版本必须重查原始身份。

按配置、划分调用training/evaluate_predictions.py,输入JSONL包含sample_id与prediction,ID必须恰好覆盖相应划分。主指标是源轨迹宏平均准确率;同时报告问答微平均准确率,计数目标另给MAE。一个轨迹内多个问题具有相关性,不视为独立试验。

python training/evaluate_predictions.py --root . --config visible-cycle-count --split test --predictions predictions.jsonl --report scores.json

类别覆盖见reports/split_label_support.json。部分配置没有验证或测试轨迹,不生成空评测集。当前方案不保证语义任务或场景互斥,相似候选也不等于单帧不可解;需要时另做单帧与历史长度控制实验。