JJimmyL's picture
Finalize the complete observation and model-input release
6850489 verified
|
Raw History Blame Contribute Delete
3.52 kB
metadata
language:
  - zh
tags:
  - robotics
  - video
  - in-context-learning
pretty_name: VideoICL Embodied Tasks and Model Inputs
configs:
  - config_name: task_catalog
    default: true
    data_files:
      - split: train
        path: catalog.jsonl
  - config_name: model_inputs
    data_files:
      - split: train
        path: MODEL_INPUT_INDEX.jsonl
  - config_name: evaluation
    data_files:
      - split: train
        path: evaluation/assignments.jsonl

VideoICL 具身题目与模型输入

50 题,每题 A/B/C。提供 150 段真实示范与 150 段仿真示范,全部为 H264、无音轨。每个任务目录都有文字 prompt、文字规则和任务构造信息。

查看内容 入口
按题目浏览 prompt、规则和 real/sim 视频 50 题索引
每十题一个可离线解压的包 五个任务包与哈希 · archives/
实际评测使用的 255 个固定物理输入与 51 个独立 QA evaluation/
一次下载固定评测的全部视频与文字输入 固定输入包
各模型各回合保存的初始 prompt 和后续公开文字上下文 model_inputs/
Harness 的模型说明、系统文本与工具说明 prompt_templates/
按模型和回合查询保存的输入 MODEL_INPUT_INDEX.csv
R/I/E 环境支持信息 environments/
学长交接、模型设置和运行入口 GitHub 交接

目录

  • tasks/E01/A/ 含 prompt.md、text_rule.md、task.json、real.mp4、sim.mp4,其他题目和变体同样组织。
  • task.json 记录局部 A/B/C 规则、完整任务目标、环境支持、评分设计和视频来源。任务包反映作者构造,实际运行中的逐环境指令以 evaluation/cases/<episode_id>/instruction.md 为准。
  • evaluation/assignments.jsonl 标明 real、sim、text_rule 或 none。视频使用消音发布版,evaluated_input_sha256 追溯原评测输入。
  • model_inputs/<model>/<experiment>/<task>/<case>/ 保存该物理回合的任务 prompt、公开上下文及输入覆盖说明。运行产生的 GUI 图像通过原始帧哈希关联轨迹库。
  • evaluation/question_bank50.json 是 50 道选择题,作者离线判分使用 author_qa_answers.jsonl。
  • FILE_MANIFEST.jsonl 核对任务材料文件。evaluation/video_manifest.jsonl 核对固定输入的视频转换。

Real 原源文件采用 HEVC,发布版转为 6Mbps H264,并核对帧数、显示方向与时长。Sim 复制原 H264 视频流并去音轨。E37 的三段仿真演示来自后补固定版本,来源见逐题元数据。

执行轨迹、原生分数、逐步动作和完整观察归档单独保存。查看这里的输入和轨迹均可匿名下载。

题目文字与 Harness 指令包 · 全部已保存模型输入文字包。

HF 查看器的 task_catalog 配置直接显示 prompt_text 和 text_context 正文;model_inputs 配置直接显示逐模型回合的 initial_prompt_text。完整上下文见记录中的文件路径。若HF查看器尚在生成,可直接打开对应md/txt文件,或下载CSV和文字包。