JJimmyL's picture
Finalize the complete observation and model-input release
6850489 verified
|
Raw History Blame Contribute Delete
3.52 kB
---
language:
- zh
tags:
- robotics
- video
- in-context-learning
pretty_name: VideoICL Embodied Tasks and Model Inputs
configs:
- config_name: task_catalog
default: true
data_files:
- split: train
path: catalog.jsonl
- config_name: model_inputs
data_files:
- split: train
path: MODEL_INPUT_INDEX.jsonl
- config_name: evaluation
data_files:
- split: train
path: evaluation/assignments.jsonl
---
# VideoICL 具身题目与模型输入
50 题,每题 A/B/C。提供 150 段真实示范与 150 段仿真示范,全部为 H264、无音轨。每个任务目录都有文字 prompt、文字规则和任务构造信息。
| 查看内容 | 入口 |
| --- | --- |
| 按题目浏览 prompt、规则和 real/sim 视频 | [50 题索引](TASK_INDEX.md) |
| 每十题一个可离线解压的包 | [五个任务包与哈希](ARCHIVES.json) · [archives/](archives/) |
| 实际评测使用的 255 个固定物理输入与 51 个独立 QA | [evaluation/](evaluation/README.md) |
| 一次下载固定评测的全部视频与文字输入 | [固定输入包](downloads/fixed-evaluation-inputs.tar.gz) |
| 各模型各回合保存的初始 prompt 和后续公开文字上下文 | [model_inputs/](model_inputs/) |
| Harness 的模型说明、系统文本与工具说明 | [prompt_templates/](prompt_templates/README.md) |
| 按模型和回合查询保存的输入 | [MODEL_INPUT_INDEX.csv](MODEL_INPUT_INDEX.csv) |
| R/I/E 环境支持信息 | [environments/](environments/README.md) |
| 学长交接、模型设置和运行入口 | [GitHub 交接](https://github.com/Aoraku/VideoICLBench/blob/main/simulator/HANDOFF.md) |
## 目录
- `tasks/E01/A/` 含 `prompt.md`、`text_rule.md`、`task.json`、`real.mp4`、`sim.mp4`,其他题目和变体同样组织。
- `task.json` 记录局部 A/B/C 规则、完整任务目标、环境支持、评分设计和视频来源。任务包反映作者构造,实际运行中的逐环境指令以 `evaluation/cases/<episode_id>/instruction.md` 为准。
- `evaluation/assignments.jsonl` 标明 real、sim、text_rule 或 none。视频使用消音发布版,`evaluated_input_sha256` 追溯原评测输入。
- `model_inputs/<model>/<experiment>/<task>/<case>/` 保存该物理回合的任务 prompt、公开上下文及输入覆盖说明。运行产生的 GUI 图像通过原始帧哈希关联轨迹库。
- `evaluation/question_bank50.json` 是 50 道选择题,作者离线判分使用 `author_qa_answers.jsonl`。
- `FILE_MANIFEST.jsonl` 核对任务材料文件。`evaluation/video_manifest.jsonl` 核对固定输入的视频转换。
Real 原源文件采用 HEVC,发布版转为 6Mbps H264,并核对帧数、显示方向与时长。Sim 复制原 H264 视频流并去音轨。E37 的三段仿真演示来自后补固定版本,来源见逐题元数据。
[执行轨迹、原生分数、逐步动作和完整观察归档](https://huggingface.co/datasets/JJimmyL/VideoICL-Embodied-Evaluation-Trajectories-Public)单独保存。查看这里的输入和轨迹均可匿名下载。
[题目文字与 Harness 指令包](downloads/prompts-and-context-templates.tar.gz) · [全部已保存模型输入文字包](input_archives/all-saved-model-inputs.tar.gz)。
HF 查看器的 `task_catalog` 配置直接显示 `prompt_text` 和 `text_context` 正文;`model_inputs` 配置直接显示逐模型回合的 `initial_prompt_text`。完整上下文见记录中的文件路径。若HF查看器尚在生成,可直接打开对应md/txt文件,或下载CSV和文字包。