MemLong

面向长时序、重复动作及历史依赖机器人任务的视频与累计状态标注数据。 包含 8 类任务、800 条主视角视频，其中 94 条附有帧区间标注，706 条尚未标注。 标注描述“截至当前已经完成了什么”，可用于构建记忆与任务状态理解的监督数据。

当前直接提供的是累计状态文本，未提供连续进度值、任务成功概率或异常原因的真值。 全部数据放在 full 集合中，尚未划分训练、验证和测试集；full 不表示评测集。

数据组成

目录	场景	视频数	已标注	未标注	原视频 FPS
01-按数字按键	仿真	100	18	82	25
02-交换积木	仿真	100	18	82	25
03-输入数字序列	真实机器人	100	8	92	30
04-连续按按钮	真实机器人	100	18	82	30
05-依次开关抽屉	真实机器人	100	8	92	30
06-连续敲鼓	真实机器人	100	8	92	30
07-重复挤洗洁精	真实机器人	100	8	92	30
08-重复撒调料	真实机器人	100	8	92	30
合计		800	94	706

视频共 3,600,887,041 字节，约 3.60 GB。94 份标注共包含 784 个累计状态区间，包括每条视频的初始区间。 交换积木的 18 条标注样本按 6 类轨迹各选 3 条；整个标注子集不应视为对 800 条视频的均匀随机抽样。

文件组织

MemLong/
├── README.md
├── metadata.jsonl
├── 01-按数字按键/
│   ├── episode_000900.mp4
│   ├── ...
│   └── annotations/
│       └── episode_XXXXXX.annotations.json
├── 02-交换积木/
└── ...其余 6 个任务目录/

metadata.jsonl 每行对应一条视频，是统一读取入口。视频与标注保持独立文件；未标注条目不创建空标注文件。 索引中的路径均相对于数据集根目录，使用 / 分隔，不依赖本机绝对路径。

统一索引字段

字段	含义
sample_id	唯一样本 ID，由任务英文名与视频文件名组合
task_id / task_name / task_slug	本数据集任务编号（字符串 01–08）、中文名、英文标识
domain	simulation 或 real-world
episode_index	上游 episode 编号
video_path	视频相对于数据集根目录的路径
annotation_path	标注相对于数据集根目录的路径；未标注为 null
has_annotation	是否存在正式标注 JSON
task_prompt	正式标注中的中文任务描述；未标注为 null
source_instruction	来源清单中的上游原始任务指令，与本项目整理的中文 prompt 分开保存
fps / total_frames	当前视频的帧率与实际帧数，经视频文件核对
num_stages	累计状态区间数，包含初始区间；未标注为 null
video_size_bytes / video_sha256	当前发布视频的字节数与 SHA256
annotation_sha256	当前标注文件的 SHA256；未标注为 null
source_path	视频在固定上游版本中的路径
source_total_frames	来源清单中的帧数，保留用于追溯
source_sha256	上游原视频的 SHA256；重新封装后可与 video_sha256 不同
video_processing	original 或 lossless_hvc1_remux

未标注样本保留 source_instruction，但 task_prompt、annotation_path、num_stages、annotation_sha256 均为 null。 没有根据视频长度生成阶段或进度标签。

标注规则与字段

标注单位是原视频的帧范围，不是抽样分析后的帧序号。

• 帧号从 0 开始，采用左闭右开区间 [start_frame, end_frame)。
• 区间连续、不重叠，首段从 0 开始，最后一段结束于 total_frames。
• 首段统一为 “无阶段性事件”。
• 事件确认完成后才更新累计状态；正在执行下一次动作时，仍描述此前已完成的事件。
• num_stages 是状态区间数，不是独立动作种类数，也不是另行标注的语义子任务数。

例如，第二次按键尚未完成时，状态仍为“已按蓝色按钮1次。”；第二次完成后才更新为“已按蓝色按钮2次。”。 30 FPS 视频中的 [96, 168) 对应帧 96–167，时间区间为 [3.2, 5.6) 秒。

标注字段	含义
task_prompt	本项目整理的中文任务描述
video_file	视频文件名，相对于所属任务目录，而非 annotations/ 目录
fps / total_frames	原视频帧率、总帧数
frame_index_base	固定为 0
frame_range_convention	固定为 [start_frame, end_frame)
num_stages	stages 的长度
stages[].stage_id	从 0 连续递增的状态区间编号
stages[].start_frame / end_frame	区间起始帧与结束帧（不包含结束帧）
stages[].state_description	精简的累计已完成状态描述

完整示例：连续按按钮 episode_000529。

标注方式与使用边界

标注由模型辅助抽样视觉判读形成，部分示例经人工检查，全部 94 条尚未经逐帧人工精标或独立全面复核。 通常以 1.25 FPS 查看过程，并对需要区分的按键、接触或动作完成片段提高到 5 FPS 复核。 这些采样频率不是 JSON 中的 fps；JSON 始终使用原视频的 25/30 FPS 帧索引。 边界为已查看采样帧中的保守完成时刻，真实事件可能更早发生。

中文 task_prompt 由本项目整理，部分次数和动作顺序来自演示内容，不应一概视为独立于视频的原始任务指令。 上游指令独立保存在 source_instruction，便于区分使用。

“输入数字序列”目前标注可见按键完成次数，不能据此还原具体数字或确认电子输入是否成功。 挤洗洁精、撒调料等标签描述可见动作循环，不保证已经观察到实际出液量、撒料量或任务物理成功。 这些演示标注也不能直接充当失败、异常检测的负样本。

构建训练/验证集时应按完整视频划分，避免同一视频的相邻帧跨集合造成信息泄漏。

数据来源与文件校验

原视频来自 Value Model Benchmark Training Data。

• 上游仓库：wzlllong/value-model-benchmark-training-data
• 固定版本：458b08ae82e34da4dfc76070ff1056a3d5eab057
• 子集：full-shot
• 视角：observation.images.cam_high
• 本项目新增内容：8 类任务的本地组织、94 份累计状态标注及统一索引。

原文件可通过固定版本与每行的 source_path 定位：

https://huggingface.co/datasets/wzlllong/value-model-benchmark-training-data/resolve/458b08ae82e34da4dfc76070ff1056a3d5eab057/<source_path>

任务 01–02 的 200 条视频保持原始文件（AV1）；任务 03–08 的 600 条视频为播放兼容性进行了无损重新封装（HEVC，hev1 → hvc1，并启用 faststart），未重新编码。 已有校验确认压缩码流、时间戳、解码参数及帧数保持一致。 下载本数据集后应使用 video_sha256 校验当前视频，而非 source_sha256。

2026-10-24 整理时已重新计算全部 800 条视频和 94 份标注的 SHA256，并核对视频帧率、总帧数和标注区间。 两条未标注视频的来源清单各少记 1 帧，实际帧数已通过完整解码计数复核；索引分别保存实际值和来源值：

视频	total_frames（实际）	source_total_frames（来源）
01-按数字按键/episode_000971.mp4	426	425
02-交换积木/episode_001342.mp4	436	435

这两条视频不在 94 条已标注样本中，未修改任何原视频或标注内容。

读取示例

下载后在数据集根目录运行，仅读取已有标注的视频：

import json
from pathlib import Path

root = Path(".")
rows = [json.loads(line) for line in
        (root / "metadata.jsonl").read_text(encoding="utf-8").splitlines()]
annotated = [row for row in rows if row["has_annotation"]]
row = annotated[0]
video_path = root / row["video_path"]
annotation = json.loads(
    (root / row["annotation_path"]).read_text(encoding="utf-8")
)
frame = 0
state = next(s["state_description"] for s in annotation["stages"]
             if s["start_frame"] <= frame < s["end_frame"])
print(len(rows), len(annotated), video_path, state)

本页 YAML 配置将 metadata.jsonl 指定为唯一表格数据入口，避免把其他 JSON 混作样本。 上传后，可使用 datasets 读取索引：

from datasets import load_dataset

index = load_dataset("Ru-hulu/MemLong", split="full")
annotated = index.filter(lambda row: row["has_annotation"])

这里加载的是路径与元数据，不会自动下载或解码所有视频及独立标注 JSON。 可先用 hf download Ru-hulu/MemLong --repo-type dataset --local-dir ./MemLong 下载文件，再使用前面的本地读取示例。

上传文件范围

在本数据集根目录执行以下命令，只发布 README、统一索引、正式视频和标注：

hf upload Ru-hulu/MemLong . . --repo-type dataset \
  --include "README.md" \
  --include "metadata.jsonl" \
  --include "[0-9][0-9]-*/episode_*.mp4" \
  --include "[0-9][0-9]-*/annotations/*.annotations.json"

本地保留的 manifest.json、playback-repair-manifest.json 和 download_videos.py 用于历史记录或下载维护，不属于上述发布范围。 发布内容所需的来源、路径和当前校验值已纳入 README 与统一索引。 日后新增或修改视频、标注后，应同步更新索引、校验值和本页统计。

许可与引用

截至 2026-10-24，在上游根 README 和仓库元数据中未找到明确许可证声明。 本项目不替上游视频指定新的许可证；公开再分发前需确认上游许可，新增标注的许可证也尚未指定。 引用或使用本数据集时，请注明上游数据来源及本项目新增标注的范围。

Hugging Face 格式参考：Dataset Cards、Data files configuration、CLI upload。