The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
MAI-WM-Dataset:Stage 2 预处理数据
本目录保存 MAI-WM 第二阶段训练使用的 Wan 2.1 VAE 视频隐变量、文本描述、相机参数和时间信息,不是原始 MP4/图片数据集,也不包含模型权重或训练代码。
该快照于 2026-10-18 从 MAI-WM 已完成发布的 Stage 2 数据目录复制。数据库采用 LMDB,每条记录是一段连续轨迹窗口;同一原始视频或场景可以对应多条窗口。文本描述以英文为主。
1. 数据规模与用途
| 数据库 | 轨迹窗口数 | 不同 source_id 数 |
每条 latent 帧数 | data.mdb 大小 |
|---|---|---|---|---|
| Sekai 源库 | 3,236 | 1,618 | 124 | 74.655 GiB |
| DL3DV 源库 | 10,120 | 10,119 | 33–124 | 161.887 GiB |
| Combined 训练库 | 13,356 | 11,737 | 33–124 | 236.540 GiB |
三个 data.mdb 共 507,967,860,736 字节,约 473.082 GiB,另有少量锁文件和占位文件。
Combined 是前两个源库按顺序合并后的副本,不是第三份独立样本集,也不是验证集。
- Combined 索引
0至3235对应 Sekai 源库的同名索引。 - Combined 索引
3236至13355对应 DL3DV 源库索引i - 3236。 - 正常进行混合 Stage 2 训练只需要 Combined;保留两个源库便于溯源、单独使用和重新合并。
- 同时下载三个库会重复保存同一批样本。不要把三个库再串接起来当成不重复的训练数据。
- 本快照未划分 train/validation/test。窗口可能重叠,划分评估集时应按
temporal.source_id分组,避免同一来源的邻接窗口泄漏到不同划分。
2. 目录与每类文件的作用
README.md
SHA256SUMS
data/
└── processed/
└── stage2/
├── sekai/
│ ├── .gitkeep
│ ├── .resume-rank-0.lock ... .resume-rank-7.lock
│ └── data/
│ ├── data.mdb
│ └── lock.mdb
├── dl3dv/
│ ├── .gitkeep
│ ├── .resume-rank-0.lock ... .resume-rank-7.lock
│ └── data/
│ ├── data.mdb
│ └── lock.mdb
└── combined/
├── .gitkeep
└── data/
├── data.mdb
└── lock.mdb
| 文件/路径 | 用途 |
|---|---|
| README.md | 数据说明、格式约定和读取示例。 |
| SHA256SUMS | 三个不可变 data.mdb 的 SHA256 校验和,可检查下载或复制是否完整。 |
| sekai/data/data.mdb | Sekai 游戏行走视频的全部预处理记录及源库完成元数据。 |
| dl3dv/data/data.mdb | DL3DV 图片轨迹的全部预处理记录及源库完成元数据。 |
| combined/data/data.mdb | 合并后的训练记录及数据库级 shape 元数据。推荐的混合训练输入。 |
三个 data/lock.mdb |
LMDB 的读者表/并发锁辅助文件,不保存 latent 或相机样本。其内容可能随数据库访问变化,不纳入数据校验和。只读且确定无写者时可用 lock=False;需要并发写入时不能随意关闭锁。 |
Sekai、DL3DV 下的 .resume-rank-0.lock 至 .resume-rank-7.lock |
每个编码 rank 使用的进程互斥锁文件。本快照中为 0 字节;不是分片数据,也不是训练样本,读取或训练不需要它们。 |
三个 .gitkeep |
0 字节目录占位文件,不包含数据。 |
复制保留了原目录中的锁文件和占位文件以维持快照结构。对只读发布而言,这些运行时锁文件不是必要的数据资产;不要在有写入进程使用数据库时删除锁文件。
数据位于最内层的 data/ 中:例如传给 lmdb.open 的路径是 data/processed/stage2/combined/data,不是 data.mdb 文件本身。本快照没有未完成的 .rank_* 分片或 .data.build-* 合并临时库。原目标目录中已有的空 data/processed/stage1/ 不属于本次 Stage 2 数据发布。
3. LMDB 记录格式
3.1 键的命名
数据库是一组字节键/字节值。样本索引从 0 开始,每条记录有六个字段:
latents_0_data
prompts_0_data
intrinsics_0_data
poses_0_data
lengths_0_data
temporal_0_data
下一条记录使用后缀 _1_data,依此类推。键是 UTF-8/ASCII 编码的字符串;数值字段是 NumPy 数组按 C 顺序、小端字节序导出的原始二进制,没有 .npy 文件头,也不是 torch.save 格式。
令 F 为当前记录的 latent 帧数:
| 字段 | 数据类型 | 每条记录的形状 | 含义 |
|---|---|---|---|
latents |
float16,NumPy <f2 |
(F, 16, 60, 104) |
时间、通道、高、宽顺序的 VAE latent;无 batch 维。 |
prompts |
UTF-8 文本 | 变长字符串 | 文本条件,不是预计算的文本 embedding。 |
intrinsics |
float32,NumPy <f4 |
(4,) |
归一化内参 [fx, fy, cx, cy],整条窗口共用。 |
poses |
float32,NumPy <f4 |
(F, 7) |
与每个 latent 帧对齐的相机外参 [tx, ty, tz, qx, qy, qz, qw]。 |
lengths |
int32,NumPy <i4 |
(1,) |
当前记录的 F。不同记录可以不同,必须逐条读取。 |
temporal |
UTF-8 JSON | 一个 JSON 对象 | 来源、采样方式、帧率和窗口对应的原始帧范围。 |
例如 F=124 时,一条 latent 的字节数是 124 × 16 × 60 × 104 × 2 = 24,760,320,约 23.61 MiB。
3.2 数据库级 shape 元数据
三个数据库分别使用自己的总记录数 N。Combined 中的实际键值如下,右侧是可解码为字符串的字节值:
latents_shape "13356 16 60 104"
prompts_shape "13356"
intrinsics_shape "13356 4"
poses_shape "13356 7"
lengths_shape "13356 1"
temporal_shape "13356"
latents_shape 和 poses_shape 没有写入可变的时间维 F。 不要将所有记录直接 reshape 成一个固定长度五维数组;先读取对应的 lengths_i_data,再恢复该条记录的形状。
3.3 源库内的完成与溯源信息
Sekai 和 DL3DV 源库还各自包含一个 __resume_complete__ 键,其值为 UTF-8 JSON,主要结构是:
version
ranks[]
manifest 输入、配置、代码和运行环境的标识/哈希
state 已完成作业数、有效记录数、错误数和完成标记
steps 原 rank 的逐作业记录、输出行号及校验和
每个源库包含 8 个原编码 rank 的快照。它们用于原预处理工程的严格恢复与完整性检查,不是额外的训练行。Combined 不包含这个键,仅保留六类样本字段和六个 shape 键。
其中 manifest 含原机器的绝对路径及环境信息。下载到新机器不代表可以直接继续原预处理断点:输入、路径、配置或代码不匹配时,原恢复逻辑会拒绝复用。读取已经发布的样本不依赖这些原始路径。
4. 编码、相机与时间约定
视频与 latent
- VAE:Wan 2.1 VAE,预处理使用 FP32 编码,最终 latent 以 FP16 保存。
- 输入空间分辨率:
480 × 832,对应 latent 空间尺寸60 × 104;通道数为 16。 - 保存的是 VAE 编码均值经过其通道 mean/std 归一化后的 latent,不是 RGB 像素;解码时必须使用匹配的 VAE 和归一化约定。
- 时间压缩关系:
视频帧数 = 4 × F - 3。例如 124 个 latent 对应 493 个视频帧。 - GPU 编码按首块 1 帧、之后每块 4 帧的原有因果顺序进行,跨块保留特征缓存;流式 CPU→GPU 搬运不改变此采样顺序和输出格式。
- 相机参数按照窗口中第
0、4、8、…个已采样视频帧与 latent 对齐,不能直接按未采样原视频的每四帧解释。
相机
- 采用 OpenCV、world-to-camera(w2c) 外参约定。
- 四元数顺序是 SciPy 的 **
(x, y, z, w)**,不是(w, x, y, z)。 poses[:, :3]是 w2c 变换的平移t。满足X_camera = R X_world + t,不是世界坐标系中的相机中心;相机中心应为-R.T @ t。- 内参已按图像宽高归一化。若需要当前输入分辨率下的像素内参,应将
fx, cx乘以 832,将fy, cy乘以 480。 - 平移尺度沿用各源轨迹;不要假定不同场景都以同一米制尺度表示。MAI-WM 训练读取时还会按实际模型窗口进行首相机对齐与尺度归一化。
时间元数据
下面是 Combined 第 0 条记录的 temporal:
{
"version": 1,
"sampling": "fixed_fps",
"source_id": "sekai/00100100001_0001050_0002850.mp4",
"source_frames": 1800,
"source_fps": 30.00030000300003,
"target_fps": 16.0,
"video_frames": 493,
"source_start_frame": 0,
"source_end_frame": 923
}
| JSON 字段 | 含义 |
|---|---|
version |
时间元数据版本,本快照为 1。 |
sampling |
Sekai 为 fixed_fps;DL3DV 为 ordered_images。 |
source_id |
带数据集前缀的原视频或场景标识,可用于分组去重和防止训练/验证泄漏;原始文件不随本仓库提供。 |
source_frames |
原视频或原始图片序列的总帧数,不是当前窗口长度。 |
source_fps |
原视频帧率;DL3DV 为 null,表示真实帧率未知。 |
target_fps |
预处理/训练使用的目标帧率设置 16 FPS。对 DL3DV 不等于已知真实采集帧率。 |
video_frames |
当前窗口实际送入 VAE 的视频/图片帧数,等于 4 × F - 3。 |
source_start_frame、source_end_frame |
当前窗口所使用的首尾原始帧索引,均从 0 开始,端点包含在内。Sekai 经重采样后不会使用该范围内的每一帧。 |
Sekai 按源视频时间基准采样到 16 FPS;124 latent 窗口对应 493 / 16 = 30.8125 秒的目标播放时长。DL3DV 保留图片顺序,不将未知的源采样间隔当成 16 FPS,因此不能仅凭其帧数宣称覆盖了同样长的真实时间。
5. 当前 Stage 2 训练课程覆盖
合并发布前的课程校验结果:
| Horizon(latent 帧) | 目标播放时长 | 满足该档完整要求的窗口 | 辅助窗口 |
|---|---|---|---|
| 32 | 7.8125 秒 | 13,356 | 0 |
| 64 | 15.8125 秒 | 13,311 | 45 |
| 124 | 30.8125 秒 | 3,236 | 10,120 |
最低配置要求为 32 latent;本快照实际最短记录为 33 latent。最高 horizon 要求已知真实时间基准,因此完整组由 Sekai 构成,DL3DV 归为辅助组。这不是坏数据统计,也不是三个独立数据划分;同一记录可参与多个课程档位。
6. Python 读取示例
读取 LMDB 需要 lmdb 和 numpy,不需要 GPU。以下示例在本仓库根目录运行,读取 Combined 第 0 条记录:
import json
from pathlib import Path
import lmdb
import numpy as np
database = Path("data/processed/stage2/combined/data")
index = 0
# Only use lock=False for immutable data with no concurrent writer.
with lmdb.open(
str(database), readonly=True, lock=False, readahead=True, meminit=False
) as env:
with env.begin() as txn:
raw_count = txn.get(b"prompts_shape")
if raw_count is None:
raise ValueError("Missing prompts_shape metadata")
count = int(raw_count)
if not 0 <= index < count:
raise IndexError(index)
def field(name):
key = f"{name}_{index}_data".encode()
value = txn.get(key)
if value is None:
raise KeyError(key)
return value
length = int(np.frombuffer(field("lengths"), dtype="<i4")[0])
latents = np.frombuffer(field("latents"), dtype="<f2").reshape(
length, 16, 60, 104
).copy()
intrinsics = np.frombuffer(field("intrinsics"), dtype="<f4").copy()
poses = np.frombuffer(field("poses"), dtype="<f4").reshape(length, 7).copy()
prompt = field("prompts").decode("utf-8")
temporal = json.loads(field("temporal").decode("utf-8"))
assert latents.shape == (length, 16, 60, 104)
assert intrinsics.shape == (4,)
assert poses.shape == (length, 7)
assert temporal["video_frames"] == 4 * length - 3
assert np.isfinite(latents).all()
assert np.isfinite(intrinsics).all() and np.isfinite(poses).all()
print("records:", count)
print("latents:", latents.shape, latents.dtype)
print("poses:", poses.shape, poses.dtype)
print("source:", temporal["source_id"])
第 0 条的预期形状是 latents=(124, 16, 60, 104)、poses=(124, 7)。这里的 .copy() 让 NumPy 数组拥有独立、可写的内存;如果只读且理解缓冲区生命周期,可自行减少复制。
本仓库是自定义 LMDB 格式,不是 Parquet/Arrow,不应直接假定 datasets.load_dataset 会自动解析其中的字段。MAI-WM 工程使用对应的 CameraMemoryLMDBDataset 读取这些记录,训练配置的 data_path 指向下载后的 Combined 数据库目录。
顺序读取性能提示
在共享文件系统上做全库校验或复制时,建议启用顺序预读。仅设置 buffers=True 不代表不读取 payload:本次环境的 py-lmdb 2.2.0 在返回大 value 缓冲区前会触及其页面。关闭 readahead 时,全库元数据检查也可能产生大量小页读取,耗时远超过预期。
不要一边向数据库写入,一边使用上述无锁只读示例;不要在训练读取期间覆盖数据库。
7. 校验下载与复制
在本仓库根目录执行:
sha256sum -c SHA256SUMS
这会完整读取三个大文件,耗时与存储吞吐有关。校验文件仅覆盖三个 data.mdb,不覆盖会随读取活动变化的 lock.mdb。
本次本地复制已逐一完整计算并比对源文件和副本的 SHA256,三个数据库全部一致;共复制 25 个文件,目录清单、文件大小和小文件内容也已核对。README 中的读取示例已在副本上运行通过。若只下载 Combined,可只验证 SHA256SUMS 中对应 Combined 的那一行,不必下载两个重复的源库。
复制校验检查的是文件完整性,不等于重新运行 VAE 或证明模型训练质量。源数据库在构建/合并期间做过样本形状、有限数值、相机及时间信息校验,Combined 还通过了上面的训练课程覆盖检查。
8. Hugging Face 发布前注意
- 上游许可:这里是 Sekai 和 DL3DV 的派生预处理数据。上传前应分别确认原始数据、文本标注及相关模型的许可、署名与再分发要求;本 README 不自动授予新的数据许可,也未替上游选择许可证。
- 检查环境信息:两个源库的
__resume_complete__含原机器绝对路径、配置和运行环境标识。公开发布前请审阅是否适合公开;本次复制不修改这些溯源内容。Combined 不带该恢复键。 - 大文件:使用支持大型二进制数据的 Hugging Face 上传方式,并核查仓库配额和单文件限制,不要按普通文本 Git 文件处理。当前最大文件约 236.54 GiB;若上传工具要求拆分,应采用可无损复原的发布方案,下载后先恢复原文件并核对 SHA256。
- 容量与去重:只使用混合训练库时,可仅下载/发布 Combined;完整快照同时保留两个源库会占用约两倍容量。是否删减由发布者决定,本次保持完整复制。
- 展示与来源:LMDB 不能直接作为普通视频进行网页预览。本仓库不包含原始视频、图片、完整相机 NPZ/transforms 文件、VAE 权重或 MAI-WM 训练代码;需要重建预处理或解码视频时还需取得相应资源。
本次工作仅准备了本地副本和文档,未自动创建远程仓库、提交 Git 或上传数据。
- Downloads last month
- 47