Hugging Face's logo

Datasets:
AIGeeksGroup
/
PhysicalWM

Languages:
Chinese
English
Tags:
backup
video-world-model
physical-world-model
License:
Dataset card Files
xet
 Community
PhysicalWM / OVOW /README_zh.md
Ravenveil's picture
Ravenveil
backup 06_ovow_code 2026-11-08 10:30:30
cb8518a verified
preview code
|
Raw History Blame Contribute Delete
15.1 kB

OVOW: One Video, One World

Turning Monocular Video into Physical 4D Scenes

ECCV 2026 arXiv Project Page Paper PDF 混合许可：仅供研究

English | 中文

OVOW teaser: monocular video to instance-level, simulation-ready 4D mesh scenes

OVOW 是首个 training-free 的系统:把一段普通单目视频(或一张图片)重建成 instance-level、simulation-ready 的 4D 网格场景——逐物体的 3D 网格 + 位姿 + 形变动画, 合成全场景动画 GLB 与渲染对比视频。重模型(SAM3 / Hi3DGen / FoundationPose / RoMaV2) 支持常驻服务:批量跑时整批只载一次。

⚠️ 仅供非商业研究用途。 OVOW 自身代码为 MIT,但随包分发的第三方组件含非商业许可 (NVIDIA FoundationPose、CC-BY-NC SpaTrackerV2、CC-BY-NC-SA Motion324、Meta SAM License sam3 等)。 使用即受各组件许可约束,详见 NOTICE 与 THIRD_PARTY.md。 因此整仓库定位为源码可见的非商业研究发布,而不是 OSI 定义下的开源软件发布。

复现(从零到出结果)

前置:Linux + NVIDIA GPU(建议 ≥40GB 显存,驱动 ≥550)· CUDA Toolkit 12.1+(含 nvcc)· conda · ~120GB 磁盘。

# 0) 取仓库
git clone https://github.com/SparcAI-Inc/OVOW.git && cd OVOW

# 1) 建 3 个 conda 环境(自动装 torch + 依赖 + 编译 CUDA 扩展;最耗时的一步,约 30-60min)
bash environment/create_envs.sh        # 结束时打印该填进 .env 的 3 个解释器路径

# 2) 填机器配置
cp .env.example .env                   # ① 粘贴上一步打印的 3 个 python 路径
                                       # ② 填 DASHSCOPE_API_KEY;没有账号就设 QWEN_BACKEND="local"(离线)

# 3) 装 blender(渲染/合成步骤的硬依赖)
sudo apt install -y blender            # 或官方便携版 → 在 .env 里填 BLENDER_BIN

# 4) 路径本机化(把仓库里的占位符展开成你 .env 的路径;一次性,改 .env 后需先 git checkout 还原再重跑)
bash setup.sh

# 5) 下载权重(~55GB,全自动;SAM3 是 HF gated 仓库,需先 `huggingface-cli login` 并在网页同意条款)
bash download_ckpts.sh

# 6) 跑通随包的 examples(见下)
bash examples/smoke_test.sh          # 单图,短链路,约 3-5min
bash examples/smoke_test_video.sh    # 单视频,完整 4D 链路,约 19-22min

哪一步卡住了看下面的故障排查。三个环境的 torch/CUDA 版本表,以及 create_envs.sh 所自动化的逐条手动安装命令,见 environment/README.md。

「复现」在这里的含义

复现目标就是随包的 examples/:两个例子都跑出产物,即视为安装可用。两个脚本都以预检开头, 缺什么直接点名(Qwen 后端 / blender / conda 解释器 / SAM3 与 Motion324 权重),而不是跑到 一半才挂;都以产物断言结尾,校验关键产物存在且非空——光看退出码为 0 不算跑通。

脚本 输入 步骤 产物(在 outputs/ 下)
examples/smoke_test.sh examples/images/desk_banana.png 1 2 6 7 14 17 18(不含 deform) smoke/image_pipeline_<时间戳>/desk_banana/
examples/smoke_test_video.sh examples/videos/instance_000008.mp4(768×768,108 帧) 全链路,含 deform smoke_video/ws/instance_000008_<时间戳>_<hash>/

两者断言的三个产物(单图链路为 .png,视频链路为 .mp4):

scene_anim_blender_physics_with_deform.glb                            # 最终全场景 GLB
fullscene_deform_objseq_white_left_rgb_right_split10_h264.{png,mp4}   # 白模 vs 输入
fullscene_deform_objseq_textured_left_rgb_right_split10_h264.{png,mp4} # 贴图 vs 输入

smoke_test_video.sh 可传视频路径,换成你自己的片子: bash examples/smoke_test_video.sh /path/to/your.mp4。

注意生成式步骤未固定随机种子,因此每次跑出的网格与渲染都不同。这里的标准是链路跑完并产出 上述产物,而不是逐位一致。

使用 

# 一张图片
bash scripts/run_image.sh --image /path/x.png --out ./outputs

# 一段视频
bash scripts/run_video.sh --name eagle --video /path/eagle.mp4 --out ./outputs

# 一个文件夹的所有视频(常驻服务,模型整批只载一次)—— 大批量推荐
bash scripts/run_video_batch.sh --video-dir /path/videos --gpu 0 --out ./outputs

# 图片+视频混合、多卡、断点续跑(10 万级)
bash scripts/run_batch.sh --in /path/inputs --gpus 0,1,2,3 --out ./outputs

产物位置:视频在 <out>/ws/<name>_<时间戳>_<hash>/,单图在 <out>/image_pipeline_<时间戳>/<name>/:

  • scene_anim_blender_physics_with_deform.glb — 最终全场景动画 GLB
  • fullscene_deform_*_h264.mp4 — 白模/贴图渲染对比视频

Benchmark

benchmark/ 是论文所用的评测工具包 OVOW-Bench。它对已重建好的场景打分,输出 Scene-IoU(AABB 与 OBB)、经匈牙利匹配并带物体数惩罚的 Object-IoU、光度损失,以及 N-CLIP 视觉指标。几何在协议指定的对齐之后比较,视觉指标走 GT 相机渲染。

工具包只含评测代码与协议元数据——不含 GT、结果或预测。数据(OVOW_Bench_Data) 另在 Hugging Face 发布。它需要自己的 conda 环境,外加 Blender 和本地 CLIP 权重, 因此与流水线的三个环境刻意分开:

conda env create -f benchmark/environment.yml && conda activate ovow-bench
python benchmark/scripts/check_env.py

# 单元测试不需要 Blender,也不需要 CLIP 权重
cd benchmark && PYTHONDONTWRITEBYTECODE=1 python -m unittest discover -s tests

协议、提交目录规范与完整调用方式见 benchmark/README.md 与 benchmark/docs/EVALUATION_PROTOCOL.md。

工作原理(一览)

OVOW pipeline: VLM-guided scene decomposition → per-instance mesh reconstruction → scale & orientation recovery → per-frame pose tracking
阶段 内容 跑在哪
标注 Qwen 物体标注 + static/rigid/deform 分类 DashScope API 或本地 Qwen3-VL
分割 SAM3 逐帧掩码 sam3 env(批量走 sam3-server 常驻)
deform 网格 Motion324 + Hunyuan motion env
静态/刚体重建 Hi3DGen 建网格 + FoundationPose 位姿 + RoMaV2 尺度恢复 opg env(批量走 opg-server 常驻)
deform 位姿 frame_track 逐帧位姿 opg env(同上)
合成/渲染 全场景 GLB 导出 + 渲染对比视频 blender

流水线步骤

入口脚本把 step 编号作为末尾参数接收 (bash scripts/run_video.sh --name eagle --video x.mp4 1 2 3 4 5 6 7 8 10 13 14 17 18)。 不传 steps 时,run_video.sh 跑全链路,run_image.sh 跑单图子集。step 15/16/19 为可选、默认不跑。 其中 step 15 与 19 还需要本仓库不随包分发、由你自行获取的组件,且其中一个是「仅限学术用途」 许可——启用前请看 THIRD_PARTY.md 的「可选组件」一节。

step 内容 env / 服务
1 Qwen 物体标注 + static/rigid/deform 分类 API 或本地 Qwen3-VL
2 SAM3 逐帧掩码 sam3 env(批量走 sam3-server)
3 构建 deform 输入(居中视频) opg(轻量)
4 deform 网格生成 Motion324(motion env)
5 扫描 Motion324 输出 → manifest 轻量
6 静态/刚体重建(建网格 + 位姿) opg-server(常驻)
7 地面拟合 opg(几何)
8 deform 位姿(frame_track) opg-server(常驻)
10 合并全场景 mesh 序列 blender
13 / 14 导出全场景 GLB(pre-physics / physics) blender
17 / 18 渲染白模 / 贴图对比视频 blender

默认重建骨干是 uplegacy = legacy/Hi3DGen 生成 + 升级版位姿链路(romav2 匹配 + 零迭代 scale 恢复 + 全部模型进程内常驻)。它需要 RoMaV2 与 Hi3DGen / SpaTrackerV2 / FoundationPose 权重(上面第 5 步已含),不需要 TRELLIS2/CuMesh (那是 --recon-backbone trellis2 才用)。

单视频全链路 ~19–22min,几乎全是计算(step6 ~6min + deform ~9–11min + 渲染); 加载是一次性的服务启动 ~1–3min。

常驻服务(批量)

run_video_batch.sh 与 run_batch.sh 会自动起停 opg-server + sam3-server(各自带独立队列, 无需配置)。重模型(SAM3、opg 核心、RoMaV2、FoundationPose)因此整批只载一次而非每视频载; Motion324 + Hunyuan(step4)仍每视频载。常驻的收益在多视频,单视频常驻 ≈ 非常驻, 所以单跑(run_image.sh / run_video.sh)默认走进程内。

跨多批手动管理服务:

bash scripts/servers/opg_server.sh  ensure --gpu 0   # ensure = 没在跑才起,已在跑直接复用
bash scripts/servers/opg_server.sh  status
bash scripts/servers/opg_server.sh  stop
bash scripts/servers/sam3_server.sh ensure --gpu 0

想让单跑复用手动起的服务,需显式导出队列。引擎的判据是「队列变量非空即走 server」, 且不做存活检查——server 没起时导出队列会导致提交后一直等到超时:

export OPG_SERVER_QUEUE=/tmp/opg_server_main_q SAM3_SERVER_QUEUE=/tmp/sam3_server_q
bash scripts/run_video.sh --name eagle --video /path/eagle.mp4

关键环境变量

均有合理默认值(见 configs/paths.sh),在 .env 里覆盖。

变量 作用
OPG_SERVER_QUEUE / SAM3_SERVER_QUEUE step6/8、step2 走常驻服务
OPG_MATCHER=romav2 scale 恢复用 RoMaV2 稠密匹配
OPG_SCALE_REFINE_ITERS=0 scale 恢复零迭代(romav2 下首次已收敛,约 5x 提速)
OPG_ROMAV2_INPROC=1 RoMaV2 进程内常驻
OPG_FP_RESIDENT=1 FoundationPose 预测器进程内单例
QWEN_BACKEND=local step1 标注走本地 Qwen3-VL,而非 DashScope API
HF_ENDPOINT=https://hf-mirror.com 权重下载镜像

故障排查

建环境(第 1 步)—— 最可能需要按平台微调的环节。 opg 环境要在本机现场编译扩展(flash-attn / pytorch3d / FoundationPose)。 create_envs.sh 对三个环境互不影响、可单独重跑(bash environment/create_envs.sh opg); 版本表与等价的逐条手动命令见 environment/README.md。

  • 报 nvcc not found → 装 CUDA Toolkit 12.1+ 并加入 PATH。
  • arch/ABI 不匹配 → 确认 torch 是 cu121 wheel、nvcc -V ≥ 12.1。
  • flash-attn 编译过慢/失败 → 改用对齐 cu121 + torch2.4 的官方预编译 whl。

没有 DashScope 账号(第 2 步)。 在 .env 里设 QWEN_BACKEND="local",step1 改走本地 Qwen3-VL。图片链路默认自动从 HF 拉 Qwen/Qwen3-VL-8B-Instruct;也可先用 masking/download_qwen3_vl_8b_hf_mirror.sh 预下载,再以 --qwen-model /path 指定。

占位符展开是一次性的(第 4 步)。 setup.sh 会跑 configure.sh,把 @ENGINE_DIR@、 @OPG_PY@、@BLENDER_BIN@ 等占位符展开成你 .env 里的路径。token 展开后即被消耗, 之后改 .env 重跑不会更新。要重新配置,先还原工作树:

git checkout -- engine/ third_party/ masking/ && bash configure.sh

权重(第 5 步)。

  • facebook/sam3 是 HF gated 仓库:需先 huggingface-cli login 并在模型页面同意条款。
  • RoMaV2 权重无需下载,首次运行时 torch.hub 自动拉。
  • TRELLIS 权重仅 --recon-backbone trellis2 需要:OVOW_DL_TRELLIS2=1 bash download_ckpts.sh(+~20GB)。
  • 脚本会建两个引擎期望的软链:engine/checkpoints/OnePoseViaGen → ckpts/OnePoseViaGen、third_party/sam3/checkpoints/sam3/sam3.pt → ckpts/sam3/sam3.pt。

运行期报错。

  • server not ready → 服务还在载模型(opg ~1–3min),看队列目录下的服务日志。
  • motion manifest missing(step8) → step5 没跑,确保 steps 含 5。
  • API key empty → 确认 APIKEY_FILE 存在且含 sk-...;或改走离线标注 QWEN_BACKEND=local。
  • 服务停不掉 → bash scripts/servers/opg_server.sh stop,或 pkill -f opg_server.py。

引用 Citation

如果 OVOW 对你的研究有帮助,请引用:

@inproceedings{chen2026ovow,
  title     = {One Video, One World: Turning Monocular Video into Physical 4D Scenes},
  author    = {Chen, Junhao and Zhang, Boran and Chen, Mingjin and Zhang, Henghaofan and
               Zhang, Saining and Zhu, Congcong and Zhao, Hao and Huang, Ruqi and
               Li, Zhihao and Wang, Yufei},
  booktitle = {European Conference on Computer Vision (ECCV)},
  year      = {2026}
}

致谢 Acknowledgements

OVOW 是在众多优秀的公开研究工作之上搭建的编排框架。衷心感谢以下项目的作者:

核心引擎

  • OnePoseviaGen(One View, Many Worlds)— 本项目的重建引擎,OVOW 的名字亦致敬于此。

引擎所集成 / 本项目所依赖的工作

各组件的许可与溯源见 THIRD_PARTY.md。

许可 License

OVOW 作者原创代码采用 MIT 许可(见 LICENSE)。 但本发布随包分发的第三方组件含非商业许可,因此整仓库为混合许可, 并且仅供非商业研究 / 评估用途—— 详见 NOTICE 与 THIRD_PARTY.md。