Hugging Face's logo

Datasets:
AIGeeksGroup
/
PhysicalWM

Languages:
Chinese
English
Tags:
backup
video-world-model
physical-world-model
License:
Dataset card Files
xet
 Community
PhysicalWM / OVOW /README_zh.md
Ravenveil's picture
Ravenveil
backup 06_ovow_code 2026-11-08 10:30:30
cb8518a verified
preview code
|
Raw History Blame Contribute Delete
15.1 kB
<div align="center">
# OVOW: One Video, One World
### Turning Monocular Video into Physical 4D Scenes
<a href="https://arxiv.org/abs/2606.31388"><img src="https://img.shields.io/badge/ECCV-2026-1a73e8" alt="ECCV 2026"></a>
<a href="https://arxiv.org/abs/2606.31388"><img src="https://img.shields.io/badge/arXiv-2606.31388-b31b1b?logo=arxiv&logoColor=white" alt="arXiv"></a>
<a href="https://OneVideoOneWorld.github.io/"><img src="https://img.shields.io/badge/Project_Page-OVOW-green" alt="Project Page"></a>
<a href="https://arxiv.org/pdf/2606.31388"><img src="https://img.shields.io/badge/Paper-PDF-blue" alt="Paper PDF"></a>
<a href="NOTICE"><img src="https://img.shields.io/badge/License-Mixed_(research--only)-yellow" alt="混合许可：仅供研究"></a>
[English](README.md) | [中文](README_zh.md)
<img src="assets/teaser.jpg" alt="OVOW teaser: monocular video to instance-level, simulation-ready 4D mesh scenes" width="92%">
</div>
**OVOW** 是首个 **training-free** 的系统:把一段普通单目视频(或一张图片)重建成
**instance-level、simulation-ready** 的 4D 网格场景——逐物体的 3D 网格 + 位姿 + 形变动画,
合成全场景动画 GLB 与渲染对比视频。重模型(SAM3 / Hi3DGen / FoundationPose / RoMaV2)
支持**常驻服务**:批量跑时整批只载一次。
> ⚠️ **仅供非商业研究用途。** OVOW 自身代码为 MIT,但随包分发的第三方组件含非商业许可
> (NVIDIA FoundationPose、CC-BY-NC SpaTrackerV2、CC-BY-NC-SA Motion324、Meta SAM License sam3 等)。
> 使用即受各组件许可约束,详见 [NOTICE](NOTICE) 与 [THIRD_PARTY.md](THIRD_PARTY.md)。
> 因此整仓库定位为**源码可见的非商业研究发布**,而不是 OSI 定义下的开源软件发布。
## 复现(从零到出结果)
**前置**:Linux + NVIDIA GPU(建议 ≥40GB 显存,驱动 ≥550)· CUDA Toolkit 12.1+(含 `nvcc`)· conda · ~120GB 磁盘。
```bash
# 0) 取仓库
git clone https://github.com/SparcAI-Inc/OVOW.git && cd OVOW
# 1) 建 3 个 conda 环境(自动装 torch + 依赖 + 编译 CUDA 扩展;最耗时的一步,约 30-60min)
bash environment/create_envs.sh # 结束时打印该填进 .env 的 3 个解释器路径
# 2) 填机器配置
cp .env.example .env # ① 粘贴上一步打印的 3 个 python 路径
# ② 填 DASHSCOPE_API_KEY;没有账号就设 QWEN_BACKEND="local"(离线)
# 3) 装 blender(渲染/合成步骤的硬依赖)
sudo apt install -y blender # 或官方便携版 → 在 .env 里填 BLENDER_BIN
# 4) 路径本机化(把仓库里的占位符展开成你 .env 的路径;一次性,改 .env 后需先 git checkout 还原再重跑)
bash setup.sh
# 5) 下载权重(~55GB,全自动;SAM3 是 HF gated 仓库,需先 `huggingface-cli login` 并在网页同意条款)
bash download_ckpts.sh
# 6) 跑通随包的 examples(见下)
bash examples/smoke_test.sh # 单图,短链路,约 3-5min
bash examples/smoke_test_video.sh # 单视频,完整 4D 链路,约 19-22min
```
哪一步卡住了看下面的[故障排查](#故障排查)。三个环境的 torch/CUDA 版本表,以及
`create_envs.sh` 所自动化的逐条手动安装命令,见 [environment/README.md](environment/README.md)。
### 「复现」在这里的含义
复现目标就是随包的 `examples/`:两个例子都跑出产物,即视为安装可用。两个脚本都以预检开头,
缺什么直接点名(Qwen 后端 / blender / conda 解释器 / SAM3 与 Motion324 权重),而不是跑到
一半才挂;都以产物断言结尾,校验关键产物存在且非空——**光看退出码为 0 不算跑通**。
| 脚本 | 输入 | 步骤 | 产物(在 `outputs/` 下) |
|---|---|---|---|
| `examples/smoke_test.sh` | `examples/images/desk_banana.png` | 1 2 6 7 14 17 18(不含 deform) | `smoke/image_pipeline_<时间戳>/desk_banana/` |
| `examples/smoke_test_video.sh` | `examples/videos/instance_000008.mp4`(768×768,108 帧) | 全链路,含 deform | `smoke_video/ws/instance_000008_<时间戳>_<hash>/` |
两者断言的三个产物(单图链路为 `.png`,视频链路为 `.mp4`):
```
scene_anim_blender_physics_with_deform.glb # 最终全场景 GLB
fullscene_deform_objseq_white_left_rgb_right_split10_h264.{png,mp4} # 白模 vs 输入
fullscene_deform_objseq_textured_left_rgb_right_split10_h264.{png,mp4} # 贴图 vs 输入
```
`smoke_test_video.sh` 可传视频路径,换成你自己的片子:
`bash examples/smoke_test_video.sh /path/to/your.mp4`。
注意生成式步骤未固定随机种子,因此每次跑出的网格与渲染都不同。这里的标准是**链路跑完并产出
上述产物**,而不是逐位一致。
## 使用
```bash
# 一张图片
bash scripts/run_image.sh --image /path/x.png --out ./outputs
# 一段视频
bash scripts/run_video.sh --name eagle --video /path/eagle.mp4 --out ./outputs
# 一个文件夹的所有视频(常驻服务,模型整批只载一次)—— 大批量推荐
bash scripts/run_video_batch.sh --video-dir /path/videos --gpu 0 --out ./outputs
# 图片+视频混合、多卡、断点续跑(10 万级)
bash scripts/run_batch.sh --in /path/inputs --gpus 0,1,2,3 --out ./outputs
```
产物位置:视频在 `<out>/ws/<name>_<时间戳>_<hash>/`,单图在 `<out>/image_pipeline_<时间戳>/<name>/`:
- `scene_anim_blender_physics_with_deform.glb` — 最终全场景动画 GLB
- `fullscene_deform_*_h264.mp4` — 白模/贴图渲染对比视频
## Benchmark
`benchmark/` 是论文所用的评测工具包 **OVOW-Bench**。它对已重建好的场景打分,输出
Scene-IoU(AABB 与 OBB)、经匈牙利匹配并带物体数惩罚的 Object-IoU、光度损失,以及
N-CLIP 视觉指标。几何在协议指定的对齐之后比较,视觉指标走 GT 相机渲染。
工具包只含评测代码与协议元数据——**不含** GT、结果或预测。数据(`OVOW_Bench_Data`)
另在 Hugging Face 发布。它需要自己的 conda 环境,外加 Blender 和本地 CLIP 权重,
因此与流水线的三个环境刻意分开:
```bash
conda env create -f benchmark/environment.yml && conda activate ovow-bench
python benchmark/scripts/check_env.py
# 单元测试不需要 Blender,也不需要 CLIP 权重
cd benchmark && PYTHONDONTWRITEBYTECODE=1 python -m unittest discover -s tests
```
协议、提交目录规范与完整调用方式见 [benchmark/README.md](benchmark/README.md)
与 [benchmark/docs/EVALUATION_PROTOCOL.md](benchmark/docs/EVALUATION_PROTOCOL.md)。
## 工作原理(一览)
<div align="center">
<img src="assets/pipeline.png" alt="OVOW pipeline: VLM-guided scene decomposition → per-instance mesh reconstruction → scale & orientation recovery → per-frame pose tracking" width="95%">
</div>
| 阶段 | 内容 | 跑在哪 |
|---|---|---|
| 标注 | Qwen 物体标注 + static/rigid/deform 分类 | DashScope API 或本地 Qwen3-VL |
| 分割 | SAM3 逐帧掩码 | sam3 env(批量走 sam3-server 常驻) |
| deform 网格 | Motion324 + Hunyuan | motion env |
| 静态/刚体重建 | Hi3DGen 建网格 + FoundationPose 位姿 + RoMaV2 尺度恢复 | opg env(批量走 opg-server 常驻) |
| deform 位姿 | frame_track 逐帧位姿 | opg env(同上) |
| 合成/渲染 | 全场景 GLB 导出 + 渲染对比视频 | blender |
### 流水线步骤
入口脚本把 step 编号作为末尾参数接收
(`bash scripts/run_video.sh --name eagle --video x.mp4 1 2 3 4 5 6 7 8 10 13 14 17 18`)。
不传 steps 时,`run_video.sh` 跑全链路,`run_image.sh` 跑单图子集。step 15/16/19 为可选、默认不跑。
其中 step 15 与 19 还需要本仓库**不随包分发**、由你自行获取的组件,且其中一个是「仅限学术用途」
许可——启用前请看 [THIRD_PARTY.md](THIRD_PARTY.md) 的「可选组件」一节。
| step | 内容 | env / 服务 |
|---|---|---|
| 1 | Qwen 物体标注 + static/rigid/deform 分类 | API 或本地 Qwen3-VL |
| 2 | SAM3 逐帧掩码 | sam3 env(批量走 sam3-server) |
| 3 | 构建 deform 输入(居中视频) | opg(轻量) |
| 4 | deform 网格生成 | Motion324(motion env) |
| 5 | 扫描 Motion324 输出 → manifest | 轻量 |
| 6 | 静态/刚体重建(建网格 + 位姿) | **opg-server(常驻)** |
| 7 | 地面拟合 | opg(几何) |
| 8 | deform 位姿(frame_track) | **opg-server(常驻)** |
| 10 | 合并全场景 mesh 序列 | blender |
| 13 / 14 | 导出全场景 GLB(pre-physics / physics) | blender |
| 17 / 18 | 渲染白模 / 贴图对比视频 | blender |
默认重建骨干是 `uplegacy` = legacy/Hi3DGen 生成 + 升级版位姿链路(romav2 匹配 +
零迭代 scale 恢复 + 全部模型进程内常驻)。它需要 RoMaV2 与 Hi3DGen / SpaTrackerV2 /
FoundationPose 权重(上面第 5 步已含),**不需要** TRELLIS2/CuMesh
(那是 `--recon-backbone trellis2` 才用)。
单视频全链路 ~19–22min,几乎全是计算(step6 ~6min + deform ~9–11min + 渲染);
加载是一次性的服务启动 ~1–3min。
### 常驻服务(批量)
`run_video_batch.sh` 与 `run_batch.sh` 会自动起停 opg-server + sam3-server(各自带独立队列,
无需配置)。重模型(SAM3、opg 核心、RoMaV2、FoundationPose)因此整批只载一次而非每视频载;
Motion324 + Hunyuan(step4)仍每视频载。**常驻的收益在多视频**,单视频常驻 ≈ 非常驻,
所以单跑(`run_image.sh` / `run_video.sh`)默认走进程内。
跨多批手动管理服务:
```bash
bash scripts/servers/opg_server.sh ensure --gpu 0 # ensure = 没在跑才起,已在跑直接复用
bash scripts/servers/opg_server.sh status
bash scripts/servers/opg_server.sh stop
bash scripts/servers/sam3_server.sh ensure --gpu 0
```
想让**单跑**复用手动起的服务,需显式导出队列。引擎的判据是「队列变量非空即走 server」,
且**不做存活检查**——server 没起时导出队列会导致提交后一直等到超时:
```bash
export OPG_SERVER_QUEUE=/tmp/opg_server_main_q SAM3_SERVER_QUEUE=/tmp/sam3_server_q
bash scripts/run_video.sh --name eagle --video /path/eagle.mp4
```
### 关键环境变量
均有合理默认值(见 [configs/paths.sh](configs/paths.sh)),在 `.env` 里覆盖。
| 变量 | 作用 |
|---|---|
| `OPG_SERVER_QUEUE` / `SAM3_SERVER_QUEUE` | step6/8、step2 走常驻服务 |
| `OPG_MATCHER=romav2` | scale 恢复用 RoMaV2 稠密匹配 |
| `OPG_SCALE_REFINE_ITERS=0` | scale 恢复零迭代(romav2 下首次已收敛,约 5x 提速) |
| `OPG_ROMAV2_INPROC=1` | RoMaV2 进程内常驻 |
| `OPG_FP_RESIDENT=1` | FoundationPose 预测器进程内单例 |
| `QWEN_BACKEND=local` | step1 标注走本地 Qwen3-VL,而非 DashScope API |
| `HF_ENDPOINT=https://hf-mirror.com` | 权重下载镜像 |
## 故障排查
**建环境(第 1 步)—— 最可能需要按平台微调的环节。**
`opg` 环境要在本机现场编译扩展(flash-attn / pytorch3d / FoundationPose)。
`create_envs.sh` 对三个环境互不影响、可单独重跑(`bash environment/create_envs.sh opg`);
版本表与等价的逐条手动命令见 [environment/README.md](environment/README.md)。
- 报 `nvcc not found` → 装 CUDA Toolkit 12.1+ 并加入 `PATH`。
- arch/ABI 不匹配 → 确认 torch 是 cu121 wheel、`nvcc -V` ≥ 12.1。
- flash-attn 编译过慢/失败 → 改用对齐 cu121 + torch2.4 的官方预编译 whl。
**没有 DashScope 账号(第 2 步)。** 在 `.env` 里设 `QWEN_BACKEND="local"`,step1 改走本地
Qwen3-VL。图片链路默认自动从 HF 拉 `Qwen/Qwen3-VL-8B-Instruct`;也可先用
`masking/download_qwen3_vl_8b_hf_mirror.sh` 预下载,再以 `--qwen-model /path` 指定。
**占位符展开是一次性的(第 4 步)。** `setup.sh` 会跑 `configure.sh`,把 `@ENGINE_DIR@`、
`@OPG_PY@`、`@BLENDER_BIN@` 等占位符展开成你 `.env` 里的路径。token 展开后即被消耗,
之后改 `.env` 重跑不会更新。要重新配置,先还原工作树:
```bash
git checkout -- engine/ third_party/ masking/ && bash configure.sh
```
**权重(第 5 步)。**
- `facebook/sam3` 是 HF gated 仓库:需先 `huggingface-cli login` 并在模型页面同意条款。
- RoMaV2 权重无需下载,首次运行时 torch.hub 自动拉。
- TRELLIS 权重仅 `--recon-backbone trellis2` 需要:`OVOW_DL_TRELLIS2=1 bash download_ckpts.sh`(+~20GB)。
- 脚本会建两个引擎期望的软链:`engine/checkpoints/OnePoseViaGen → ckpts/OnePoseViaGen`、`third_party/sam3/checkpoints/sam3/sam3.pt → ckpts/sam3/sam3.pt`。
**运行期报错。**
- `server not ready` → 服务还在载模型(opg ~1–3min),看队列目录下的服务日志。
- `motion manifest missing`(step8) → step5 没跑,确保 steps 含 `5`。
- `API key empty` → 确认 `APIKEY_FILE` 存在且含 `sk-...`;或改走离线标注 `QWEN_BACKEND=local`。
- 服务停不掉 → `bash scripts/servers/opg_server.sh stop`,或 `pkill -f opg_server.py`。
## 引用 Citation
如果 OVOW 对你的研究有帮助,请引用:
```bibtex
@inproceedings{chen2026ovow,
title = {One Video, One World: Turning Monocular Video into Physical 4D Scenes},
author = {Chen, Junhao and Zhang, Boran and Chen, Mingjin and Zhang, Henghaofan and
Zhang, Saining and Zhu, Congcong and Zhao, Hao and Huang, Ruqi and
Li, Zhihao and Wang, Yufei},
booktitle = {European Conference on Computer Vision (ECCV)},
year = {2026}
}
```
## 致谢 Acknowledgements
OVOW 是在众多优秀的公开研究工作之上搭建的编排框架。衷心感谢以下项目的作者:
**核心引擎**
- [OnePoseviaGen](https://github.com/GZWSAMA/OnePoseviaGen)(*One View, Many Worlds*)— 本项目的重建引擎,OVOW 的名字亦致敬于此。
**引擎所集成 / 本项目所依赖的工作**
- [FoundationPose](https://github.com/NVlabs/FoundationPose) — 6D 物体位姿估计与跟踪(NVIDIA)
- [SpaTrackerV2 / SpatialTrackerV2](https://github.com/henry123-boy/SpaTrackerV2) — 3D 点跟踪
- [Hunyuan3D-2](https://huggingface.co/Tencent-Hunyuan/Hunyuan3D-2) — Hi3DGen 三维生成(腾讯混元)
- [TRELLIS](https://github.com/microsoft/TRELLIS) — 三维生成表示(Microsoft)
- [Depth-Anything-3 (DA3)](https://github.com/DepthAnything) — 单目深度
- [SAM 2](https://github.com/facebookresearch/sam2) / [SAM 3](https://github.com/facebookresearch/sam3) — 分割(Meta)
- [Motion324](https://github.com/Inception3D/Motion324) — 形变网格动画
- [RoMaV2](https://github.com/Parskatt/RoMaV2) — 稠密特征匹配(scale 恢复 / PnP 矫正)
- [Amodal3R](https://github.com/Sm0kyWu/Amodal3R) — 遮挡感知 3D 重建
- [BundleSDF](https://github.com/NVlabs/BundleSDF) — 位姿精化(NVIDIA)
- [UniDepth](https://github.com/lpiccinelli-eth/UniDepth) — 度量深度估计(ETH)
- [Qwen3-VL](https://github.com/QwenLM/Qwen3-VL) — 多模态标注(阿里巴巴)
各组件的许可与溯源见 [THIRD_PARTY.md](THIRD_PARTY.md)。
## 许可 License
OVOW 作者原创代码采用 **MIT** 许可(见 [LICENSE](LICENSE))。
但本发布随包分发的第三方组件含**非商业许可**,因此整仓库为**混合许可**,
并且**仅供非商业研究 / 评估用途**——
详见 [NOTICE](NOTICE) 与 [THIRD_PARTY.md](THIRD_PARTY.md)。