# OVOW: One Video, One World ### Turning Monocular Video into Physical 4D Scenes ECCV 2026 arXiv Project Page Paper PDF 混合许可：仅供研究 [English](README.md) | [中文](README_zh.md) OVOW teaser: monocular video to instance-level, simulation-ready 4D mesh scenes
**OVOW** 是首个 **training-free** 的系统:把一段普通单目视频(或一张图片)重建成 **instance-level、simulation-ready** 的 4D 网格场景——逐物体的 3D 网格 + 位姿 + 形变动画, 合成全场景动画 GLB 与渲染对比视频。重模型(SAM3 / Hi3DGen / FoundationPose / RoMaV2) 支持**常驻服务**:批量跑时整批只载一次。 > ⚠️ **仅供非商业研究用途。** OVOW 自身代码为 MIT,但随包分发的第三方组件含非商业许可 > (NVIDIA FoundationPose、CC-BY-NC SpaTrackerV2、CC-BY-NC-SA Motion324、Meta SAM License sam3 等)。 > 使用即受各组件许可约束,详见 [NOTICE](NOTICE) 与 [THIRD_PARTY.md](THIRD_PARTY.md)。 > 因此整仓库定位为**源码可见的非商业研究发布**,而不是 OSI 定义下的开源软件发布。 ## 复现(从零到出结果) **前置**:Linux + NVIDIA GPU(建议 ≥40GB 显存,驱动 ≥550)· CUDA Toolkit 12.1+(含 `nvcc`)· conda · ~120GB 磁盘。 ```bash # 0) 取仓库 git clone https://github.com/SparcAI-Inc/OVOW.git && cd OVOW # 1) 建 3 个 conda 环境(自动装 torch + 依赖 + 编译 CUDA 扩展;最耗时的一步,约 30-60min) bash environment/create_envs.sh # 结束时打印该填进 .env 的 3 个解释器路径 # 2) 填机器配置 cp .env.example .env # ① 粘贴上一步打印的 3 个 python 路径 # ② 填 DASHSCOPE_API_KEY;没有账号就设 QWEN_BACKEND="local"(离线) # 3) 装 blender(渲染/合成步骤的硬依赖) sudo apt install -y blender # 或官方便携版 → 在 .env 里填 BLENDER_BIN # 4) 路径本机化(把仓库里的占位符展开成你 .env 的路径;一次性,改 .env 后需先 git checkout 还原再重跑) bash setup.sh # 5) 下载权重(~55GB,全自动;SAM3 是 HF gated 仓库,需先 `huggingface-cli login` 并在网页同意条款) bash download_ckpts.sh # 6) 跑通随包的 examples(见下) bash examples/smoke_test.sh # 单图,短链路,约 3-5min bash examples/smoke_test_video.sh # 单视频,完整 4D 链路,约 19-22min ``` 哪一步卡住了看下面的[故障排查](#故障排查)。三个环境的 torch/CUDA 版本表,以及 `create_envs.sh` 所自动化的逐条手动安装命令,见 [environment/README.md](environment/README.md)。 ### 「复现」在这里的含义 复现目标就是随包的 `examples/`:两个例子都跑出产物,即视为安装可用。两个脚本都以预检开头, 缺什么直接点名(Qwen 后端 / blender / conda 解释器 / SAM3 与 Motion324 权重),而不是跑到 一半才挂;都以产物断言结尾,校验关键产物存在且非空——**光看退出码为 0 不算跑通**。 | 脚本 | 输入 | 步骤 | 产物(在 `outputs/` 下) | |---|---|---|---| | `examples/smoke_test.sh` | `examples/images/desk_banana.png` | 1 2 6 7 14 17 18(不含 deform) | `smoke/image_pipeline_<时间戳>/desk_banana/` | | `examples/smoke_test_video.sh` | `examples/videos/instance_000008.mp4`(768×768,108 帧) | 全链路,含 deform | `smoke_video/ws/instance_000008_<时间戳>_/` | 两者断言的三个产物(单图链路为 `.png`,视频链路为 `.mp4`): ``` scene_anim_blender_physics_with_deform.glb # 最终全场景 GLB fullscene_deform_objseq_white_left_rgb_right_split10_h264.{png,mp4} # 白模 vs 输入 fullscene_deform_objseq_textured_left_rgb_right_split10_h264.{png,mp4} # 贴图 vs 输入 ``` `smoke_test_video.sh` 可传视频路径,换成你自己的片子: `bash examples/smoke_test_video.sh /path/to/your.mp4`。 注意生成式步骤未固定随机种子,因此每次跑出的网格与渲染都不同。这里的标准是**链路跑完并产出 上述产物**,而不是逐位一致。 ## 使用 ```bash # 一张图片 bash scripts/run_image.sh --image /path/x.png --out ./outputs # 一段视频 bash scripts/run_video.sh --name eagle --video /path/eagle.mp4 --out ./outputs # 一个文件夹的所有视频(常驻服务,模型整批只载一次)—— 大批量推荐 bash scripts/run_video_batch.sh --video-dir /path/videos --gpu 0 --out ./outputs # 图片+视频混合、多卡、断点续跑(10 万级) bash scripts/run_batch.sh --in /path/inputs --gpus 0,1,2,3 --out ./outputs ``` 产物位置:视频在 `/ws/_<时间戳>_/`,单图在 `/image_pipeline_<时间戳>//`: - `scene_anim_blender_physics_with_deform.glb` — 最终全场景动画 GLB - `fullscene_deform_*_h264.mp4` — 白模/贴图渲染对比视频 ## Benchmark `benchmark/` 是论文所用的评测工具包 **OVOW-Bench**。它对已重建好的场景打分,输出 Scene-IoU(AABB 与 OBB)、经匈牙利匹配并带物体数惩罚的 Object-IoU、光度损失,以及 N-CLIP 视觉指标。几何在协议指定的对齐之后比较,视觉指标走 GT 相机渲染。 工具包只含评测代码与协议元数据——**不含** GT、结果或预测。数据(`OVOW_Bench_Data`) 另在 Hugging Face 发布。它需要自己的 conda 环境,外加 Blender 和本地 CLIP 权重, 因此与流水线的三个环境刻意分开: ```bash conda env create -f benchmark/environment.yml && conda activate ovow-bench python benchmark/scripts/check_env.py # 单元测试不需要 Blender,也不需要 CLIP 权重 cd benchmark && PYTHONDONTWRITEBYTECODE=1 python -m unittest discover -s tests ``` 协议、提交目录规范与完整调用方式见 [benchmark/README.md](benchmark/README.md) 与 [benchmark/docs/EVALUATION_PROTOCOL.md](benchmark/docs/EVALUATION_PROTOCOL.md)。 ## 工作原理(一览)
OVOW pipeline: VLM-guided scene decomposition → per-instance mesh reconstruction → scale & orientation recovery → per-frame pose tracking
| 阶段 | 内容 | 跑在哪 | |---|---|---| | 标注 | Qwen 物体标注 + static/rigid/deform 分类 | DashScope API 或本地 Qwen3-VL | | 分割 | SAM3 逐帧掩码 | sam3 env(批量走 sam3-server 常驻) | | deform 网格 | Motion324 + Hunyuan | motion env | | 静态/刚体重建 | Hi3DGen 建网格 + FoundationPose 位姿 + RoMaV2 尺度恢复 | opg env(批量走 opg-server 常驻) | | deform 位姿 | frame_track 逐帧位姿 | opg env(同上) | | 合成/渲染 | 全场景 GLB 导出 + 渲染对比视频 | blender | ### 流水线步骤 入口脚本把 step 编号作为末尾参数接收 (`bash scripts/run_video.sh --name eagle --video x.mp4 1 2 3 4 5 6 7 8 10 13 14 17 18`)。 不传 steps 时,`run_video.sh` 跑全链路,`run_image.sh` 跑单图子集。step 15/16/19 为可选、默认不跑。 其中 step 15 与 19 还需要本仓库**不随包分发**、由你自行获取的组件,且其中一个是「仅限学术用途」 许可——启用前请看 [THIRD_PARTY.md](THIRD_PARTY.md) 的「可选组件」一节。 | step | 内容 | env / 服务 | |---|---|---| | 1 | Qwen 物体标注 + static/rigid/deform 分类 | API 或本地 Qwen3-VL | | 2 | SAM3 逐帧掩码 | sam3 env(批量走 sam3-server) | | 3 | 构建 deform 输入(居中视频) | opg(轻量) | | 4 | deform 网格生成 | Motion324(motion env) | | 5 | 扫描 Motion324 输出 → manifest | 轻量 | | 6 | 静态/刚体重建(建网格 + 位姿) | **opg-server(常驻)** | | 7 | 地面拟合 | opg(几何) | | 8 | deform 位姿(frame_track) | **opg-server(常驻)** | | 10 | 合并全场景 mesh 序列 | blender | | 13 / 14 | 导出全场景 GLB(pre-physics / physics) | blender | | 17 / 18 | 渲染白模 / 贴图对比视频 | blender | 默认重建骨干是 `uplegacy` = legacy/Hi3DGen 生成 + 升级版位姿链路(romav2 匹配 + 零迭代 scale 恢复 + 全部模型进程内常驻)。它需要 RoMaV2 与 Hi3DGen / SpaTrackerV2 / FoundationPose 权重(上面第 5 步已含),**不需要** TRELLIS2/CuMesh (那是 `--recon-backbone trellis2` 才用)。 单视频全链路 ~19–22min,几乎全是计算(step6 ~6min + deform ~9–11min + 渲染); 加载是一次性的服务启动 ~1–3min。 ### 常驻服务(批量) `run_video_batch.sh` 与 `run_batch.sh` 会自动起停 opg-server + sam3-server(各自带独立队列, 无需配置)。重模型(SAM3、opg 核心、RoMaV2、FoundationPose)因此整批只载一次而非每视频载; Motion324 + Hunyuan(step4)仍每视频载。**常驻的收益在多视频**,单视频常驻 ≈ 非常驻, 所以单跑(`run_image.sh` / `run_video.sh`)默认走进程内。 跨多批手动管理服务: ```bash bash scripts/servers/opg_server.sh ensure --gpu 0 # ensure = 没在跑才起,已在跑直接复用 bash scripts/servers/opg_server.sh status bash scripts/servers/opg_server.sh stop bash scripts/servers/sam3_server.sh ensure --gpu 0 ``` 想让**单跑**复用手动起的服务,需显式导出队列。引擎的判据是「队列变量非空即走 server」, 且**不做存活检查**——server 没起时导出队列会导致提交后一直等到超时: ```bash export OPG_SERVER_QUEUE=/tmp/opg_server_main_q SAM3_SERVER_QUEUE=/tmp/sam3_server_q bash scripts/run_video.sh --name eagle --video /path/eagle.mp4 ``` ### 关键环境变量 均有合理默认值(见 [configs/paths.sh](configs/paths.sh)),在 `.env` 里覆盖。 | 变量 | 作用 | |---|---| | `OPG_SERVER_QUEUE` / `SAM3_SERVER_QUEUE` | step6/8、step2 走常驻服务 | | `OPG_MATCHER=romav2` | scale 恢复用 RoMaV2 稠密匹配 | | `OPG_SCALE_REFINE_ITERS=0` | scale 恢复零迭代(romav2 下首次已收敛,约 5x 提速) | | `OPG_ROMAV2_INPROC=1` | RoMaV2 进程内常驻 | | `OPG_FP_RESIDENT=1` | FoundationPose 预测器进程内单例 | | `QWEN_BACKEND=local` | step1 标注走本地 Qwen3-VL,而非 DashScope API | | `HF_ENDPOINT=https://hf-mirror.com` | 权重下载镜像 | ## 故障排查 **建环境(第 1 步)—— 最可能需要按平台微调的环节。** `opg` 环境要在本机现场编译扩展(flash-attn / pytorch3d / FoundationPose)。 `create_envs.sh` 对三个环境互不影响、可单独重跑(`bash environment/create_envs.sh opg`); 版本表与等价的逐条手动命令见 [environment/README.md](environment/README.md)。 - 报 `nvcc not found` → 装 CUDA Toolkit 12.1+ 并加入 `PATH`。 - arch/ABI 不匹配 → 确认 torch 是 cu121 wheel、`nvcc -V` ≥ 12.1。 - flash-attn 编译过慢/失败 → 改用对齐 cu121 + torch2.4 的官方预编译 whl。 **没有 DashScope 账号(第 2 步)。** 在 `.env` 里设 `QWEN_BACKEND="local"`,step1 改走本地 Qwen3-VL。图片链路默认自动从 HF 拉 `Qwen/Qwen3-VL-8B-Instruct`;也可先用 `masking/download_qwen3_vl_8b_hf_mirror.sh` 预下载,再以 `--qwen-model /path` 指定。 **占位符展开是一次性的(第 4 步)。** `setup.sh` 会跑 `configure.sh`,把 `@ENGINE_DIR@`、 `@OPG_PY@`、`@BLENDER_BIN@` 等占位符展开成你 `.env` 里的路径。token 展开后即被消耗, 之后改 `.env` 重跑不会更新。要重新配置,先还原工作树: ```bash git checkout -- engine/ third_party/ masking/ && bash configure.sh ``` **权重(第 5 步)。** - `facebook/sam3` 是 HF gated 仓库:需先 `huggingface-cli login` 并在模型页面同意条款。 - RoMaV2 权重无需下载,首次运行时 torch.hub 自动拉。 - TRELLIS 权重仅 `--recon-backbone trellis2` 需要:`OVOW_DL_TRELLIS2=1 bash download_ckpts.sh`(+~20GB)。 - 脚本会建两个引擎期望的软链:`engine/checkpoints/OnePoseViaGen → ckpts/OnePoseViaGen`、`third_party/sam3/checkpoints/sam3/sam3.pt → ckpts/sam3/sam3.pt`。 **运行期报错。** - `server not ready` → 服务还在载模型(opg ~1–3min),看队列目录下的服务日志。 - `motion manifest missing`(step8) → step5 没跑,确保 steps 含 `5`。 - `API key empty` → 确认 `APIKEY_FILE` 存在且含 `sk-...`;或改走离线标注 `QWEN_BACKEND=local`。 - 服务停不掉 → `bash scripts/servers/opg_server.sh stop`,或 `pkill -f opg_server.py`。 ## 引用 Citation 如果 OVOW 对你的研究有帮助,请引用: ```bibtex @inproceedings{chen2026ovow, title = {One Video, One World: Turning Monocular Video into Physical 4D Scenes}, author = {Chen, Junhao and Zhang, Boran and Chen, Mingjin and Zhang, Henghaofan and Zhang, Saining and Zhu, Congcong and Zhao, Hao and Huang, Ruqi and Li, Zhihao and Wang, Yufei}, booktitle = {European Conference on Computer Vision (ECCV)}, year = {2026} } ``` ## 致谢 Acknowledgements OVOW 是在众多优秀的公开研究工作之上搭建的编排框架。衷心感谢以下项目的作者: **核心引擎** - [OnePoseviaGen](https://github.com/GZWSAMA/OnePoseviaGen)(*One View, Many Worlds*)— 本项目的重建引擎,OVOW 的名字亦致敬于此。 **引擎所集成 / 本项目所依赖的工作** - [FoundationPose](https://github.com/NVlabs/FoundationPose) — 6D 物体位姿估计与跟踪(NVIDIA) - [SpaTrackerV2 / SpatialTrackerV2](https://github.com/henry123-boy/SpaTrackerV2) — 3D 点跟踪 - [Hunyuan3D-2](https://huggingface.co/Tencent-Hunyuan/Hunyuan3D-2) — Hi3DGen 三维生成(腾讯混元) - [TRELLIS](https://github.com/microsoft/TRELLIS) — 三维生成表示(Microsoft) - [Depth-Anything-3 (DA3)](https://github.com/DepthAnything) — 单目深度 - [SAM 2](https://github.com/facebookresearch/sam2) / [SAM 3](https://github.com/facebookresearch/sam3) — 分割(Meta) - [Motion324](https://github.com/Inception3D/Motion324) — 形变网格动画 - [RoMaV2](https://github.com/Parskatt/RoMaV2) — 稠密特征匹配(scale 恢复 / PnP 矫正) - [Amodal3R](https://github.com/Sm0kyWu/Amodal3R) — 遮挡感知 3D 重建 - [BundleSDF](https://github.com/NVlabs/BundleSDF) — 位姿精化(NVIDIA) - [UniDepth](https://github.com/lpiccinelli-eth/UniDepth) — 度量深度估计(ETH) - [Qwen3-VL](https://github.com/QwenLM/Qwen3-VL) — 多模态标注(阿里巴巴) 各组件的许可与溯源见 [THIRD_PARTY.md](THIRD_PARTY.md)。 ## 许可 License OVOW 作者原创代码采用 **MIT** 许可(见 [LICENSE](LICENSE))。 但本发布随包分发的第三方组件含**非商业许可**,因此整仓库为**混合许可**, 并且**仅供非商业研究 / 评估用途**—— 详见 [NOTICE](NOTICE) 与 [THIRD_PARTY.md](THIRD_PARTY.md)。