| # 1027_sim_tasks：UR5 sim2real 所有仿真任务的环境、物体资产和采集脚本 |
|
|
| 2026-10-27 从 yu_workstation（`/home/yu/ur5_sim2real_v5`，RTX 4090）打包。 |
| |
| 这里包括：conda 环境清单、v5 代码包（workstation 上已经改好路径的版本）、所有任务用到的 OmniGibson 物体资产，以及每个任务的采集脚本。不含数据集和 checkpoint；那些在 `1011_sim2real_cube/` 和 `1014_ringpeg_bread/` 里。 |
| |
| 下载后先校验：在本目录下运行 `sha256sum -c MANIFEST.sha256`。 |
| |
| ## 目录 |
| |
| | 路径 | 内容 | 大小 | |
| |---|---|---| |
| | `env/` | `install_simfoundry.sh`、`install_ur5dp.sh`、`install_simfoundry_lerobot.sh`，以及两份环境清单（见下） | 小 | |
| | `code/share_v5_sim2real_yu_workstation.tar.gz` | v5 代码包：`ur5_import`（场景、`sim_collect.py`、`pack_zarr.py`、IK、real_look）、`ur5_lab_code`（DP 训练）、`ur5_sim2real_deploy`、`tools/`、`docs/`。不含 sim_data / train_runs | 39 MB | |
| | `assets/og_datasets_overlay.tar.gz` | 合并好的 OmniGibson `datasets/` 目录（见第 2 节），附 `datasets_SHA256SUMS` | 52 MB | |
| | `assets/og_datasets_full.tar.gz` | workstation 上完整的 OmniGibson `datasets/` 原样打包（全部 15 个官方机器人模型 + 我们的全部物体；`behavior-1k-assets` 本机只是空的 `systems/`，任务不用 BEHAVIOR-1K 资产）。解压到 `<BEHAVIOR-1K>/` 下即可，校验 `og_datasets_full.sha256` | 580 MB | |
| | `assets/object_materials/` | 加载物体后要重新设置的材质（`<asset>/materials.json`），加上 `tools/apply_materials.py` | 小 | |
| | `assets/yu_parts_v2_src/` | 电池、电池座、插头、插座、圆环、立柱的真实尺寸 STL；`build_assets_v2.json`（尺寸、质量、碰撞块数）；`poses.json`（真机照片拟合出的摆放位姿） | 2 MB | |
| | `assets/yuasset_v1_docs_only/` | v1 零件的说明和颜色校准图。v1 尺寸是错的，只作参考 | 3 MB | |
| | `tasks/*.tar.gz` | 各任务的采集包（见第 3 节） | 50 MB | |
|
|
| `env/` 里的两份清单： |
| - `reference_2026-09-29/`：原机器 ye 的 conda explicit 和 pip freeze，含 simfoundry、ur5dp、ur5_sim2real_deploy 三个环境，另有 `ENV.md`。 |
| - `yu_workstation_2026-10-27/`：本机实际在用的 simfoundry 和 ur5dp，再加环境变量和 GPU 驱动版本。 |
|
|
| ## 1. 环境 |
|
|
| 需要两个 conda 环境： |
| - **simfoundry**：仿真和采集用，Isaac Sim 5.1 + OmniGibson 3.8，Python 3.11。 |
| - **ur5dp**：打包 zarr 和训练 DP 用。 |
|
|
| ```bash |
| mkdir -p ~/ur5_sim2real_v5 && cd ~/ur5_sim2real_v5 |
| tar xzf code/share_v5_sim2real_yu_workstation.tar.gz # -> share_v5_sim2real_20260929/ |
| # BEHAVIOR-1K（OmniGibson）按 install_simfoundry.sh 里的提交和 setup.sh 参数装，路径是 ~/ur5_sim2real_v5/SimFoundry/deps/BEHAVIOR-1K |
| bash env/install_simfoundry.sh # 建 simfoundry 环境，并设 OMNIGIBSON_DATA_PATH=<BEHAVIOR-1K>/datasets |
| bash env/install_ur5dp.sh # 建 ur5dp 环境 |
| ``` |
|
|
| - 代码里写死了 `/home/yu/ur5_sim2real_v5/...`（例如 `sim_collect.py` 的 `S`、`build_scene.py`）。换路径的话，用 `share_v5_sim2real_20260929/tools/fix_paths.sh` 改，或者建一个同名软链。 |
| - 显卡要求：4090 上 simfoundry 跑一个采集进程约用 6–8 GB 显存。**一台机器同时只跑一个 Isaac 进程**，并且设 `TORCHINDUCTOR_COMPILE_THREADS=1`。不这样设的话，每个进程会起 30 多个 inductor 编译进程，约占 12 GB 内存。 |
|
|
| ## 2. 物体资产 |
|
|
| ```bash |
| tar xzf assets/og_datasets_overlay.tar.gz -C <BEHAVIOR-1K> # 合并进 <BEHAVIOR-1K>/datasets/，不会覆盖别的文件 |
| cd <BEHAVIOR-1K> && sha256sum -c datasets_SHA256SUMS --quiet |
| ``` |
|
|
| 压缩包里的内容（软链都已经展开成真实文件）： |
| - `datasets/omnigibson-robot-assets/models/ur5/`：UR5 + 2F-85，和 `1011_sim2real_cube/A_sim_assets` 是同一份。 |
| - `datasets/real2sim-assets/objects/` 下的物体： |
| - 抓木块任务用：`green_block`、`red_t_shaped_block`、`orange_toy_bread`、`red_bowl`。`scene_version` 会给它们算指纹，所以 4 个都要有。 |
| - 面包任务用：`bread_slice/dkggqw`（吐司）、`red_bowl_v2/enskfe`、`black_toaster/osvpfe`。 |
| - 面包机按杆任务用：`black_toaster_lever/osvpfe`（带弹簧拉杆的面包机）、`wood_plate_test3/cqblck`（木盘子）。 |
| - `datasets/yu-assets/objects/` 下的 3D 打印零件： |
| - **v2（真实尺寸，要用这一套）**：`grey_battery_v2_test`、`white_battery_v2_test`、`white_battery_holder_v2_test`、`grey_plug_v2_test`、`white_plug_v2_test`、`white_outlet_v2_test`、`grey_ring_v2_test`、`white_ring_v2_test`、`white_peg_stand_v2_test`。 |
| - v1：`white_battery`、`green_plug`、`white_ring` 等 6 个。尺寸错了，只是为了不让旧脚本报错才留着。 |
|
|
| 加载后一定要重新设置材质，否则 OmniGibson 会把粗糙度强制改成 0.7。用 `apply_materials(obj, <materials.json 或 dict>)`：面包相关物体的材质在 `assets/object_materials/`，v2 零件的颜色直接写在 `yp_collect.py` 里（白 PETG、灰 PLA）。 |
|
|
| ## 3. 任务和采集脚本 |
|
|
| 所有任务的输出都是同一种格式：`episodes/ep_%06d.npz` 加 `videos/<i>/{0,1}.mp4`（cam0 / cam1）。然后都走同一条流水线：`pack_zarr.py --dir sim_data/<名>` → `ur5_lab_code/train.py`（DP，两路相机）。 |
|
|
| 默认的执行噪声：DART 每次推 sigma 4 cm，加起点偏移 ±5 cm（xy）/ ±2 cm（z）。 |
|
|
| 外观：bread_lean v2_d5、bread_lever_plate（blb）、yu_parts 三个都用同一套 **d5 外观**（`v5rl_bread_d5.yaml` + 地毯地板 + 背景道具 + cam1 颜色矩阵 + cam0 接触阴影，`d5/` 里的文件三处逐字节相同）；训练都用同一套增强（cam1 dropout 0.1 / aug 0.5 / erase 0.3，cam0 aug 0.3）。抓木块和 ringpeg_v1 是更早的 v5rl 外观，对应的数据和 checkpoint 也是 v5rl。 |
|
|
| | 包 | 任务 | 采集入口 | 状态 | |
| |---|---|---|---| |
| | `code/` 自带 | 抓 40 mm 绿木块（pick_block） | `tools/collect_v5.sh v5rld` → `tools/train_dp.sh` | 真机 5/5（`1011_sim2real_cube`） | |
| | `tasks/ringpeg_v1.tar.gz` | 圆环套立柱（旧版采集器） | `ringpeg/ring_chain_dart.sh` | 采了 100/100，ckpt 在 `1014_ringpeg_bread` | |
| | `tasks/bread_lean_package_d5.tar.gz` | 吐司靠在碗外侧 → 插进面包机槽 | `package_d5/run_collect.sh <out> <seeds> --dart --start-offset`，用法见包内 README | v2_d5：仿真 20/20 | |
| | `tasks/bread_lever_plate.tar.gz` | 吐司立在面包机槽里 → 按拉杆 → 拔出 → 平放到木盘子上 | `bread_lever_bowl/run_collect.sh <tag> <seeds> --dart --start-offset`，配置在 `pkg/scripts/blb_collect.py` | 采集器已修好（放回高度 0.065、朝盘子倾倒、成功判定 r ≤ 60 mm），和下一行的加速版采集逻辑相同 | |
| | `tasks/bread_lever_plate_fast.tar.gz` | 同上，**正在用的加速版**（blb_v1 就是用它采的） | `blb_fast/run_fast.sh <tag> --seeds <a-b> --max-kept 50 --dart --start-offset --settle 20`，`chain_blb.sh` = 采集 → pack_zarr → 训练 | 和上一行相比只改了视频写出：后处理和 libx264 编码放到每路相机一个后台线程（`pkg/scripts/async_video.py`），npz 逐位相同，画面差异只在渲染器自身的随机噪声范围内（PSNR 43.8 dB，与原版重跑一样）；每条 404 s → 315 s | |
| | `tasks/toaster_lever.tar.gz` | 带弹簧拉杆的面包机资产怎么做出来的（`tools/build_lever_usd.py`、`lever_spring.py`）和拉杆测试 | `scripts/run_lever_sim.sh` | 资产已经在用 | |
| | `tasks/yu_parts_tasks.tar.gz` | **电池放进电池座 / 插头翻转后插进插座 / 圆环套立柱（重写版）** | `run_collect.sh <battery\|plug\|ring> <tag> <seeds>`、`chain_train.sh <task> <tag>`，详见包内 README.md | 2026-10-27 起默认 d5 外观（和面包任务一致）；电池冒烟测试排在 blb 之后，**还没在 Isaac 里测过** | |
| | `tasks/yu_parts_tasks_1031.tar.gz` | **2026-10-31 增量包，三个新任务**：插头从灰色斜坡插进插座（plug1ramp）/ 黑白两节电池放进灰、白电池座（battery2）/ 抓板擦擦掉白板上的黑笔线和污渍再放回（eraser1）。含采集脚本、新物体（`object_assets/objects/`：灰/白插头斜坡、白板、板擦）和资产来源 | 解压到 `yu_parts_tasks.tar.gz` 同一父目录，`run_stack.sh <plug1ramp\|battery2\|eraser1> <tag> <seeds>`；集群用 `code/1028_run/tasks/yp_task_1031.sh`。详见包内 `README_1031.md` | workstation 冒烟测试三个任务都是 12/12（DART + 起点偏移） | |
|
|
| ### 面包任务的数据目录 |
|
|
| 面包两个任务（bread_lean、bread_lever_plate）的场景代码会检查 `OMNIGIBSON_DATA_PATH` 是否等于 `STEP40_OG_DATA`。最简单的做法是两个变量都指向装了第 2 节资产的那个 `<BEHAVIOR-1K>/datasets`，它里面已经有所需的全部物体。也可以用包里的 `setup_og_data.sh` 另建一个软链目录。 |
| |
| ### 新任务（yu_parts_tasks）快速开始 |
| |
| ```bash |
| tar xzf tasks/yu_parts_tasks.tar.gz -C ~/ur5_sim2real_v5 |
| cd ~/ur5_sim2real_v5/yu_parts_tasks |
| bash run_collect.sh battery smoke 1-3 --keep-failed-video # 冒烟测试，日志在 data/battery/smoke.log |
| tmux new -d -s yp_bat "bash chain_train.sh battery bat_v1 50 130" # 采 50 条 -> pack_zarr -> 训练 DP |
| ``` |
| |
| ### 1031 新任务快速开始 |
| |
| ```bash |
| tar xzf tasks/yu_parts_tasks_1031.tar.gz -C ~/ur5_sim2real_v5 # 只新增文件，不覆盖 10-27 版 |
| for c in ~/ur5_sim2real_v5/yu_parts_tasks/object_assets/objects/*; do ln -sfn $c <BEHAVIOR-1K>/datasets/yu-assets/objects/$(basename $c); done |
| cd ~/ur5_sim2real_v5/yu_parts_tasks |
| bash run_stack.sh eraser1 smoke 0-3 --no-video # 日志 data/eraser1/smoke.log |
| ``` |
| |
| ## 4. 来源 |
| |
| - 代码：yu_workstation 上的 `share_v5_sim2real_20260929`，原包来自 box ye `/home/zhang/xxy`（2026-09-29），之后在 workstation 上改过路径。 |
| - 面包、碗、面包机、木盘子资产：box ye 的 `~/xxy/SimFoundry/Data/...` 和 `step35/40` 分析目录（只读复制）。各包里的 `PROVENANCE.txt` 和 README 有逐项记录。 |
| - yu_parts v2：box ye `~/xxy/SimFoundry/Data/yu_parts_v2`（2026-10-12 真实尺寸 STL 重建，颜色对着真机相机校过）。 |
| |
