Hugging Face's logo

Datasets:
yqi19
/
dagger

Modalities:
3D
Tabular
Text
Formats:
json
Size:
100K - 1M
Libraries:
Datasets
Dask
Dataset card Data Studio Files
xet
 Community
1
dagger / 1027_sim_tasks /README.md
yqi19's picture
yqi19
1027_sim_tasks: yu_parts on d5 look, add bread_lever_plate_fast (blb_fast async-video collector), README status
7eeb28d verified
preview code
|
Raw History Blame Contribute Delete
9.19 kB

1027_sim_tasks：UR5 sim2real 所有仿真任务的环境、物体资产和采集脚本

2026-10-27 从 yu_workstation（/home/yu/ur5_sim2real_v5，RTX 4090）打包。

这里包括：conda 环境清单、v5 代码包（workstation 上已经改好路径的版本）、所有任务用到的 OmniGibson 物体资产，以及每个任务的采集脚本。不含数据集和 checkpoint；那些在 1011_sim2real_cube/ 和 1014_ringpeg_bread/ 里。

下载后先校验：在本目录下运行 sha256sum -c MANIFEST.sha256。

目录

路径 内容 大小
env/ install_simfoundry.sh、install_ur5dp.sh、install_simfoundry_lerobot.sh，以及两份环境清单（见下） 小
code/share_v5_sim2real_yu_workstation.tar.gz v5 代码包：ur5_import（场景、sim_collect.py、pack_zarr.py、IK、real_look）、ur5_lab_code（DP 训练）、ur5_sim2real_deploy、tools/、docs/。不含 sim_data / train_runs 39 MB
assets/og_datasets_overlay.tar.gz 合并好的 OmniGibson datasets/ 目录（见第 2 节），附 datasets_SHA256SUMS 52 MB
assets/og_datasets_full.tar.gz workstation 上完整的 OmniGibson datasets/ 原样打包（全部 15 个官方机器人模型 + 我们的全部物体；behavior-1k-assets 本机只是空的 systems/，任务不用 BEHAVIOR-1K 资产）。解压到 <BEHAVIOR-1K>/ 下即可，校验 og_datasets_full.sha256 580 MB
assets/object_materials/ 加载物体后要重新设置的材质（<asset>/materials.json），加上 tools/apply_materials.py 小
assets/yu_parts_v2_src/ 电池、电池座、插头、插座、圆环、立柱的真实尺寸 STL；build_assets_v2.json（尺寸、质量、碰撞块数）；poses.json（真机照片拟合出的摆放位姿） 2 MB
assets/yuasset_v1_docs_only/ v1 零件的说明和颜色校准图。v1 尺寸是错的，只作参考 3 MB
tasks/*.tar.gz 各任务的采集包（见第 3 节） 50 MB

env/ 里的两份清单：

  • reference_2026-09-29/：原机器 ye 的 conda explicit 和 pip freeze，含 simfoundry、ur5dp、ur5_sim2real_deploy 三个环境，另有 ENV.md。
  • yu_workstation_2026-10-27/：本机实际在用的 simfoundry 和 ur5dp，再加环境变量和 GPU 驱动版本。

1. 环境

需要两个 conda 环境：

  • simfoundry：仿真和采集用，Isaac Sim 5.1 + OmniGibson 3.8，Python 3.11。
  • ur5dp：打包 zarr 和训练 DP 用。
mkdir -p ~/ur5_sim2real_v5 && cd ~/ur5_sim2real_v5
tar xzf code/share_v5_sim2real_yu_workstation.tar.gz          # -> share_v5_sim2real_20260929/
# BEHAVIOR-1K（OmniGibson）按 install_simfoundry.sh 里的提交和 setup.sh 参数装，路径是 ~/ur5_sim2real_v5/SimFoundry/deps/BEHAVIOR-1K
bash env/install_simfoundry.sh      # 建 simfoundry 环境，并设 OMNIGIBSON_DATA_PATH=<BEHAVIOR-1K>/datasets
bash env/install_ur5dp.sh           # 建 ur5dp 环境
  • 代码里写死了 /home/yu/ur5_sim2real_v5/...（例如 sim_collect.py 的 S、build_scene.py）。换路径的话，用 share_v5_sim2real_20260929/tools/fix_paths.sh 改，或者建一个同名软链。
  • 显卡要求：4090 上 simfoundry 跑一个采集进程约用 6–8 GB 显存。一台机器同时只跑一个 Isaac 进程，并且设 TORCHINDUCTOR_COMPILE_THREADS=1。不这样设的话，每个进程会起 30 多个 inductor 编译进程，约占 12 GB 内存。

2. 物体资产 

tar xzf assets/og_datasets_overlay.tar.gz -C <BEHAVIOR-1K>     # 合并进 <BEHAVIOR-1K>/datasets/，不会覆盖别的文件
cd <BEHAVIOR-1K> && sha256sum -c datasets_SHA256SUMS --quiet

压缩包里的内容（软链都已经展开成真实文件）：

  • datasets/omnigibson-robot-assets/models/ur5/：UR5 + 2F-85，和 1011_sim2real_cube/A_sim_assets 是同一份。
  • datasets/real2sim-assets/objects/ 下的物体：
    • 抓木块任务用：green_block、red_t_shaped_block、orange_toy_bread、red_bowl。scene_version 会给它们算指纹，所以 4 个都要有。
    • 面包任务用：bread_slice/dkggqw（吐司）、red_bowl_v2/enskfe、black_toaster/osvpfe。
    • 面包机按杆任务用：black_toaster_lever/osvpfe（带弹簧拉杆的面包机）、wood_plate_test3/cqblck（木盘子）。
  • datasets/yu-assets/objects/ 下的 3D 打印零件：
    • v2（真实尺寸，要用这一套）：grey_battery_v2_test、white_battery_v2_test、white_battery_holder_v2_test、grey_plug_v2_test、white_plug_v2_test、white_outlet_v2_test、grey_ring_v2_test、white_ring_v2_test、white_peg_stand_v2_test。
    • v1：white_battery、green_plug、white_ring 等 6 个。尺寸错了，只是为了不让旧脚本报错才留着。

加载后一定要重新设置材质，否则 OmniGibson 会把粗糙度强制改成 0.7。用 apply_materials(obj, <materials.json 或 dict>)：面包相关物体的材质在 assets/object_materials/，v2 零件的颜色直接写在 yp_collect.py 里（白 PETG、灰 PLA）。

3. 任务和采集脚本

所有任务的输出都是同一种格式：episodes/ep_%06d.npz 加 videos/<i>/{0,1}.mp4（cam0 / cam1）。然后都走同一条流水线：pack_zarr.py --dir sim_data/<名> → ur5_lab_code/train.py（DP，两路相机）。

默认的执行噪声：DART 每次推 sigma 4 cm，加起点偏移 ±5 cm（xy）/ ±2 cm（z）。

外观：bread_lean v2_d5、bread_lever_plate（blb）、yu_parts 三个都用同一套 d5 外观（v5rl_bread_d5.yaml + 地毯地板 + 背景道具 + cam1 颜色矩阵 + cam0 接触阴影，d5/ 里的文件三处逐字节相同）；训练都用同一套增强（cam1 dropout 0.1 / aug 0.5 / erase 0.3，cam0 aug 0.3）。抓木块和 ringpeg_v1 是更早的 v5rl 外观，对应的数据和 checkpoint 也是 v5rl。

包 任务 采集入口 状态
code/ 自带 抓 40 mm 绿木块（pick_block） tools/collect_v5.sh v5rld → tools/train_dp.sh 真机 5/5（1011_sim2real_cube）
tasks/ringpeg_v1.tar.gz 圆环套立柱（旧版采集器） ringpeg/ring_chain_dart.sh 采了 100/100，ckpt 在 1014_ringpeg_bread
tasks/bread_lean_package_d5.tar.gz 吐司靠在碗外侧 → 插进面包机槽 package_d5/run_collect.sh <out> <seeds> --dart --start-offset，用法见包内 README v2_d5：仿真 20/20
tasks/bread_lever_plate.tar.gz 吐司立在面包机槽里 → 按拉杆 → 拔出 → 平放到木盘子上 bread_lever_bowl/run_collect.sh <tag> <seeds> --dart --start-offset，配置在 pkg/scripts/blb_collect.py 采集器已修好（放回高度 0.065、朝盘子倾倒、成功判定 r ≤ 60 mm），和下一行的加速版采集逻辑相同
tasks/bread_lever_plate_fast.tar.gz 同上，正在用的加速版（blb_v1 就是用它采的） blb_fast/run_fast.sh <tag> --seeds <a-b> --max-kept 50 --dart --start-offset --settle 20，chain_blb.sh = 采集 → pack_zarr → 训练 和上一行相比只改了视频写出：后处理和 libx264 编码放到每路相机一个后台线程（pkg/scripts/async_video.py），npz 逐位相同，画面差异只在渲染器自身的随机噪声范围内（PSNR 43.8 dB，与原版重跑一样）；每条 404 s → 315 s
tasks/toaster_lever.tar.gz 带弹簧拉杆的面包机资产怎么做出来的（tools/build_lever_usd.py、lever_spring.py）和拉杆测试 scripts/run_lever_sim.sh 资产已经在用
tasks/yu_parts_tasks.tar.gz 电池放进电池座 / 插头翻转后插进插座 / 圆环套立柱（重写版） run_collect.sh <battery|plug|ring> <tag> <seeds>、chain_train.sh <task> <tag>，详见包内 README.md 2026-10-27 起默认 d5 外观（和面包任务一致）；电池冒烟测试排在 blb 之后，还没在 Isaac 里测过

面包任务的数据目录

面包两个任务（bread_lean、bread_lever_plate）的场景代码会检查 OMNIGIBSON_DATA_PATH 是否等于 STEP40_OG_DATA。最简单的做法是两个变量都指向装了第 2 节资产的那个 <BEHAVIOR-1K>/datasets，它里面已经有所需的全部物体。也可以用包里的 setup_og_data.sh 另建一个软链目录。

新任务（yu_parts_tasks）快速开始 

tar xzf tasks/yu_parts_tasks.tar.gz -C ~/ur5_sim2real_v5
cd ~/ur5_sim2real_v5/yu_parts_tasks
bash run_collect.sh battery smoke 1-3 --keep-failed-video      # 冒烟测试，日志在 data/battery/smoke.log
tmux new -d -s yp_bat "bash chain_train.sh battery bat_v1 50 130"   # 采 50 条 -> pack_zarr -> 训练 DP

4. 来源

  • 代码：yu_workstation 上的 share_v5_sim2real_20260929，原包来自 box ye /home/zhang/xxy（2026-09-29），之后在 workstation 上改过路径。
  • 面包、碗、面包机、木盘子资产：box ye 的 ~/xxy/SimFoundry/Data/... 和 step35/40 分析目录（只读复制）。各包里的 PROVENANCE.txt 和 README 有逐项记录。
  • yu_parts v2：box ye ~/xxy/SimFoundry/Data/yu_parts_v2（2026-10-12 真实尺寸 STL 重建，颜色对着真机相机校过）。