BruceJee/tennis_rpy_closed_loop

Tennis RPY closed-loop experiment

当前 RPY VLA 在 Isaac Sim 中进行网球接球实验的部署资料、场景和实验侧代码快照。模型代码、checkpoint、模型配置和模型缓存不在此仓库内，由部署机器已有模型提供。此仓库以 HF dataset 类型保存实验复现资料，不是新的训练数据集。

文件

• simulation_bundle.tar.gz：场景USD/3DGS/网格/球资源、仿真入口和当前场景脚本。
• experiment/：异步评测、模型服务、RPY接口、IK/FK及运动学参数。
• config_template.json：成功运行配置的模板；用部署脚本替换旧机器路径。
• configure_deployment.py：解压后设置新机器的仿真、模型、权重及Python路径。
• docs/MIGRATION_ZH.md：完整文件清单、依赖、路径和控制流程说明。
• docs/CLOSED_LOOP_RESULT_ZH.md：20条闭环实验配置、结果和限制。
• docs/OFFLINE_RESULT_ZH.md：20条HF保存观测的模型/GT精度对比。
• results/：闭环逐条CSV/JSON、离线预测/GT、全部20条XYZ/RPY图表。
• environment/：源机器环境包列表，供重建对照。
• SHA256SUMS：文件完整性校验。

新机器运行

先安装兼容的 Isaac Sim / Isaac Lab 和仿真Python环境，并准备现有的7维RPY模型代码、checkpoint与其配置。源环境实际构建为 Isaac Sim 6.0.1-rc.7+release.42383.32955d8d.gl，与 PyPI isaacsim-app==6.0.1.0 Linux x86_64 wheel 内部 VERSION 一致。Isaac Lab 固定 commit 28a37cecdd433c22d9eabd6a5954add9f13a8951（perf-2026-06-24，detached HEAD，工作树干净）；其 VERSION 文件为 3.0.0，不代表正式发行 tag。仿真Python3.12、模型Python3.10。源环境的精确包列表见 environment/。GPU/驱动/推理耗时变化可能影响异步实验结果。

下载仓库后执行（所有占位路径必须替换）：

tar -xzf simulation_bundle.tar.gz
python configure_deployment.py \
  --conda-sh /NEW/miniconda3/etc/profile.d/conda.sh \
  --sim-env isaacsim \
  --isaac-path /NEW/isaacsim/standalone \
  --isaaclab /NEW/isaaclab \
  --policy-python /NEW/miniconda3/envs/dynamic_vla/bin/python \
  --policy-lib /NEW/miniconda3/envs/dynamic_vla/lib \
  --model-root /NEW/dynamic-vla-ring \
  --checkpoint /NEW/checkpoint
./experiment/run_eval.sh --config "$PWD/config_local.json" --check-only
./experiment/run_eval.sh --config "$PWD/config_local.json" \
  --episodes 20 --run-dir "$PWD/runs/new_machine_20"

路径适配脚本只修改下载副本，不安装环境，也不启动模型。新机器部署尚未实测；--check-only 只做配置和部分路径检查，实际模型、USD、渲染需正式启动验证。若二进制USD出现缺失绝对引用，需要用USD工具修复；不得文本替换二进制USD。

run_eval.sh 自动启动模型服务和仿真器，通过本机ZMQ通信。现有模型必须兼容当前 rpy_checkpoint_adapter.py 的导入与推理接口；任意HTTP推理API不能直接替换。

控制和数据协议

seed9000初始化一次，连续20条；三相机24/27/30帧观测，第30帧发起一次异步推理，推理期间仿真继续。保留当前静态保持和early RGB初始化，不能替换成旧版普通控制写入流程。

模型为世界XYZ＋外禀xyz RPY＋固定gripper，chunk20。原生delta加到冻结的查询state，仅恢复一次。选择索引15（next_state标签对应frame46），转成绝对圆环XYZW，通过IK生成底盘/关节控制，收到推理响应后分5个物理帧执行。位置参考是圆环刚体原点，不是网球位置。场景接球指标另用圆环几何中心。

当前图像接口是JPEG95，然后由已有模型执行旋转/resize。IK仅把VLA目标转为可执行控制；接球目标由VLA推理给出。

参考结果

当前checkpoint的20条新闭环：严格净空2/20（10%）、径向8.6cm口径5/20、最小3D距离13cm口径7/20。这不是旧checkpoint的86%实验。

另一次20条HF训练来源观测的离线诊断：XYZ目标误差Mean5.20cm/P9511.08cm；RPY误差见报告。离线目标误差与闭环球环距离是不同指标，不能直接混用。轨迹图展示预测chunk和GT，不是机械臂实际执行轨迹。

本仓库不包含HF登录token、模型权重或模型工程。部署时不应照搬源服务器的本地代理地址。

2026-09-14 跨机器复现问题答复与补漏

• 逐项答复及本机证据：Isaac Sim/PyPI构建命名、Isaac Lab精确commit、旧关节控制入口说明。
• 本机真实三相机策略输入：来自2026-09-10已跑通的RPY接口测试，背景正常；该测试不是模型成功率实验。
• 证据与补漏文件ZIP。
• 已补充 experiment/evaluate.py 和 calibration 模块。旧入口用于9维关节控制；它的阻塞推理/观测保持路径与新异步RPY入口不同，不能作为只改变IK的受控对照。RPY路径继续使用 evaluate_ring_pose.py。
• 5.1黑背景会使观测与训练域不匹配；这不构成模型本身正确或唯一根因已确定的证明。

2026-09-15 透明圆环更新

闭环入口现在默认隐藏圆环填充面、显示边缘，保留碰撞，与ep40实验外观一致。模型、静态保持、异步推理和动作执行不变。大型仿真资产包无需重新下载，运行时设置可见性。

旧部署在含experiment目录的根目录执行：

curl -fL --retry 3 https://huggingface.co/datasets/BruceJee/tennis_rpy_closed_loop/resolve/main/enable_transparent_ring.py -o enable_transparent_ring.py && python3 enable_transparent_ring.py --root .

随后按原命令重新启动实验。新下载的experiment入口已集成，无需再运行补丁。参见详细说明。这次没有重新统计成功率，不能沿用旧外观的历史成功率作为透明环结果。