File size: 13,632 Bytes
6058321
40ce926
6058321
 
4f21cc8
 
 
 
 
40ce926
4f21cc8
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
c641e46
4f21cc8
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
40ce926
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
<!-- shared-assets-handoff -->
公共归档已无损去重到公开仓库 [HFD-Baseline-Shared-Training-Assets](https://huggingface.co/starstone3/HFD-Baseline-Shared-Training-Assets)。下载本仓库后,先运行 `python restore_shared_assets.py`(在本AutoDL机器使用 `/root/.local/bin/turbo python restore_shared_assets.py`),按固定commit下载并验证SHA256,恢复原目录中的所有公共归档,再执行下方原解压/续训命令。本模型仓库与公共依赖仓库均公开,无需HF登录即可下载;Token不要写入工程。模型专属断点未删除。`MANIFEST.json`核验本仓库文件,`SHARED_ASSETS.json`核验外置公共文件。
<!-- shared-assets-handoff-end -->

---
license: other
---
# textop 实际训练工程交付

本版本在本机实际训练过。原生输出为 G1 机器人动作,不是 SMPL/SMPL-X 人体模型。此公开仓库按同样完整训练工程标准交付。OMG-B/L/XL 分别使用官方50m/300m/500m配置;官方100m仅在外部资源清单中,不冒充已训练版本。

## 内容与恢复边界

latest300000;验收起点299776。没有单独保留的验证 best 文件,不能将 latest 自动认定为验证最优。优化器、RNG、采样池齐全;原训练没有独立 scheduler 对象、没有 scaler,EMA配置为 false。学习率按原管理器阶段和 step 计算。

`handoff-v1/packages/original-training-workspace.tar.gz` 是实际完整工作树(含 upstream、未提交修改、自定义实现和配置),非精简评测包。Git commit/diff/status 在 inventory;`.git` 内部、Python缓存、凭据排除。`*-all-run-history` 包含此家族原 run、评测、原始轨迹和日志;checkpoint单独存放。包内各文件大小和SHA在相邻manifest;仓库全部交付文件由根MANIFEST.json核验。完整模型最新和best见 checkpoints 与 inventory/models.json,未伪造缺失状态。

实际单GPU/rank0,无缺失分布式分片。OMG完整Lightning状态含 optimizer_states、lr_schedulers、loops、callbacks、epoch/global_step、hfd_resume 的Python/NumPy/torch/CUDA RNG和已消费 train_pool/val_pool;使用bf16-mixed,无FP16 scaler,未单独启用EMA。TextOp完整字段见审计,VAE和CLIP是冻结外部依赖。

每卡batch/累积/有效batch:512 × 累积1 = 512;每个逻辑链4个 primitive,各执行一次更新。种子42;OMG AdamW LR6e-5、2000 warmup、cosine至1e-6;TextOp LR1e-4、FP32、三个100K课程阶段。完整损失权重、所有最终解析配置在 original-run/resolved_config.yaml 和 native_config.yaml(TextOp另cfg.yaml),不是仅默认YAML。

## 源码与环境证据

实际环境 Python3.10.21 / PyTorch2.7.1+cu128 / CUDA12.8 / cuDNN90701,RTX5090,驱动580.76.05。environment-lock.txt为实际pip冻结清单;原requirements也随工作区保留。自定义算子/机器人运动学源码随 upstream 提供;未声称可选部署/仿真组件全部在新机器编译通过。没有经过重建验收的容器镜像。

OMG-L/XL 的训练源码哈希与当前完整快照全部一致。B/TextOp有后续修改:initial和latest-resume审计分别保留;historical-source保存能从本地Git按原SHA恢复的精确旧文件,不应盲目覆盖整个目录。最后恢复时的数据采样 ondemand.py 与当前一致;早期初始记录的不同版本和不相关HY辅助文件缺失项明确记录。短跑使用当前实际工作区,不能将经验上的配对一致扩大成所有历史源码均完全相同。历史完整shell环境/启动命令未全部保留;实际配置为原证据,本次验收 command.json 才是逐字执行记录。

## 数据与表示

训练126950 / validation302 英文会话;原始完整train/val/test定义及每个样本的排序/过滤/语言/窗口采样见数据索引包、train_native_manifest.json、val_native_manifest.json及采样日志。绝不以Test1024代替训练。基准release固定为 Tinghong-Ye22/data_vqa_all_1025@bdca2fe7581c263e9ceb3a96204b314e199faddf;raw源 Tinghong-Ye22/hfd_data@93ba4a7a9c66b3e1b7041e5f4ea038ef2418b948。

675个raw分片未重复上传;resources/RAW_REQUIRED_FILES.json列出大小、SHA256和上游清单来源(本次未重新读完所有原始分片)。对齐数据库、release/index/startup缓存和预处理代码已提供。参考文本为原有因果对齐的前景转录,保留0.1s guard,不使用未来文本。OMG额外使用过去2s音频;TextOp仅CLIP文本无直接音频。冻结编码器的临时内存缓存可重建,不作为采样状态。

输入HFD为50Hz、IsaacLab 29关节、root xyz + wxyz四元数。OMG重采样30Hz、native29关节、历史60/未来60帧,表示和坐标规范由 hfd_bridge/training.py、joints.py 与 upstream codec 精确定义。TextOp为50Hz、23关节57D特征、历史2/未来8帧、4个primitive;统计meanstd.pkl、robot XML和CLIP tokenizer均有文件哈希。无另行新增增强;原数据合成/筛选/窗口规则由配置和源码保留。外部官方初始化、冻结T5-base或CLIP/VAE及全部模型资产的固定revision/URL/大小/SHA见EXTERNAL_ASSETS.json;这些大依赖不重复上传。

## 下载、路径和资源恢复

```bash
hf download starstone3/HFD-TextOp-Training --local-dir ./handoff-textop
cd handoff-textop
python verify_manifest.py MANIFEST.json
python restore_shared_assets.py
mkdir -p restored
for f in handoff-v1/packages/*.tar.gz; do tar -xzf "$f" -C restored; done
```

优先在隔离机器/容器把 restored/root/autodl-tmp 和 restored/root/autodl-fs 映射回原绝对路径。不要覆盖现有训练;原配置有绝对路径,不能删除合同校验规避路径问题。checkpoint另从 handoff-v1/checkpoints 复制到 original-run/resolved_config.yaml 所述原run路径:OMG的best.ckpt放best/,step-*.ckpt放checkpoints/;L/XL共享目录另需原hfd_run.json指向原日志run目录。TextOp ckpt_*.pth放原run根目录。共享与本地兼容链接按原配置建立。原日志包中的symlink未打包,需据本段恢复。验收使用原本地run路径查找配置,故不要只拷一个权重文件。

使用原 tools/training_assets.py --help,按EXTERNAL_ASSETS逐项固定revision下载并校验;hf download 的 repo_type 和 filename 必须按清单,不用浮动main替代。原始数据仅下载RAW_REQUIRED_FILES所列路径并执行:

```bash
python handoff-v1/resources/verify_raw.py handoff-v1/resources/RAW_REQUIRED_FILES.json /root/autodl-fs/pangxinlei/hfd_data
```

在本机/AutoDL上安装和下载使用 /root/.local/bin/turbo;HF失败只用hfmirror,不自动消耗个人代理。接手机器按自己的网络配置。Token仅放自己的认证环境,不写包内。

## 续训和配对验收

验收资料包含 command.json、sample_ids.jsonl、指标、更新后完整权重和逐张量SHA。样本日志标记逻辑pool step;OMG预取可能记录下一批尚未消费样本,消费边界以输出checkpoint hfd_resume.train_pool为准。单GPU、相同代码/依赖/硬件/数据哈希/缓存输入/算法设置是配对前提;不保证跨GPU逐位一致。短跑结果和失败尝试以 acceptance-report.json 为准。只有训练loss一致不代表完整更新参数逐位一致,更不等于动作质量通过。

本次实际同方案短跑起点 ckpt_299776.pth,停止步 299780。用已还原原路径资源,在仓库目录运行(输出目录必须全新):

```bash
export HANDOFF_MODEL=textop
export HANDOFF_ACCEPTANCE_DIR=/path/to/new-textop-acceptance
export HANDOFF_STOP_STEP=299780
mkdir -p "$HANDOFF_ACCEPTANCE_DIR"
export HF_HUB_OFFLINE=1 TRANSFORMERS_OFFLINE=1 HFD_ALLOW_RANGE_DOWNLOADS=0
export OMP_NUM_THREADS=4 MKL_NUM_THREADS=4 PYTHONDONTWRITEBYTECODE=1
/root/autodl-tmp/envs/textop/bin/python handoff-v1/resources/all_baselines_acceptance_entry.py --config /root/autodl-tmp/runs/hfd-textop-english-split20261026/resolved_config.yaml --resume /root/autodl-tmp/runs/hfd-textop-english-split20261026/ckpt_299776.pth --set 'runtime.gpu_ids=[0]' paths.output_dir=$HANDOFF_ACCEPTANCE_DIR/run 
```

TextOp观察器只在完整4-primitive边界调用原save_model并结束,不修改loss/优化器/学习率/样本;OMG用原StopAfterUpdates回调。长期续训用原 train.py --config ... --resume ...,去掉短跑观察器和 stop_after_steps,沿用原总预算。至少保留TextOp3GiB/OMG-L24GiB/OMG-XL36GiB可写checkpoint预算,另留共享4GiB、本地1GiB及10000inodes;实际容量预写fsync记录在capacity.json。原计划结束后扩展预算须明确新阶段调度,不属于本次无缝验收。

## 推理、验证、已知问题

原 evaluate_omg.py / evaluate_textop.py、infer_overfit.py、完整HFD_bench评测脚本及配置随原工作区和actual-recovery-and-evaluation包提供;直接使用其 --help,原实际参数和结果路径可查工作区 docs/CURRENT_RUNS.md 与各summary.json。模型/step/代码SHA/最终配置/评测产物对应关系见result-map.json;不把训练曲线当正式FID。

OMG存在自主历史接段突变、位移不足/过度;TextOp存在停止指令响应和长时自主历史恢复问题,GT历史oracle改善不是有效自主成绩。历史日志含失败、临时补丁、质量覆盖限制;本交付不宣称行为验收通过。未完成项:新环境全量容器重建、跨硬件逐位证明、原预算结束后的新阶段扩展、缺失历史源码/检查点恢复,均未虚报完成。

## 完整环境、依赖资产与最终历史源码补充

vendored OMG/TextOp 的官方原始提交见 inventory/vendor-provenance.json;upstream 子目录 git rev-parse 返回的是外围工作区commit,不能混淆。B/TextOp最后一次正式恢复涉及的本模型源码均已按原记录SHA找回,差异文件位于 resources/final-resume-historical-source;其中resume.py来自先前保留diff精确还原。初始更早快照及不相关HY文件的缺失仍如实保留。将此overlay应用到隔离工作区可还原最后正式源码;本次短跑为当前工作区,配对结果另列。

在新机器建立对应Python3.10环境后,原训练环境依赖的实际安装清单如下(此处是重建命令,未宣称干净容器重建已验收):

```bash
/root/.local/bin/turbo python -m pip install --extra-index-url https://download.pytorch.org/whl/cu128 -r handoff-v1/resources/environment-lock.txt
```

固定资产获取和完整SHA校验:

```bash
cd /root/autodl-tmp/hfd-baseline-portable
/root/.local/bin/turbo /root/autodl-tmp/envs/textop/bin/python tools/training_assets.py --models-root /root/autodl-tmp/models --raw-root /root/autodl-fs/pangxinlei/hfd_data --models textop  --download
```

训练数据分片按资源清单下载(须有上游权限),随后用verify_raw.py校验;下载脚本保存为 resources/download_raw.py:

```bash
/root/.local/bin/turbo python handoff-v1/resources/download_raw.py handoff-v1/resources/RAW_REQUIRED_FILES.json /root/autodl-fs/pangxinlei/hfd_data
```

原入口每次保存检查点使用原原子保存/Lightning插件;本次有界验收输出checkpoint已读取校验。正常训练默认保留数量见最终配置,勿改成逐step无限保留。学习曲线保留全部历史日志顺序(包括原恢复重跑的重复step),不偷偷删掉不利数据。

在隔离恢复机器解压原工作区/数据/历史后,从仓库根执行以下命令恢复 checkpoint 原路径与L/XL owner/兼容链接(存在不同权重时拒绝覆盖):

```bash
python handoff-v1/resources/restore_checkpoint_layout.py --repo .
```

环境锁中的本地安装源码全部额外保存在 original-installed-workspaces.tar.gz(含实际CLIP、Isaac工具和原OMG/TextOp工作树、OMG路径别名)。先解压映射原路径,再安装environment-lock;不要把原本地file://依赖替换成随意最新版。

## 原生 validation 命令

以下调用原来实际使用的验证入口,使用validation划分和固定seed;输出完整轨迹、初始/训练模型对照和诊断。已有正式Test1024结果仅归档,不用于本次选参。

```bash
cd /root/autodl-tmp/hfd-baseline-portable
/root/autodl-tmp/envs/textop/bin/python evaluate_textop.py --trained-run /root/autodl-tmp/runs/hfd-textop-english-split20261026 --checkpoint /root/autodl-tmp/runs/hfd-textop-english-split20261026/ckpt_300000.pth --output /path/to/new-textop-validation --gpu 0 --split val --seed 12345 --per-mode 1 --third-party 3 --stage all
```

复验短跑更新后的模型时,将--checkpoint改为已下载的 acceptance/updated 文件;--trained-run仍提供相应原模型配置。小样本诊断不叫正式FID;正式固定窗评分入口、依赖和结果复核协议见catalog锁定的公共质量评测工程。

## 完整历史质量结果及本次验收

本仓库额外附本版本 complete-quality-results.tar.gz:1024完整预测轨迹、packed评分输入、官方scores、run_config权重SHA及cohort锁。数据均为已有正式评测,没有在本次重新选参。公共评分工程固定版本见 BASELINE_CATALOG.json;质量产物内部大小/SHA清单与归档验证记录已提供。

本次短跑/拒绝恢复的完整结果见 handoff-v1/acceptance/acceptance-report.json。OMG-B没有更新步验收,原因和原入口实际拒绝日志已提供;其他版本的原始数值配对及最终参数SHA在同目录,不保证逐位一致。
<!-- complete-quality-handoff -->

公开状态:本交付仓库已设为 public,公共归档依赖仓库亦公开。上游资源的许可及获取要求继续适用。