Add Qwen Bridge 29K common-start README.md
Browse files
qwen_bridge_common_start_29k/README.md
ADDED
|
@@ -0,0 +1,54 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Qwen3-VL-4B–Bridge 29K Common Start 交接包
|
| 2 |
+
|
| 3 |
+
本目录只交接 **29K common start 的完整可恢复 checkpoint 与运行环境说明**,供后续多 continuation seed 的成对复现实验使用。它不包含 28K/30K checkpoint,也不包含 Uniform、Shuffle、OPTR 或外部 baseline 的 29K→29.5K 结果。
|
| 4 |
+
|
| 5 |
+
## 必需文件
|
| 6 |
+
|
| 7 |
+
```text
|
| 8 |
+
qwen_bridge_common_start_29k/
|
| 9 |
+
├── checkpoints/
|
| 10 |
+
│ ├── steps_29000_pytorch_model.pt
|
| 11 |
+
│ └── steps_29000_training_state.pt
|
| 12 |
+
├── config.full.yaml
|
| 13 |
+
├── checkpoint_metadata_no_sha.json
|
| 14 |
+
├── ENVIRONMENT.md
|
| 15 |
+
├── MULTISEED_PROTOCOL.md
|
| 16 |
+
└── requirements-qwen-bridge.txt
|
| 17 |
+
```
|
| 18 |
+
|
| 19 |
+
- `steps_29000_pytorch_model.pt`:模型参数,9,199,045,796 bytes。
|
| 20 |
+
- `steps_29000_training_state.pt`:optimizer、scheduler、Python/NumPy/PyTorch/CUDA RNG、data-order counter 等完整训练状态,9,346,430,417 bytes。
|
| 21 |
+
- `config.full.yaml`:生成 29K common start 的完整训练配置。
|
| 22 |
+
- 本交接包不设置 implementation SHA、代码 SHA、绝对路径 SHA、manifest 自指 SHA 或其他工程哈希启动门。
|
| 23 |
+
|
| 24 |
+
## Common start 身份
|
| 25 |
+
|
| 26 |
+
- 模型:Qwen3-VL-4B-Instruct + GR00T/DiT-B action head。
|
| 27 |
+
- 数据:Bridge `bridge_rt_infoflow`。
|
| 28 |
+
- common-start step:29,000。
|
| 29 |
+
- common-start 基础训练 seed:`42`。
|
| 30 |
+
- `completed_steps`:29,000。
|
| 31 |
+
- `next_global_draw_id`:1,392,000。
|
| 32 |
+
- global batch:48(1 GPU × micro-batch 2 × gradient accumulation 24)。
|
| 33 |
+
- 精度:BF16。
|
| 34 |
+
- 优化器:AdamW8bit。
|
| 35 |
+
- scheduler:cosine with minimum LR,100K horizon,10K warmup。
|
| 36 |
+
|
| 37 |
+
## Seed 一览
|
| 38 |
+
|
| 39 |
+
| 类型 | Seed | 含义 |
|
| 40 |
+
|---|---|---|
|
| 41 |
+
| common-start 基础训练 seed | `42` | 生成本 29K checkpoint 的训练 seed |
|
| 42 |
+
| 历史 29K→29.5K exact-state continuation | 不主动重设 | 直接继承 29K training state 内的 RNG 与 data-order |
|
| 43 |
+
| 计划的 paired continuation training seeds | `117465, 239217, 533389, 587008` | 多种子回复实验;每个 seed 下所有方法必须共用同一个 seed |
|
| 44 |
+
| 正式 evaluation policy seeds | `518957, 765353, 686765, 516408` | 每个 checkpoint 固定 4 seeds × 4 tasks × 24 episodes = 384 rollouts |
|
| 45 |
+
|
| 46 |
+
详细规则见 `MULTISEED_PROTOCOL.md`。
|
| 47 |
+
|
| 48 |
+
## 重要边界
|
| 49 |
+
|
| 50 |
+
1. `seed=42` 是 common-start 训练 seed,不应误写成四个独立 continuation realization 之一。
|
| 51 |
+
2. 直接载入完整 training state 后继续训练属于 exact-state continuation;若主动设置新 seed,则论文中应称为 *independent reseeded continuation replication from a fixed common-start checkpoint*。
|
| 52 |
+
3. 同一个 continuation seed 下,各方法必须同步重设 Python、NumPy、PyTorch、CUDA、data-order、source/trajectory sampling、temporal anchor sampling、Flow-Matching noise 和 dropout 等随机状态。
|
| 53 |
+
4. 测评 policy seed 与训练 seed 相互独立,禁止混用。
|
| 54 |
+
5. 不通过代码路径或哈希判断实验身份;保留真正影响语义的模型、数据集、episode、anchor/support、proposal、batch 和预算检查。
|