mmmmmcyaaa commited on
Commit
ad221e5
·
verified ·
1 Parent(s): 6c91934

Add Qwen Bridge 29K common-start README.md

Browse files
qwen_bridge_common_start_29k/README.md ADDED
@@ -0,0 +1,54 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Qwen3-VL-4B–Bridge 29K Common Start 交接包
2
+
3
+ 本目录只交接 **29K common start 的完整可恢复 checkpoint 与运行环境说明**,供后续多 continuation seed 的成对复现实验使用。它不包含 28K/30K checkpoint,也不包含 Uniform、Shuffle、OPTR 或外部 baseline 的 29K→29.5K 结果。
4
+
5
+ ## 必需文件
6
+
7
+ ```text
8
+ qwen_bridge_common_start_29k/
9
+ ├── checkpoints/
10
+ │ ├── steps_29000_pytorch_model.pt
11
+ │ └── steps_29000_training_state.pt
12
+ ├── config.full.yaml
13
+ ├── checkpoint_metadata_no_sha.json
14
+ ├── ENVIRONMENT.md
15
+ ├── MULTISEED_PROTOCOL.md
16
+ └── requirements-qwen-bridge.txt
17
+ ```
18
+
19
+ - `steps_29000_pytorch_model.pt`:模型参数,9,199,045,796 bytes。
20
+ - `steps_29000_training_state.pt`:optimizer、scheduler、Python/NumPy/PyTorch/CUDA RNG、data-order counter 等完整训练状态,9,346,430,417 bytes。
21
+ - `config.full.yaml`:生成 29K common start 的完整训练配置。
22
+ - 本交接包不设置 implementation SHA、代码 SHA、绝对路径 SHA、manifest 自指 SHA 或其他工程哈希启动门。
23
+
24
+ ## Common start 身份
25
+
26
+ - 模型:Qwen3-VL-4B-Instruct + GR00T/DiT-B action head。
27
+ - 数据:Bridge `bridge_rt_infoflow`。
28
+ - common-start step:29,000。
29
+ - common-start 基础训练 seed:`42`。
30
+ - `completed_steps`:29,000。
31
+ - `next_global_draw_id`:1,392,000。
32
+ - global batch:48(1 GPU × micro-batch 2 × gradient accumulation 24)。
33
+ - 精度:BF16。
34
+ - 优化器:AdamW8bit。
35
+ - scheduler:cosine with minimum LR,100K horizon,10K warmup。
36
+
37
+ ## Seed 一览
38
+
39
+ | 类型 | Seed | 含义 |
40
+ |---|---|---|
41
+ | common-start 基础训练 seed | `42` | 生成本 29K checkpoint 的训练 seed |
42
+ | 历史 29K→29.5K exact-state continuation | 不主动重设 | 直接继承 29K training state 内的 RNG 与 data-order |
43
+ | 计划的 paired continuation training seeds | `117465, 239217, 533389, 587008` | 多种子回复实验;每个 seed 下所有方法必须共用同一个 seed |
44
+ | 正式 evaluation policy seeds | `518957, 765353, 686765, 516408` | 每个 checkpoint 固定 4 seeds × 4 tasks × 24 episodes = 384 rollouts |
45
+
46
+ 详细规则见 `MULTISEED_PROTOCOL.md`。
47
+
48
+ ## 重要边界
49
+
50
+ 1. `seed=42` 是 common-start 训练 seed,不应误写成四个独立 continuation realization 之一。
51
+ 2. 直接载入完整 training state 后继续训练属于 exact-state continuation;若主动设置新 seed,则论文中应称为 *independent reseeded continuation replication from a fixed common-start checkpoint*。
52
+ 3. 同一个 continuation seed 下,各方法必须同步重设 Python、NumPy、PyTorch、CUDA、data-order、source/trajectory sampling、temporal anchor sampling、Flow-Matching noise 和 dropout 等随机状态。
53
+ 4. 测评 policy seed 与训练 seed 相互独立,禁止混用。
54
+ 5. 不通过代码路径或哈希判断实验身份;保留真正影响语义的模型、数据集、episode、anchor/support、proposal、batch 和预算检查。