mmmmmcyaaa commited on
Commit
5fef86d
·
verified ·
1 Parent(s): ad221e5

Add Qwen Bridge 29K common-start MULTISEED_PROTOCOL.md

Browse files
qwen_bridge_common_start_29k/MULTISEED_PROTOCOL.md ADDED
@@ -0,0 +1,73 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Qwen–Bridge 多 continuation seed 协议
2
+
3
+ ## 1. 三类 seed 必须分开
4
+
5
+ ### 1.1 Common-start 基础训练 seed
6
+
7
+ - 数值:`42`
8
+ - 作用:生成本交接包中的 29K common start。
9
+ - 该 seed 已经固化在 29K checkpoint 的历史中,不是后续多种子实验的横轴。
10
+
11
+ ### 1.2 Continuation training seed
12
+
13
+ 历史首轮 29K→29.5K 训练采用完整状态恢复,没有主动覆盖 checkpoint 内的 RNG/data-order,因此应描述为:
14
+
15
+ > Exact-state continuation from the 29K common-start checkpoint.
16
+
17
+ 为回答多训练种子稳定性问题,计划使用以下四个 paired continuation seeds:
18
+
19
+ ```text
20
+ 117465
21
+ 239217
22
+ 533389
23
+ 587008
24
+ ```
25
+
26
+ 这四个 seed 是 **计划执行的 reseeded continuation panel**,不能写成已经由本 Qwen 29K checkpoint 完成的历史结果。每个 seed 下,所有比较方法必须使用同一个 continuation seed;禁止给不同方法分配不同 seed。
27
+
28
+ 主动 reseed 时必须统一覆盖:
29
+
30
+ - Python random;
31
+ - NumPy;
32
+ - PyTorch CPU;
33
+ - PyTorch CUDA;
34
+ - dataloader/data-order;
35
+ - source 与 trajectory sampling;
36
+ - temporal-anchor sampling;
37
+ - Flow-Matching noise;
38
+ - dropout 和其他训练随机过程。
39
+
40
+ 除 seed/RNG 外,模型、optimizer、scheduler、起始 step、数据、batch、训练预算、world size、学习率和保存协议保持不变。
41
+
42
+ ### 1.3 Evaluation policy seed
43
+
44
+ 正式 headline 测评固定:
45
+
46
+ ```text
47
+ 518957
48
+ 765353
49
+ 686765
50
+ 516408
51
+ ```
52
+
53
+ 对每个 checkpoint:
54
+
55
+ - 4 个 policy seeds;
56
+ - Stack、Carrot、Spoon、Eggplant 四个任务;
57
+ - 每个 seed/task 24 episodes;
58
+ - 合计 384 rollouts;
59
+ - BF16 inference;
60
+ - 无视频。
61
+
62
+ 这些 evaluation policy seeds 只控制测评 realization,不用于训练,也不能替代 continuation training seeds。
63
+
64
+ ## 2. 推荐结果表
65
+
66
+ | Continuation seed | Uniform | Shuffle/Random | OPTR | 其他 baseline |
67
+ |---|---:|---:|---:|---:|
68
+ | 117465 | 待运行 | 待运行 | 待运行 | 待运行 |
69
+ | 239217 | 待运行 | 待运行 | 待运行 | 待运行 |
70
+ | 533389 | 待运行 | 待运行 | 待运行 | 待运行 |
71
+ | 587008 | 待运行 | 待运行 | 待运行 | 待运行 |
72
+
73
+ 每个单元格都应来自同一套 384-rollout formal evaluation。最终报告逐 seed、均值、样本标准差、范围,以及配对差值 OPTR−Uniform、OPTR−Shuffle。