Add Qwen Bridge 29K common-start MULTISEED_PROTOCOL.md
Browse files
qwen_bridge_common_start_29k/MULTISEED_PROTOCOL.md
ADDED
|
@@ -0,0 +1,73 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Qwen–Bridge 多 continuation seed 协议
|
| 2 |
+
|
| 3 |
+
## 1. 三类 seed 必须分开
|
| 4 |
+
|
| 5 |
+
### 1.1 Common-start 基础训练 seed
|
| 6 |
+
|
| 7 |
+
- 数值:`42`
|
| 8 |
+
- 作用:生成本交接包中的 29K common start。
|
| 9 |
+
- 该 seed 已经固化在 29K checkpoint 的历史中,不是后续多种子实验的横轴。
|
| 10 |
+
|
| 11 |
+
### 1.2 Continuation training seed
|
| 12 |
+
|
| 13 |
+
历史首轮 29K→29.5K 训练采用完整状态恢复,没有主动覆盖 checkpoint 内的 RNG/data-order,因此应描述为:
|
| 14 |
+
|
| 15 |
+
> Exact-state continuation from the 29K common-start checkpoint.
|
| 16 |
+
|
| 17 |
+
为回答多训练种子稳定性问题,计划使用以下四个 paired continuation seeds:
|
| 18 |
+
|
| 19 |
+
```text
|
| 20 |
+
117465
|
| 21 |
+
239217
|
| 22 |
+
533389
|
| 23 |
+
587008
|
| 24 |
+
```
|
| 25 |
+
|
| 26 |
+
这四个 seed 是 **计划执行的 reseeded continuation panel**,不能写成已经由本 Qwen 29K checkpoint 完成的历史结果。每个 seed 下,所有比较方法必须使用同一个 continuation seed;禁止给不同方法分配不同 seed。
|
| 27 |
+
|
| 28 |
+
主动 reseed 时必须统一覆盖:
|
| 29 |
+
|
| 30 |
+
- Python random;
|
| 31 |
+
- NumPy;
|
| 32 |
+
- PyTorch CPU;
|
| 33 |
+
- PyTorch CUDA;
|
| 34 |
+
- dataloader/data-order;
|
| 35 |
+
- source 与 trajectory sampling;
|
| 36 |
+
- temporal-anchor sampling;
|
| 37 |
+
- Flow-Matching noise;
|
| 38 |
+
- dropout 和其他训练随机过程。
|
| 39 |
+
|
| 40 |
+
除 seed/RNG 外,模型、optimizer、scheduler、起始 step、数据、batch、训练预算、world size、学习率和保存协议保持不变。
|
| 41 |
+
|
| 42 |
+
### 1.3 Evaluation policy seed
|
| 43 |
+
|
| 44 |
+
正式 headline 测评固定:
|
| 45 |
+
|
| 46 |
+
```text
|
| 47 |
+
518957
|
| 48 |
+
765353
|
| 49 |
+
686765
|
| 50 |
+
516408
|
| 51 |
+
```
|
| 52 |
+
|
| 53 |
+
对每个 checkpoint:
|
| 54 |
+
|
| 55 |
+
- 4 个 policy seeds;
|
| 56 |
+
- Stack、Carrot、Spoon、Eggplant 四个任务;
|
| 57 |
+
- 每个 seed/task 24 episodes;
|
| 58 |
+
- 合计 384 rollouts;
|
| 59 |
+
- BF16 inference;
|
| 60 |
+
- 无视频。
|
| 61 |
+
|
| 62 |
+
这些 evaluation policy seeds 只控制测评 realization,不用于训练,也不能替代 continuation training seeds。
|
| 63 |
+
|
| 64 |
+
## 2. 推荐结果表
|
| 65 |
+
|
| 66 |
+
| Continuation seed | Uniform | Shuffle/Random | OPTR | 其他 baseline |
|
| 67 |
+
|---|---:|---:|---:|---:|
|
| 68 |
+
| 117465 | 待运行 | 待运行 | 待运行 | 待运行 |
|
| 69 |
+
| 239217 | 待运行 | 待运行 | 待运行 | 待运行 |
|
| 70 |
+
| 533389 | 待运行 | 待运行 | 待运行 | 待运行 |
|
| 71 |
+
| 587008 | 待运行 | 待运行 | 待运行 | 待运行 |
|
| 72 |
+
|
| 73 |
+
每个单元格都应来自同一套 384-rollout formal evaluation。最终报告逐 seed、均值、样本标准差、范围,以及配对差值 OPTR−Uniform、OPTR−Shuffle。
|