| # Loop：知识学习、组合调用与新增知识使用 |
|
|
| 本批在读取新结果前冻结。用户于 2026-10-07 授权代码实现和并行快速实验。 |
|
|
| ## 问题与比较 |
|
|
| 研究同一参数跨计算阶段共享，如何改变知识获得、组合调用，以及新增事实后的组合使用。不是预设 Loop 三层均有优势，也不把没有观察到优势写成能力不可学习。 |
|
|
| 初轮四臂 × 两初始化（870071、870072），同一真实 2Wiki 图的 development 划分，不是两个独立知识世界。宽度256、8头、基块2层、逻辑循环2次： |
|
|
| | arm | 独立注意力模块 | 独立MLP模块 | 执行层数 | 作用 | |
| |---|---:|---:|---:|---| |
| | shared | 2 | 2 | 4 | 整块重复调用 | |
| | untied | 4 | 4 | 4 | 相同展开权重，后续独立学习 | |
| | mlp_shared | 4 | 2 | 4 | 仅MLP共享，LayerNorm不共享 | |
| | shallow | 2 | 2 | 2 | 较少计算的参数量参照 | |
| |
| 先构建相同8层参考GPT2再取前2层，固定残差投影初始化尺度。前三臂初始展开权重和前向相同；untied不是常规独立随机初始化。所有臂输入/输出embedding绑定，dropout=0。记录唯一参数量、模块量、实际执行层数。shallow初始函数不同。 |
| |
| ## 数据与训练预算 |
| |
| 数据SHA256：`3f66cd319651dd4c7e5e060d2cfdb00fedf2f15839862a309097ae17b9a2d7e6`。 |
| |
| - A阶段8000步：每批64旧原子A＋64训练组合AA。 |
| - B阶段4000步：每批64新原子B＋64旧分布回放；旧槽依次取实际A阶段流的前256000例，整体均分旧原子和训练AA。 |
| - B组合始终不进入训练。B是新增事实；不能直接称为旧事实改写。 |
| - 各臂同seed对应的训练样本顺序完全一致，采样seed=初始化+1000，dropout seed=初始化+2000。 |
| - batch/microbatch128，AdamW betas=(0.9,0.999)，权重衰减0.1，梯度裁剪1，峰值lr=3e-4，两阶段各200步warmup、余弦降至0.1峰值；跨阶段保留优化器状态。 |
| - 使用完整因果Transformer，答案与EOS监督；这不是自然全token预训练的完整复现。 |
| - 同lr的AdamW不代表相同有效函数更新。共享梯度聚合是本干预的一部分；若发现差异，再对称校准优化器，不事后单独调优胜出臂。 |
| |
| 总预算96000 optimizer updates。预检不是性能证据，不计入正式预算。正式训练每任务独立容器，共享固定镜像，8GPU并行，一卡一任务。 |
| |
| ## 指标、复验与微观诊断 |
| |
| 分别报告原子A/B记忆、未见AA/BA/AB/BB组合、B前后逐题变化。AA旧知识保持以A末正确集合为分母，并单独列旧正确数、保留、丢失、新正确数；BB必须显示A末基线。BA开发池只有14条，其余组合各64条，不据BA小幅差异下强结论。中间固定panel与完整端点分开，不把不同原子分母连接为同一准确率曲线。 |
| |
| 预算同时报告有效/执行token、监督token、矩阵乘训练FLOPs估算、训练/总时间、唯一参数、峰值显存；FLOPs不是硬件测量，不含评估和其他开销。首先比较共享与解共享等执行深度曲线，不能只比终点或只比参数量。 |
| |
| 在step0、4000、8000、8250、12000，以各2条固定训练A原子、B原子、AA组合分别诊断。临时把当前权重展开为独立副本，检查共享梯度等于执行位置梯度之和，记录注意力/MLP调用位置梯度Gram、余弦、范数。诊断为eval模式，不读取测试组合标签，不改变训练参数、梯度、RNG；另记录邻近实际Adam更新的块级范数和裁剪前梯度范数。这些是机制测量，不构造性能预测器。 |
| |
| 每个训练端点由新的Python进程重载，验证数据曝光、权重摘要、逐条生成及评分完全重现后才标记complete。保留A阶段父权重、最终模型/优化器、原始预测、采样清单和冻结源码。W&B使用online、zhusq20/llm-memory-editability；本地完成和云端同步分开验收。 |
| |
| ## 解释与后续分支 |
| |
| 本批比较整个A→B＋旧回放流程。旧AA继续回放本身可能改善BB；若要将收益归因为新增B知识写入，后续从相同A父权重对shared/untied追加等预算无B sham，各两seed，保持旧回放流不变。首轮不据BB末分数单独作该因果声称。 |
| |
| 本批只有一个宽度和循环数，只能研究学习曲线，不能拟合参数/循环scaling law。验证代码与训练信号后，再冻结宽度、循环数和训练量的配对扩展，报告知识容量与推理计算的分别变化。若没有差异，也不等于训练量或模型规模已被排除。 |
| |
| 相关原文：[Grokked Transformers](https://arxiv.org/abs/2405.15071)、[Reasoning with Latent Thoughts](https://arxiv.org/abs/2502.17416)、[How Much Is One Recurrence Worth?](https://arxiv.org/abs/2604.21106)。前两者提供共享、等计算解共享、浅层比较依据；最后一篇的缩放拟合不外推到本数据或优化器。 |
| |
