Loop：知识学习、组合调用与新增知识使用
本批在读取新结果前冻结。用户于 2026-10-07 授权代码实现和并行快速实验。
问题与比较
研究同一参数跨计算阶段共享，如何改变知识获得、组合调用，以及新增事实后的组合使用。不是预设 Loop 三层均有优势，也不把没有观察到优势写成能力不可学习。
初轮四臂 × 两初始化（870071、870072），同一真实 2Wiki 图的 development 划分，不是两个独立知识世界。宽度256、8头、基块2层、逻辑循环2次：
| arm | 独立注意力模块 | 独立MLP模块 | 执行层数 | 作用 |
|---|---|---|---|---|
| shared | 2 | 2 | 4 | 整块重复调用 |
| untied | 4 | 4 | 4 | 相同展开权重，后续独立学习 |
| mlp_shared | 4 | 2 | 4 | 仅MLP共享，LayerNorm不共享 |
| shallow | 2 | 2 | 2 | 较少计算的参数量参照 |
先构建相同8层参考GPT2再取前2层，固定残差投影初始化尺度。前三臂初始展开权重和前向相同；untied不是常规独立随机初始化。所有臂输入/输出embedding绑定，dropout=0。记录唯一参数量、模块量、实际执行层数。shallow初始函数不同。
数据与训练预算
数据SHA256：3f66cd319651dd4c7e5e060d2cfdb00fedf2f15839862a309097ae17b9a2d7e6。
- A阶段8000步：每批64旧原子A＋64训练组合AA。
- B阶段4000步：每批64新原子B＋64旧分布回放；旧槽依次取实际A阶段流的前256000例，整体均分旧原子和训练AA。
- B组合始终不进入训练。B是新增事实；不能直接称为旧事实改写。
- 各臂同seed对应的训练样本顺序完全一致，采样seed=初始化+1000，dropout seed=初始化+2000。
- batch/microbatch128，AdamW betas=(0.9,0.999)，权重衰减0.1，梯度裁剪1，峰值lr=3e-4，两阶段各200步warmup、余弦降至0.1峰值；跨阶段保留优化器状态。
- 使用完整因果Transformer，答案与EOS监督；这不是自然全token预训练的完整复现。
- 同lr的AdamW不代表相同有效函数更新。共享梯度聚合是本干预的一部分；若发现差异，再对称校准优化器，不事后单独调优胜出臂。
总预算96000 optimizer updates。预检不是性能证据，不计入正式预算。正式训练每任务独立容器，共享固定镜像，8GPU并行，一卡一任务。
指标、复验与微观诊断
分别报告原子A/B记忆、未见AA/BA/AB/BB组合、B前后逐题变化。AA旧知识保持以A末正确集合为分母，并单独列旧正确数、保留、丢失、新正确数；BB必须显示A末基线。BA开发池只有14条，其余组合各64条，不据BA小幅差异下强结论。中间固定panel与完整端点分开，不把不同原子分母连接为同一准确率曲线。
预算同时报告有效/执行token、监督token、矩阵乘训练FLOPs估算、训练/总时间、唯一参数、峰值显存；FLOPs不是硬件测量，不含评估和其他开销。首先比较共享与解共享等执行深度曲线，不能只比终点或只比参数量。
在step0、4000、8000、8250、12000，以各2条固定训练A原子、B原子、AA组合分别诊断。临时把当前权重展开为独立副本，检查共享梯度等于执行位置梯度之和，记录注意力/MLP调用位置梯度Gram、余弦、范数。诊断为eval模式，不读取测试组合标签，不改变训练参数、梯度、RNG；另记录邻近实际Adam更新的块级范数和裁剪前梯度范数。这些是机制测量，不构造性能预测器。
每个训练端点由新的Python进程重载，验证数据曝光、权重摘要、逐条生成及评分完全重现后才标记complete。保留A阶段父权重、最终模型/优化器、原始预测、采样清单和冻结源码。W&B使用online、zhusq20/llm-memory-editability；本地完成和云端同步分开验收。
解释与后续分支
本批比较整个A→B＋旧回放流程。旧AA继续回放本身可能改善BB；若要将收益归因为新增B知识写入，后续从相同A父权重对shared/untied追加等预算无B sham，各两seed，保持旧回放流不变。首轮不据BB末分数单独作该因果声称。
本批只有一个宽度和循环数，只能研究学习曲线，不能拟合参数/循环scaling law。验证代码与训练信号后，再冻结宽度、循环数和训练量的配对扩展，报告知识容量与推理计算的分别变化。若没有差异，也不等于训练量或模型规模已被排除。
相关原文：Grokked Transformers、Reasoning with Latent Thoughts、How Much Is One Recurrence Worth?。前两者提供共享、等计算解共享、浅层比较依据；最后一篇的缩放拟合不外推到本数据或优化器。