普通四层、两层Loop两轮、Loop加首轮KV：开发比较
2026-10-07用户授权先启动这一比较，并逐项审查历史实验设计。当前方向唯一入口是roadmap。本文件固定本批执行契约；不新增架构或窗口搜索。
问题与处理
先学旧事实和旧组合，再只学习新原子事实并回放旧内容，比较新事实能否直接用于未训练组合、旧能力能否保持。同一Loop增加首轮信息读取能否改善这个学习过程，是本批新增问题。
三个条件：普通四个独立随机初始化层，每层执行一次；两个层重复两轮，当前轮因果注意力；相同Loop在第二轮同层读取第一轮KV，并保留全部当前轮因果KV。后者一次softmax覆盖两支，各自按位置因果遮蔽，梯度连接，不截窗口，不跨例或跨调用保存缓存。复制两层随机初值的历史四层模型不充当普通基线。
普通四层与Loop选择同种八层参考初始化中的四层或两层，保持已验证的残差投影初始化尺度；普通四层权重分别随机抽样。两Loop初始参数相同，访问集合变化可改变初始函数。两次初始化870071/870072；采样和dropout种子沿用旧Loop，dropout=0。新训练来自固定镜像、源码冻结和数据哈希。
来源与去重
复用 loop-learning-development-v1 的 dev-w256-b2-r2-i870071-shared、dev-w256-b2-r2-i870072-shared。重新验证冻结核心实现相同、初始权重、样本顺序及实际已训练权重在关闭KV时的前向、生成和评分；记录检查点及预测哈希。未修改旧权重、预测或完成状态。
旧 shared-cache-branch-v1 检验静态合成图；旧 knowledge-change-v1 检验分段变化教学；本批使用当前2Wiki真实名称、连续A/B阶段和全旧内容回放。旧普通顺序批回放不同，旧回放批重置AdamW及warmup不同，故不能冒充本批普通对照。复制随机初值、R、宽度、窗口、detach、mHC或回放比例不进入新队列。
方法依据： Reasoning with Latent Thoughts §3/A.2的普通深层和重复浅层比较；Monea Shared Memory §3/4/6/A/C/D的同层首轮KV与当前KV联合softmax。其自然长文本训练与本项目答案监督不同，本批不声称复现其全部语言建模结论。MIDAS复制已有层属于增长训练，不是本批普通初始化方法。
训练、预算与资源
数据 data/sequential-transfer-v1/development.json，SHA256 3f66cd319651dd4c7e5e060d2cfdb00fedf2f15839862a309097ae17b9a2d7e6，原GPT-2 tokenizer。宽256，8头，最大256位置，全词表及完整残差/归一化/attention/MLP，输入输出embedding绑定。
A阶段8000步，每批64旧原子+64旧训练组合。B阶段4000步，每批64新原子+64来自A实际样本流的原样回放；不训练AB、BA、BB测试组合答案。批128、微批128；AdamW lr=.0003、wd=.1、warmup200、余弦最低比例.1；B保持优化器状态及既有学习率规则。严格复用旧样本流。
新增普通两条、共享KV两条，共48,000更新；旧Loop两条不重跑。GPU0/1/2/3分别运行独立容器，各4 CPU、32GiB限额、独立tmpfs及持久结果目录；只在确认空闲后启动。使用LM专属Docker context、固定镜像 sha256:a994f1a1886220693eb26b7ff201147fbd4b49477d335ab2707330cab771063f，W&B同步启动。每500步存恢复点，保留完整A检查点及优化器，完成后新进程独立重载全终点评分。
预定节点0/500/1000/2000/4000/6000/8000/8250/8500/9000/10000/12000。8000及12000用固定全池，其他节点用既有面板并标注实际分母。单次CUDA预飞行包含8更新及相同Adam/RNG状态的续训验证，不算新的科学训练条件。
评价及边界
原子A/B、训练旧组合、未训练AA/AB/BA/BB、自主两次调用分别报告。AA/AB/BB各64题、BA14题，两个初始化是同数据重复训练，不是两个独立世界。逐初始化比较、再均值；保留所有失败、低分和未完成节点。
主对比：普通四层相对Loop；共享KV相对同Loop。报告完整A/B端点、BB净增、AA父正确逐题保持及覆盖，同时报告唯一参数、样本/输入/监督token、矩阵运算训练FLOPs估计、显存、训练与墙钟时间。共享KV额外注意力矩阵计算按实际微批和padding计入；参数和FLOPs不能同时完全匹配。首轮缓存开销计入实测显存。
只有两个配对BB末分及净增均提高、且AA保持不在两个配对一致恶化，才考虑后续无B续训以归因；本次授权启动的四条不包含该后续。若仅熟悉收益或BB混合，不自动扩大R、窗口、mHC或世界网格。收益不能仅凭推理关KV归因为梯度捷径。