知识学习与推理研究 Roadmap
更新：2026-10-08。本文是项目唯一的当前研究路线图，统一论文立意、三个层次的问题、已有证据和下一步优先级。实验数字与状态由结果汇总维护，推导见理论依据，执行规则见实验协议。本轮顺序新知识迁移和写入目标比较已完成，53个开发/正式任务全部通过独立重载与云端核验；范围见本轮执行协议，完成证据见批次清单。历史批次的原始结果与冻结契约保持原样。
随后按用户要求查阅论文并复测旧任务回放，另16任务全部完成并通过独立重载与云端核验；见文献配方结果和完成清单。
Loop同起点及宽度/循环扩展另16任务已完成，共192000更新，独立重载与W&B云端核验全部通过；见新结果及完成清单。已记录三层学习曲线、80个训练池微观诊断节点和128个实际更新节点；当前未建立共享参数的三层统一效率优势。
当前优先级：先复现论文，再寻找缺口。 用户于2026-10-08明确要求停止继续由agent自行设计实验的推进方式，先实际复现相关论文中对本项目有贡献价值的关键比较。已有理论和实验保留，但新的架构、损失、写入位置或保持方法不因旧候选仍在本文而自动入队。
此前路线与已完成结果。 统一研究参数知识如何被学会、怎样被推理过程调用，以及这些过程随知识负载、独立参数、执行深度和训练量怎样变化。两条路线相互检验：严格基于实际Transformer解释三层能力的分离；用受控架构比较检验学习成本与微观更新过程。此前主比较采用普通四层Transformer、两层执行两轮的Loop、同Loop加首轮共享KV。普通模型各层独立随机初始化；已有复制相同初值后分别训练的模型只作辅助机制证据，不代替普通模型。用户要求避免重复历史失败实验；复用兼容对照，只补缺失条件。用户已授权先启动，loop-kv-learning-development-v1四条新增训练、独立重载及云端核验于2026-10-07全部完成，复用两条旧Loop；见冻结协议及完整结果。共享KV未稳定改善新增知识使用，当前先解释结果并逐项审查历史设计，不自动扩展网格。用户随后授权的MoE顺序学习比较已经完成：复用两条普通模型、新增四条48,000更新，独立重载与W&B全部通过。MoE的BB22.66%低于普通23.44%，配对方向混合；旧组合终点较高但原正确AA保持较低，尚未建立三层统一效率优势。当前先解释已有结果，不自动追加网格。Delta系列与mHC暂缓；其重新进入须有明确新问题。已有观察是起点，不预设架构优势，也不要求先完整解决第三层才形成论文。
1. 一个总问题，三个研究层次
参数知识怎样被学会，并成为推理可以反复调用、在更新后继续使用的资源？
论文把知识学习与知识上的推理放在同一问题中。事实回答、组合使用、更新后使用三个层次各有独立实验和机制解释，彼此递进、相互检验；第一层本身是研究对象，不能缩成后两层的单跳掌握门槛。当前推理操作主要是事实组合，不能把其结果等同于所有数学或一般推理能力。
| 层次 | 独立研究问题 | 解释目标 | 主要评价 |
|---|---|---|---|
| 知识能被回答 | 事实怎样进入参数，查询怎样提取它？ | 学习内容、呈现、曝光与负载如何影响记忆形成和访问 | 原子学习曲线、不同问法提取、保持、学习成本与可测知识量 |
| 知识能被组合 | 已掌握的事实什么时候能成为下一步计算的输入？ | 组合经历、表示与计算结构怎样形成可迁移的调用 | 熟悉事实的新组合、仅受原子训练事实的组合、必要事实掌握 |
| 更新后能继续被使用 | 新增或改写事实后，已学会的使用能力能否接上？ | 写入是否进入实际调用的知识，旧答案和旧能力怎样影响更新 | 新事实、派生答案、旧答案残留、未受影响知识与组合保持 |
单跳正确不保证组合正确；静态组合正确也不保证更新后的组合正确。这是已有受控结果支持的区分。表示兼容、共享访问、使用经历和更新不同步是需要比较的解释，不能提前选定其中一个作为全部现象的答案。
论文按“事实形成与提取 → 组合使用 → 更新后的继续使用”展开。工作标题可用 Learning and Reasoning with Parametric Knowledge: Recall, Composition, and Use after Updates；具体标题随证据成熟调整，不预设已经建立普遍scaling law或单一MLP机制。
2. 第一层：知识怎样被学会并回答
主要问题。 相同事实在什么训练条件下能被稳定记住，又能被不同查询提取？存储、问法适配和提取失败分别解释。
已有材料包括bioS学习与同权重提取诊断、原子学习与负载控制、曝光和复习控制、组合支持与知识负载曲线，以及实体表示与地址分配。这些材料承担第一层的独立论证，不仅用于筛选“事实全会”的模型。
当前可建立的认识：事实学习与可访问性受训练内容、表达和预算影响；固定预算下的失败不能自动归为存储上限。新负载曲线中，四层模型在等4000曝光下，N=128/256/512/1024的原子均值为100/99.97/92.27/60.86%，组合变化另见第二层。这里测量的是指定任务和训练流程下的行为，尚未解释唯一存储机制。
下一步先用已有轨迹形成两张主图：原子掌握随学习曝光的变化，以及同一配方下原子掌握随知识负载的变化。问法迁移用同权重的原训练格式与问答格式比较，避免把两次微调后的模型差异直接称为“知识存了却取不出”。
需要补实验时，只补能区分解释的比较：固定目标事实及其曝光，增加真正学会的背景事实，测目标提取与保持；若背景事实本身没有被学会，不能把损伤称为记忆拥挤。参数、词表、目标查询和预算逐项记录，不直接把更多数据当作更多已存知识。
机制落点。 用有明确假设的联想记忆模型解释地址、响应与干扰，再用必要的参数/状态干预检验其与行为的联系。研究MLP的作用，同时允许Embedding、attention及其协作承担知识；不预先规定模块分工。
3. 第二层：已掌握的知识怎样被组合
主要问题。 单跳掌握相当时，什么使事实能在未练习过的链中被连续使用？区分“熟悉事实的新链”和“两条事实都只受过原子训练”的严格组合。
| 已有关键比较 | 主要观察 | 对解释的约束 |
|---|---|---|
| 事实使用经历 | 组合练习、对应原子重复、仅基础单跳的同组留出组合为100/25.01/3.01% | 使用情境的作用超过单纯事实重复；监督与上下文差异须明示 |
| 共享GPT表示训练 | 同首跳标签下，严格组合12.60→92.32% | 表示训练可以改变跨事实使用，尚不唯一定位MLP |
| 普通独立层复核 | 熟悉组合16.76→55.88%，严格2.96→5.27%，方向余弦已达.9997 | 对齐有作用，但输入方向接近不足以保证严格组合 |
| 自然长期优化 | 特定Loop配方出现较晚的严格泛化，最强已测终点81.34% | 显式对齐不是唯一成功途径；历史单世界结果不能当普适规律 |
| 共享KV与残差比较 | 共享KV提高熟悉组合，严格组合仍低 | 通路被使用不等于跨事实调用已经形成 |
下一步先把已有实验组织为“使用经历—表示—共享访问”三个有针对性的比较，统一展示原子与组合结果。需要解释普通层与共享块差异时，再做同数据、配对初始化的共享条件比较；历史批次参数量、初始化缩放与世界不同，不能单靠分数差定位共享约束。
机制落点。 中间实体可读出、状态能驱动后继计算、以及参数更新能改变这种使用，分别提供证据。直接的跨后继关系行为干预优先于继续增加余弦或探针。普通Transformer也能成功的条件、Loop失败的条件都应进入解释。
4. 第三层：知识变化后怎样继续使用
主要问题。 模型是否形成了能接纳知识变化的调用方式？新增事实与改写旧事实分开检验，前者测试已有能力的迁移，后者还涉及旧答案竞争和更新范围。
现有强组合父模型编辑已经建立关键现象：表示对齐父模型的原子编辑100%成功，无关原子保持99.76%，派生新答案仅4.08%，编辑前会答的D覆盖93.72%。因此接下来不重复把“更强父模型上的普通原子编辑”当作未做先导。
知识变化训练已完成三个新世界。共享KV的熟悉首跳传播fixed→changed_use均值14.58→31.25%，但逐世界为0→0、18.75→18.75、25→75%，收益来自第三世界；第二跳仍为0。保留这一有限正信号，下一轮不据平均值自动扩大动态训练矩阵。
本轮两个直接比较补上正面证据：顺序新增知识中，先学组合再学新原子事实的BB为20.57%，原子训练对照为3.12%，两者新事实单跳均100%；写入目标比较中，同一新实体标签的早期监督使传播3.12→68.75%，加表示对齐后85.42%。两项均伴随旧组合能力损伤。当前证据支持使用经历和写入方式能改善新内容的使用，尚未同时解决旧能力保持。
机制落点。 先区分事实未写入、原有组合能力被破坏、更新未被已有调用使用。三类前提分别测量，不能把全部低传播统一称为接口失败。
5. 接下来的优先级
| 顺序 | 工作 | 完成后应能回答 |
|---|---|---|
| 本轮已完成数学整理 | 完整pre-LN计算图、最后MLP的保护/写入条件、Loop共享梯度推导及CPU数值核查 | 哪些行为蕴含不成立；共享严格改变了什么 |
| 本轮已完成旧曲线重整 | 从24条历史训练重建按监督token与估算FLOPs展示的固定面板曲线 | 既有架构在哪个学习阶段值得进一步比较；不把终点差当效率定律 |
| 本轮已完成开发比较 | 四臂×两初始化，另宽128/循环4的共享与解共享扩展，共16任务 | 增宽改善本批组合均值；共享/解共享的R2新组合净增相同，不继续默认扫描R与宽度 |
| 当前比较已完成，KV扩展结束 | 普通四层、两层Loop两轮、Loop加共享KV；复用2条Loop训练，新增4条、48,000更新，独立重载及云端核验通过 | 共享KV未稳定改善BB；用户明确“已反复失败，没必要再扩展”，撤下后续候选，逐项审查其它历史设计 |
| 本轮已完成MoE开发比较 | MoE顺序学习：D4/M4/W4，复用两条D4、新增四条；重载与云端全部通过 | MoE估算矩阵计算减少、旧AA终点较高；BB无稳定优势，原正确AA保持仍较低，不自动扩大网格 |
| 暂缓 | Delta/GatedDelta工作状态；mHC多流与稳定传播 | 只有出现相应工作状态或深度稳定瓶颈时重新进入实验队列 |
| 保留的补缺候选 | 维持原优化和B序列，仅改变旧AA回放 | 只有当保持仍妨碍核心架构比较时补做；不再作为默认下一项 |
三层在论文中各自成立，第一层有独立的学习、提取与成本结论。以下5.1–5.2保留已完成实验的解释，5.3区分已完成开发与下一项候选，5.4定义效率评价；实现测试、科学训练完成、独立重载和云端同步分别按批次证据报告，不能由本规划推定完成。近期53项学习/写入、16项回放和16项Loop任务的既有完成证据均已核对；7个相关控制器complete且无活动/排队任务，Loop汇总的4个源文件哈希一致，见进度核查。这是读取既有重载和云端审计，不是本轮再次重载或查询云端。
历史去重与重新进入条件
新扩展入队前，写清最近的同问题历史批次、原结论、这次改变的机制变量及能区分的解释；无法写清新增问题就不执行。用户要求的论文原实验复现可以先建立基线，不要求事先制造新问题，但须核对尚未完成同一原配方，避免重复提交。先复用兼容的权重、曲线、逐题预测与对照，核对冻结数据、样本流、初始化、评分和源码。新增种子、稍改步数或换批次名本身不构成新问题。负结果限定于原任务与预算；确有新训练前提或关键变量时可以重开，但须先说明历史结论为什么不已回答该比较。
| 历史问题与证据 | 本轮不再默认重复 | 重新进入的依据 |
|---|---|---|
| Loop执行次数、最新同起点比较：更大R未统一改善组合；相同初值复制对照下R2的BB净增均+3.91个百分点 | 继续R/宽度网格，或把复制初值对照当作通常的独立层模型 | 独立普通基线与KV的补缺比较已完成，见结果；KV后续配方扩展已撤下 |
| 共享KV：熟悉48.59→72.17%，严格1.11→1.43% | 重跑符号图的full/window/detach四臂，宣布首次检验共享KV | 真实名称的顺序新增知识，与同Loop的无共享KV条件比较 |
| 残差/KV扩展：mHC无稳定严格优势，新增严格编辑传播全0 | 继续mHC×KV×R扫描 | 对当前任务建立明确的多流/深层稳定瓶颈 |
| 旧组合回放：旧保持改善，BB20.83%与此前20.57%接近 | 再扫描回放比例，把旧保持恢复当作新知识使用突破 | 保持确实妨碍新的关键比较；否则使用已有full replay |
| 强父模型普通原子编辑、写入目标：最终CE低传播已有重复证据；早期CE及对齐有正效应但损伤旧组合 | 再以相同最终CE失败作新先导；再增加余弦后重复同一传播观察 | 更新目标或保持约束实际变化，能区分写入传播与旧能力损伤 |
| 知识变化训练：熟悉首跳均值收益主要来自一个世界，次跳仍0 | 据31.25%平均值自动扩大动态训练矩阵 | 同等监督下的新关键比较，明确角色覆盖和更新保持 |
训练目标或目标操作未成立时，保留结果并定位该前提；不把低分立即归因于架构上限，也不以扩展矩阵代替解释。下一项若仍仅重复“熟悉改善、新知识组合低”的历史模式，就结束该配方的扩展，记录边界。
5.0 当前：复现相关论文的关键实验
先按原文回答“复现了什么”，再讨论“缺了什么”。保留三个层次的论文结构，不用新架构网格代替对已有方法的检验。
| 原论文与原实验 | 对本项目的用途 | 去重与当前状态 |
|---|---|---|
| Ye et al. 2025 §2.3 / Figure 3：只学Train-II，与Train-II加ID原子监督 | 校准原子事实是否必需，以及怎样影响组合学习时间；直接连接第一、二层 | 首批v2两条正式长训练运行中。 原始8层GPT-2、batch 1024、每臂百万迭代；数据审计、6项契约测试、18,986条全池CUDA短训练与新进程重载通过。首次尝试在训练前因补齐词表类别解码失败，记录保留。见原配方、解码修订与冻结源；当前尚无科学复现结论 |
| 同论文 §2.4 / Appendix D.1：事实在第二跳的训练覆盖限制 | 检验“单跳会答”与“某个使用角色已学会”怎样分离 | 两条百万步训练运行中，GPU2/3。 使用作者角色限制生成器和完整训练实现；1900条限制事实全部进入过首跳，第二跳训练曝光为0。仅Train-II / 加全部原子监督，共享组合及14000评价池；全训练池审查、两条CUDA短训练与全池独立重载通过。见协议 |
| MQuAKE 的参数编辑成功与编辑后多跳问答比较 | 校准第三层的原始现象及自然模型评价，区分编辑成功与派生使用 | GPT-J ROME/MEMIT两条全量任务已提交，GPU4/5。 原Table3的3000案例，各例独立编辑后恢复；原提示及默认超参数，记录直接编辑、必要单跳、多跳与CoT，条件子集另报覆盖。项目既有小样本/自制干预不是本比较。作者未发布参数编辑评价脚本，生成上限与答案截取约定明确保留。见协议与差异 |
| RippleEdits 的直接编辑与关系连带变化评价 | 检查论文怎样定义应更新与应保持的关系，给第三层建立可用基线 | GPT-2 XL + ROME三条全发布池已提交。 POPULAR/RANDOM在GPU6/7，RECENT排队；用作者捆绑编辑器与原TestRunner/Evaluator，按论文20新token、生成文本和任一金对象评分。发布池实际885/1922/1948，与论文统计有差异；标签、前提筛选及编辑失败保留覆盖，不冒称同一批具体案例。见固定契约 |
| Grokked Transformers 2024 与 Physics of Language Models bioS | 复用已完成的原配方或开发证据，校准长期优化、知识形成及提取 | 原2024长训练已完成，不重跑；bioS开发完成，不冒称原论文全规模复现 |
用户于2026-10-08进一步授权编写代码并行执行优先原实验，新增上述7任务；已有第一行GPU0/1任务继续保留。16项最终检查及五条编辑CUDA短测/独立重放通过；padding、keyword输入hook及开发cloze计分修正的历史保留。第2–4节及5.1–5.5原有扩展候选暂缓，待论文复现结果后再评估。合成图seed42为单世界/单初始化，编辑案例也不是独立新世界；论文未公开的种子、环境差异、源代码修正及完整评分分母必须保留。原实验复现与后续扩展分开立契约；在没有最终结果前，不把候选缺口写成突破点。
5.1 已完成主实验：先学组合，再学新事实
实测结论。 同一真实图的三个划分、每划分两个初始化完成24条正式训练。新＋新组合BB在先组合后新增、原子对照、相同训练清单混合三臂为20.57/3.12/23.18%，相关原子与自主两次调用均100%。先组合后新增从更新前14.32%升至20.57%，同父模型只继续复习A的对照降至9.90%；新增B相对该对照的收益在三个划分均为正。顺序臂旧AA为34.90→30.47%，原先会答的AA按划分等权只保留64.78%。因此可以说先前组合经历帮助使用新知识，不能说旧能力完整保留，也不能把顺序学习称为这次主要瓶颈。详见完整结果。
数据。 新增训练优先采用现有2Wiki中有来源、无歧义的真实三元组；小型人工世界可校准实现，但与真实事实结果分开。将知识划为旧A和新B，尽量沿用已有实体和关系词表，使B占用此前未见的合法事实地址。B的全部模板、别名和参与组合的使用角色均不得进入阶段A，也不能通过A的组合标签间接教入。先检查合法B与“新＋新”链的数量；不足时调整真实数据划分并披露，不用人工补边冒充真实事实。
阶段A。 首轮从随机初始化的完整Transformer建立可审计的A/B知识学习史。固定同一架构、A事实、配对初始化与训练预算，比较“A原子＋组合练习”和“A原子重复练习”。记录原子曝光、监督token和计算；组合监督本身是处理因素，不能声称全部信息相同。用未训练的AA链确认前者形成了可测的组合能力。后续若扩展到现成预训练LM，未进入阶段A不代表底座从未见过该事实，须单列这一限制。
阶段B。 两个父条件接受相同的B原子及固定A原子回放，全参数正常更新；不提供含B的组合答案，不回放A组合。组合父条件另设等预算A原子复习分支，区分新知识学习与继续训练对旧能力的影响。现有父权重若已见B原子，必须重建划分和父模型。
执行比较。 主比较固定一种普通完整Transformer，使用三种训练历史：先A原子与组合再B原子、先A原子重复再B原子、从头混合。混合臂将第一臂的同一份实际训练例总清单重新排列，匹配事实与组合曝光、监督token和总更新；所有臂均不给含B的组合答案。优化器及学习率日程一致，原子对照的组合监督差异明确作为处理因素。先在开发划分检查学习、保持和代码操作，再固定确认配方。
真实2Wiki图重新划分训练与评价，不沿用旧权重。先选择实体有其它A事实支持的真实链，再形成B和各评价池，保证足够的新＋新链；各条链保留来源、别名及必要事实。来自同一真实图的不同划分和初始化分别标记，不称独立新世界。
| 固定评价池 | 研究用途 |
|---|---|
| AA：旧＋旧 | 旧组合能力保持 |
| BA：新＋旧 | 新事实进入第一步调用 |
| AB：旧＋新 | 新事实进入第二步调用 |
| BB：新＋新 | 整条新知识链上的使用迁移，关键主指标 |
同时报告A/B单跳、必要事实覆盖、自主两次调用、完整直接生成和学习轨迹。一个开发划分确定共同训练配方与预算，随后固定新划分/世界的比较；世界或事实划分与初始化层级分开，不把种子或查询当独立世界。
已完成的文献配方复测。 用户要求先查论文，再直接采用相近成功配方。精读Ibrahim et al.的方法与附录后，采用其测试过的50%旧数据回放、优化器重置及1%升温后余弦衰减。固定每步64条B事实和64条旧回放，只比较旧原子与阶段A完整分布（含训练AA），不提供含B组合答案。开发4任务和原三个划分的12任务配对扩展均完成，新增100,000更新；不称新世界确认。来源与适配差异见文献核对与执行协议。
本轮原子/完整回放的AA为4.17/37.76%，BB为4.95/20.83%，A/B原子均100%。完整回放保持训练AA为100%，但原先正确的未见AA仍只保留73.97%（划分等权）。因此完整旧分布回放能缓解组合遗忘，并优于本轮匹配对照；其BB仍与前轮20.57%接近，尚未突破先前水平。两轮优化和回放顺序不同，不能把跨轮差值解释为纯回放效应。保留原B序列、优化器状态和学习率，只把部分A原子回放换为训练AA的窄比较仍未执行；现作为必要时的补缺，不优先继续密集调整回放。新增与改写若要归因于旧答案竞争，仍须在同一更新范围和训练方法下比较。
5.2 辅助比较：更新是否进入被复用的状态
本比较已在三个既有世界、两个初始化完成，见写入目标结果。复用已有高组合能力的共享GPT父模型，先重载既有编辑权重，直接核对早期状态对新/旧实体的读出及表示变化。限定首跳严格事实，保持父模型、目标事实、可更新参数、回放和预算，比较三种写入目标：
- 最终原子答案CE，复用现有方法作基线。
- 同一新实体标签，再监督早期状态的实体读出。
- 保留第二项相同标签，再加入对新实体输入表示的对齐。
所有臂不给第二关系或派生答案，并保留各自的旧事实复习对照。开发只用直接写入、必要事实与保持校准操作；主报全池传播、旧答案残留及未影响组合，父模型会答子集与覆盖另外报告。
首轮观察为早期CE大幅改善传播，同标签下对齐进一步改善；同时增加了未受影响严格组合的损伤。因此后续问题是如何兼顾写入传播与旧组合保持。首跳结果不能自动解释第二跳或自然模型；暂不展开层位、损失、架构的全交叉扫描。
5.3 通用架构能否降低三层知识能力的学习成本
主问题。 保持知识任务与可用监督明确，哪些通用结构能在更少的数据曝光或计算量下达到更好的事实回答、未见组合和更新后使用？不预设所有架构都有收益，也不以单一最终分数决定架构合理性。有限任务上的收益说明具体设计适合何种学习条件，不足以验证其在所有大模型中的普遍优势。
| 结构与原始方法 | 机制假说与关键比较 | 已有证据如何使用 |
|---|---|---|
| Loop / Universal Transformer | 当前比较已完成。 普通四层、两层Loop两轮、Loop加共享KV，固定执行四层和数据流；普通模型各层独立随机初始化 | 普通基线及真实顺序学习KV条件已补齐，KV无稳定新增知识收益；本配方扩展结束，原复制初值结果只作有限辅助证据 |
| 稀疏MoE | 本轮开发比较已完成。 专家组织是否减少干扰，或仅增加总存储。对近等激活计算Dense、近等总参数宽Dense分别比较；固定路由只作机制消融 | 现有M8/D8/W8全池与曲线可复用；本地top-2不是Switch逐项复现。知识容量原论文§9、附录D表明稀疏专家可使用大量总参数存事实，但未证明组合调用也获得相同收益 |
| DeltaNet / Gated DeltaNet | 暂缓。 原论文§3及检索实验主要检验序列内关联状态的写入、保持和清除；当前短闭卷QA且状态逐样本重置，不足以辨别这种设计对参数知识调用的独立作用 | 旧GatedDelta-GQA与GQA差异很小且资源不等，未有独立纯Delta臂；保留结果。将来明确研究长上下文或多步工作状态时，再比较统一骨架与重置规则下的GQA、Delta和GatedDelta |
| mHC | 暂缓。 原论文§4–5聚焦多流混合、深层传播稳定及大规模预训练。当前浅层知识任务尚未建立相应瓶颈；待增加深度/循环确有稳定问题，再比较普通残差、Identity多流与完整mHC | 现有HC/IHC及残差扩展未建立稳定严格组合优势，结果保留；固定矩阵稳定不能代替全网络或旧知识保持结论 |
架构主比较沿用普通答案监督，不为某架构单独给予真桥或额外派生标签。由数学提出的辅助损失、路由限制或状态操作单列为训练方法/机制臂，报告额外信息与计算；否则不能将收益归于架构本身。优先使用论文已验证的模块实现与优化原则，明确GPT-2适配、有限Sinkhorn、纯Delta开关等差异。
mHC的保留入口。 暂缓的是独立大矩阵，并非认为多流连接与知识/推理无关。iso-depth研究v3§5.2在循环边界加入双流Hyperconnections后改善其循环等效性拟合；这是普通HC而非mHC的直接结果，且非循环基线未作同样改造。若后续Loop曲线提示跨轮状态传递值得定位，可将普通连接、固定双流、HC/mHC作为Loop内部的窄比较，保持本论文主题集中。
已完成的开发矩阵。 沿用已审计的2Wiki顺序学习开发划分，从随机初始化训练四臂×两初始化；每组相同基块权重与训练样本顺序。宽度256、基块组2层、循环2次，阶段A为8000步旧原子＋旧组合，阶段B为4000步新原子＋完整旧训练分布回放。主批96000次优化更新；另在读取其端点前冻结宽128/R2与宽256/R4的共享/解共享比较，增加96000更新。16任务全部完成，见主批协议、扩展协议与汇总。
| 开发臂 | 参数约束 | 主要比较 |
|---|---|---|
| shared | 两层基块重复两次，全部块参数共享 | 与untied相同初始函数、相同展开深度，检验共享约束 |
| untied | 把相同基块复制成四个独立块 | 保留起点，允许不同调用位置独立学习 |
| mlp_shared | attention及块归一化独立，仅对应MLP共享 | 缩小共同更新的模块范围；不预设知识只存于MLP |
| shallow | 同一两层基块仅执行一次 | 同独立块数的计算参照；初始函数与前三臂不同 |
上述untied从同一组随机初值复制层后分别训练，目的在于固定初始前向、只改变参数绑定；它不是通常各层独立随机初始化的普通Transformer。已有结果只能按这一初始化条件解释，不据其分数宣称普通模型与Loop的普遍效率关系。历史名称和冻结契约保持原文；后续讨论直接说明“普通独立初始化”或“复制相同初值的辅助对照”，不用“解共享”代替具体做法。
主报A/B原子、未见AA与BB全池学习曲线，以及阶段A末答对AA的逐题保持；BA仅14条，AB/AA/BB各64条，保留全部结果并注明分母。该实验测新增知识，不等同于旧事实改写。两初始化及后续同图新划分都不是独立新世界。完整旧组合回放本身也可能改善BB，所以此轮比较整套学习流程；无B分支未启动，已随KV配方后续一起撤下。
原方法与本次扩展。 Grokked Transformers附录E.2将前后两组4层共享，在合成图上获得较迟的严格组合；本轮是2层×2次的真实名称小规模开发，并增加新增知识阶段。Reasoning with Latent Thoughts §3、附录A.2用相同token顺序比较浅层、Loop与等计算深层，发现知识记忆与推理的收益不同，因此不能预设三层同时改善。2026年iso-depth研究§3–4在特定自然预训练架构上区分循环、参数与计算，其拟合指数不能直接外推本项目。我们的首轮支持受控开发观察，不足以建立scaling law。
微观学习。 固定只来自训练池的原子/组合诊断批次，在预定节点将当前共享模型临时展开，测各执行位置的梯度、交叉内积和求和恒等式，并记录实际AdamW更新与裁剪；不更新诊断副本，不用未见AA/BB答案训练。先检验理论§14.4的跨调用更新关系，再用行为差异或针对性干预判断它是否解释学习。多token自然名称不直接套用单实体token的桥读出。不会以内部特征另建成绩预测器。
本批开发没有确立Loop普遍收益，不直接扩成确认网格，也不默认补旧R4无B续训或扫描学习率。新比较先沿用已有效学习原子及训练AA的共同配方；如果另研究优化，须提出与既有曲线不同的可检验问题，并给予两臂对称预算。三个已测点不支持普遍scaling指数。共享约束的中途继续训练与从头学习分别解释。
已完成：普通Transformer、Loop与Loop加共享KV
本轮检验的问题。 最近的Loop学习代码只访问本轮KV；历史SharedCacheGPT在符号图的另一套骨架上已验证熟悉收益，但没有真实名称的顺序新增阶段。本轮检验Loop加首轮共享KV能否改善新知识组合及旧能力保持，并以普通独立层模型衡量实际架构效率，现已完成。用户质疑复制初始化作为主基线，核对论文后取消原计划中“复制层模型加共享KV”的新增臂；该四格计划未启动。
文献依据与边界。 Reasoning with Latent Thoughts §3、附录A.2的主比较是k层Loop执行L轮、普通k层及普通kL层，匹配数据顺序并分别比较参数与计算；没有在这些方法段中找到将本项目“复制随机初值后独立训练”设为主基线的说明。MIDAS §2–3、§4.4确实通过复制已训练的层扩展深度，让副本继续学习，但其分阶段增长不同于本项目从随机起点一次复制。共享KV论文附录D的同值独立副本用于分解梯度，不是另一个独立训练的普通模型。复制初值有固定起点的控制用途，不能据这些相近做法将其称为标准架构基线。
已重读Monea等共享记忆论文§3、§4、§6与附录A/C/D：采用同层首轮KV与本轮KV拼接、统一softmax、两分支分别按原token位置因果遮蔽。首先保留完整本轮KV，使主变量为新增首轮访问；短窗口和detach不同时进入主比较。论文研究长文本预训练；本项目保留完整GPT-2 pre-LN、残差、MLP、位置编码及最终答案监督，属于方法适配。缓存是本次输入的激活，每个样本重置，每次前向用当前参数重算，不是跨问题的知识库。
| 主比较 | 模型及初始化 | 本轮新增量 |
|---|---|---|
| 普通Transformer | 四个独立层，从开始就分别随机初始化，执行一次 | 两个初始化，新增训练已完成 |
| Loop | 两个层重复执行两轮，各轮使用同一组参数，只读本轮KV | 复用loop-learning-development-v1的两个shared运行 |
| Loop加共享KV | 与上述Loop相同，两轮都用同一组参数；第二轮另读对应层首轮KV | 两个初始化的从头训练已完成 |
已新增4条×(8000＋4000)=48,000更新。固定原开发数据哈希、tokenizer、初始化870071/870072、各自样本顺序、宽256/8头、batch128、原优化器与学习率日程；三臂都执行四层，阶段B每步64条B原子和64条完整旧分布回放，不给含B组合答案。普通四层沿用已验证的普通层初始化实现，各层随机权重独立，不复制两层的张量；投影初始化尺度按共同配方记录，不强制其初始前向等于Loop。已有sequential-transfer-development-v1只回放旧原子，sequential-replay-development-v1重置优化器且warmup不同，两批只能作背景，不能直接替代本配方基线。新增KV通路从阶段A开始训练；给旧Loop端点临时打开通路不能代替训练处理。
复用旧Loop须先验证关闭新通路时与冻结实现的前向/评分/样本流一致，核对初始权重与原始报告。普通模型与Loop的初始函数不要求相同；Loop两条件使用相同初始参数，但KV访问集合改变，初始函数也可以不同。重复本轮KV的双分支在dropout=0时应与单分支等价；另查两套因果掩码、未来token隔离及重载。普通模型具有更多独立块参数；共享KV增加注意力计算。唯一参数、FLOPs、缓存/显存与时间分别记录，不声称参数与计算同时完全匹配。
预定分析。 分别报告原子、静态未见AA、直接BB、AB/BA、A→B的BB净增及原先正确AA的逐题保持和覆盖。两个初始化逐对报告，再给均值；AA/AB/BB各64题、BA14题，不能称独立世界确认。普通模型与Loop比较三层学习曲线和成本；同Loop有无共享KV比较通路的训练效果，不再以三臂估计参数绑定×KV交互。BB末分提高而净增不提高，主要反映阶段A基础差异，不能称新增知识迁移优势。AA提高但BB不改善，只支持熟悉组合收益。
后续已撤下。 原冻结契约规定，两个配对BB终点及净增均改善、且旧保持不一致恶化时，才考虑无B续训。门槛未通过，分支从未启动；详细旧契约保留在冻结协议。用户明确评价为“已反复失败，没必要再扩展”，本知识任务的共享KV配方扩展结束，不继续R/窗口/detach/mHC/世界网格，也不以更换数据呈现或组合名称延续同一问题。
若只重现熟悉收益、BB差异混合，或收益伴随一致的旧保持损伤，本配方不自动扩展R/窗口/mHC/世界网格。两个初始化的有限信号不证明普适优势；新世界确认、共享读取detach的训练干预须各有后续理由。推理关通路可能偏离训练分布，梯度路径分解可核对计算图，二者都不能单独证明收益来自梯度捷径。新增模型和配置已实现，固定镜像50项测试、四条CUDA预飞行、旧采样流及关闭KV前向/生成/评分一致性均通过；本批冻结配置四条训练、独立重载及云端核验全部完成。共享KV的BB末分差一负一零、净增差一负一正，均值净增与原Loop相同，第二步门槛未过、未启动。旧权重与完成证据未修改；学习报告及门槛分析保留完整逐初始化结果。用户正在逐项审查历史设计；未回复不视为认可。
已有真实名称与单实体token结果用于解释当前结论的范围，不作为继续本配方的理由。合成事实用于可控机制，真实事实用于外推；答案监督结果不能直接称为自然语料全token预训练结论。当前未建立普遍架构上限，也不以结论范围有限为由自动追加新的验证任务。
5.4 什么算“更少训练量”
三层各自报告完整学习曲线：原子学习及问法提取、静态留出组合、新增/改写后的派生使用和旧行为保持。固定预算比较是主报告；达到预先选定能力水平的成本作为补充，阈值及连续节点规则在开发阶段固定，不在正式曲线上选最有利阈值。预算内未达到就报告未达到，不外推出无限训练也学不会。
训练量分为唯一事实/组合支持数、实际样本曝光、输入与监督token、优化更新、训练FLOPs和实测时间。重复数据不计作新增独立事实；Loop的执行次数另报，MoE总参数、激活参数和路由成本另报，Delta状态与softmax KV缓存另报，mHC状态/控制器/逐元素成本另报。数据效率提高可能伴随单例计算增加，两者分别判断。
同一数据流和监督下比较学习效率；各架构给予相同开发搜索预算。等总参数、等激活计算、等展开深度通常不能同时成立，因此根据具体假说做配对比较，而非声称一个统一“公平大小”消除了所有差异。共同预算节点只在实测支持范围内比较；稀疏检查点不能精确确定首次达标时间。
第三层同时报告阶段A+B的累计训练成本及B阶段的额外成本；共享同一父权重只用于同架构更新方法的配对比较，不强行把不同架构拼成同一父模型。分别给固定A预算的结果、必要事实掌握及编辑前组合覆盖；按能力匹配的补充分析保留全部未达模型和真实成本。主评分采用固定全池，逐模型父正确子集另报分母，净准确率不能代替逐题保持。
本轮已完成的无训练整理。 从8架构条件×3初始化的24条历史记录提取1056条“节点×评价池”记录，保留源文件哈希和不同学习率。见曲线PNG、PDF、数据与边界、复算脚本。这些是同一真实图的固定小面板（原子877、严格OO64），并非全池终点，也不包含第三层；因此用于提出下一项比较，不按面板峰值宣布普遍架构优势。
5.5 已完成：MoE、普通模型与宽模型的顺序学习
结果：普通/MoE/宽模型BB23.44/22.66/21.09%，净增7.81/5.47/3.91pp；原正确AA保持80.74/77.72/72.86%。MoE旧AA终点55.47%高于普通50.78%，但新增组合配对方向混合、保持更低。累计估算矩阵FLOPs约少14%，本实现实测耗时仍更长；不自动扩大专家/路由/lr网格。
此前M8/D8/W8比较了静态真实图；本轮补充后来新增事实的组合使用和旧组合保持。沿用完整四层GPT-2、同一个已观察2Wiki开发划分、两初始化及A8000/B4000配方。D4普通MLP作为近等激活计算参照；M4每层8个2d专家、每token选2个；W4为16d宽MLP，近等MoE总参数。模型都只执行一次四层，普通层独立随机初始化；不加入Loop或共享KV。
复用loop-kv-learning-development-v1两个普通四层运行，先核对源材料及A/B完整生成；新M4/W4各两条，共48,000新增更新。阶段B固定64新原子＋64完整旧训练流回放，不给含B组合答案，不改变回放比例。采用历史已测试MoE实现、整批路由平衡及有效token统计，固定镜像76项科学契约测试通过。四条CUDA短训练及旧D4两端点复算通过；四条科学训练、独立重载及W&B云端核验全部完成。完成状态分别见清单。
预定主报原子学习曲线、静态AA、BB完整池及A→B净增、原先正确AA逐题保持和覆盖；分别计总/选中参数、监督token、FLOPs、时间和显存。共同配方没有逐架构最优调参；两个初始化不称独立世界确认。已有D4时间不作为同期吞吐基准。完整冻结协议、配置与本轮来源保留；不自动扩大专家/学习率/路由网格。
6. 理论怎样连接三个层次
以完整Transformer条件命题为当前入口，保留理论文档其他推导的原假设与边界：
- 第一层：关联存储、知识量、地址干扰及参数/上下文状态的区别。区分数据要求的知识量与模型实际学会的知识量。
- 第二层：单跳解码条件与后续可用性、训练支持的可辨识性、有限步计算稳定性。功能复用不要求内部向量处处相等。
- 第三层：直接组合与自主逐跳调用的一致性，以及参数更新前后这种一致性是否保持。编辑前的一致性不推出编辑后仍一致。
已落实的严格切口是：固定真实上游时，最后未共享MLP的保护/写入可行性及最小参数变化；完整残差、归一化、attention与MLP中的更新传播；Loop共享参数的梯度求和与可能的相抵。它们解释为什么行为之间没有自动蕴含，以及架构施加什么约束；更省训练、何时出现grokking仍是待检验命题。小随机模型的CPU/FP64核查仅确认代码和代数，不当作自然训练机制。
数学结论写明模型和假设；训练效应、数值验证及自然模型机制分别标注。用理论产生能区分解释的比较，不以恒等式代替实验证据，也不另建预测模型表现的指标体系。
7. 范围与暂不展开的方向
论文保留知识容量、MLP记忆、参数共享、grokking、表示和编辑传播这些重要话题。它们是否进入下一轮取决于解释价值与已有证据，不因历史文献已经涉及就回避。
容量是第一层的重要问题，目前只建立有限任务/预算下的曲线；尚不把“组合容量的幂律”定为已经成立的中心结论。Loop/KV比较已完成，MoE顺序学习开发比较也已完成，当前先解释三层结果与成本；DeltaNet、Gated DeltaNet和mHC暂缓，重新进入的依据是工作状态或传播稳定与任务瓶颈直接对应。已有结果全部保留，不增加所有架构×负载×深度×监督的完整网格。
最小循环数/少轮蒸馏和更多跳数暂不单列新项目；模型宽度、循环与知识负载只在上述核心比较中逐轴扩展。Linear Attention/GDN的暂缓是当前任务匹配判断，不是证明其无效。原版bioS 100k正式矩阵、日期更新等旧草案没有自动进入新队列；已完成bioS开发证据继续服务第一层。历史局部响应预测实验作为历史证据保留，后续不沿其另设预测任务。
8. 共同评价与执行原则
主指标是端到端任务表现，同时保留学习过程、全部低分和失败。单跳、组合、更新、格式和问法迁移分开。完整池为主，条件子集同时给覆盖；原子掌握率不是所有探索必须100%的统一门槛。
开发用于检查任务与操作是否有效，正式比较保持固定规则。事实曝光、训练更新、推理执行深度和FLOPs分别记录；更多训练步数不自动等于充分优化。人工世界、真实事实图和现成预训练模型的结果分开表述。
正式训练前按实验协议固定关键比较、数据、参数范围、预算和评价；既有授权与冻结契约继续有效。采用LM专属Docker、每实验独立容器及默认W&B记录，具体环境见AGENTS。已完成批次不因新roadmap重新启动。
9. 文献作为问题和方法的依据
| 研究层次 | 主要方法依据 | 本项目继续解释的问题 |
|---|---|---|
| 回答 | Physics 3.1、Physics 3.3 | 学习、表达、负载与提取怎样共同决定可测知识 |
| 组合 | Physics 3.2、Grokking of Implicit Reasoning §3与附录E.2、How do Transformers Learn Implicit Reasoning? §2.4 | 事实使用角色、共享计算和表示条件怎样影响跨事实使用 |
| 更新 | MQuAKE、RippleEdits | 在已有组合能力下，新增/改写知识怎样进入同一使用过程 |
已有工作发现的现象可复现、深化和检验边界，准确说明继承与推进。具体方法阅读范围与原文保存在文献笔记及各批冻结协议；新设计依其实际方法检验，不仅引用摘要。
10. 文档维护与历史材料
| 入口 | 只维护什么 |
|---|---|
| 本roadmap | 论文立意、问题、已有证据的用途、优先级与待检验设计 |
| 结果汇总 | 按三层组织的已执行结果、适用条件及原始证据入口 |
| 理论依据 | 数学对象、推导、假设和理论边界 |
| 实验协议 | 共同执行规范及旧脚本依赖的历史契约 |
README仅提供导航；AGENTS仅保存研究入口、环境和恢复规则。新证据合并到相应主题，不在文档顶部不断追加互相覆盖的“最新主线”。被本路线替代的容量单主轴、架构全景和Loop蒸馏规划退出活动文档；旧计划文件只留历史脚本兼容入口。详细历史报告与批次冻结材料继续保留，不因结论不支持假说而删除。
本机最新文档与远端历史快照可能不同；发布与归档以实际同步记录为准。原始数据、模型、日志、冻结源码、配置和哈希均不因文档重整而改写。