| # 知识学习与继续使用：2026-10-07执行协议 |
|
|
| 用户已授权设计并开展实验，使用当前空闲GPU并行观测。本协议记录本轮实际比较；当前研究路线仍只维护在 `docs/roadmap.md`。历史实验、权重与冻结源码均不修改。 |
|
|
| ## 主问题 |
|
|
| 先学会组合，再只学习从未见过的原子事实，原来的使用能力能否迁移？事实能回答、能组合、更新后能继续使用分别评价，不把第一层仅作为筛选条件。 |
|
|
| ## 顺序新知识实验 |
|
|
| - 数据：既有2Wiki来源的真实名称、三元组、问题和答案。重新划分A/B，B的两条事实均不得进入阶段A原子或组合训练；目标实体须有其它真实A事实作为出现支持，关系搭配须在A组合中出现。源图中的显式直接/反向泄漏和名称歧义按数据审计排除。保留每条来源与实际分母；熟悉实体表示曾在A出现，不预先保证模型已掌握。 |
| - 一个开发划分，三个固定确认划分。三个确认划分来自同一真实图，不称三个独立世界；初始化与划分层级分开报告。数据选择只依据图和来源，不依据模型预测。 |
| - 固定普通四层完整Transformer，宽256、8头、GPT2 tokenizer、dropout=0，从随机初始化训练全部参数。首轮开发A阶段8,000更新、B阶段4,000更新，batch/microbatch=128，AdamW峰值lr=3e-4、wd=.1、两段余弦与200步warmup。所有历史共用按全局步定义的同一学习率日程。 |
| - 三种历史：A原子+AA组合后接B原子+A原子回放；A原子重复后接相同B阶段；前一种历史的同一份实际训练例总清单打乱后从头混合。另设组合父条件仅继续复习A原子的sham。主三历史都不提供含B的组合答案。 |
| - A阶段每批一半原子、一半组合，原子对照将组合槽换成A原子；B阶段一半B原子、一半A原子。顺序组合与混合的实际样本多重集、监督token相同；padding和批次构成带来的实际计算差异逐项记录，不声称FLOPs完全一致。 |
| - 初始开发采用两个配对初始化，每个初始化四历史。正式预算依据开发学习轨迹选择后固定，不能依据BB成绩挑配方或训练节点。所有开发结果保留。 |
| - 开发8条已通过独立重载：受训A/B原子均100%，两个顺序组合父模型的AA分别29/64、34/64，学习B后分别26/64、31/64。保留各下降3/64以及sham的初始化差异，不把旧能力写成完全不变；配方不调整。准备证据只读取原子、训练组合、AA及审计，不用BA/AB/BB选配置。 |
| - 确认三个划分A为1460/1480/1443条、B为125/125/126条、AA训练均768条。768来自数据角色支持需求，选择时尚无模型结果。各划分均64条BB，BA分母为28/37/31。两个新配对初始化×四历史×三划分=24条训练。 |
| - 确认A阶段13,000步、B阶段7,000步：分别按A原子/AA支持与B原子/A回放相对开发的最大规模比例放大，向上取整到1000步，保证各类平均曝光至少达到开发量；所有确认臂用同一预算，仍同一模型和优化配方。总480,000次更新。数据哈希、来源与角色检查保存在 `data/sequential-transfer-v1/confirmation-data-lock.json` 和 `validation-completion.json`；实际冻结配置以各批目录为准。 |
| - 固定评价：A/B原子、训练组合、AA/BA/AB/BB直接生成、必要事实正确子集及其覆盖；阶段边界与终点另报模型自产第一跳后的第二次调用。别名EM为主，规范答案、无歧义别名、EOS/截断及NLL另报。 |
| - 开发首先看A原子、训练组合是否学会，以及AA留出上是否形成可测组合能力；B阶段看B原子学习和AA保持。操作失败先改开发配方，不把低BB本身当淘汰标准。确认集不参与任何选择。连续原子学习若损伤AA，使用sham区分继续训练与新事实干扰；必要的A组合回放另立修订，不暗中改变主臂。 |
| - 解释：组合历史优于原子历史支持先前使用经历的帮助；混合高而顺序低且AA保持支持学习顺序的额外困难；混合与顺序都低说明该配方的跨事实组合有限；AA下降时优先研究保持。 |
|
|
| ## 编辑写入目标实验 |
|
|
| - 复用既有共享GPT对齐父模型，固定共享首块MLP参数可更新，其余冻结。只考察图选严格首跳事实，不按派生答案表现挑样本。 |
| - 三个目标：最终原子CE；再加早期实体CE；再加早期残差方向对新实体输入Embedding的对齐。额外CE和方向项系数均为.3，沿用父模型经过验证的权重。三个臂用同一新实体标签，不提供第二关系或派生答案。 |
| - 所有臂计算相同目标组件，未启用项权重置零；同lr=1e-5、32条旧原子父分布KL回放、Adam和512步。每个编辑配原旧事实复习sham；记录0/32/128/512步。 |
| - 开发父模型使用2个历史图选严格首跳事实，三个目标各独立容器。先重载历史编辑权重，测早期状态的新/旧实体读出及方向，再做新训练。开发判断只读E、必要事实及U原子保持，不能用D传播择优。 |
| - 确认采用三个既有世界、每世界两个初始化、每父模型四个图选事实、三个写入目标及edit/sham：18个独立作业、144个512步分支。属于配对扩展，不称新世界确认。 |
| - 主报全池D新答案、旧答案残留、未影响原子与组合保持；父模型会答子集同时报告覆盖。早期身份/方向是直接测量，不另训预测器。只改好身份、还是必须改表示形式、或两者都不足，由三个目标的端到端结果区分。 |
|
|
| ## 方法继承与执行 |
|
|
| 已阅读原文方法和相关附录：Grokking of Implicit Reasoning（NeurIPS 2024）§2–3及E.2，How do Transformers Learn Implicit Reasoning（NeurIPS 2025）§2.1–2.4，MQuAKE（EMNLP 2023）§2–4。继承原子/组合划分、首/次跳角色和编辑/后果/保持分开评价；扩展知识获得的时间顺序与同标签写入目标。完整阅读材料在 `results/literature-framing-review-20261007/`。 |
|
|
| 使用 `docker --context lm-memory`，固定已验证镜像，每作业独立容器、GPU、CPU/内存、tmpfs及持久结果目录，不开放端口。每次提交核对GPU实际占用及三个daemon容器预留，并取得GPU执行锁。全部科学作业同步启用W&B，团队zhusq20、项目llm-memory-editability；凭据只由主机记录进程读取。冻结配置、源码、输入哈希和配对训练计划；独立进程重载计分后才标为审计通过。工程失败停止该批后续提交，已运行任务正常结束，失败记录保留。 |
|
|
| 8张GPU的FP32/BF16矩阵计算、反向和同步检查已通过，证据为 `results/learning-use-runtime-20261007/summary.json`。开发与正式实验分别冻结，开发未完成不预先宣称正式结论或云端同步成功。 |
|
|
