docs/experimental-protocol.md

# 实验协议与复现约定

更新：2026-10-07。当前研究方向与待办统一见[Roadmap](roadmap.md)，数字与状态见[结果汇总](results.md)，推导见[理论依据](memory-scaling-theory.md)。本协议保留共同执行规则及旧脚本读取的历史契约。历史完整协议见[执行时冻结快照](development-artifacts/qwen-path-learning-v1/execution-source/docs/experimental-protocol.md)。

## 研究范围与证据

研究知识能被回答、能被组合、更新后能继续被使用三个层次，每层分别建立实验和解释。数学结论注明架构、输入、冻结参数、损失、度量及适用条件；实测分别报告行为、局部响应与长期轨迹。干预的方向性/特异性与表示可读出分别评价，不从一次patch成功或一个梯度恒等式推导完整机制。

原版bioS、历史bioS-Work符号图、CounterFact自然语言事实和公开两跳基准是不同任务。固定数据集标签不自动代表当前现实真值；保留来源、许可、模型revision、适配及语义审查范围。数据来源与具体数量以各批配置/锁为准。

## 数据、目标与公平比较

- E为显式更新事实，D为必要传播；R为可访问的训练回放/保持集合，U为未参与选择的保持评价。各批若另有开发V，单独标明。D及U不进入编辑目标、调参或终点选择；读取其梯度只能记为离线诊断。
- 同一配对块共享初始权重、真值、显式目标、采样流和预算。组织实验另固定事实呈现多重集、位置和学习率加权曝光；额外规则、候选评分、教师模型及CoT计算单列。
- 历史A/B/C每世界2048人物、12352基础事实，每轮14336次呈现，公司默认事实重复32次；早期E93/D96与独立确认的共同E39是不同契约。跨批比较先核对分母与信息量。
- 固定预算、达到固定知识标准的成本、知识水平匹配后的分析分别报告。匹配在开发锁定，报告覆盖、排除及未达标模型，避免只选成功端点。
- 新组合批次记录逐边单跳与首/次跳组合经历、实体的头/桥/尾角色、首尾输入共现、等效关系和显式组合标签；新链、新知识、角色迁移与问法迁移分别定义。匹配token边际不能代替信息与联合分布审计。虚构新映射只控制本次可见语料的曝光，不代表已审计完整预训练历史。
- 编辑前后按更新图重新计算D闭包及冲突，闭包内事实不标成U。首跳更新时，新桥实体的必要后继先核对；新增事实与改写已知事实单列。回放、辅助使用练习、外部知识库、教师真值和额外推理计算分别记信息来源。

## 训练目标的命名

每批分别记录初始化来源、计损失的词元位置、样本配比和可更新参数；“预训练/微调”不能代替这些定义。同为交叉熵，既可监督全序列，也可只监督答案。

历史grok两/三/四跳为随机初始化、全部参数训练、最终实体与EOS等权监督，没有中间答案目标。训练EOS时使用正确答案，生成评价时使用模型自产答案。历史深度批次按合并数据集逐例采样，改变组合数量也改变混合比例；Loop批次每批固定32条单跳与224条组合，两流分别均匀遍历，组合覆盖变化不改变每步单跳占比。实现入口见[Loop训练](../src/llm_memory_editability/grok_loop_train.py)与[使用经历训练](../src/llm_memory_editability/grok_usage_train.py)，精确复现采用相应批次冻结源码；这些配方不自动成为全部新实验的默认值。

## 评价与统计

主评价采用各批冻结的完整答案生成与EOS/抽取规则。教师强制损失、候选答案概率和自由生成分开；格式、名称变体与语义冲突单独审查，事后别名评分不替换主表。

新批用同一权重检查相关原子提取、自主生成两次调用和真实中间属性输入下的后续操作；自主调用必须使用自产中间结果。多token答案的连续诊断保存整串log概率及正确/竞争答案差，不将首token评分冒充完整答案。各问法单列，全问法一致率可预定为次要指标；共同正确子集注明处理后筛选及覆盖，主结果保留全池。

E成功、D传播、U损伤及局部保持分别报告。损伤分母只含编辑前已答对的事实；分母为零记不可估计。全部节点和失败保留，不以最佳中途点替换固定终点；条件子集同时给分母及总体覆盖。

按独立世界或预定案例单位做配对分析，同一模型的种子、层、查询和精度重测的相关性须说明。置信区间、多重校正和预定/事后分析分别注明。历史确认与停止规则保留；后续探索可以研究小效应与负结果，不事后删臂。

少量世界优先公开逐世界差值和原始分母；查询级区间不解释为跨世界泛化区间。机制干预先指定部位、供体可访问信息及覆盖；逐题最佳部位只作探索上界，激活修复不等于参数编辑。新设计围绕[roadmap中的关键比较](roadmap.md#next-experiments)明确竞争解释，实际预算由对应执行协议固定。

存储与多跳计算按[三个层次的问题](roadmap.md#question)分别解释：独立参数量、事实负载、逻辑跳数与展开轮数分别记录；固定词表和参数时，不能随实体数增长Embedding后称等容量。区分规定输入上的单跳提取、链上全部必要事实与完整多跳结果；逐轮检查原子和格式，轮数不假定等于跳数。原子事实、目标路径及等价首尾关系的训练曝光分开核查；每事实曝光匹配与总训练计算匹配是不同协议。有限训练的负载边界称经验容量，不直接作为架构上限。旧批评分不追溯改变。

已完成的storage-composition-v1使用完整标准Transformer和Loop Transformer，保留并训练Embedding、位置、Q/K/V、输出投影、残差、LayerNorm和4倍MLP；低/高负载1024/6144，固定词表与测试子图并匹配必要原子曝光。其范围与评分见原[开发修订](development-artifacts/storage-composition-v1/amendment-20261001.md)，不作为当前待启动矩阵。

## 执行与复现

每批封存实际源码、配置、数据/模型哈希、环境、硬件和随机种子，记录有效token、参数量、估算FLOPs、墙钟及重试。精确续训须恢复优化器、调度与随机状态；设计若明确研究重置后的分支，各配对臂按同一规则重置并注明，与精确续训区分。用工程检查核对，预飞不作为科学结果。

数据/权重保存在批次专属 `data/`、`results/`；小型证据与源码快照在 `docs/development-artifacts/`。已冻结产物和原有审计哈希保持原样。旧批次精确复现读取对应快照；文档整理不会使新的工作区文本自动成为旧实验的执行源码。

**后续新批的人工查看与W&B记录。** 用户于2026-10-02要求后续默认启用W&B，账号/团队 `zhusq20`、项目 `llm-memory-editability`，见[默认配置](../configs/experiment-tracking-defaults.json)。训练启动时一并启动[独立记录进程](../scripts/track_experiment_wandb.py)，按实际optimizer step记录损失、分任务准确率/NLL及分母、曝光/token/FLOPs、耗时和吞吐，系统指标绑定训练PID与分配GPU；每轨迹一个run、每批一个group，向用户提供链接。记录进程只读训练产物，不加入CUDA Graph或每步梯度路径；原始记录、失败、预测和权重仍按原协议保存。在线中断恢复复用run ID，以云端已同步step消除重复；离线恢复单列片段。凭据不进入源码、配置或冻结产物，后续批次封存记录源码、配置及SDK版本。已有冻结训练不因未来偏好追加或修改。

## 历史契约兼容段落

以下§16–18属于已经完成的历史实验，其中的“下一步”“本轮未执行”均为当时判断；当前证据见[历史批次汇总](results.md#organization)。保留原编号及正文，是因为 `bios_context_gradient`、`bios_followup`、`bios_path_transfer`、`bios_path_minimal` 和Jacobian脚本按这些标题提取契约。原冻结版本仍以各批 `preregistration.md` 为准；本次整理不修改以下契约正文。

## 16. v2.11 上下文统计与真实早期梯度：独立开发实验

### 16.1 问题、来源与比较对象

用户在阅读 [Im et al., How Do Transformers Learn to Associate Tokens, arXiv:2601.19208v2](https://arxiv.org/html/2601.19208v2) 后指定执行“带监督权重和注意力掩码的上下文统计→真实早期梯度”诊断。论文的早期attention-only理论提示从语料关联统计预测权重变化；本项目答案/EOS监督、绑定embedding/head、GELU、LayerNorm及AdamW不满足原定理设定。本实验构造新的、无拟合系数的残差路径近似，并直接检验其预测方向及幅度。它服务于§15的组织效应研究，不修改已有确认结果，也不把完整内部机制识别设置为其他探索的前置条件。

使用已见开发世界0/1、初始化0/1、宽度256/8层/4头模型，三种交叉组织company/project/neither。每个世界/初始化只运行一条共同neither轨迹，在0、32、128步固定同一权重，反事实评价三种组织各自的平均梯度。因此新增4条128步短轨迹、12个共同状态；不会把不同组织训练后的知识水平差异混入梯度对比。短轨迹沿用原文档、QA采样、0.8/0.2损失、AdamW、1e-4目标学习率、16轮预热、weight decay 0.1及裁剪1；为梯度相减精度使用FP32、关闭TF32，不冒充原BF16轨迹的精确续训。此处32/128步均仍在原预热的第一轮，结论仅覆盖初始化附近。

每个状态使用全部2048篇文档的完整10位置轮换，开放或阻断跨事实注意力，共3组织×2掩码=6臂，总计72臂。每臂409600个监督位置，答案和EOS分别均值计分，再各乘0.4，合计原文档损失权重0.8。三组织的QA流及QA梯度在共同参数处完全相同，因此对组织差值精确抵消；不把QA省略误写成更换训练目标。记录全模型真实梯度，主预测对象为第一层attention输出投影权重，其他模块用于定位梯度差值的大小。

### 16.2 统计预测器：定义在读取真实梯度之前

对监督位置t、目标y、可见前文集合A(t)，令x_j=E[token_j]+P[j]，v_j=W_V LN_1(x_j)+b_V，m_t为A(t)内v_j的均值。以所有残差分支均为零的基线得到p_t=softmax(E LN_final(x_t))及epsilon_t=J_LN_final(x_t)^T E^T(p_t−onehot(y))。预测第一层attention输出投影的梯度为监督加权的epsilon_t m_t^T平均。

这是带位置、掩码和目标权重的token共现统计，经共同固定参数收缩得到的矩阵；无需真实模型的上下文化激活或梯度，也不拟合旋转、比例或回归系数。它等于在零残差基线中加入一条无穷小均匀注意力OV分支时的精确导数，而不是完整Transformer的精确导数。真实模型的注意力仍按原QK计算。本预测忽略其他残差分支、学习到的非均匀注意力及跨层反传，实际误差正是待测对象。

三个固定版本：position保留绝对位置；token去掉绝对位置以检查纯token统计的解释力；shuffled在每轮每个监督列内打乱目标与前文的对应，精确保留该关系/位置的答案直方图及监督量，使用同一固定置换种子317041和跨组织共同置换。EOS目标相同，因此shuffled对EOS本身不构成有效负对照，主要用于答案梯度。关系token保留在前文中；本轮不拟合关系专属参数或对每个关系另做多重检验。

补充数据审计：共同事实多重集与监督bigram一致；计算中心化城市×人物上下文统计子块。阻断跨事实注意力后，该子块及共同状态的完整梯度应在三组织间一致，后者只允许数值消减残差，主投影相对两臂平均范数须小于1e-4。对接近零的差值不解释余弦。全部统计按实际掩码归一化，不能用整篇文档无权词袋替代。

### 16.3 终点、预算与结果解释

主终点为0步、开放注意力、答案部分中company−neither及project−neither的真实与position预测梯度差值余弦；完整保留四个世界/初始化块。并列未拟合的相对误差与预测/真实范数比，不能用高方向相似声称幅度准确。次要分析固定为32/128步、EOS及两部分相加、company−project、token/shuffled对照和各层各模块差值范数。所有结果按预先给定矩阵发布；不挑最好层、最好状态或最好组织对比。两世界只作开发描述，无参数维度、查询层面或初始化层面的显著性检验。

正方向且相对shuffled有稳定改善，可支持继续检验此近似；幅度误差大则只保留方向结论。若所有版本都差，优先定位残差/非均匀注意力近似哪里失效，而不判定语料统计无作用。本轮不测编辑收益，不把梯度预测直接写成组织→编辑的完整机制。小幅或条件性信号仍可用于决定下一步探索。

固定配置为`configs/bios-context-gradient-v1.json`，入口为`python scripts/run_bios_context_gradient.py freeze/run/summarize`。采用当前可用PyTorch环境，运行器记录软件、设备、世界/初始化、共同checkpoint、数据/源码指纹及每臂梯度文件。原始产物位于`results/bios-context-gradient-v1/`，小型契约与汇总位于`docs/development-artifacts/context-gradient-v1/`。启动前完成解析预测与独立autograd推导的一致性、掩码、梯度消减、模块计数及计分测试；不重复既有大批次归档。

### 16.4 执行与结果（启动后追加）

准备阶段：科学实现及12项小规模契约测试已完成；运行前快照将在首次真实开发梯度产生前写入独立批次目录。此时尚未查看本实验的梯度效果。

2026-09-27 07:19:27 UTC封存本节、配置、科学源码和开发数据来源，lock SHA256为`a66cb46545f56bf9f4e2fa0bdbb85ed00c6d4e4869326ec230103f162cd2e0f5`。本模块及既有cross/context相关26项契约测试通过。首次GPU0在模型上设备时发生ECC错误，无梯度产物；保留失败记录，改用GPU6，不改设计或预算。4条共同轨迹于07:20:08–07:27:02 UTC完成，12状态、72测量臂无缺失，312运行产物约5.33GB的内容和来源核验通过。

主答案终点的position平均余弦为0.294758，8个配对均为正（0.285295–0.314340），shuffled为0.003046；32/128步分别为0.417277/0.370646，shuffled为0.004572/0.004762。全部24个嵌套对比的position方向预测均高于对应shuffled，不把它们视为24个独立世界。token版本方向几乎相同；含位置版本改善幅度但仍不准确：0/32/128步相对向量误差1.155656/2.323419/2.642302，范数比0.944658/2.555004/2.841119。全部答案对比的原始向量误差均大于零预测基线1；未事后拟合比例。EOS方向预测接近零或不稳定，combined余弦为0.260532/0.317912/0.339491。

阻断跨事实注意力后，主投影梯度的最大相对消减残差4.33437×10⁻⁸；监督bigram不变、上下文统计差异消失，符合配对控制。当前结论是“数据统计提供部分可重复的早期方向信号，但原始向量近似不准”，值得继续追踪，尚不解释后期知识组织或编辑收益。下一项有区分度的建议是复用同状态，保留完整网络和反传、仅改为均匀注意力，区分QK选择与省略下游变换两种误差来源；本轮未执行。完整边界与数据见[实验报告](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/results.md#organization)和[全部数值](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/development-artifacts/context-gradient-v1/report.md)。

## 17. v2.12 组织×编辑监督配比与第一层均匀注意力对照

### 17.1 授权、范围与开发性质

用户于2026-09-27授权按研究复盘计划开展实验。本轮完成两项低成本开发实验：复用约758万参数的12个旧终点模型，探索组织×更新类型×监督配比；复用v2.11的12个共同早期状态，测量第一层均匀注意力下的真实梯度。均使用已见世界0/1与初始化0/1，不新增学习轨迹，不把新世界100–107重新当作未见确认数据。新世界验证或自然语言试验的具体设计，在本轮结果形成后另行决定，不预先铺开矩阵。

固定配置`configs/bios-followup-v1.json`，实现`bios_followup.py`，输出`results/bios-followup-v1/`，小型工件`docs/development-artifacts/followup-v1/`。启动前封存本节、配置、生产源码及相关测试。旧P1、交叉训练与v2.11源码保持不变；新模块用可恢复的进程内适配器，仅为旧P1编辑循环提供新的监督权重。

### 17.2 编辑矩阵、预算和判读

12个父模型均为旧15360步节点、三种company/project/neither组织。每模型两链、两种coherent/exception更新、四个组织默认事实CE总权重α={3/93,1/8,1/4,1/2}，共192个条件。复用48个原均匀监督编辑及24个P1类平衡exception编辑；新增coherent的1/8、1/4、1/2与exception的1/8、1/4，共120次512步编辑（61440次新增优化器更新）。复用前核对父权重身份、目标集合、支持与回放、采样流、运行设置及保存预测计分；不依效果决定重用。

沿用E93：3条组织默认事实、90条个人事实，传播D96，回放4096条，batch128；层索引3–5的完整MLP、学习率3e-5、AdamW weight decay 0.1、KL权重1、全局梯度裁剪1不变。均匀采样及原两次随机抽样顺序不变。默认类每例权重为93α/3，个人类为93(1−α)/90，期望CE总尺度保持1；不按每个batch观测到的类数量重新归一化。权重同时作用于答案与EOS。支持集、真值、采样随机性均在组织和权重之间配对。

主终点固定512步：原exception任务冲突QA留出人员的传播正确率；coherent在完全相同人员上计分，称同人参照。对每个权重报告相对原均匀监督的配对变化、训练组织×测试关系匹配效应，以及exception减coherent的匹配效应差。匹配效应为[(公司组织公司任务−项目组织公司任务)+(项目组织项目任务−公司组织项目任务)]/2；neither作为各组织跨任务收益参照保留。

并列报告全部96人及48人留出传播、两类直接E、全局/编辑器未见/局部旧正确U损伤及已知分母，和新默认/新个人/旧默认回答分类（允许候选答案重合，不把标签命中当作内部路径识别）。保留0/32/128/512步完整曲线；固定512步主终点，不按最好D挑停止点。每个世界/初始化先平均组织和链，再世界等权；公布所有配对块，两个世界只作开发描述，不作查询级或四块独立世界显著性推断。E93不与E39跨合同直接作编辑效率比较。

按效应大小、配对方向、组织交互和局部保持代价判断是否值得继续；不设置必须达到5个百分点或必须内部机制完整的探索门槛。若没有一致趋势，也完整保留中间配比与负结果。

### 17.3 梯度干预、比较和边界

读取v2.11的世界0/1×初始化0/1×0/32/128步共12个共同状态，每状态三组织，共36个新增均匀注意力臂。只把第0层注意力的QK选择替换为因果前缀上的均匀权重，保留其V/O参数、位置、全部LayerNorm、MLP、残差和后续七层的原注意力与完整反传；不把全网络注意力都替换。模型参数不变，不做优化器更新。

沿用每臂2048篇文档×10位置轮换、batch128、答案/EOS各0.4权重、FP32前向/反向及FP64累计，关闭TF32。使用原度量函数保存全模型真实梯度、三预测矩阵、损失和时间。另在世界0/初始化0/0步/neither做一个未干预重测sham，对照原答案/EOS各参数梯度，相对误差容差1e-4；它是数值控制，不是新科学重复。共37个新测量臂，不重复训练。

记原真实组织梯度差为R，第一层均匀注意力下差为U，既有统计预测为P。主比较为0步答案部分的company−neither和project−neither：报告R与U、U与P的余弦、相对向量误差、范数比，并保留R与P原参照。32/128步、EOS、合计目标、company−project、全模型模块差异列为次要结果。无缩放拟合、回归或层选择，不把坐标范数当作因果重要性。

R接近U而U仍远离P时，优先检查P省略的残差/下游变换及完整预测误差；R与U明显不同则说明第一层QK选择不可忽略。单层对照不能排除后续层注意力作用，也不证明成熟知识或编辑的完整机制。所有对比嵌套于两个开发世界，不作确认性显著性检验。

### 17.4 执行记录

设计与实现准备中；尚未产生本轮科学结果。检查重点是权重尺度、共同目标与人员、复用来源、因果注意力及保留的反向传播；通过后封存并运行，不重做旧批次的大规模归档审计。

2026-09-27 19:43:59 UTC封存本节、配置及生产源码，锁SHA256为`ed6caf56e6f94d4e29222a3de6292d73a985048e821245db20a00996bc09e659`；原准备记录保留在冻结快照中。生产相关30项测试通过，汇总另有5项计分/配对测试通过。19:44:10在GPU5/8各最多两个进程启动，19:57:55全部16任务完成，无失败任务。新增120编辑、复用72编辑、36个均匀注意力臂及1个sham均齐全；没有新增学习轨迹。完整汇总和新增权重核验于20:01:44完成，768预测节点从保存输出重计分，120套终点/恢复模型、512步优化器状态及未编辑参数保持通过；旧批次未重跑。

### 17.5 本轮结果与下一步判断

四档默认类权重下，例外冲突留出D为16.02%/18.07%/20.58%/23.87%，全部留出D为41.23%/42.80%/44.18%/46.01%；25%和50%相对原均匀监督在四个世界/初始化块均提高。所有直接E仍100%。50%的例外编辑端点复用P1，不计作新独立复现；新增中间点补全了配比随干预强度变化的证据。一致更新同人D从84.98%降至83.97%，例外未见U损伤从0.4631%升至0.4858%；局部旧例外损伤并不单调。

组织交互未被修复：例外冲突D匹配效应随四档权重依次−7.40/−8.31/−13.42/−16.44个百分点；50%相对基线在四块均更负。一致更新同人匹配效应则约+7.55至+8.07。匹配条件的绝对冲突D仍提高3.77个百分点，但不匹配条件提高12.81，中性提高6.97，因此是相对差距扩大，不能写成匹配条件绝对退步。例外全部留出D的匹配效应从+3.65降至−1.30，冲突子集幅度不能推广到全体。

第一层均匀注意力下，0/32/128步真实与干预答案梯度差值的平均余弦为0.99851/0.99840/0.99810，相对误差约0.05494/0.05720/0.06220；全部24嵌套对比余弦0.99774–0.99861。统计预测相对该干预梯度仍只有0.29450/0.41664/0.36826余弦，向量误差1.15423/2.30859/2.62944。未干预重测、统计预测矩阵均与原结果逐位一致。当前误差优先归向省略的残差/下游变换和反传贡献，不能归结为第一层QK非均匀性；这不排除后续层注意力，也不解释成熟模型。

保留50%类平衡作为行为候选、25%作为较温和参照；不继续把它称为组织匹配劣势的修复。下一轮验证需要区分平均传播收益与组织匹配条件获益较少两项预测；连接v2.9时在共同E39目标下重做对照，其事实均匀基线为3/39，不能混用E93的3/93。独立新世界的具体矩阵围绕更新后的预测另立；本轮不因完整机制未识别而否决部分行为收益。

机制下一项优先做第一层输出投影的逐位置梯度分解：在完整均匀第一层网络中区分监督位置与非监督位置经后续层反传的贡献，再替换零残差基线误差信号，以定位统计预测缺口。使用真实反向信号的分解只算诊断，不冒称独立语料预测器。本轮未新增自然语言或大规模训练。[完整结果](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/results.md#organization)与[完成审计](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/development-artifacts/followup-v1/audit.json)保留所有配比、配对块、分母、曲线与来源。

## 18. v2.13 Transformer计算路径与知识促进／干扰

### 18.1 研究目标、授权与阶段

用户于2026-09-27要求从数据组织推进到架构本身的机制与数学解释，并授权将计划写入本协议、开展实验。主要问题是：在固定事实与模型状态时，后续注意力的跨位置反传及MLP分支怎样改变学习一条事实对另一条事实的影响？§17的早期第一层均匀注意力结果仅提供动机，不作为成熟模型机制已成立的证据。

阶段A：在现有8层模型中做精确逐位置梯度分解，覆盖初始化、中期、训练终点。阶段B：保持前向值不变，干预反传路径，实际做单步更新并评价影响。A/B为本次先行执行的固定开发批次。阶段C：根据A/B定位出的路径，建立两层最小Transformer并开展针对性的结构／学习验证；先完成固定注意力两层公式的数值校准，具体训练变量及预算在读取A/B结果后、最小模型训练前另行封存，不把校准当成从头训练。若A/B没有选择性机制信号，记录负结果并据此决定C的操纵，不事后挑选最有利事实。独立新世界与完整AdamW多步编辑属于后续验证，不将既有世界100–107重新当作未见数据。

本批次配置`configs/bios-path-transfer-v1.json`，生产实现`bios_path_transfer.py`，结果`results/bios-path-transfer-v1/`，小型工件`docs/development-artifacts/path-transfer-v1/`。首次真实模型测量前封存本节、配置、实现、测试及输入文件哈希。历史生产源码和结果保持不变。

### 18.2 数学对象与可证性质

固定层的MLP输出写为残差增量Wz_t+b，z_t为真实GELU激活。令δ_it为损失L_i对该增量的梯度，则G_i=∇_W L_i=Σ_t δ_it z_itᵀ精确成立，求和覆盖全部位置。将监督位置集合记作S，G=G_S+G_非S；各部分的范数可相互抵消，不将范数比称为解释百分比。

只对W做SGD：ΔL_j=−η〈G_j,G_i〉_F+O(η²)，其中〈G_j,G_i〉=Σ_tu〈z_ju,z_it〉〈δ_ju,δ_it〉。特征重叠与反向信号同向程度共同决定局部迁移；等式和Taylor展开是校准工具，不能独立算作机制发现。对于干预产生的更新方向g_i^a，预测必须使用**原模型的真实G_j**：ΔL_j≈−η〈G_j,g_i^a〉，不能把j的梯度也换成干预梯度。记录实际FP32舍入后的ΔW并以〈G_j,ΔW〉复核。

在当前逐位置LayerNorm／MLP和残差结构中，若某中间输出之后不存在跨位置Jacobian块，且损失仅监督S，则δ_t=0（t不在S）。该性质针对中间激活，共享参数仍可造成跨样本干扰。对于固定A的最小后层注意力残差h_s=r_s+BΣ_t A_st r_t，单位置监督下∂L/∂r_t=1_{t=s}e_s+A_st Bᵀe_s。均匀A仍传递梯度。学习QK、后续MLP及LayerNorm后必须加入真实Jacobian项；不把固定A公式直接当成全模型定理。

残差／注意力路径分析参考[Transformer Circuits](https://transformer-circuits.pub/2021/framework/)；早期关联学习参考[Gradient Leading Terms](https://arxiv.org/html/2601.19208v2)。后者理论采用attention-only与早期梯度下降，不能直接代替本模型GELU、LayerNorm及成熟状态的分析。本研究贡献若成立，应是可预测、可干预的具体路径机制，而非重新命名链式法则。

### 18.3 固定数据、模型与事实对

只用既有neither组织（仍保留同人分组），宽度256／8层／4头，世界0/1×初始化0/1，共4条既有学习轨迹。读取同一轨迹的0、5120、15360步，共12状态；不拼接v2.11的FP32短轨迹。目标为0起算第4层MLP的down.weight，其余参数全部冻结。阶段A/B不会新增预训练。

沿用每世界两条关系的edit_pair(support=0)，每链3组。每组从原exception冲突人员中，按人物ID固定选择首个组合QA留出人员；另取首个不同的、非旧例外的组合QA留出同组人员。没有符合条件则在生产前报错，不按模型效果换人。每组建立3个源更新：组织默认事实→新默认；该人的实际城市→新默认（一致）；完全相同实际城市问题→新替代城市（冲突）。共2链×3组×3=18源案例／状态。

每案例评价源目标、所选人物的留出组合QA、另一个同组人物的留出组合QA、关联直接事实（源为默认时评价个人实际，否则评价默认）、同人另一链实际城市及组外人物实际城市。前四者按本案例新真值，后两者按旧真值；所有原始ID与目标保存。组合查询和保持探针不进入更新目标；留出指学习QA划分或本轮未用于更新，不冒称模型从未见过全部直接探针。选择不依赖基线答对与否，同时报告全部及基线旧正确保持子集。

源和探针损失均为答案与EOS两位置交叉熵各1/2，长度、答案输入和因果mask按原查询接口。主要终点为真实目标损失的变化；额外保存完整答案自由生成（预测答案后生成EOS），不以teacher forcing正确率替代自由生成。

### 18.4 干预与数值控制

full：原模型完整反传。no_cross：仅将第5–7层attention输入到输出Jacobian的跨位置块置零，同位置块、LayerNorm和残差保留；不是把attention整体置零。no_mlp：仅截断第5–7层MLP分支反传，残差不变。fixed_qk：第5–7层attention在反传时固定softmax权重，保留V/O内容路径。所有干预前向返回原attention／MLP值；仅目标W可更新。

先用独立小模型核验：前向完全一致；no_cross的Jacobian等于原Jacobian的对角位置块；fixed_qk保留值路径；no_mlp保留残差；外积和重构真实参数梯度；全模型截断后非监督位置梯度归零；固定A公式对上autograd。真实测量每案例检查前向一致与重构误差；另外保存未干预重测sham。FP32模型／梯度、禁TF32，内积与损失归约FP64；工程测试的随机数据不计入科学样本。

### 18.5 单步预算、指标与判读

每个源更新从相同父状态重新开始，禁止累积；不使用KL回放、权重衰减、动量或裁剪。以full梯度定义η_f=f‖W‖_F/‖G_i‖_F，f={1e−4,3e−4,1e−3}。shared_lr所有臂用同一η_f；matched_norm各臂改用η_f^a=f‖W‖_F/‖g_i^a‖_F。零方向保留零更新并标记，不除以零。full的两个尺度条件相同，属于重复数值控制，不当作独立重复。共12×18×4×3×2=5184个单步条件（含648个full重复条件）。主比较固定成熟状态、matched_norm、f=3e−4；其他阶段与步长作为完整预定次要分析。

保存每个源及探针的z、δ、梯度分解、真实内积的监督／非监督四项贡献、前向值、实际更新范数、更新权重哈希、预测损失变化、实测损失变化和自由生成。必须核对非目标参数无变化、每次父状态恢复，以及预测误差随步长的情况。Taylor预测准确属于数值／局部有效性证据；科学问题是路径删除是否有选择地改变一致／冲突事实的联动，并保留源目标改善。范数匹配不能保证源损失改善匹配，二者均报告，不把更弱的目标更新当成选择性修复。

按世界／初始化配对汇总链与组，公开全部4块；仅2个开发世界，不做查询级显著性检验，不按终点换层、换人或增加世界。机制信号允许部分、相反或零效应；目前没有预设“attention有害”或“MLP保护”。仅相关、局部Taylor准确、或截断一切导致学习消失，均不足以声称识别选择性机制。完成后更新本节执行记录及结果报告，按结果为阶段C锁定最小操纵。

### 18.6 执行记录

准备阶段历史记录：设计已落盘，正在实现和验证反传干预，尚未产生本轮真实模型结果。实际启动、完成与结果记录追加如下，启动前原文保留在冻结快照。

2026-09-27 20:27:39 UTC封存阶段A/B，lock SHA256为`2f2a1c592d29f0d7f44421f7ce6a7b17175afd9c98fe497fdf187c1722e0d190`。31项相关测试和GPU随机小模型校准通过后，在GPU5/8启动4任务；20:29:03全部完成。12状态、216源案例、864梯度臂、5184单步条件与31104探针记录完整。20:30:50完成独立因子重构审计：最大梯度重构相对误差6.53e−8、因子内积误差（按梯度范数积归一）2.23e−9；前向差、sham差和no_cross非监督位置梯度均为0。冻结参数与父状态恢复全部通过，648个full重复条件逐位一致。

成熟状态主步长下，一致源更新的同人派生CE变化：full −0.010588、no_cross −0.010058、no_mlp −0.009165、fixed_qk −0.010755；冲突源分别−0.005628、−0.005323、−0.004144、−0.005674。full的一致与冲突均23/24案例改善，23/24派生探针起点仍生成旧答案；主条件没有改变自由生成答案。不能将较小CE改善称为实际冲突修复，当前未建立跨位置路径的选择性有害作用。主步长Taylor相对RMSE约0.227%，可分辨变化的符号全部一致；这是局部数值验证。

### 18.7 阶段C：共同旧错误与新答案竞争（结果驱动的新冻结设计）

阶段A/B提示：不同新答案的梯度可能先共同压低旧答案。最小参考情形为同一logit向量、两个不同目标a/b：〈p−e_a,p−e_b〉=‖p‖²−p_a−p_b。若p集中在第三个旧答案c，该量为正；若概率集中于a/b且两者都非零，则为负。对目标b的logit-SGD会令log(p_a/p_b)的一阶变化为−η(1+p_a−p_b)≤0。因此“p_a上升”和“a相对b的竞争优势下降”可以同时发生。该式是softmax损失的参考解释，不是Transformer架构特有定理；真实Transformer还包含输入间Jacobian交叉度量，需实测。

先对阶段A/B成熟主条件的288个已执行更新重建相同权重，校验原权重哈希，补充同人派生问题的新默认a、新替代b、旧答案c概率和a−b logit差；单列为读取A/B结果后提出的次要分析，不追改原主终点。使用原标签清单、原梯度因子和原步长，不重新挑案例，不产生新的优化轨迹。

两层最小模型配置`configs/bios-path-minimal-v1.json`。固定32人物、3关系、3值：关系0和1的旧答案均为person mod 3，关系2为(person+1) mod 3；96条孤立事实，全词表答案CE，无EOS损失。模型为标准2层pre-LN/GELU/因果attention、宽度64、2头，沿用共享输入输出嵌入。初始化0/1各用全96事实训练1024步AdamW，lr=0.001、weight decay=0.1，不按准确率延长；报告旧知识达标情况。只作为最小机制开发，不把简单表格记忆称为原关系链任务复现。

对固定人物0/1/2，每个模型分别以关系0为源：coherent更新到a=(旧值+1) mod 3，conflict到b=(旧值+2) mod 3；关系1以a为评价目标，关系2保持旧答案。源每次仅一条事实；关系1/2不进入编辑。只更新第0层MLP down.weight。使用full/no_cross/no_mlp/fixed_qk四臂，干预仅作用于第1层对应分支，均从相同预训练权重重置。每条轨迹512步SGD，lr=0.01、无动量、衰减、裁剪。每步将干预方向缩放到该臂当前状态下真实源梯度的范数；该控制不保证不同轨迹的源改善相同，因此另报告源概率／损失。固定2×3×2×4=48编辑轨迹，24576更新；另有2048预训练更新。

每8步及终点保存源／派生／保持损失、3值概率、派生a−b logit差、真实梯度内积与干预内积，并对记录节点的一步真实损失变化作核验；保留全步源损失及更新范数、终点权重。首个连续两测量点的负迁移内积可作描述性转折；不按转折早停或选择轨迹。比较早期共同改善是否转为竞争、margin是否提前恶化，以及四种反传路径是否改变转折或源改善—保持取舍。若同logit参考公式与真实跨输入梯度不一致，保留该差异，不将softmax参考强行解释为实测路径机制。最小模型生产开始前另存本小节、配置、源码、测试及已完成A/B审计哈希。

2026-09-27 20:38:54 UTC封存阶段C，lock SHA256为`8ed7122de8848da4a0f24799d4b8d2c7d1c8363584f743f09fb07a70c58fa556`。3项新增契约测试通过，20:40:33两GPU任务完成：2条1024步预训练、48条512步编辑、3120个测量节点。两个父模型的96条旧事实准确率均100%。288个成熟模型主条件权重逐个重建并与A/B原哈希完全一致；新增margin为事后提出、独立封存的次要终点。

最小模型所有臂的一致更新都6/6传播正确，冲突更新都0/6传播正确；源目标均6/6正确，终点目标概率约0.998。完整反传冲突组5/6轨迹出现连续两节点负迁移内积，但不能表述为5/6从促进转为干扰：实际6/6在0步的梯度内积已为负。两个案例首个较大SGD步的实测CE变化与局部一阶预测符号不同，说明固定0.01学习率不总处于局部线性范围；不删除这些记录。完整轨迹和原始节点保留。

### 18.8 阶段C结果后的局部Jacobian核验

最小模型的6个完整反传冲突案例在0步均有负梯度内积，而同logit参考项均约+0.996，答案位置特征余弦0.99962–0.999996。不能把“共同旧错误”参考解释当成完整模型的充分机制，也不能用高度相似特征直接判断迁移符号。因此增加有限、无参数选择的数学核验：固定这两个父模型及3人物，共6事实对，计算源／派生答案位置全部词表logits对目标W的真实Jacobian J_i/J_j。

对实际不同输入的误差e_i=p_i−onehot(b)、e_j=p_j−onehot(a)，精确核验〈G_j,G_i〉=e_jᵀ(J_j J_iᵀ)e_i，并与欧氏误差内积e_jᵀe_i并列。保存交叉度量M=J_jJ_iᵀ和四项p_jᵀMp_i、−p_jᵀMe_b、−e_aᵀMp_i、e_aᵀMe_b，不将M假定为单位、对称或正定。按原固定f={1e−4,3e−4,1e−3}目标W相对范数，对四种已定义方向做72个小步更新，验证各方向内积是否在局部范围内对应真实CE升降，同时报告源改善；这些是新增校准，不能替换阶段C原512步轨迹。实现、输入父模型哈希与本小节在新数值产生前单独封存。本分析只定位输入—参数—输出的局部几何，不自动归因于某个单独attention头、MLP或残差分支。

2026-09-27 20:45:47 UTC封存本项，lock SHA256为`73949c9f90e931a1752bda30b7057ec461d41132c8467a86fd5369178ae46e0c`；20:45:50完成6对全词表Jacobian及72个小步校准。6/6输出误差欧氏内积约+0.996，真实参数内积全部为负；Jacobian重构误差最大2.26e−7，72/72局部升降符号吻合、源目标全部改善。no_cross在初始化1的两个事实对将局部干扰翻转为促进，另4对未翻转；其他两种干预未翻转这6对，不能称为跨初始化普遍效果。使用旧答案c为参考的输出差方向，其内积对真实梯度内积近似相对误差0.0002%–0.0072%，避免把绝对logit分项当成不变机制。

### 18.9 本轮决策

阶段A/B、两层最小模型及局部Jacobian核验均已完成。成熟模型的24个冲突案例中，23个正确答案概率增加，却24个都失去相对冲突答案的竞争优势；原主步长未改变自由生成。最小模型表明高度相似特征仍可对应相反更新，真实参数敏感度不可省略。跨位置路径在2/6案例有局部因果作用，但48条完整轨迹中的冲突配对查询仍全部失败；不将局部改善写成普遍修复。

下一候选转为控制真实MLP特征可变性及新旧答案对比方向，并联合评价源成功、竞争margin及实际生成；具体训练范围、预算和独立世界另锁。本轮不继续增加样本或挑层追求正结果。所有阶段、负结果、数学适用范围与完整计数见[结果报告](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/results.md#organization)。

本轮最终相关测试39项通过，13个新增Python文件的格式／静态检查通过；文档本地链接与全部冻结输入核验通过。完成清单见[阶段A/B完成清单](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/development-artifacts/path-transfer-v1/completion.json)及[最小模型与数学核验完成清单](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/docs/development-artifacts/path-minimal-v1/completion.json)。

### 18.10 完成后复盘：区分监督信息、局部可行性与特征重组

用户要求总结结论与下一轮问题。本次重新检查最小模型的目标可辨识性后，收紧§18.9关于长期失败的解释：源关系只获得新目标b，而评价关系的新目标a既未提供，也不是由当前任务规则必然推出。故冲突探针0/6不能作为架构不能独立表示／更新的证据，也不能要求仅放开MLP参数便自行恢复未提供的新真值。原始梯度／margin方向及干预局部翻转仍成立，原数据与冻结契约不变。

下一轮优先问题改为：**目标信息充分时，干扰来自局部可行方向稀缺，还是普通优化没有选择合适方向；改变MLP特征是否确有额外必要性？** 先做两种明确定义的任务：（1）i更新到b、j保留旧c；（2）i更新到b、j更新到a，并明确监督这两条新事实。提供给更新器的j属于编辑／保持支持，不能同时称为未见传播测试；独立U另留。原两跳传播只在其新默认事实与个人事实均已提供的条件下验证。

以源和另一关系的正确—竞争答案logit差为终点，并包括新答案相对旧答案的约束。记这些margin对允许更新参数的Jacobian为A，局部关系Δm≈AΔθ。检查所需变化是否在局部可达范围、满足约束需要多大更新，以及真实小步是否实现预测。比较同一down参数范围的普通优化和仅使用已提供标签的约束方向；后者是机制诊断，不使用独立D/U标签求解，也不直接宣称新编辑方法。线性不可行只说明当前点的一阶限制，不等同于非线性模型容量不足。

随后比较down-only、up-only（两者权重矩阵参数数相同，bias等额外参数固定）和完整MLP，报告固定预算与相同源学习进度的结果；完整MLP的额外参数不能解释为纯特征效应。down-only固定的是该层投影前特征，后续网络表示及Jacobian仍会变化。若可变特征条件稳定获益，再通过恢复编辑前特征、重新放回编辑后特征及匹配扰动对照检验选择性因果作用。先定位可行性／优化／表示变化的差异，再锁定未见世界验证。本节是完成后的解释与下一轮建议，没有新增实验、预算承诺或确认性结论；新的实际矩阵须在运行前封存。