docs/development-artifacts/moe-sequential-development-v1/protocol.md

# MoE、普通模型与宽模型的顺序知识学习比较

2026-10-07。用户在确认三臂建议后明确授权进行比较。本轮为同一已观察2Wiki开发划分、两个配对初始化的开发实验，不称新世界确认。唯一当前路线见[roadmap](../../roadmap.md)。

## 问题、历史与处理

问题是：更多专家参数在近等激活计算下，能否降低事实学习成本，并支持静态组合、新事实组合及旧组合保持？近等总参数宽模型用于区分参数数量与稀疏访问。行为收益不能单独证明专家减少干扰或某个路由机制。

旧`parametric-architecture-main-v1`的M8/D8/W8已比较静态真实图，全池组合27.33/25.60/25.50%，原子均接近100%。该批没有顺序新增阶段，不重跑它。旧四层顺序普通模型已经完成，本轮先核对完整冻结数据、初始化、采样与优化器，再读旧权重重新生成A/B端点评分。已见过B的旧M8权重不能充当本轮阶段A父模型。旧KV、循环次数、mHC和回放比例实验不进入本矩阵。

三个模型均保留完整GPT-2 pre-LN、残差、attention、非线性MLP、学习位置、绑定输入输出Embedding，宽256、8头、四个独立层，各执行一次。普通各层从开始独立随机初始化，不复制同一随机层。

| 臂 | FFN | 比较目的 |
| --- | --- | --- |
| D4 | 普通4d宽MLP | 近等激活FFN矩阵计算参照；复用两条已完成训练 |
| M4 | 每层8个2d宽专家，每token选2个 | 增加可访问总参数，近等激活FFN计算 |
| W4 | 普通16d宽MLP | 近等MoE总参数，但每次激活全部FFN |

沿用已验证top-2无token丢弃MoE，不宣称Switch top-1的逐项复现。router在FP32计算，选中专家权重归一化，0.01×整批负载平衡辅助项，统计只包括按真实长度界定的有效输入token；EOS本身仍是有效token。辅助项不增加事实或组合标签。8×2d与16d有近等权重容量，偏置和router参数的差值实报；激活参数不是FLOPs，padding跳过、路由、dispatch、归一化与时间分别解释。

所有模型先构造相同的独立八层参考再取前四层，保留既有残差投影初始化尺度。两初始化870071/870072，共同attention、Embedding、位置和LN逐张量配对；新形状MLP/专家使用独立module RNG（初始化加1,000,003），不扰动共同参数。不同FFN的初始前向不要求相同。

## 数据、训练与范围

固定`data/sequential-transfer-v1/development.json`，SHA256 `3f66cd319651dd4c7e5e060d2cfdb00fedf2f15839862a309097ae17b9a2d7e6`；原GPT-2 tokenizer、50,257词表、256位置。A原子942条、B原子109条、AA训练组合512条；AA/AB/BB评价各64条，BA14条。它们都有原事实来源及必要边；同一真实图和初始化重复不增加独立世界数。

阶段A8000更新，每批64旧原子与64训练AA；阶段B4000更新，每批64新原子、64来自阶段A实际样本流的完整旧回放。B事实地址和含B组合标签不进入A；整个训练不给任何评价链答案。同初始化三臂的训练ID及顺序、事实曝光、输入与监督token相同。

batch/microbatch均128，dropout=0，AdamW β=(.9,.999)、lr=3e-4、wd=.1、clip=1；bias/LN无衰减。每阶段200步warmup，余弦到峰值的.1倍；阶段B保留Adam状态。沿用普通模型的既有有效配方，当前不扫描学习率、专家数或路由规则，也不声称各架构已经各自最优调参。过去大尺寸MoE选择过不同lr，不把旧lr直接视为当前小模型的最优值。

新增M4/W4各两个初始化，共4×12000=48,000更新；复用D4两条24,000更新，不重新提交。先通过科学契约测试、四条真实CUDA短训练和Adam/RNG重载继续更新，再冻结源码、配置、来源哈希及协议，启动四个独立容器。所有低分与失败保留；不因BB低分自动延长或扩大网格。

## 评价与预定解释

固定节点0/500/1000/2000/4000/6000/8000/8250/8500/9000/10000/12000。开发面板恰覆盖本批全部评价池；生成评分保留全部别名、EOS、NLL和原始预测。A/B两个端点另自主两次调用，提供外部分解与额外计算，不当作一次直接组合能力。

三层各自报告：A原子与B原子学习曲线；A末未见AA的静态组合；B末BB、A→B净增、AB/BA，以及原先正确AA逐题保持及覆盖。必要原子正确子集作为描述同时给分母，完整池为主。不把B末BB所有正确都算成新增知识收益；本轮没有无B续训，不唯一归因BB前后净增于B写入。

两个初始化逐对报告再均值，不用题目或seed制造新世界数。比较M4−D4与M4−W4的终点、净增和保持，也保留混合方向。不因多参数或一个最高终点自动声称统一效率优势。

成本分别报告唯一总参数、名义每token选中参数、更新、实际事实/组合曝光、输入与监督token、矩阵乘FLOPs估算、训练与墙钟时间、显存。MoE用实际有效token的专家与router计算，宽模型用16d实际矩阵计算；若发生多微批，整批路由统计/RNG重放的额外前向也计入。3×前向不是硬件实测，dispatch等逐元素开销未包含。既有D4时间不作为同期独占GPU速度基准，不按稀疏节点精确推断首次达标时间。

每条科学训练结束后在新Python进程重载完整端点、核对采样计划、实测曝光及生成；W&B在线记录独立核对全部预定节点和结束状态。科学完成、独立重载与云端同步分别报告。复用的D4保留其原W&B链接，新批只注册四条新增训练，不改写旧产物。

## 环境与恢复

显式`docker --context lm-memory`，固定镜像`sha256:a994f1a1886220693eb26b7ff201147fbd4b49477d335ab2707330cab771063f`；GPU0–3各一个独立实验容器，4CPU、32GiB、只读仓库、独立tmpfs与可写持久输出。启动前再次核查三个Docker context和GPU占用，不抢占其它任务。结果、冻结源码与恢复材料均保存`/ossfs/workspace`。

主机每个Python调用前将`/lib64`置于LD_LIBRARY_PATH首位，容器使用已验证环境。W&B默认账号zhusq20、项目llm-memory-editability，同步进程随训练启动；凭据不进仓库、容器或日志。500步保存恢复状态，完整A末权重单独保留。恢复读取本批controller、冻结配置、锁和实际进程，不重复提交已完成批次。

入口：`scripts/execute_learning_use.py`，module=`moe_sequential`；配置`configs/moe-sequential-development-v1.json`。报告由`scripts/report_moe_sequential.py`从固定预测复算。当前授权范围止于本开发比较及完整报告，没有自动后续网格。