|
Download docs/development-artifacts/loop-learning-scaling-development-v1/protocol.md from zsqzz/llm-memory-editability: direct link, hf CLI and curl.
- Browser
- Download file 1.9 kB
-
https://huggingface.co/datasets/zsqzz/llm-memory-editability/resolve/main/docs/development-artifacts/loop-learning-scaling-development-v1/protocol.md
- Command line
-
hf download hf://datasets/zsqzz/llm-memory-editability/docs/development-artifacts/loop-learning-scaling-development-v1/protocol.md
-
curl -L -o protocol.md https://huggingface.co/datasets/zsqzz/llm-memory-editability/resolve/main/docs/development-artifacts/loop-learning-scaling-development-v1/protocol.md
1.9 kB
Loop 宽度与循环次数:小范围配对扩展
2026-10-07 在主批仍处训练早期、尚未读取其端点成绩时固定。沿用主批协议的同图开发数据、A8000+B4000预算、完整旧分布回放、优化器、评估及独立复验要求。
新增8任务:
| 宽度 | 基础块数 | 逻辑循环数 | 比较 | 初始化数 |
|---|---|---|---|---|
| 128 | 2 | 2 | shared vs untied | 2 |
| 256 | 2 | 4 | shared vs untied | 2 |
初始化870071/870072、相同采样seed与训练样本顺序。主批宽度256/循环2提供第三个点。每个局部结构配对保持相同初始展开函数、执行深度、token顺序及预算;不同宽度不声称初始函数相同。所有设置保持8个注意力头,故宽度变化也改变每头维度。
循环2→4保持shared的唯一参数量不变,增加执行计算;untied独立参数量与执行深度均增加。宽度128→256增加容量和计算。只据这些干预与完整学习曲线讨论局部规模趋势,不拟合普适scaling指数,不把两个初始化当独立知识世界。同token预算不等于同FLOPs;分别以训练步数、有效token与矩阵乘估算FLOPs作横轴,达到阈值时间只在观察范围内报告。
新增总预算96000 optimizer updates,与主批合计192000。复用相同固定镜像;每任务独立容器,GPU由现有锁和实际使用检查调度,不能抢占其他实验。保留失败记录;无基于性能的提前终止或单臂调参。
资源口径补充:training_seconds含少量实际参数更新范数采集;peak_gpu_memory_bytes包含诊断模型副本;学习曲线末条wall_seconds截至末次评估附近,不含之后的最终诊断、落盘和独立审计。因而主要效率比较依据训练样本、token与FLOPs,不能把这些时间/显存当纯训练kernel基准。