File size: 5,832 Bytes
3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e 3029ed3 2244b1e | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 | # LLM Memory: Learning and Editability
研究知识学习的三个层次:**知识能被回答、能被组合、更新后能继续被使用**。每一层都有独立的实验和机制解释,共同回答训练与模型结构怎样形成可提取、可复用、可更新的知识。
**当前研究入口:[Roadmap](docs/roadmap.md)。** 以三层已有观察为基础,推进[实际Transformer的数学解释](docs/memory-scaling-theory.md#transformer-conditional-results)与[通用架构的学习效率比较](docs/roadmap.md#architecture-efficiency)。顺序新知识迁移、写入目标比较和回放复测的完成结果见[结果汇总](docs/results.md#updating);第一层的学习与提取、第二层的组合使用继续各自构成论文内容。
最新[Loop同起点与规模开发比较](docs/results.md#loop-learning-v1)完成16条训练及独立重载:共享、解共享、仅MLP共享、浅层参照,以及宽度/循环扩展。代码同时记录知识学习、组合使用、新增后使用和实际Transformer跨调用梯度;当前结果未建立Loop的三层统一效率优势。
[MoE顺序学习开发比较](docs/results.md#moe-sequential-v1)也已完成:四条新增训练、两条普通基线复用,独立重载与W&B核验通过;MoE尚未建立新增组合及旧保持的稳定优势,三层学习曲线与成本均已保留。
| 文档 | 用途 |
| --- | --- |
| [Roadmap](docs/roadmap.md) | 唯一当前路线:论文立意、三层问题、证据用途与实验优先级 |
| [结果汇总](docs/results.md) | 三层已有结果、最新科学状态及证据入口 |
| [理论依据](docs/memory-scaling-theory.md) | 条件推导、数学假设及解释边界 |
| [实验协议](docs/experimental-protocol.md) | 共同评价、执行规范与历史机器契约 |
| [项目工作入口](AGENTS.md) / [开发约定](CONTRIBUTING.md) | 环境、恢复、追踪和修改规则 |
各批科学结果、独立重载和云端同步状态分别核查,具体证据与解释边界见结果汇总;已完成批次不重新提交。当前实验范围与冻结入口由roadmap统一维护。
## 实验材料
本GitHub仓库保存源码、测试、配置、开发说明和当前roadmap。实验数据、原始预测、日志、学习曲线、详细研究报告与冻结材料按[存储配置](configs/artifact-storage.json)归档到 [Hugging Face 数据集仓库](https://huggingface.co/datasets/zsqzz/llm-memory-editability)。GitHub单文件小于200 MB;权重、优化器状态及Docker镜像不上传。
本机结果和理论文档可从上表阅读;仅克隆代码仓库时,按下节下载研究材料。远端是归档快照,可能落后于本机;当前roadmap随代码维护,不以远端旧计划覆盖。
| 归档材料 | 路径 |
| --- | --- |
| 数据与tokenizer | [data/](https://huggingface.co/datasets/zsqzz/llm-memory-editability/tree/main/data) |
| 原始预测、日志与运行状态 | [results/](https://huggingface.co/datasets/zsqzz/llm-memory-editability/tree/main/results) |
| 冻结配置、源码、审计与图表 | [docs/development-artifacts/](https://huggingface.co/datasets/zsqzz/llm-memory-editability/tree/main/docs/development-artifacts) |
| 数组归档及原路径索引 | [array-archives/](https://huggingface.co/datasets/zsqzz/llm-memory-editability/tree/main/array-archives)、[ARRAY_ARCHIVES.json](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/ARRAY_ARCHIVES.json) |
| 文件与哈希清单 | [ARCHIVE_MANIFEST.json](https://huggingface.co/datasets/zsqzz/llm-memory-editability/blob/main/ARCHIVE_MANIFEST.json) |
2026-10-04已核验的历史版本为 [742098e8a543](https://huggingface.co/datasets/zsqzz/llm-memory-editability/tree/742098e8a5437c2640ee0634a4617ae5a88fc46a):62,376份逻辑材料,其中43,358份数组收录于24个归档包。此版本不代表其后的本机结果或本次文档已同步;后续归档以相应核验记录为准。
## 安装与下载
Python ≥3.10。按需要安装运行、分析、追踪或归档依赖:
```bash
python -m venv .venv
source .venv/bin/activate
python -m pip install -e '.[neural,dev,analysis,archive]'
```
本机 `gpulingjun010010012239.os30` 在启动Python前按[AGENTS](AGENTS.md)将 `/lib64` 放在 `LD_LIBRARY_PATH` 首位;独立容器采用其已验证环境。
下载指定批次及其冻结材料,避免用历史快照覆盖活动文档:
```bash
python scripts/download_experiment_artifacts.py \
--include 'results/parametric-architecture-development-v1/**' \
--include 'docs/development-artifacts/parametric-architecture-development-v1/**'
```
需要完整历史复现时,可用 `--revision 742098e8a5437c2640ee0634a4617ae5a88fc46a` 固定版本,在独立目录或检查原路径后下载。下载器核对归档及数组SHA256,并恢复原目录结构;私有访问凭据仅保存在本机。未上传权重从实验主机恢复。
## 开发
先读[研究原则](.agents/skills/llm-memory-research/SKILL.md)、[Roadmap](docs/roadmap.md)和[CONTRIBUTING](CONTRIBUTING.md)。
- `src/llm_memory_editability/`:模型、数据生成、训练与分析。
- `scripts/`:执行、分析、审计、报告、追踪及下载入口。
- `configs/`:实验配置、来源和环境。
- `tests/`:真值、划分、训练契约、恢复及评分检查。
- `docs/reports/`:需要保留的历史详细报告;不维护新的研究路线。
```bash
python -m pytest
ruff check .
ruff format --check .
```
代码修改按范围检查;纯文档修改检查链接、锚点、状态及机器契约。部分检查依赖归档材料和未上传权重。静态检查排除冻结源码,不改历史审计哈希。`memory-editability` 与 `memory-editability-neural` 是工程示例,其结果不作为正式研究证据。
|