docs/README.md

# 文档索引

这里保留当前 Ling3RKNN 发布说明直接引用的报告和少量可复核结果。

## 核心报告

- [MTP_LATEST_20261002.md](MTP_LATEST_20261002.md)：默认不编译的 MTP 实验开关，以及统一 32K 容量的驻留速度、内存和预测命中测试。
- [BOARD_BENCHMARK_AND_INT4_20260922.md](BOARD_BENCHMARK_AND_INT4_20260922.md)：当前板端 128/64 至 16K/64 性能与官方 INT4 数值对比。
- [INT4_BOARD_ACCURACY_20260922.md](INT4_BOARD_ACCURACY_20260922.md)：固定 teacher-forcing 条件下的 logits、概率分布和 Top1 一致率。
- [KV_CACHE_BENCHMARK_20260922.md](KV_CACHE_BENCHMARK_20260922.md)：BF16/INT8 KV 的容量、内存和长输入性能。
- [KV_UTILIZATION_16K_20260922.md](KV_UTILIZATION_16K_20260922.md)：16K 请求的 CPU/NPU 占用与瓶颈分析。
- [KV_HIT_OPTIMIZATION_20260922.md](KV_HIT_OPTIMIZATION_20260922.md)：exact prompt 命中后的 NPU tile 局部复用。
- [LONG_DECODE_16K_16K_20260922.md](LONG_DECODE_16K_16K_20260922.md)：16K 输入、16K 输出时的缓存预算阶梯回退。

## 测量数据

`measurements/` 只保留报告需要的汇总 JSON、曲线、环境摘要和校验信息。逐词表 `.f32`、大段生成日志、早期候选版本和重复运行结果不纳入工作区；重新测量应在板端生成新的结果目录，再把汇总文件复制回来。

当前保留的目录：

- `benchmark-current-20260922/`：README 性能表对应的请求结果。
- `16k-profile-20260922/`：占用曲线、阶段摘要和 BF16/INT8 结果。
- `prefix-hit-20260922/`：KV 命中冷请求与 exact hit 摘要。
- `cross-platform-int4-20260922/`：INT4 对比摘要、输入套件、权重审计和板端结果摘要。
- `long-decode-20260922/`：长解码汇总和曲线。

历史 MOE 探针和一次性 NPU 优化报告已移出当前文档集；代码入口和当前用法以仓库根目录 [README.md](../README.md) 为准。