docs/README.md

文档索引

这里保留当前 Ling3RKNN 发布说明直接引用的报告和少量可复核结果。

核心报告

• MTP_LATEST_20261002.md：默认不编译的 MTP 实验开关，以及统一 32K 容量的驻留速度、内存和预测命中测试。
• BOARD_BENCHMARK_AND_INT4_20260922.md：当前板端 128/64 至 16K/64 性能与官方 INT4 数值对比。
• INT4_BOARD_ACCURACY_20260922.md：固定 teacher-forcing 条件下的 logits、概率分布和 Top1 一致率。
• KV_CACHE_BENCHMARK_20260922.md：BF16/INT8 KV 的容量、内存和长输入性能。
• KV_UTILIZATION_16K_20260922.md：16K 请求的 CPU/NPU 占用与瓶颈分析。
• KV_HIT_OPTIMIZATION_20260922.md：exact prompt 命中后的 NPU tile 局部复用。
• LONG_DECODE_16K_16K_20260922.md：16K 输入、16K 输出时的缓存预算阶梯回退。

测量数据

measurements/ 只保留报告需要的汇总 JSON、曲线、环境摘要和校验信息。逐词表 .f32、大段生成日志、早期候选版本和重复运行结果不纳入工作区；重新测量应在板端生成新的结果目录，再把汇总文件复制回来。

当前保留的目录：

• benchmark-current-20260922/：README 性能表对应的请求结果。
• 16k-profile-20260922/：占用曲线、阶段摘要和 BF16/INT8 结果。
• prefix-hit-20260922/：KV 命中冷请求与 exact hit 摘要。
• cross-platform-int4-20260922/：INT4 对比摘要、输入套件、权重审计和板端结果摘要。
• long-decode-20260922/：长解码汇总和曲线。

历史 MOE 探针和一次性 NPU 优化报告已移出当前文档集；代码入口和当前用法以仓库根目录 README.md 为准。