|
Download docs/README.md from Sariel00/Ling-3.0-tiny-RKNN: direct link, hf CLI and curl.
- Browser
- Download file 1.94 kB
-
https://huggingface.co/Sariel00/Ling-3.0-tiny-RKNN/resolve/main/docs/README.md
- Command line
-
hf download hf://Sariel00/Ling-3.0-tiny-RKNN/docs/README.md
-
curl -L -o README.md https://huggingface.co/Sariel00/Ling-3.0-tiny-RKNN/resolve/main/docs/README.md
1.94 kB
| # 文档索引 | |
| 这里保留当前 Ling3RKNN 发布说明直接引用的报告和少量可复核结果。 | |
| ## 核心报告 | |
| - [MTP_LATEST_20261002.md](MTP_LATEST_20261002.md):默认不编译的 MTP 实验开关,以及统一 32K 容量的驻留速度、内存和预测命中测试。 | |
| - [BOARD_BENCHMARK_AND_INT4_20260922.md](BOARD_BENCHMARK_AND_INT4_20260922.md):当前板端 128/64 至 16K/64 性能与官方 INT4 数值对比。 | |
| - [INT4_BOARD_ACCURACY_20260922.md](INT4_BOARD_ACCURACY_20260922.md):固定 teacher-forcing 条件下的 logits、概率分布和 Top1 一致率。 | |
| - [KV_CACHE_BENCHMARK_20260922.md](KV_CACHE_BENCHMARK_20260922.md):BF16/INT8 KV 的容量、内存和长输入性能。 | |
| - [KV_UTILIZATION_16K_20260922.md](KV_UTILIZATION_16K_20260922.md):16K 请求的 CPU/NPU 占用与瓶颈分析。 | |
| - [KV_HIT_OPTIMIZATION_20260922.md](KV_HIT_OPTIMIZATION_20260922.md):exact prompt 命中后的 NPU tile 局部复用。 | |
| - [LONG_DECODE_16K_16K_20260922.md](LONG_DECODE_16K_16K_20260922.md):16K 输入、16K 输出时的缓存预算阶梯回退。 | |
| ## 测量数据 | |
| `measurements/` 只保留报告需要的汇总 JSON、曲线、环境摘要和校验信息。逐词表 `.f32`、大段生成日志、早期候选版本和重复运行结果不纳入工作区;重新测量应在板端生成新的结果目录,再把汇总文件复制回来。 | |
| 当前保留的目录: | |
| - `benchmark-current-20260922/`:README 性能表对应的请求结果。 | |
| - `16k-profile-20260922/`:占用曲线、阶段摘要和 BF16/INT8 结果。 | |
| - `prefix-hit-20260922/`:KV 命中冷请求与 exact hit 摘要。 | |
| - `cross-platform-int4-20260922/`:INT4 对比摘要、输入套件、权重审计和板端结果摘要。 | |
| - `long-decode-20260922/`:长解码汇总和曲线。 | |
| 历史 MOE 探针和一次性 NPU 优化报告已移出当前文档集;代码入口和当前用法以仓库根目录 [README.md](../README.md) 为准。 | |