| --- |
| license: apache-2.0 |
| task_categories: |
| - text-generation |
| language: |
| - en |
| tags: |
| - speculative-decoding |
| - distillation |
| - kimi-k3 |
| - off-policy |
| - code |
| size_categories: |
| - 100K<n<1M |
| --- |
| |
| # ATOM regen: OpenCodeInstruct responses by Kimi-K3 |
|
|
| 用 [Kimi-K3](https://huggingface.co/moonshotai/Kimi-K3) 对 |
| [`nvidia/OpenCodeInstruct`](https://huggingface.co/datasets/nvidia/OpenCodeInstruct) |
| 的 prompt 重新生成了一遍回答，供 off-policy 投机解码蒸馏（SDDD）使用。 |
| 窗口 **32768**。 |
|
|
| ## 为什么是代码，为什么是这个数据集 |
|
|
| 训练一个 5 层 DSpark draft 的过程里，代码一直是最薄的一片：主语料去重之后 |
| **code 只剩 23,083 行唯一 prompt**（17.5 万行里平均一题 5.6 个回答，17.9% 是物理 |
| 上限），占整个语料的 **0.43%**。对应的后果是 `SWE-bench Pro` 成为第二弱的 |
| benchmark —— 只有同机官方 draft 的 **84.9%**。 |
|
|
| 把代码占比从 0.43% 提到 **20%**（主要靠这份数据）之后，`SWE-bench Pro` 到了 |
| **100.6%**，是 13 套 benchmark 里相对提升最大的一套。 |
|
|
| 这份数据还顺带解决另一件事：**长 prompt 是便宜十倍的长上下文数据**。prompt 段只 |
| 需要 prefill 一次，而长回答段的每个 token 都要生成；同样拿到一个 8192 以上的位置， |
| 长 prompt 的行在生成阶段的成本大约是长回答行的 1/10。 |
|
|
| ## 数据 |
|
|
| **227,329 行**，单轮，每行一段对话： |
|
|
| ```json |
| {"conversations": [ |
| {"role": "user", "content": "..."}, |
| {"role": "assistant", "reasoning_content": "...", "content": "..."} |
| ], "source": "oci"} |
| ``` |
|
|
| `reasoning_content` 是 K3 的 thinking 内容，和 `content` 分开存。 |
|
|
| | | mean | p50 | p90 | p99 | max | |
| |---|---|---|---|---|---| |
| | prompt token | 303.4 | 285 | 416 | 601 | 1,702 | |
| | 回答 token | 3,231.5 | 1,450 | 8,233 | 24,452 | 32,461 | |
| | 总长（K3 tokenizer 抽样） | 3,374 | 1,648 | 7,967 | — | 32,470 | |
|
|
| 回答 token 合计 **734,612,605**。总长超过 8192 的占 **9.8%**，超过 16384 的占 3.5%。 |
|
|
| ## prompt 怎么选的 |
|
|
| | 步骤 | 数量 | |
| |---|---| |
| | 渲染后的全量 prompt | 4,825,044 | |
| | 其中 tier-0（自带单测全过） | 1,553,642 | |
| | 取用 | 1,000,000 | |
| | 生成并通过校验 | 244,695 | |
| | **保留** | **227,329** | |
|
|
| **只取 tier-0**（源数据自带的 `average_test_score` 满分那批），不是随机抽。理由是 |
| 单测全过的那批是低熵、模板化的负载，speculator 的接受率最高，正是这个用途要的。 |
|
|
| /!\ tier 只能**按内容重新对上**，不能按行号取：渲染全量 prompt 时做过 |
| `random.Random(seed).shuffle(rows)`，而且刻意丢掉了 tier 字段（480 万行下每行多 |
| 几十字节就是几百 MB）。所以用建池时同一个 dedup key（第一条 user 消息 NFKC + |
| 小写 + 折叠空白后取哈希）两边对齐。这一类"范围检查通过不等于对齐"的错误在这个 |
| 项目上栽过一次：另一批数据因为传错了 prompt 源文件，转换时丢了 **99.59%**，而 |
| "最大索引 < 总行数"的检查是通过的 —— 那只是巧合。 |
|
|
| 因为源数据是打乱过的，"顺序扫、取前 100 万条 tier-0"就是 tier-0 的均匀抽样。 |
|
|
| ## 生成配置 |
|
|
| | | | |
| |---|---| |
| | 引擎 | ATOM `LLMEngine`，TP=8，8×MI355X | |
| | 采样 | greedy（temperature 0） | |
| | 窗口 | **32768** | |
| | `--max-prompt-tokens` | **32224**（= 32768 − 512 − 32） | |
| | `max_num_seqs` | 384 | |
| | KV cache | **fp8**（与服务端一致） | |
| | `thinking` | true | |
| | 投机解码 | **关**（见下） | |
|
|
| /!\ **不要为了"加速生成"打开官方 draft。** 实测不成立，而且原因可量化： |
| `Per-request cache tensor (173.44GB for 3072 slots) exceeds available KV budget |
| (41.23GB)` —— 3072 slots = 384 序列 ×(7 投机 token + 1)，单卡被 K3 权重吃完只剩 |
| 约 41 GB 给 KV。要塞下必须把并发从 384 砍到约 91，产出持平（382×1 vs 91×4.33）， |
| 而开 draft 每步还多做 7 次 draft 前向。投机解码换的是**延迟**，生成是**吞吐**场景。 |
|
|
| ## 校验 |
|
|
| 逐 token 回环校验：重新渲染 + 重新 tokenize，和生成时的 token 序列逐位比对。 |
|
|
| | | 数量 | 占比 | |
| |---|---|---| |
| | 通过校验 | 244,695 | | |
| | **保留** | **227,329** | | |
| | 丢弃 | 17,366 | **7.10%** | |
|
|
| 丢弃原因： |
|
|
| | 原因 | 数量 | 是不是 bug | |
| |---|---|---| |
| | `no_think_close` | 10,146 | 不是，思维链没闭合 | |
| | `response_mismatch` | 5,410 | **不是 bug**：BPE 贪心分词与逐 token 生成路径本来就可能不一致（`FORMCHECK` → `['FORM','CHECK']` vs `['FOR','MC','HECK']`），丢掉即可 | |
| | `not_response_channel` | 798 | 不是 | |
| | `no_response_close` | 581 | 不是 | |
| | `extra_channel` | 431 | 不是 | |
|
|
| 7.10% 的丢弃率明显低于长样本那几批（39%–44%），因为这份的回答短得多 |
| （p50 1,450 token），越长越容易在末尾被切断。 |
|
|
| ## 已知局限 |
|
|
| - **单轮**，没有多轮对话。 |
| - 只有 tier-0，所以分布偏模板化。想要更难的负载要另取 tier-1。 |
| - prompt 很短（p50 285 token），长上下文能力主要靠回答段而不是 prompt 段。 |
|
|
