license: apache-2.0
task_categories:
- text-generation
language:
- en
tags:
- speculative-decoding
- distillation
- kimi-k3
- off-policy
- code
size_categories:
- 100K<n<1M
ATOM regen: OpenCodeInstruct responses by Kimi-K3
用 Kimi-K3 对
nvidia/OpenCodeInstruct
的 prompt 重新生成了一遍回答，供 off-policy 投机解码蒸馏（SDDD）使用。
窗口 32768。
为什么是代码，为什么是这个数据集
训练一个 5 层 DSpark draft 的过程里，代码一直是最薄的一片：主语料去重之后
code 只剩 23,083 行唯一 prompt（17.5 万行里平均一题 5.6 个回答，17.9% 是物理
上限），占整个语料的 **0.43%**。对应的后果是 SWE-bench Pro 成为第二弱的
benchmark —— 只有同机官方 draft 的 **84.9%**。
把代码占比从 0.43% 提到 **20%**（主要靠这份数据）之后，SWE-bench Pro 到了
**100.6%**，是 13 套 benchmark 里相对提升最大的一套。
这份数据还顺带解决另一件事：长 prompt 是便宜十倍的长上下文数据。prompt 段只 需要 prefill 一次，而长回答段的每个 token 都要生成；同样拿到一个 8192 以上的位置， 长 prompt 的行在生成阶段的成本大约是长回答行的 1/10。
数据
227,329 行，单轮，每行一段对话：
{"conversations": [
{"role": "user", "content": "..."},
{"role": "assistant", "reasoning_content": "...", "content": "..."}
], "source": "oci"}
reasoning_content 是 K3 的 thinking 内容，和 content 分开存。
| mean | p50 | p90 | p99 | max | |
|---|---|---|---|---|---|
| prompt token | 303.4 | 285 | 416 | 601 | 1,702 |
| 回答 token | 3,231.5 | 1,450 | 8,233 | 24,452 | 32,461 |
| 总长（K3 tokenizer 抽样） | 3,374 | 1,648 | 7,967 | — | 32,470 |
回答 token 合计 734,612,605。总长超过 8192 的占 **9.8%**，超过 16384 的占 3.5%。
prompt 怎么选的
| 步骤 | 数量 |
|---|---|
| 渲染后的全量 prompt | 4,825,044 |
| 其中 tier-0（自带单测全过） | 1,553,642 |
| 取用 | 1,000,000 |
| 生成并通过校验 | 244,695 |
| 保留 | 227,329 |
只取 tier-0（源数据自带的 average_test_score 满分那批），不是随机抽。理由是
单测全过的那批是低熵、模板化的负载，speculator 的接受率最高，正是这个用途要的。
/!\ tier 只能按内容重新对上，不能按行号取：渲染全量 prompt 时做过
random.Random(seed).shuffle(rows)，而且刻意丢掉了 tier 字段（480 万行下每行多
几十字节就是几百 MB）。所以用建池时同一个 dedup key（第一条 user 消息 NFKC +
小写 + 折叠空白后取哈希）两边对齐。这一类"范围检查通过不等于对齐"的错误在这个
项目上栽过一次：另一批数据因为传错了 prompt 源文件，转换时丢了 **99.59%**，而
"最大索引 < 总行数"的检查是通过的 —— 那只是巧合。
因为源数据是打乱过的，"顺序扫、取前 100 万条 tier-0"就是 tier-0 的均匀抽样。
生成配置
| 引擎 | ATOM LLMEngine，TP=8，8×MI355X |
| 采样 | greedy（temperature 0） |
| 窗口 | 32768 |
--max-prompt-tokens |
32224（= 32768 − 512 − 32） |
max_num_seqs |
384 |
| KV cache | fp8（与服务端一致） |
thinking |
true |
| 投机解码 | 关（见下） |
/!\ 不要为了"加速生成"打开官方 draft。 实测不成立，而且原因可量化：
Per-request cache tensor (173.44GB for 3072 slots) exceeds available KV budget (41.23GB) —— 3072 slots = 384 序列 ×(7 投机 token + 1)，单卡被 K3 权重吃完只剩
约 41 GB 给 KV。要塞下必须把并发从 384 砍到约 91，产出持平（382×1 vs 91×4.33），
而开 draft 每步还多做 7 次 draft 前向。投机解码换的是延迟，生成是吞吐场景。
校验
逐 token 回环校验：重新渲染 + 重新 tokenize，和生成时的 token 序列逐位比对。
| 数量 | 占比 | |
|---|---|---|
| 通过校验 | 244,695 | |
| 保留 | 227,329 | |
| 丢弃 | 17,366 | 7.10% |
丢弃原因：
| 原因 | 数量 | 是不是 bug |
|---|---|---|
no_think_close |
10,146 | 不是，思维链没闭合 |
response_mismatch |
5,410 | 不是 bug：BPE 贪心分词与逐 token 生成路径本来就可能不一致（FORMCHECK → ['FORM','CHECK'] vs ['FOR','MC','HECK']），丢掉即可 |
not_response_channel |
798 | 不是 |
no_response_close |
581 | 不是 |
extra_channel |
431 | 不是 |
7.10% 的丢弃率明显低于长样本那几批（39%–44%），因为这份的回答短得多 （p50 1,450 token），越长越容易在末尾被切断。
已知局限
- 单轮，没有多轮对话。
- 只有 tier-0，所以分布偏模板化。想要更难的负载要另取 tier-1。
- prompt 很短（p50 285 token），长上下文能力主要靠回答段而不是 prompt 段。