No-22/rwkv-agent-distill

RWKV-Agent 蒸馏训练集

RWKV-Agent 用来教 RWKV-7 G1k 7.2B 当本地工具 Agent 的训练数据：读写文件、跑 bash、查网页、算数、查天气，最后用一段话给出答案。数据由更强的模型（老师）在同一套 harness 里实际做题，筛掉做错的、不干净的轨迹，再按 RWKV 推理时的格式逐字节渲染成训练行。

这里只放实际训练过、并且训出了当前推荐权重的两个版本，内容和训练时用的文件逐字节一致（sha256 见 SHA256SUMS）。对应的权重在模型仓库 No-22/rwkv-agent-weights。

版本	思考	训练行 / 验证行	老师	已训出的权重（基模 g1k-7.2b-20260930）
v2.1（2026-10-18）	带思考（g1k-think）	5512 / 148	Qwen3.7-Flash（v2.0 部分重新渲染并入）	MiSS 适配器 v2.1 r16 lr2e-5
v1.41（2026-10-13）	不带思考（g1k）	3662 / 118	以 DeepSeek v4 Flash 为主	State v141b-s1224

与基模的关系

训练数据不绑定某个基模，换 RWKV 基模时直接用同一份数据重训 State / MiSS 即可，不需要重新生成。需要重新渲染的只有两种情况：

• 对话格式变了：每行 meta.wire_canonical / wire_hash 记录了渲染时的格式（系统提示、工具清单写法、思考标记等）。新基模要换格式，就得用 GitHub 仓库里的题目和老师脚本按新格式重新渲染，渲染出来算新的数据版本。
• 词表变了：现有数据按 rwkv_vocab_v20230424.txt 做过分词一致性检查（*-segcheck.log）。换词表要重做这项检查。

每份数据在哪个基模上训出了哪些权重，以模型仓库的 index.json 为准（每条记录都写了基模 sha256 和训练数据 sha256）。

这是存档，不是精修过的公开数据集。已知问题都原样保留，见文末「已知问题」。

目录

v1.41/                         v1.41 不带思考包（原目录 final-20261013 原样）
  dataset/train/segments-1-41.jsonl   ← State 训练实际读取的文件（打乱后），sha256 feb2fd6b…
  dataset/train/rows.jsonl             带元数据的训练行（看数据用这个）
  dataset/train/segments.jsonl         同一批行，未打乱
  dataset/train/train.jsonl            纯文本版
  dataset/train/manifest.json          打包清单（token 分位数、wire_hash 等）
  dataset/validation/…                 验证集，结构同上
  train-rows.jsonl / validation-rows.jsonl   打包前的输入
  final-stats.json / release-manifest.json   构成统计与各文件 sha256
  *.log                                 打包、分段、分词一致性检查的日志
v2.1/                          v2.1 带思考包（原目录 final-20261018 原样）
  dataset/train/segments-shuffled.jsonl ← MiSS 训练实际读取的文件，sha256 2fbf6760…
  其余同上
SHA256SUMS                     本仓库所有文件的 sha256

数据格式

同一批训练行有三种写法，内容一致：

• **rows.jsonl**：{"text", "loss_spans", "meta"}。text 是完整的模型输入（系统提示、工具清单、用户问题、模型输出、工具结果……按 RWKV 推理格式拼好）；loss_spans 是需要计算 loss 的字符区间 [[起, 止], …]，也就是模型自己说的部分；meta 记录题号、批次、轮次、是否通过、场景标签、wire 配置等。
• **segments*.jsonl**：{"segments": [{"text", "train"}, …]}。按 loss_spans 切开，train: true 的段算 loss。训练器直接读这个格式。
• **train.jsonl**：{"text"}，不带 loss 区分。

一道多步题会按「模型每说一次话」切成多行，所以行数比题数多：v2.1 训练集 5512 行来自 1504 道题、1864 条轨迹。每行末尾带 \n\nUser:，用来教模型说完就停。

meta.wire_canonical 写明了渲染格式，复现时 harness 配置必须与之一致：

• v1.41：format=xml;…;thinking=off;…，wire_hash 707c6740…，工具目录 work-v1 / work-v2
• v2.1：format=xml;…;thinking=full;…;nudge=think，wire_hash 8b13ce5c…，App harness 提示词

构成

v1.41（3780 行，统计见 v1.41/final-stats.json）

• 来源批次：b05–b08（v1.3 留存）、b09、b10-pilot、b10a–e、b11（机械构造的收尾恢复）、b12a–t（bash 与天气）、b13、base700（80 行）
• 中文 47.6%，多轮对话 18.4%，零调用直接回答 16.5%，最长 8121 token
• 训练参数：ctx 8192、bs 8、3 epoch，lr 0.01→0.00167（见模型仓库 rwkv7-g1k-7.2b-20260930-ctx25600/state/v1.41/train.json）

v2.1（5660 行，统计见 v2.1/final-stats.json）

• 1545 道题、1909 条轨迹；v2.1 新题（主批次 + b21i–p）+ v2.0 重新渲染 + 错误恢复 + 被拒作答构造
• 按 family 哈希切验证集（sha256(family) mod 32 == 0），打乱种子 20261017
• 超过 8128 token 的 526 行在打包时丢掉了，同目录下 16k 版本未上传（从未训练过）
• 训练参数：MiSS r16 alpha16、ctx 8192、bs 8、2 epoch，lr 2e-5→2e-6（见模型仓库 rwkv7-g1k-7.2b-20260930-ctx25600/miss/v2.1/train.json）

已知问题

按「练的时候就是这样」原样保留，用的时候注意：

1. v1.41 里有 80 行由测试题改编。 meta.source == "base700" 的 80 行来自早期 700 条种子语料，种子是 workbank 考题，meta.seeded_from_test 为 true。用 v141b-s1224 在 workbank 上的分数因此不完全干净。
2. 老师身份没有过滤。 模型输出里直接写「我是 Qwen」的只有 v2.1 的 1 行，但思考风格整体继承自千问：实测挂上 v2.0 适配器后，模型被问身份时会自称 Qwen。
3. v1.41 的老问题：首步 list_files 偏多（52.4%）、data_query 用得少（5.6%）；部分旧行写文件后没有读回核对。
4. v2.1 的老问题：思考内容不少是继承老师的套话；本地搜空后倾向继续搜本地而不上网；没有注入防御样本；少量纯数学题首步就调计算器；「删改前先确认」类题目只入包了 20 题，几乎都是撤销题。
5. 数据由第三方模型生成，使用时请自行确认各家服务条款。本仓库尚未指定许可证。

详细报告在 GitHub 仓库的 bench/distill/v1.41/reports/、bench/distill/v2.1/reports/ 和 docs/evaluations/。