Commit ·
f1ddd35
1
Parent(s): 912de21
Upload WHAT_DFLASH_DECODES.md with huggingface_hub
Browse files- WHAT_DFLASH_DECODES.md +178 -0
WHAT_DFLASH_DECODES.md
ADDED
|
@@ -0,0 +1,178 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# `sched_2gpu.sh` 在 DFlash 里实际 decode 什么
|
| 2 |
+
|
| 3 |
+
例子固定为:
|
| 4 |
+
|
| 5 |
+
- `dataset/yewu_data/dsv4_flash_xiaoyi_claw.preview.jsonl`(全量集第 519 行,1 条)
|
| 6 |
+
- `dataset/yewu_data/dsv4_flash_xiaoyi_claw.preview.structure.json`(同一条的摘要)
|
| 7 |
+
|
| 8 |
+
---
|
| 9 |
+
|
| 10 |
+
## 1. 先说结论
|
| 11 |
+
|
| 12 |
+
`sched_2gpu.sh` 跑 DFlash 时:
|
| 13 |
+
|
| 14 |
+
1. **进模型的文本只有源记录的 `prompt` 字段。**
|
| 15 |
+
`translocationId`、`uuid`、`info`、`param`、`maxNewTokenNum` 都不进 tokenizer。
|
| 16 |
+
2. **Prefill** = 把这段 `prompt` tokenize 后,**只保留前 32768 个 token**(`ids[:, :32768]`,从开头切,多出来的尾巴丢掉)。
|
| 17 |
+
3. **Decode** = 在这段上下文**末尾**继续生成 **最多 256 个新 token**。
|
| 18 |
+
采样是脚本里的 **greedy(temperature=0)**,不是源数据里的 `temperature=1.0`。
|
| 19 |
+
4. DFlash 的「扩散投机」发生在这 **256 个新 token** 上:草稿模型一次填 **16 个 mask token**(block=16),目标模型一次验证,接受前缀后再来一块,直到 256 或 EOS。
|
| 20 |
+
|
| 21 |
+
**preview 这条没有进本次 n=20 评测。**
|
| 22 |
+
`sched_2gpu.sh` 调 `build_prompts.py --limit 20`,只用全量 jsonl 的 **前 20 行** 写成 `prompts/xiaoyi_claw.jsonl`。preview 是第 519 行。下面用它说明「一条记录被 DFlash 怎么吃」,机制和前 20 条相同。
|
| 23 |
+
|
| 24 |
+
---
|
| 25 |
+
|
| 26 |
+
## 2. 脚本实际参数(来自 `sched_2gpu.sh`)
|
| 27 |
+
|
| 28 |
+
| 项 | 值 |
|
| 29 |
+
|---|---|
|
| 30 |
+
| 数据 | `dsv4_flash_xiaoyi_claw.jsonl` → `prompts/xiaoyi_claw.jsonl` 的 `text`(= 源 `prompt`) |
|
| 31 |
+
| 条数 | 20 |
|
| 32 |
+
| 目标 / 草稿 | Qwen3-4B + Qwen3-4B-DFlash-b16;Qwen3-8B + Qwen3-8B-DFlash-b16 |
|
| 33 |
+
| 方法 | `dflash`(D2-SD,一块 16 token 扩散 + 目标验证)以及 DDTree tb=32…1024 |
|
| 34 |
+
| `--max-prompt-tokens` | 32768(保留 prompt **开头**) |
|
| 35 |
+
| `--max-new-tokens` | **256**(本次评测真正新写的长度) |
|
| 36 |
+
| `--temperature` | **0**(bench 默认,脚本没改) |
|
| 37 |
+
| 源记录 `maxNewTokenNum` | 32768(**评测不用这个数**) |
|
| 38 |
+
| 源记录 `param.temperature` | 1.0(**评测不用**) |
|
| 39 |
+
|
| 40 |
+
---
|
| 41 |
+
|
| 42 |
+
## 3. preview 这条:三轮用户原文,以及已经写在 prompt 里的回复
|
| 43 |
+
|
| 44 |
+
这三轮 **已经发生过**,原文都嵌在 `prompt` 里。
|
| 45 |
+
DFlash **不会重新生成**它们。它们是上下文。本次调用要新写的是第 3 轮搜完网页之后、`prompt` 最末尾那个空的 Assistant。
|
| 46 |
+
|
| 47 |
+
角色标签在文件里是全角竖线:`<|User|>` / `<|Assistant|>`(`|` = U+FF5C)。编辑器搜 `Assistant` 或 `共找到 8 条相关结果` 就能定位续写点。
|
| 48 |
+
|
| 49 |
+
### 第 1 轮 21:35 改 AGENTS.md
|
| 50 |
+
|
| 51 |
+
**用户 prompt 原文:**
|
| 52 |
+
|
| 53 |
+
```text
|
| 54 |
+
小艺Claude更新agents点md文件,增加一下回复规则,每次回复时都要加上调用的工具和skill信息及执行结果,输入token和输出token调用模型的message ID和session ID
|
| 55 |
+
```
|
| 56 |
+
|
| 57 |
+
`message_id`: `a68fa54a-d0c4-474f-8806-50ba5f678f0a&76&394b&0`
|
| 58 |
+
|
| 59 |
+
**已经在 prompt 里的相关输出(历史,不是本次 DFlash 产物):**
|
| 60 |
+
|
| 61 |
+
- 第一步 Assistant:读 `/home/sandbox/.openclaw/workspace/AGENTS.md`,再调 `session_status`、`edit`。
|
| 62 |
+
- 这一轮收尾 Assistant(节选):
|
| 63 |
+
|
| 64 |
+
```text
|
| 65 |
+
已更新 AGENTS.md,新增了 **"每次回复的透明度规则"** 板块。
|
| 66 |
+
现在每次回复末尾都会追加一个 Call Trace,包含:
|
| 67 |
+
- Tools/Skills Called
|
| 68 |
+
- Token(输入/输出)
|
| 69 |
+
- Session ID
|
| 70 |
+
- Message ID
|
| 71 |
+
……
|
| 72 |
+
📊 Token: 26k in / 41 out
|
| 73 |
+
🆔 Session: agent:main:direct:36eb4e1fac88404db2afc3d14c892731
|
| 74 |
+
🆔 Message: a68fa54a-d0c4-474f-8806-50ba5f678f0a&76&394b&0
|
| 75 |
+
```
|
| 76 |
+
|
| 77 |
+
### 第 2 轮 21:36 做海报并存图库
|
| 78 |
+
|
| 79 |
+
**用户 prompt 原文:**
|
| 80 |
+
|
| 81 |
+
```text
|
| 82 |
+
帮我设计一个专业海报,主题是警惕心源性猝死,内容是关注身体给你的猝死警示信号,图片里要有醒目的心脏、急救电话等信息,图片背景为白色海报生成好后保存到手机图库里,等下去看
|
| 83 |
+
```
|
| 84 |
+
|
| 85 |
+
`message_id`: `a68fa54a-d0c4-474f-8806-50ba5f678f0a&78&0d92&0`
|
| 86 |
+
|
| 87 |
+
**已经在 prompt 里的相关输出(历史):**
|
| 88 |
+
|
| 89 |
+
- 先读 `seedream-image-gen/SKILL.md`,再 `exec` 生图、`process` 轮询、读图、`save_media_to_gallery`。
|
| 90 |
+
- 收尾 Assistant(节选):
|
| 91 |
+
|
| 92 |
+
```text
|
| 93 |
+
海报已经生成并保存到手机图库了!
|
| 94 |
+
主标题「警惕心源性猝死」,副标题「关注身体给你的猝死警示信号」,
|
| 95 |
+
中央立体红心,左右警示信号,底部急救电话 120。
|
| 96 |
+
Call Trace:seedream-image-gen ✅,get_photo_tool_schema ✅,save_media_to_gallery ✅
|
| 97 |
+
Session: agent:main:direct:36eb4e1fac88404db2afc3d14c892731
|
| 98 |
+
```
|
| 99 |
+
|
| 100 |
+
### 第 3 轮 21:44 查财经并生成 HTML ← 本条 jsonl 停在这里
|
| 101 |
+
|
| 102 |
+
**用户 prompt 原文:**
|
| 103 |
+
|
| 104 |
+
```text
|
| 105 |
+
查询今天的财经新闻,生成HTML文件
|
| 106 |
+
```
|
| 107 |
+
|
| 108 |
+
`message_id`: `a68fa54a-d0c4-474f-8806-50ba5f678f0a&81&649c&0`
|
| 109 |
+
本条 `translocationId` 是 `&a68fa54a-d0c4-474f-8806-50ba5f678f0a&81&0`,对的就是这一轮。
|
| 110 |
+
|
| 111 |
+
同一 User 块前面还有一行系统注入(不是用户打的字):画图进程 `ember-wh` 已结束。
|
| 112 |
+
|
| 113 |
+
**已经在 prompt ��的相关输出(历史,搜完了,HTML 还没写):**
|
| 114 |
+
|
| 115 |
+
- Assistant 调了 `xiaoyi-web-search`,三次 `exec`,查询大致是:
|
| 116 |
+
- `2026年4月28日 财经新闻 宏观经济`
|
| 117 |
+
- `2026年4月28日 A股 股市行情`
|
| 118 |
+
- `2026年4月28日 全球财经 美股 港股`
|
| 119 |
+
- 工具把 8 条结果写进 `<tool_result>`(东方财富、新浪财经等)。
|
| 120 |
+
- **最后一个 Assistant 槽是空的**,prompt 原文结束于:
|
| 121 |
+
|
| 122 |
+
```text
|
| 123 |
+
💡 共找到 8 条相关结果</tool_result><|Assistant|></think>
|
| 124 |
+
```
|
| 125 |
+
|
| 126 |
+
若 **不截断**,DFlash/Target 要新写的就是 `</think>` 后面的下一段:把这 8 条新闻整理成 HTML(以及可能再调一次写文件的工具)。数据集里 **没有** 这段标准答案。
|
| 127 |
+
|
| 128 |
+
---
|
| 129 |
+
|
| 130 |
+
## 4. DFlash 这次真正 decode 的内容
|
| 131 |
+
|
| 132 |
+
以「把 preview 这条按 `sched_2gpu.sh` 的参数喂进去」为准:
|
| 133 |
+
|
| 134 |
+
```text
|
| 135 |
+
源 JSON 的 prompt(118783 字符)
|
| 136 |
+
│ tokenizer,add_special_tokens=False
|
| 137 |
+
▼
|
| 138 |
+
token 序列
|
| 139 |
+
│ 只留前 32768 token(丢掉后面的 token)
|
| 140 |
+
▼
|
| 141 |
+
Prefill:Qwen3 目标模型 + DFlash 草稿,建 KV
|
| 142 |
+
│
|
| 143 |
+
▼
|
| 144 |
+
Decode 新 token,最多 256 个,temperature=0
|
| 145 |
+
│
|
| 146 |
+
│ 每一块:
|
| 147 |
+
│ 草稿:16 个 mask 位置一次扩散前向,填出 16 个候选 token
|
| 148 |
+
│ 目标:一次前向验证这 16 个
|
| 149 |
+
│ 接受最长匹配前缀,拒绝处改用目标 token,再开下一块
|
| 150 |
+
▼
|
| 151 |
+
评测记录的是:接受长度、TPOT、相对 AR 的加速
|
| 152 |
+
评测不记录、源数据也没有:线上那次 sampling 真实吐出的 HTML
|
| 153 |
+
```
|
| 154 |
+
|
| 155 |
+
因此:
|
| 156 |
+
|
| 157 |
+
| 问题 | 答案 |
|
| 158 |
+
|---|---|
|
| 159 |
+
| decode 的 prompt 是哪段? | `preview.jsonl` 里的 **`prompt` 字符串**,tokenize 后的 **前 32768 token** |
|
| 160 |
+
| 三轮用户话算不算本次 decode 的输出? | 不算。它们和对应 Assistant/tool_result **已经在 prompt 里** |
|
| 161 |
+
| 本次新写的是什么? | 截断后上下文的 **后面最多 256 token** |
|
| 162 |
+
| 不截断时,笔尖在哪? | `共找到 8 条相关结果</tool_result><|Assistant|></think>` 之后 |
|
| 163 |
+
| 截断后笔尖还在不在? | 这条约 12 万字符,token 数通常超过 32768。脚本留的是 **开头**(OpenClaw 系统说明 + 较早历史),**财经续写点在尾巴上,会被切掉**。所以按脚本原样跑,模型看不到第 3 轮的搜索结果,生成的 256 token 也不是「把 HTML 写完」 |
|
| 164 |
+
| 草稿扩散填的是什么? | 这 256 个新 token 里的 **16-token 块**,不是 `uuid` / `info`,也不是前面三轮已经写完的回复 |
|
| 165 |
+
|
| 166 |
+
---
|
| 167 |
+
|
| 168 |
+
## 5. 和源字段的对应(避免和「续写 metadata」混在一起)
|
| 169 |
+
|
| 170 |
+
preview 上这些字段只说明「这是哪一次请求、线上打算怎么采样」:
|
| 171 |
+
|
| 172 |
+
- `translocationId` = `&a68fa54a-d0c4-474f-8806-50ba5f678f0a&81&0` → 第 3 轮用户意图那一次调用
|
| 173 |
+
- `uuid` 末尾 `16f11c09-cec7-4477-bc63-70b4f488de93` → 这一次 HTTP
|
| 174 |
+
- `param.temperature=1.0`、`maxNewTokenNum=32768` → **线上**配置
|
| 175 |
+
- 本次 DFlash 评测改成了 **temperature=0、新生成 256、上下文最多 32768 且从左边保留**
|
| 176 |
+
|
| 177 |
+
Target 要生成的东西 = **截断后 prompt 的后续 token**。
|
| 178 |
+
在完整 prompt 上,那个后续才是「财经搜索结果之后的 Assistant(HTML / 工具调用)」。
|