id stringlengths 24 38 | language stringclasses 3
values | conversations listlengths 3 3 |
|---|---|---|
drbench_eagletraj_local_r1_q100_4 | en | [
{
"role": "system",
"content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only."
},
{
"role": "user",
"content": "<research_question>\nHow does interacting with AI systems affec... |
drbench_eagletraj_local_r1_q100_5 | en | [
{
"role": "system",
"content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only."
},
{
"role": "user",
"content": "<research_question>\nIn what ways might AI-mediated communicati... |
drbench_eagletraj_local_r1_q100_6 | en | [
{
"role": "system",
"content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only."
},
{
"role": "user",
"content": "<research_question>\nWhat are the long-term societal implicatio... |
drbench_eagletraj_local_r1_q100_7 | en | [
{
"role": "system",
"content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only."
},
{
"role": "user",
"content": "<research_question>\nIn what ways might AI-mediated communicati... |
drbench_eagletraj_local_r1_q100_8 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
drbench_eagletraj_local_r1_q100_9 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
drbench_eagletraj_local_r1_q100_10 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
drbench_eagletraj_local_r1_q100_11 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
drbench_eagletraj_local_r1_q100_12 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
drbench_eagletraj_local_r1_q100_17 | en | [{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED) |
EAGLE3 离线特征生成说明与必要文件清单
TL;DR
本仓库提供 DRAgent 2k、ShareGPT 20k、ShareGPT 2k 三份 EAGLE3 离线特征的生成指南、两份确定输入 JSONL,以及固定参考版本的完整 SpecForge 源码。以约 1.04 GB 输入和小型源码归档记录生成方法,替代继续上传约 1.70 TB 的特征;本次没有重新运行 GPU capture。原特征仍保存在本地 /data/yilin/specforge-trim/hidden_states。
复现使用下文 data/ 中的输入和 source/ 中的源码;材料的校验清单是 SHA256SUMS.inputs.json。
已找回 2026-08-21 三份成功生成日志、原生成脚本及两份输入 JSONL。输入文件合计 1,041,157,920 bytes,约 1.04 GB;teacher 是 **Qwen/Qwen3-8B**。生成流程是:先取 N 条可用对话 → seed 42 打乱 → qwen 模板分词与 loss mask → 4 个 DP 进程、TP=1 → teacher forward/capture → 保存特征与词表映射。
可复现的流程和参数已核对;重建后的张量数值、输出文件编号及文件字节一致性尚未重新验收。 原日志没有记录完整 Git revision、teacher revision、GPU 型号和全部运行时依赖版本。下文区分日志事实、代码推导与当前可核对的参考版本,不将它们混为原始运行的完整环境记录。
目录
1. 原始生成记录
| 特征目录 | 输入 | num_samples | max_length | 每 GPU batch_size | 成功日志 |
|---|---|---|---|---|---|
dragent2k_qwen3-8b |
train_main.jsonl |
2,000 | 12,288 | 1 | prep-dragent.log(原机路径:/data/yilin/specforge-trim/logs/prep-dragent.log) |
sharegpt20k_qwen3-8b |
sharegpt_train.jsonl |
20,000 | 4,096 | 2 | prep-sharegpt20k.log(原机路径:/data/yilin/specforge-trim/logs/prep-sharegpt20k.log) |
sharegpt2k_qwen3-8b |
同一份 sharegpt_train.jsonl |
2,000 | 4,096 | 2 | prepare-hidden2.log(原机路径:/data/yilin/specforge-trim/logs/prepare-hidden2.log) |
三份日志均记录:target_model_path=Qwen/Qwen3-8B、strategy=eagle3、draft_model_config=configs/qwen3-8b-eagle3.json、chat_template=qwen、is_preformatted=False、tp_size=1、file_group_size=2000、compress=False、build_dataset_num_proc=8、num_workers=4、num_io_threads=128、io_queue_size=50、sglang_attention_backend=flashinfer、sglang_mem_fraction_static=0.55,以及 sglang_disable_radix_cache=False。
DRAgent 另有 sglang_context_length=16384;两份 ShareGPT 的该参数为 None。NCCL NVLS、symm mem、torch compile、DP attention、DP LM head 均为 False,EP size=1。
每份 2k 日志各有四条 Processed: 500, Skipped: 0;20k 日志有四条 Processed: 5000, Skipped: 0。由这四个生成进程的完成计数和 TP=1,推定原运行使用 DP=4、world size=4。日志未保存完整 launcher 命令,不能声称原 CUDA_VISIBLE_DEVICES 已被找回。
prepare-hidden.log 是此前的失败尝试;本说明使用随后成功完成的 prepare-hidden2.log 作为 ShareGPT 2k 参数证据。
2. 必须保留或可重新获取的文件
2.1 两份规范化输入 JSONL
| 输入文件 | 本仓库文件 | 行数 | 字节数 | SHA-256 |
|---|---|---|---|---|
| ShareGPT 规范化对话 | data/sharegpt_train.jsonl | 120,675 | 770,399,655 | 5ddf3517c76b0b4d33be21363e5aeb2f20f723a69666ee84a38e85ab5e4bbdc0 |
| DRAgent 训练对话 | data/dragent_train_main.jsonl | 7,681 | 270,758,265 | 41b3be540729541478b7cc02a53c1dfa08f828876f9ecc70b36af062d7c900d3 |
两份 ShareGPT 特征共用上表的同一份输入文件,但先选取的 N 不同。保留该规范化文件及其顺序是最直接的复现办法;不能仅凭“ShareGPT”名称重新下载任意版本替代。
DRAgent 文件已有核对过的公开来源:
repo_id = julyanghar/Efficient-DRAgent
repo_type = model
revision = abbd7c723f07d878cfecb67bba8101c170fb23f3
filename = data/train_main.jsonl
远端的文件大小与 SHA-256 均与本地一致。这个输入文件位于 model repository 中;生成特征不需要下载该仓库的 model.safetensors 或 training_state.pt。
本仓库直接提供这份确定输入,无需访问任何私有仓库。
ShareGPT 的 prepare_data.py(scripts/prepare_data.py) 默认 preset 是 Aeala/ShareGPT_Vicuna_unfiltered,并会规范化消息角色;但没有找回这份本地 JSONL 的原始准备命令和上游 revision。因此默认 preset 只能作为重建原始输入的线索,不能保证重新准备出的 JSONL 与现存文件同字节。现存 JSONL 是本说明的确定输入。
2.2 Teacher 权重、配置与 tokenizer
teacher 是 Qwen/Qwen3-8B。当前唯一缓存 snapshot 是:
/data/yilin/huggingface/hub/models--Qwen--Qwen3-8B/snapshots/b968826d9c46dd6066d109eabc6255188de91218
HF 上已确认该 revision 可访问。原 capture 日志只记录 model ID,没有直接记录 revision;此 snapshot 是当前可核对的固定参考,不冒充已经证明的原始 capture revision。
必须具备完整 snapshot 中的以下生成依赖:
model-00001-of-00005.safetensors至model-00005-of-00005.safetensors,以及model.safetensors.index.json。config.json。tokenizer.json、tokenizer_config.json、vocab.json、merges.txt;保留 snapshot 的其余配置也便于完整恢复。
只保存 snapshots 下的软链接不构成权重备份:权重实际指向同一 HF cache 的 blobs/。应保留整个 model cache,或能够按固定 revision 重新下载。
当前 config 为:36 层、hidden size 4096、vocab size 151936、BF16。根据 resolve_eagle_capture_layers(specforge/algorithms/model_providers.py:188) 和未显式覆盖 layer IDs 的配置,传给 SGLang capture hook 的参数是 **[1, 17, 32]**。SGLang 内部如何处理层下标应由匹配版本负责,不手动改成另一组数字。
2.3 完整生成源码与配置
本仓库附带 完整 SpecForge 源码归档(3,249,646 bytes),来自下列固定参考 commit。入口依赖算法 registry、配置解析、分词与 mask 处理、分布式 DataLoader、SGLang capture backend 及其 logits processor patch,不能只复制一个 prepare_hidden_states.py。归档来自 Git commit,不包含工作树的未提交修改。
源码链接以下统一写为归档内路径与行号,解压后可在 SpecForge-f013d277/ 内定位。
可用参考 commit:
f013d2773cb66ac2323a51efe302c9df02543a7f
它位于 2026-08-21 首次成功 ShareGPT 2k 生成之前,且下表 20 个生成相关文件与保留下来的 wt-flexattn 工作树逐字节一致。原日志未记录 Git HEAD,因此这证明“参考生成代码相同”,并不证明原运行完整 checkout 就是该 commit。
必需的 EAGLE3 架构配置:
configs/qwen3-8b-eagle3.json
SHA256=d9278a81b79fbf7b60342dabdd70a02f483369770062de70fc655afdebbf2477
它声明 hidden size=4096、draft vocab=32000、target vocab=151936。生成阶段需要这个配置文件,不需要已训练的 draft 权重或 optimizer checkpoint。
2.4 建议保留的证据和比较参考
以下是原机器上的审计依据,不是本次上传材料的前置依赖;原日志、原 mapping 和本地数值审计报告没有随两份输入上传。
- 三份成功生成日志,见第 1 节。它们提供实际 CLI 参数、完成计数及
Skipped: 0。 - DRAgent 的 manifest.json(原机路径:
/data/yilin/specforge-trim/dragent-data/data/manifest.json):记录 7,681 条 train-main 对话的准备统计;heldout 文件不是这三次特征 capture 的输入。 - 每份现有特征的
vocab_mapping/vocab_mapping.pt:可作为重建后的词表张量比较参考,但它本身是生成输出,不是 capture 的前置输入。 - 原特征 SHA256SUMS.jsonl(原机路径:
/home/yilin/tmp/eagle3-upload-cleanup-20261008-155259-ib4s4_ax/SHA256SUMS.jsonl):覆盖原 24,003 个输出文件,适合原文件归档校验;不能将“重新生成后的归档 SHA 必须全部相同”作为已经验证的承诺。
3. 样本选择、打乱与文件编号
顺序来自 main(scripts/prepare_hidden_states.py:758)、safe_conversations_generator(specforge/utils.py:195)、build_eagle3_dataset(specforge/data/preprocessing.py:172) 和 prepare_dp_dataloaders(specforge/data/utils.py:199):
- 读取 JSONL,规范化
conversations字段;非列表、格式错误或无效消息可能被处理或跳过。 - EAGLE3 没有特殊 loss-mask eligibility filter,先对该 generator 产生的 dataset 执行
select(range(N))。 build_eagle3_dataset再执行shuffle(seed=42)。- 按 qwen 模板 tokenize、截断到 max_length,生成 input IDs 和 assistant loss mask。
DistributedSampler(shuffle=False)按 DP rank 间隔分配样本。DataLoaderdrop_last=True;本次 2,000/4=500 和 20,000/4=5,000 均能被相应 batch size 整除,日志也证实无 skipped 样本。- 每个 DP rank 在自己的连续编号区间保存特征。
所以 ShareGPT 2k 是 先选前 2,000 条再打乱;20k 是 先选前 20,000 条再打乱。两次 shuffle(42) 的输入长度不同,不能把 20k 特征的前 2,000 个文件当作原 2k 特征。
同样,文件编号不等于规范化 JSONL 的原始行号。以 DP=4、N=2,000 为例:
samples_per_dp = 500
output_id = dp_rank * 500 + local_index
shuffled_dataset_index = 4 * local_index + dp_rank
data_0.ckpt -> rank 0, local_index 0 -> shuffled index 0
data_1.ckpt -> rank 0, local_index 1 -> shuffled index 4
data_500.ckpt -> rank 1, local_index 0 -> shuffled index 1
若改成单 GPU,文件与样本的对应关系会变化;不能沿用旧文件编号的实验清单而不重新核对。
4. 生成命令
下面是根据原日志还原参数的重建命令,不是新执行的实验。它们写到新的输出根目录,不覆盖当前保留的三个原特征目录。GPU 编号需选择实际可用的四张卡,原 GPU 型号和原 CUDA_VISIBLE_DEVICES 没有从日志恢复。
4.1 固定源码、输入、teacher 与运行环境
REPRO_ROOT=/data/yilin/effi-eagle3-reproduction
CODE_ROOT="$REPRO_ROOT/SpecForge-f013d277"
CAPTURE_PYTHON=python
export HF_HOME=/data/yilin/huggingface
mkdir -p "$REPRO_ROOT"
"$CAPTURE_PYTHON" -m pip install huggingface-hub
REPRO_ROOT="$REPRO_ROOT" "$CAPTURE_PYTHON" - <<'PY'
import hashlib
import os
from pathlib import Path
from huggingface_hub import hf_hub_download
root = Path(os.environ["REPRO_ROOT"]) / "materials"
expected = {
"data/sharegpt_train.jsonl": "5ddf3517c76b0b4d33be21363e5aeb2f20f723a69666ee84a38e85ab5e4bbdc0",
"data/dragent_train_main.jsonl": "41b3be540729541478b7cc02a53c1dfa08f828876f9ecc70b36af062d7c900d3",
"source/SpecForge-f013d2773cb66ac2323a51efe302c9df02543a7f.tar.gz": "d3122817d09ce13355f45d609c14bc05b7eab622b3b3d5e6dba12abd19cb09e8",
}
for filename, expected_sha in expected.items():
path = Path(hf_hub_download(
repo_id="julyanghar/Effi-Eagle3-Train-Dataset",
repo_type="dataset",
filename=filename,
local_dir=root,
))
h = hashlib.sha256()
with path.open("rb") as f:
for block in iter(lambda: f.read(8 * 1024 * 1024), b""):
h.update(block)
assert h.hexdigest() == expected_sha, filename
print(filename, "SHA-256 PASS")
PY
tar -xzf "$REPRO_ROOT/materials/source/SpecForge-f013d2773cb66ac2323a51efe302c9df02543a7f.tar.gz" -C "$REPRO_ROOT"
"$CAPTURE_PYTHON" -m pip install -e "$CODE_ROOT"
export PYTHONPATH="$CODE_ROOT${PYTHONPATH:+:$PYTHONPATH}"
TEACHER_PATH=$("$CAPTURE_PYTHON" - <<'PY'
from huggingface_hub import snapshot_download
print(snapshot_download(
repo_id="Qwen/Qwen3-8B",
revision="b968826d9c46dd6066d109eabc6255188de91218",
))
PY
)
SHAREGPT_INPUT="$REPRO_ROOT/materials/data/sharegpt_train.jsonl"
DRAGENT_INPUT="$REPRO_ROOT/materials/data/dragent_train_main.jsonl"
OUTPUT_ROOT="$REPRO_ROOT/hidden_states"
PREPROCESS_CACHE="$REPRO_ROOT/preprocess-cache"
CAPTURE_GPUS=0,1,2,3
cd "$CODE_ROOT"
在兼容 GPU/CUDA 的 Python 环境中执行;CAPTURE_PYTHON 可改为现有环境的 Python。源码的 pyproject.toml 固定 torch、transformers 和 SGLang 版本,其余依赖没有完整历史锁定;第 6 节提供可核对的当前环境快照。这里的安装和 capture 命令是复现操作说明,本次发布没有执行安装或 GPU capture。
源码归档含 553 个 tracked 文件,保留 pyproject.toml、configs/qwen3-8b-eagle3.json 及完整生成依赖;与第 6 节的 20 个文件指纹逐一核对。Teacher 从原公开模型仓库按参考 revision 获取,不重复上传权重。
4.2 公共参数与三条命令
COMMON_CAPTURE_ARGS=(
--target-model-path "$TEACHER_PATH"
--strategy eagle3
--draft-model-config "$CODE_ROOT/configs/qwen3-8b-eagle3.json"
--chat-template qwen
--tp-size 1
--build-dataset-num-proc 8
--num-workers 4
--num-io-threads 128
--io-queue-size 50
--file-group-size 2000
--dist-timeout 2000
--cache-dir "$PREPROCESS_CACHE"
--sglang-attention-backend flashinfer
--sglang-mem-fraction-static 0.55
)
# ShareGPT 2k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
--standalone --nproc_per_node=4 \
scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
--data-path "$SHAREGPT_INPUT" \
--num-samples 2000 --max-length 4096 --batch-size 2 \
--output-path "$OUTPUT_ROOT/sharegpt2k_qwen3-8b"
# ShareGPT 20k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
--standalone --nproc_per_node=4 \
scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
--data-path "$SHAREGPT_INPUT" \
--num-samples 20000 --max-length 4096 --batch-size 2 \
--output-path "$OUTPUT_ROOT/sharegpt20k_qwen3-8b"
# DRAgent 2k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
--standalone --nproc_per_node=4 \
scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
--data-path "$DRAGENT_INPUT" \
--num-samples 2000 --max-length 12288 --batch-size 1 \
--sglang-context-length 16384 \
--output-path "$OUTPUT_ROOT/dragent2k_qwen3-8b"
不传 --compress、--is-preformatted、--trust-remote-code、--sglang-disable-radix-cache 以及原日志为 False 的其他 enable flags,保持这些 bool 参数为 False。compression level 的原默认值为 6,但本次未开启压缩。
固定 teacher snapshot 与改变 cache/output 位置是重建命令的明确调整:日志记录的是 model ID 和 ./cache;目录改动只用于固定可获取的版本、隔离缓存和保护现有数据,不能说这些绝对路径就是原 launcher 参数。
4.3 必要输入的重新获取
第 4.1 节直接从本仓库下载两份规范化 JSONL,并逐文件检查 SHA-256。两份文件均保留完整内容与原始顺序;ShareGPT 2k/20k 的截取发生在生成程序中,而不是上传时裁剪。无需重新运行 prepare_data.py,也无需下载 DRAgent 训练模型或 optimizer checkpoint。
Teacher 使用 Qwen/Qwen3-8B 的固定参考 revision。输入与源码下载量约 1.04 GB,不包含 teacher 权重和重建后的离线特征。
5. 输出契约与词表映射
每份输出包含 rows_<start>-<end>/data_<id>.ckpt,每目录最多 2,000 个文件,以及 vocab_mapping/vocab_mapping.pt。现有三份分别为 2,000、20,000、2,000 个 .ckpt,另各有一个 mapping,共 24,003 个文件。
当前原文件的样本检查得到:
| key | shape | dtype |
|---|---|---|
input_ids |
[T] |
torch.int64 |
loss_mask |
[T] |
torch.int64 |
aux_hidden_state |
[1, T, 12288] |
torch.bfloat16 |
hidden_state |
[1, T, 4096] |
torch.bfloat16 |
aux_hidden_state 为三个 capture 层的拼接;hidden_state 是供 teacher head 使用的 final hidden state。原特征的 post-norm 语义已有项目数值检查,参见 v4 报告的原始回放审计(原机路径:/home/yilin/SpecForge/claude-docx/Exp-Plan-Results/experiments/further-optimization/v4-angelspec-memory-forward-results.md)。对外部回放 loader,不能误写 last_hidden_states_prenorm=true 而额外做一次 final norm。
词表映射由 generate_vocab_mapping_file(specforge/data/preprocessing.py:587) 对本次选取并 tokenize 后的整个 dataset 统计 loss_mask == 1 的 token 频率,生成 d2t 和 t2d。本机原输出为 d2t: [32000], int64 与 t2d: [151936], bool。映射与该 store 配套;不要把其中一份 mapping 当成三份数据共享的固定输入。
比较重建结果时,先核对样本身份、input IDs、loss mask、shape/dtype 与 mapping 张量,再验证 hidden-state 数值。原 mapping 通过 UUID 临时文件保存后改名;现存 ZIP 内部前缀分别为 .vocab_mapping.<uuid>,因此相同 mapping 张量也可能产生不同文件 SHA-256。GPU、attention backend、依赖版本也可能影响浮点结果。本次没有证明逐位重建相同。
6. 源码与环境参考
6.1 生成相关文件指纹
下表是核心入口及依赖的核对清单,不是完整的最小可执行文件闭包;复现时优先使用完整源码 archive。
| 相对固定源码根目录的文件 | 当前保留文件 SHA-256(与参考 commit 相同) |
|---|---|
scripts/prepare_hidden_states.py |
2e0a1056ea7891ddc404b154784ad2aa9d1011ca70e52e779564a37615d4d83e |
scripts/prepare_data.py |
81f186b275aae48ddd7b1abbd3dd645f9a19578b33c34fe0e61a735f1cee5ad1 |
configs/qwen3-8b-eagle3.json |
d9278a81b79fbf7b60342dabdd70a02f483369770062de70fc655afdebbf2477 |
pyproject.toml |
14a78a05f5eda07115393fc689e0ac5abe6a3e40476ed56e8625ba3fecb08f47 |
specforge/data/preprocessing.py |
2de78e07235eb9dbdd4db059c4f4d56f353a38b4f9b91d6d515417db5bfee6de |
specforge/data/utils.py |
69dcf00657d6f5db35862b71ea3e47386c0046b4f41979e487874aa24d7d1eb0 |
specforge/data/template.py |
6f88d800a158c07f0c6b77b1e609c0de27c257da43aef1652c831ef452021ee1 |
specforge/utils.py |
fd75dc5bd7597849d2f3beb5b6015beb543a2f7c4b9ae433433884bd955a1ebc |
specforge/distributed.py |
1e62b1b340fcde82fe334c85988d3f59f8b8f4355fb65db250b776cde9d936d0 |
specforge/algorithms/model_providers.py |
fb9e957fc0782aa1e2cb7803db9652246fcb9f83295a771472d431bf72b3d7a2 |
specforge/algorithms/eagle3/providers.py |
e19d91ac4ed8a3b2ca6b104069068b64bfe159751cb41bd605e46222a4af8dcf |
specforge/offline_capture/sglang.py |
298110921666d9d7effb1e39c55c10312c4c29ed21c138f0a0e5acc27862f8e3 |
specforge/offline_capture/sglang_backend/capture.py |
f56b676a254479dfe8fff71c05b60a4b83ed59f7134e38c2cf77107bd1f27c49 |
specforge/offline_capture/sglang_backend/model_runner.py |
c0122d40c6e9fe4bf3b9321865c96468312e6ad283ec6840730d50f6f4aab595 |
specforge/offline_capture/sglang_backend/patch.py |
a0a9df8f3188a5a7de4d02b5bf5275f13959d59b32bc446c32ff19c871a80ea7 |
specforge/offline_capture/sglang_backend/utils.py |
f31d77c3998c6dcc00ae6751e77f8770a3f2855f973d75fe8fe50ce38fc73089 |
specforge/application/__init__.py |
e13efe6234dc1546b1a5c6f7dcb4c33d575ead2a1aae1c3fcd3faefc2437e235 |
specforge/application/planning.py |
9d8299958f1251726811c3c6e4e5db6b0211d1218cf666bc1bd23789bf3d3dcc |
specforge/application/composition.py |
26cbf69790ae54f54e7bdc4066e9722a7b334812def044a9eb9c74372be83fcc |
specforge/algorithms/common/providers.py |
1c4630478acdd04f6373690b645bdafb7b37f6d82943e1e5092263fa59f6e54f |
specforge/config/schema.py 在参考 commit 与当前 wt-flexattn HEAD 间还存在差异,但已检查为 training validation 的错误消息扩展;不把当前整树说成与参考 commit 完全一致。wt-flexattn 的 specforge/modeling/draft/llama3_eagle.py 有用户未提交修改,本次未改变它,也没有把该修改冒充原 capture 版本。
6.2 环境证据
源码 pyproject.toml 声明 Python>=3.10、torch==2.11.0、transformers==5.8.1、sglang==0.5.14。原日志中的 resolved draft config 直接记录 transformers_version=5.8.1;其余原始实际安装版本没有从成功日志独立恢复。
当前 /home/yilin/anaconda3/envs/specforge 的安装元数据(2026-10-08 检查)为:
| 项目 | 当前版本 |
|---|---|
| Python | 3.12.13 |
| torch | 2.11.0 |
| transformers | 5.8.1 |
| datasets | 5.0.0 |
| sglang | 0.5.14 |
| flashinfer-python | 0.6.12 |
| numpy | 2.3.5 |
| huggingface-hub | 1.23.0 |
| specforge | 0.2.0 |
这份表是当前环境快照,不是 2026-08-21 的完整历史冻结。原失败日志的 traceback 证实当时使用过该环境路径;仍不能据此推定其安装内容从未改变。CUDA、驱动、GPU 型号与 attention kernel 的完整原始组合未核定。
7. 证据边界与后续 TODO
已核对:三份成功日志中的参数与完成计数;两份输入 JSONL 的完整 SHA-256 和行数;生成顺序、DP 文件编号关系;20 个源码文件与参考 commit 的字节匹配;teacher 参考 revision 可访问;DRAgent 公共输入远端 SHA-256 与本地一致;当前保存的 12 个首尾/最大样本与 mapping 的读取检查通过。
尚未验证:新环境实际执行上述 capture;重建后的样本编号、mapping 与 hidden states 对原 store 的逐项数值一致性;原 capture 的完整 Git/environment/GPU 冻结。因而本文是有来源和边界的生成记录,不是重新生成已验收的结果报告。
必要文件保留优先级:规范化输入 JSONL → 完整固定源码与 EAGLE3 config → 固定 teacher snapshot 或可靠获取方式 → 原参数日志与当前 mapping 比较参考。大 feature 文件、训练 checkpoint、编译缓存不是生成程序的输入;是否清理它们仍应按单独批准的范围执行。
紧凑 TODO:
- ShareGPT 规范化输入已经附带;其原始准备命令与上游 revision 尚未找回,若研究需要精确上游溯源仍需补证。
- 如需严格再现原 store,先小规模 capture 并检查编号/映射/数值,再决定是否全量重建。
- Downloads last month
- 109