Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
24
38
language
stringclasses
3 values
conversations
listlengths
3
3
drbench_eagletraj_local_r1_q100_4
en
[ { "role": "system", "content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only." }, { "role": "user", "content": "<research_question>\nHow does interacting with AI systems affec...
drbench_eagletraj_local_r1_q100_5
en
[ { "role": "system", "content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only." }, { "role": "user", "content": "<research_question>\nIn what ways might AI-mediated communicati...
drbench_eagletraj_local_r1_q100_6
en
[ { "role": "system", "content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only." }, { "role": "user", "content": "<research_question>\nWhat are the long-term societal implicatio...
drbench_eagletraj_local_r1_q100_7
en
[ { "role": "system", "content": "Compress the provided search results for the current sub-query. Only Extract key information that is relevant to the overall research question. Write plain text only." }, { "role": "user", "content": "<research_question>\nIn what ways might AI-mediated communicati...
drbench_eagletraj_local_r1_q100_8
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
drbench_eagletraj_local_r1_q100_9
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
drbench_eagletraj_local_r1_q100_10
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
drbench_eagletraj_local_r1_q100_11
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
drbench_eagletraj_local_r1_q100_12
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
drbench_eagletraj_local_r1_q100_17
en
[{"role":"system","content":"Compress the provided search results for the current sub-query. Only Ex(...TRUNCATED)
End of preview. Expand in Data Studio

EAGLE3 离线特征生成说明与必要文件清单

TL;DR

本仓库提供 DRAgent 2k、ShareGPT 20k、ShareGPT 2k 三份 EAGLE3 离线特征的生成指南、两份确定输入 JSONL,以及固定参考版本的完整 SpecForge 源码。以约 1.04 GB 输入和小型源码归档记录生成方法,替代继续上传约 1.70 TB 的特征;本次没有重新运行 GPU capture。原特征仍保存在本地 /data/yilin/specforge-trim/hidden_states。

复现使用下文 data/ 中的输入和 source/ 中的源码;材料的校验清单是 SHA256SUMS.inputs.json。

已找回 2026-08-21 三份成功生成日志、原生成脚本及两份输入 JSONL。输入文件合计 1,041,157,920 bytes,约 1.04 GB;teacher 是 **Qwen/Qwen3-8B**。生成流程是:先取 N 条可用对话 → seed 42 打乱 → qwen 模板分词与 loss mask → 4 个 DP 进程、TP=1 → teacher forward/capture → 保存特征与词表映射。

可复现的流程和参数已核对;重建后的张量数值、输出文件编号及文件字节一致性尚未重新验收。 原日志没有记录完整 Git revision、teacher revision、GPU 型号和全部运行时依赖版本。下文区分日志事实、代码推导与当前可核对的参考版本,不将它们混为原始运行的完整环境记录。

目录

1. 原始生成记录

特征目录 输入 num_samples max_length 每 GPU batch_size 成功日志
dragent2k_qwen3-8b train_main.jsonl 2,000 12,288 1 prep-dragent.log(原机路径:/data/yilin/specforge-trim/logs/prep-dragent.log)
sharegpt20k_qwen3-8b sharegpt_train.jsonl 20,000 4,096 2 prep-sharegpt20k.log(原机路径:/data/yilin/specforge-trim/logs/prep-sharegpt20k.log)
sharegpt2k_qwen3-8b 同一份 sharegpt_train.jsonl 2,000 4,096 2 prepare-hidden2.log(原机路径:/data/yilin/specforge-trim/logs/prepare-hidden2.log)

三份日志均记录:target_model_path=Qwen/Qwen3-8B、strategy=eagle3、draft_model_config=configs/qwen3-8b-eagle3.json、chat_template=qwen、is_preformatted=False、tp_size=1、file_group_size=2000、compress=False、build_dataset_num_proc=8、num_workers=4、num_io_threads=128、io_queue_size=50、sglang_attention_backend=flashinfer、sglang_mem_fraction_static=0.55,以及 sglang_disable_radix_cache=False。

DRAgent 另有 sglang_context_length=16384;两份 ShareGPT 的该参数为 None。NCCL NVLS、symm mem、torch compile、DP attention、DP LM head 均为 False,EP size=1。

每份 2k 日志各有四条 Processed: 500, Skipped: 0;20k 日志有四条 Processed: 5000, Skipped: 0。由这四个生成进程的完成计数和 TP=1,推定原运行使用 DP=4、world size=4。日志未保存完整 launcher 命令,不能声称原 CUDA_VISIBLE_DEVICES 已被找回。

prepare-hidden.log 是此前的失败尝试;本说明使用随后成功完成的 prepare-hidden2.log 作为 ShareGPT 2k 参数证据。

2. 必须保留或可重新获取的文件

2.1 两份规范化输入 JSONL

输入文件 本仓库文件 行数 字节数 SHA-256
ShareGPT 规范化对话 data/sharegpt_train.jsonl 120,675 770,399,655 5ddf3517c76b0b4d33be21363e5aeb2f20f723a69666ee84a38e85ab5e4bbdc0
DRAgent 训练对话 data/dragent_train_main.jsonl 7,681 270,758,265 41b3be540729541478b7cc02a53c1dfa08f828876f9ecc70b36af062d7c900d3

两份 ShareGPT 特征共用上表的同一份输入文件,但先选取的 N 不同。保留该规范化文件及其顺序是最直接的复现办法;不能仅凭“ShareGPT”名称重新下载任意版本替代。

DRAgent 文件已有核对过的公开来源:

repo_id   = julyanghar/Efficient-DRAgent
repo_type = model
revision  = abbd7c723f07d878cfecb67bba8101c170fb23f3
filename  = data/train_main.jsonl

远端的文件大小与 SHA-256 均与本地一致。这个输入文件位于 model repository 中;生成特征不需要下载该仓库的 model.safetensors 或 training_state.pt。

本仓库直接提供这份确定输入,无需访问任何私有仓库。

ShareGPT 的 prepare_data.py(scripts/prepare_data.py) 默认 preset 是 Aeala/ShareGPT_Vicuna_unfiltered,并会规范化消息角色;但没有找回这份本地 JSONL 的原始准备命令和上游 revision。因此默认 preset 只能作为重建原始输入的线索,不能保证重新准备出的 JSONL 与现存文件同字节。现存 JSONL 是本说明的确定输入。

2.2 Teacher 权重、配置与 tokenizer

teacher 是 Qwen/Qwen3-8B。当前唯一缓存 snapshot 是:

/data/yilin/huggingface/hub/models--Qwen--Qwen3-8B/snapshots/b968826d9c46dd6066d109eabc6255188de91218

HF 上已确认该 revision 可访问。原 capture 日志只记录 model ID,没有直接记录 revision;此 snapshot 是当前可核对的固定参考,不冒充已经证明的原始 capture revision。

必须具备完整 snapshot 中的以下生成依赖:

  • model-00001-of-00005.safetensors 至 model-00005-of-00005.safetensors,以及 model.safetensors.index.json。
  • config.json。
  • tokenizer.json、tokenizer_config.json、vocab.json、merges.txt;保留 snapshot 的其余配置也便于完整恢复。

只保存 snapshots 下的软链接不构成权重备份:权重实际指向同一 HF cache 的 blobs/。应保留整个 model cache,或能够按固定 revision 重新下载。

当前 config 为:36 层、hidden size 4096、vocab size 151936、BF16。根据 resolve_eagle_capture_layers(specforge/algorithms/model_providers.py:188) 和未显式覆盖 layer IDs 的配置,传给 SGLang capture hook 的参数是 **[1, 17, 32]**。SGLang 内部如何处理层下标应由匹配版本负责,不手动改成另一组数字。

2.3 完整生成源码与配置

本仓库附带 完整 SpecForge 源码归档(3,249,646 bytes),来自下列固定参考 commit。入口依赖算法 registry、配置解析、分词与 mask 处理、分布式 DataLoader、SGLang capture backend 及其 logits processor patch,不能只复制一个 prepare_hidden_states.py。归档来自 Git commit,不包含工作树的未提交修改。

源码链接以下统一写为归档内路径与行号,解压后可在 SpecForge-f013d277/ 内定位。

可用参考 commit:

f013d2773cb66ac2323a51efe302c9df02543a7f

它位于 2026-08-21 首次成功 ShareGPT 2k 生成之前,且下表 20 个生成相关文件与保留下来的 wt-flexattn 工作树逐字节一致。原日志未记录 Git HEAD,因此这证明“参考生成代码相同”,并不证明原运行完整 checkout 就是该 commit。

必需的 EAGLE3 架构配置:

configs/qwen3-8b-eagle3.json
SHA256=d9278a81b79fbf7b60342dabdd70a02f483369770062de70fc655afdebbf2477

它声明 hidden size=4096、draft vocab=32000、target vocab=151936。生成阶段需要这个配置文件,不需要已训练的 draft 权重或 optimizer checkpoint。

2.4 建议保留的证据和比较参考

以下是原机器上的审计依据,不是本次上传材料的前置依赖;原日志、原 mapping 和本地数值审计报告没有随两份输入上传。

  • 三份成功生成日志,见第 1 节。它们提供实际 CLI 参数、完成计数及 Skipped: 0。
  • DRAgent 的 manifest.json(原机路径:/data/yilin/specforge-trim/dragent-data/data/manifest.json):记录 7,681 条 train-main 对话的准备统计;heldout 文件不是这三次特征 capture 的输入。
  • 每份现有特征的 vocab_mapping/vocab_mapping.pt:可作为重建后的词表张量比较参考,但它本身是生成输出,不是 capture 的前置输入。
  • 原特征 SHA256SUMS.jsonl(原机路径:/home/yilin/tmp/eagle3-upload-cleanup-20261008-155259-ib4s4_ax/SHA256SUMS.jsonl):覆盖原 24,003 个输出文件,适合原文件归档校验;不能将“重新生成后的归档 SHA 必须全部相同”作为已经验证的承诺。

3. 样本选择、打乱与文件编号

顺序来自 main(scripts/prepare_hidden_states.py:758)、safe_conversations_generator(specforge/utils.py:195)、build_eagle3_dataset(specforge/data/preprocessing.py:172) 和 prepare_dp_dataloaders(specforge/data/utils.py:199):

  1. 读取 JSONL,规范化 conversations 字段;非列表、格式错误或无效消息可能被处理或跳过。
  2. EAGLE3 没有特殊 loss-mask eligibility filter,先对该 generator 产生的 dataset 执行 select(range(N))。
  3. build_eagle3_dataset 再执行 shuffle(seed=42)。
  4. 按 qwen 模板 tokenize、截断到 max_length,生成 input IDs 和 assistant loss mask。
  5. DistributedSampler(shuffle=False) 按 DP rank 间隔分配样本。DataLoader drop_last=True;本次 2,000/4=500 和 20,000/4=5,000 均能被相应 batch size 整除,日志也证实无 skipped 样本。
  6. 每个 DP rank 在自己的连续编号区间保存特征。

所以 ShareGPT 2k 是 先选前 2,000 条再打乱;20k 是 先选前 20,000 条再打乱。两次 shuffle(42) 的输入长度不同,不能把 20k 特征的前 2,000 个文件当作原 2k 特征。

同样,文件编号不等于规范化 JSONL 的原始行号。以 DP=4、N=2,000 为例:

samples_per_dp = 500
output_id = dp_rank * 500 + local_index
shuffled_dataset_index = 4 * local_index + dp_rank

data_0.ckpt   -> rank 0, local_index 0 -> shuffled index 0
data_1.ckpt   -> rank 0, local_index 1 -> shuffled index 4
data_500.ckpt -> rank 1, local_index 0 -> shuffled index 1

若改成单 GPU,文件与样本的对应关系会变化;不能沿用旧文件编号的实验清单而不重新核对。

4. 生成命令

下面是根据原日志还原参数的重建命令,不是新执行的实验。它们写到新的输出根目录,不覆盖当前保留的三个原特征目录。GPU 编号需选择实际可用的四张卡,原 GPU 型号和原 CUDA_VISIBLE_DEVICES 没有从日志恢复。

4.1 固定源码、输入、teacher 与运行环境

REPRO_ROOT=/data/yilin/effi-eagle3-reproduction
CODE_ROOT="$REPRO_ROOT/SpecForge-f013d277"
CAPTURE_PYTHON=python

export HF_HOME=/data/yilin/huggingface
mkdir -p "$REPRO_ROOT"
"$CAPTURE_PYTHON" -m pip install huggingface-hub

REPRO_ROOT="$REPRO_ROOT" "$CAPTURE_PYTHON" - <<'PY'
import hashlib
import os
from pathlib import Path
from huggingface_hub import hf_hub_download

root = Path(os.environ["REPRO_ROOT"]) / "materials"
expected = {
    "data/sharegpt_train.jsonl": "5ddf3517c76b0b4d33be21363e5aeb2f20f723a69666ee84a38e85ab5e4bbdc0",
    "data/dragent_train_main.jsonl": "41b3be540729541478b7cc02a53c1dfa08f828876f9ecc70b36af062d7c900d3",
    "source/SpecForge-f013d2773cb66ac2323a51efe302c9df02543a7f.tar.gz": "d3122817d09ce13355f45d609c14bc05b7eab622b3b3d5e6dba12abd19cb09e8",
}
for filename, expected_sha in expected.items():
    path = Path(hf_hub_download(
        repo_id="julyanghar/Effi-Eagle3-Train-Dataset",
        repo_type="dataset",
        filename=filename,
        local_dir=root,
    ))
    h = hashlib.sha256()
    with path.open("rb") as f:
        for block in iter(lambda: f.read(8 * 1024 * 1024), b""):
            h.update(block)
    assert h.hexdigest() == expected_sha, filename
    print(filename, "SHA-256 PASS")
PY

tar -xzf "$REPRO_ROOT/materials/source/SpecForge-f013d2773cb66ac2323a51efe302c9df02543a7f.tar.gz" -C "$REPRO_ROOT"
"$CAPTURE_PYTHON" -m pip install -e "$CODE_ROOT"
export PYTHONPATH="$CODE_ROOT${PYTHONPATH:+:$PYTHONPATH}"

TEACHER_PATH=$("$CAPTURE_PYTHON" - <<'PY'
from huggingface_hub import snapshot_download
print(snapshot_download(
    repo_id="Qwen/Qwen3-8B",
    revision="b968826d9c46dd6066d109eabc6255188de91218",
))
PY
)
SHAREGPT_INPUT="$REPRO_ROOT/materials/data/sharegpt_train.jsonl"
DRAGENT_INPUT="$REPRO_ROOT/materials/data/dragent_train_main.jsonl"
OUTPUT_ROOT="$REPRO_ROOT/hidden_states"
PREPROCESS_CACHE="$REPRO_ROOT/preprocess-cache"
CAPTURE_GPUS=0,1,2,3

cd "$CODE_ROOT"

在兼容 GPU/CUDA 的 Python 环境中执行;CAPTURE_PYTHON 可改为现有环境的 Python。源码的 pyproject.toml 固定 torch、transformers 和 SGLang 版本,其余依赖没有完整历史锁定;第 6 节提供可核对的当前环境快照。这里的安装和 capture 命令是复现操作说明,本次发布没有执行安装或 GPU capture。

源码归档含 553 个 tracked 文件,保留 pyproject.toml、configs/qwen3-8b-eagle3.json 及完整生成依赖;与第 6 节的 20 个文件指纹逐一核对。Teacher 从原公开模型仓库按参考 revision 获取,不重复上传权重。

4.2 公共参数与三条命令

COMMON_CAPTURE_ARGS=(
  --target-model-path "$TEACHER_PATH"
  --strategy eagle3
  --draft-model-config "$CODE_ROOT/configs/qwen3-8b-eagle3.json"
  --chat-template qwen
  --tp-size 1
  --build-dataset-num-proc 8
  --num-workers 4
  --num-io-threads 128
  --io-queue-size 50
  --file-group-size 2000
  --dist-timeout 2000
  --cache-dir "$PREPROCESS_CACHE"
  --sglang-attention-backend flashinfer
  --sglang-mem-fraction-static 0.55
)

# ShareGPT 2k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
  --standalone --nproc_per_node=4 \
  scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
  --data-path "$SHAREGPT_INPUT" \
  --num-samples 2000 --max-length 4096 --batch-size 2 \
  --output-path "$OUTPUT_ROOT/sharegpt2k_qwen3-8b"

# ShareGPT 20k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
  --standalone --nproc_per_node=4 \
  scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
  --data-path "$SHAREGPT_INPUT" \
  --num-samples 20000 --max-length 4096 --batch-size 2 \
  --output-path "$OUTPUT_ROOT/sharegpt20k_qwen3-8b"

# DRAgent 2k
CUDA_VISIBLE_DEVICES="$CAPTURE_GPUS" "$CAPTURE_PYTHON" -m torch.distributed.run \
  --standalone --nproc_per_node=4 \
  scripts/prepare_hidden_states.py "${COMMON_CAPTURE_ARGS[@]}" \
  --data-path "$DRAGENT_INPUT" \
  --num-samples 2000 --max-length 12288 --batch-size 1 \
  --sglang-context-length 16384 \
  --output-path "$OUTPUT_ROOT/dragent2k_qwen3-8b"

不传 --compress、--is-preformatted、--trust-remote-code、--sglang-disable-radix-cache 以及原日志为 False 的其他 enable flags,保持这些 bool 参数为 False。compression level 的原默认值为 6,但本次未开启压缩。

固定 teacher snapshot 与改变 cache/output 位置是重建命令的明确调整:日志记录的是 model ID 和 ./cache;目录改动只用于固定可获取的版本、隔离缓存和保护现有数据,不能说这些绝对路径就是原 launcher 参数。

4.3 必要输入的重新获取

第 4.1 节直接从本仓库下载两份规范化 JSONL,并逐文件检查 SHA-256。两份文件均保留完整内容与原始顺序;ShareGPT 2k/20k 的截取发生在生成程序中,而不是上传时裁剪。无需重新运行 prepare_data.py,也无需下载 DRAgent 训练模型或 optimizer checkpoint。

Teacher 使用 Qwen/Qwen3-8B 的固定参考 revision。输入与源码下载量约 1.04 GB,不包含 teacher 权重和重建后的离线特征。

5. 输出契约与词表映射

每份输出包含 rows_<start>-<end>/data_<id>.ckpt,每目录最多 2,000 个文件,以及 vocab_mapping/vocab_mapping.pt。现有三份分别为 2,000、20,000、2,000 个 .ckpt,另各有一个 mapping,共 24,003 个文件。

当前原文件的样本检查得到:

key shape dtype
input_ids [T] torch.int64
loss_mask [T] torch.int64
aux_hidden_state [1, T, 12288] torch.bfloat16
hidden_state [1, T, 4096] torch.bfloat16

aux_hidden_state 为三个 capture 层的拼接;hidden_state 是供 teacher head 使用的 final hidden state。原特征的 post-norm 语义已有项目数值检查,参见 v4 报告的原始回放审计(原机路径:/home/yilin/SpecForge/claude-docx/Exp-Plan-Results/experiments/further-optimization/v4-angelspec-memory-forward-results.md)。对外部回放 loader,不能误写 last_hidden_states_prenorm=true 而额外做一次 final norm。

词表映射由 generate_vocab_mapping_file(specforge/data/preprocessing.py:587) 对本次选取并 tokenize 后的整个 dataset 统计 loss_mask == 1 的 token 频率,生成 d2t 和 t2d。本机原输出为 d2t: [32000], int64 与 t2d: [151936], bool。映射与该 store 配套;不要把其中一份 mapping 当成三份数据共享的固定输入。

比较重建结果时,先核对样本身份、input IDs、loss mask、shape/dtype 与 mapping 张量,再验证 hidden-state 数值。原 mapping 通过 UUID 临时文件保存后改名;现存 ZIP 内部前缀分别为 .vocab_mapping.<uuid>,因此相同 mapping 张量也可能产生不同文件 SHA-256。GPU、attention backend、依赖版本也可能影响浮点结果。本次没有证明逐位重建相同。

6. 源码与环境参考

6.1 生成相关文件指纹

下表是核心入口及依赖的核对清单,不是完整的最小可执行文件闭包;复现时优先使用完整源码 archive。

相对固定源码根目录的文件 当前保留文件 SHA-256(与参考 commit 相同)
scripts/prepare_hidden_states.py 2e0a1056ea7891ddc404b154784ad2aa9d1011ca70e52e779564a37615d4d83e
scripts/prepare_data.py 81f186b275aae48ddd7b1abbd3dd645f9a19578b33c34fe0e61a735f1cee5ad1
configs/qwen3-8b-eagle3.json d9278a81b79fbf7b60342dabdd70a02f483369770062de70fc655afdebbf2477
pyproject.toml 14a78a05f5eda07115393fc689e0ac5abe6a3e40476ed56e8625ba3fecb08f47
specforge/data/preprocessing.py 2de78e07235eb9dbdd4db059c4f4d56f353a38b4f9b91d6d515417db5bfee6de
specforge/data/utils.py 69dcf00657d6f5db35862b71ea3e47386c0046b4f41979e487874aa24d7d1eb0
specforge/data/template.py 6f88d800a158c07f0c6b77b1e609c0de27c257da43aef1652c831ef452021ee1
specforge/utils.py fd75dc5bd7597849d2f3beb5b6015beb543a2f7c4b9ae433433884bd955a1ebc
specforge/distributed.py 1e62b1b340fcde82fe334c85988d3f59f8b8f4355fb65db250b776cde9d936d0
specforge/algorithms/model_providers.py fb9e957fc0782aa1e2cb7803db9652246fcb9f83295a771472d431bf72b3d7a2
specforge/algorithms/eagle3/providers.py e19d91ac4ed8a3b2ca6b104069068b64bfe159751cb41bd605e46222a4af8dcf
specforge/offline_capture/sglang.py 298110921666d9d7effb1e39c55c10312c4c29ed21c138f0a0e5acc27862f8e3
specforge/offline_capture/sglang_backend/capture.py f56b676a254479dfe8fff71c05b60a4b83ed59f7134e38c2cf77107bd1f27c49
specforge/offline_capture/sglang_backend/model_runner.py c0122d40c6e9fe4bf3b9321865c96468312e6ad283ec6840730d50f6f4aab595
specforge/offline_capture/sglang_backend/patch.py a0a9df8f3188a5a7de4d02b5bf5275f13959d59b32bc446c32ff19c871a80ea7
specforge/offline_capture/sglang_backend/utils.py f31d77c3998c6dcc00ae6751e77f8770a3f2855f973d75fe8fe50ce38fc73089
specforge/application/__init__.py e13efe6234dc1546b1a5c6f7dcb4c33d575ead2a1aae1c3fcd3faefc2437e235
specforge/application/planning.py 9d8299958f1251726811c3c6e4e5db6b0211d1218cf666bc1bd23789bf3d3dcc
specforge/application/composition.py 26cbf69790ae54f54e7bdc4066e9722a7b334812def044a9eb9c74372be83fcc
specforge/algorithms/common/providers.py 1c4630478acdd04f6373690b645bdafb7b37f6d82943e1e5092263fa59f6e54f

specforge/config/schema.py 在参考 commit 与当前 wt-flexattn HEAD 间还存在差异,但已检查为 training validation 的错误消息扩展;不把当前整树说成与参考 commit 完全一致。wt-flexattn 的 specforge/modeling/draft/llama3_eagle.py 有用户未提交修改,本次未改变它,也没有把该修改冒充原 capture 版本。

6.2 环境证据

源码 pyproject.toml 声明 Python>=3.10、torch==2.11.0、transformers==5.8.1、sglang==0.5.14。原日志中的 resolved draft config 直接记录 transformers_version=5.8.1;其余原始实际安装版本没有从成功日志独立恢复。

当前 /home/yilin/anaconda3/envs/specforge 的安装元数据(2026-10-08 检查)为:

项目 当前版本
Python 3.12.13
torch 2.11.0
transformers 5.8.1
datasets 5.0.0
sglang 0.5.14
flashinfer-python 0.6.12
numpy 2.3.5
huggingface-hub 1.23.0
specforge 0.2.0

这份表是当前环境快照,不是 2026-08-21 的完整历史冻结。原失败日志的 traceback 证实当时使用过该环境路径;仍不能据此推定其安装内容从未改变。CUDA、驱动、GPU 型号与 attention kernel 的完整原始组合未核定。

7. 证据边界与后续 TODO

已核对:三份成功日志中的参数与完成计数;两份输入 JSONL 的完整 SHA-256 和行数;生成顺序、DP 文件编号关系;20 个源码文件与参考 commit 的字节匹配;teacher 参考 revision 可访问;DRAgent 公共输入远端 SHA-256 与本地一致;当前保存的 12 个首尾/最大样本与 mapping 的读取检查通过。

尚未验证:新环境实际执行上述 capture;重建后的样本编号、mapping 与 hidden states 对原 store 的逐项数值一致性;原 capture 的完整 Git/environment/GPU 冻结。因而本文是有来源和边界的生成记录,不是重新生成已验收的结果报告。

必要文件保留优先级:规范化输入 JSONL → 完整固定源码与 EAGLE3 config → 固定 teacher snapshot 或可靠获取方式 → 原参数日志与当前 mapping 比较参考。大 feature 文件、训练 checkpoint、编译缓存不是生成程序的输入;是否清理它们仍应按单独批准的范围执行。

紧凑 TODO:

  • ShareGPT 规范化输入已经附带;其原始准备命令与上游 revision 尚未找回,若研究需要精确上游溯源仍需补证。
  • 如需严格再现原 store,先小规模 capture 并检查编号/映射/数值,再决定是否全量重建。
Downloads last month
109