|
Download README.md from Atriclove/table-encoder-sft-base: direct link, hf CLI and curl.
- Browser
- Download file 2.07 kB
-
https://huggingface.co/datasets/Atriclove/table-encoder-sft-base/resolve/main/README.md
- Command line
-
hf download hf://datasets/Atriclove/table-encoder-sft-base/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Atriclove/table-encoder-sft-base/resolve/main/README.md
2.07 kB
Table Encoder SFT Base Checkpoints
Qwen3-VL-8B-Instruct 视觉 encoder 训练产物,用于 SFT 阶段的 base encoder。 全部由新九桶 CE + wtbshort(+TableVista) 语料、完整 epoch 训练。
文件与评测(encoder 单测:base decoder + turbo6 IID600 / TableVista OOD300)
| 文件 | 说明 | IID600 | OOD300 | 张量数 |
|---|---|---|---|---|
frozen_full_tvas_raw.pt |
推荐 SFT base:全量 ViT 完整训练(merger 冻结),wtbshort+TV全样式语料 | 66.83 | 27.63 | 325 (纯 ViT) |
frozen_tvas_a040.pt |
上者与 base 的 WiSE-FT 插值 α=0.4(保守保险) | 58.33 | 66.01 | 325 (纯 ViT) |
open_full_tv_both.pt |
备选:全量 ViT + merger@2e-6 协同训练(wtbshort+TV单样式) | 71.17* | 34.00 | 349 (ViT+merger) |
*open 的 71.17 为 MERGER=both 评测(含协同 merger);ViT 单独(skip)为 59.83/49.01。
用法
- frozen 系(325 张量,无 merger):SFT 时
MERGER=skip加载(merger 用 base), 配合TRAIN_MERGER=1在 SFT 中联训 merger(LR 2e-6 微动)。 - open 系(349 张量,含训过的 merger):
MERGER=both加载全套,同样建议TRAIN_MERGER=1继续联训。 - loader 直接
torch.load(..., weights_only=True)后按 visual tower 键名覆写即可(与--encoder-state接口一致的 encoder_state.pt 格式)。
训练配置(frozen_full_tvas_raw)
- 语料:struct_space_mmtab_v2_nomulti_ct3_wtbshort534 + TableVista 全样式 49,760 条(共 375,270 行,完整 epoch 15,637 步)
- LR 5e-6 cosine / eff batch 24 / fp32 master / decoder、patch_embed、merger 全冻
- ViT 全量参数开放,新九桶 CE
OOD 风险提示
frozen_full_tvas_raw 的 OOD(27.63)是用 base decoder 测的代理值:ViT 大位移导致 base decoder
接口失配。SFT 阶段 decoder+merger 联训会重新对齐,v12 语料中的 745 条 TableVista QA + 3,439 条
视觉 QA 用于恢复 OOD 域答题能力。若 SFT 后 OOD 验证仍不达标,切换 frozen_tvas_a040.pt(OOD 安全档)重跑 SFT。