Atriclove's picture
Upload README.md with huggingface_hub
df7583a verified
|
Raw History Blame Contribute Delete
2.07 kB

Table Encoder SFT Base Checkpoints

Qwen3-VL-8B-Instruct 视觉 encoder 训练产物,用于 SFT 阶段的 base encoder。 全部由新九桶 CE + wtbshort(+TableVista) 语料、完整 epoch 训练。

文件与评测(encoder 单测:base decoder + turbo6 IID600 / TableVista OOD300)

文件 说明 IID600 OOD300 张量数
frozen_full_tvas_raw.pt 推荐 SFT base:全量 ViT 完整训练(merger 冻结),wtbshort+TV全样式语料 66.83 27.63 325 (纯 ViT)
frozen_tvas_a040.pt 上者与 base 的 WiSE-FT 插值 α=0.4(保守保险) 58.33 66.01 325 (纯 ViT)
open_full_tv_both.pt 备选:全量 ViT + merger@2e-6 协同训练(wtbshort+TV单样式) 71.17* 34.00 349 (ViT+merger)

*open 的 71.17 为 MERGER=both 评测(含协同 merger);ViT 单独(skip)为 59.83/49.01。

用法

  • frozen 系(325 张量,无 merger):SFT 时 MERGER=skip 加载(merger 用 base), 配合 TRAIN_MERGER=1 在 SFT 中联训 merger(LR 2e-6 微动)。
  • open 系(349 张量,含训过的 merger):MERGER=both 加载全套,同样建议 TRAIN_MERGER=1 继续联训。
  • loader 直接 torch.load(..., weights_only=True) 后按 visual tower 键名覆写即可(与 --encoder-state 接口一致的 encoder_state.pt 格式)。

训练配置(frozen_full_tvas_raw)

  • 语料:struct_space_mmtab_v2_nomulti_ct3_wtbshort534 + TableVista 全样式 49,760 条(共 375,270 行,完整 epoch 15,637 步)
  • LR 5e-6 cosine / eff batch 24 / fp32 master / decoder、patch_embed、merger 全冻
  • ViT 全量参数开放,新九桶 CE

OOD 风险提示

frozen_full_tvas_raw 的 OOD(27.63)是用 base decoder 测的代理值:ViT 大位移导致 base decoder 接口失配。SFT 阶段 decoder+merger 联训会重新对齐,v12 语料中的 745 条 TableVista QA + 3,439 条 视觉 QA 用于恢复 OOD 域答题能力。若 SFT 后 OOD 验证仍不达标,切换 frozen_tvas_a040.pt(OOD 安全档)重跑 SFT。