| # Table Encoder SFT Base Checkpoints |
|
|
| Qwen3-VL-8B-Instruct 视觉 encoder 训练产物，用于 SFT 阶段的 base encoder。 |
| 全部由新九桶 CE + wtbshort(+TableVista) 语料、完整 epoch 训练。 |
|
|
| ## 文件与评测（encoder 单测：base decoder + turbo6 IID600 / TableVista OOD300） |
|
|
| | 文件 | 说明 | IID600 | OOD300 | 张量数 | |
| |---|---|---:|---:|---:| |
| | `frozen_full_tvas_raw.pt` | **推荐 SFT base**：全量 ViT 完整训练（merger 冻结），wtbshort+TV全样式语料 | 66.83 | 27.63 | 325 (纯 ViT) | |
| | `frozen_tvas_a040.pt` | 上者与 base 的 WiSE-FT 插值 α=0.4（保守保险） | 58.33 | 66.01 | 325 (纯 ViT) | |
| | `open_full_tv_both.pt` | 备选：全量 ViT + merger@2e-6 协同训练（wtbshort+TV单样式） | 71.17* | 34.00 | 349 (ViT+merger) | |
|
|
| *open 的 71.17 为 MERGER=both 评测（含协同 merger）；ViT 单独（skip）为 59.83/49.01。 |
| |
| ## 用法 |
| |
| - **frozen 系**（325 张量，无 merger）：SFT 时 `MERGER=skip` 加载（merger 用 base）， |
| 配合 `TRAIN_MERGER=1` 在 SFT 中联训 merger（LR 2e-6 微动）。 |
| - **open 系**（349 张量，含训过的 merger）：`MERGER=both` 加载全套，同样建议 `TRAIN_MERGER=1` 继续联训。 |
| - loader 直接 `torch.load(..., weights_only=True)` 后按 visual tower 键名覆写即可（与 |
| `--encoder-state` 接口一致的 encoder_state.pt 格式）。 |
| |
| ## 训练配置（frozen_full_tvas_raw） |
| |
| - 语料：struct_space_mmtab_v2_nomulti_ct3_wtbshort534 + TableVista 全样式 49,760 条（共 375,270 行，完整 epoch 15,637 步） |
| - LR 5e-6 cosine / eff batch 24 / fp32 master / decoder、patch_embed、merger 全冻 |
| - ViT 全量参数开放，新九桶 CE |
| |
| ## OOD 风险提示 |
| |
| `frozen_full_tvas_raw` 的 OOD（27.63）是用 base decoder 测的代理值：ViT 大位移导致 base decoder |
| 接口失配。SFT 阶段 decoder+merger 联训会重新对齐，v12 语料中的 745 条 TableVista QA + 3,439 条 |
| 视觉 QA 用于恢复 OOD 域答题能力。若 SFT 后 OOD 验证仍不达标，切换 `frozen_tvas_a040.pt`（OOD 安全档）重跑 SFT。 |
| |
