train.md v4.6: pitfalls #67-#70 + R13/R14 records + serving recipe
Browse files
train.md
CHANGED
|
@@ -464,6 +464,10 @@ open(K8B+("/BURST_R7_DONE" if ok else "/BURST_R7_FAIL"),"w").write("r7")
|
|
| 464 |
| 64 | bash 长命令 sleep>~600s 被杀且同调用 heredoc 回滚 | 长操作 nohup 分片 + Write 工具中转落盘, 绝不单条 bash 长阻塞 |
|
| 465 |
| 65 | 部署脚本旗标双前缀 bug（r12_pipeline.py S3 的 DEPLOY_ 重复）→ 秒退/误判 | 部署只用修正版 r12_deploy_r10.py; 重入前 rm -f /tmp/k8b/DEPLOY_*（#49 复核） |
|
| 466 |
| 66 | R11 长窗训练 OOM（W_TOK 放开后） | 梯子 6144→3400 降窗口; 长窗按长度分桶/降 batch; OOM 不退课程只降窗口 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| 467 |
|
| 468 |
## 十、历轮战绩
|
| 469 |
|
|
@@ -482,8 +486,10 @@ open(K8B+("/BURST_R7_DONE" if ok else "/BURST_R7_FAIL"),"w").write("r7")
|
|
| 482 |
| R10 | 混合精度梯子 | **量化无罪终审**（Q4/f16 双对照+长短双维探针）; 4x8 冠军档上线; think-行为解离实锤 | — |
|
| 483 |
| R11 | zagent PR×2+视频工具 | PR#188/#189 合并; 视频工具✅逐字读帧; computer-use❌拦截免疫→转训练靶 | R11: 210 长窗 (m13_r8→r9) |
|
| 484 |
| R12 | 五靶点 T1-T5 | 行为判据/诚实窗/纯文本收束/录屏 recipe/框架补丁（Go 57.3MB 单测 4 项过）全落地 | R12: 58 窗, **总计 268 窗 (m13_r9→r10)** |
|
|
|
|
|
|
|
| 485 |
|
| 486 |
-
## 十一、
|
| 487 |
|
| 488 |
R11/R12 长窗纪律轮已收官，m13_r10 落地：
|
| 489 |
- **R11 训练**：210 长窗（r11_curriculum 课程：W1 拦截后换路/W2 拦截后收束/W3 双振换路 三窗型 × 2K-40K 深度 + 视频窗），W_TOK 放开，OOM 梯子 6144→3400（坑#66）；血统 m13_r8→m13_r9
|
|
@@ -519,3 +525,55 @@ R11/R12 长窗纪律轮已收官，m13_r10 落地：
|
|
| 519 |
- 部署完成后：换装 m13_r7 → lproj1 基线（65min, 目标 <10min）+ GAIA 同型题复测（观察死环根治效果: 环发生率/早断率/配额服从率）+ #13 补发验证
|
| 520 |
- v4.2 后续实测（死环根治轮收官）：m13_r7 换装上线（262144 池/12s 加载）→ #13 实测暴露 R7 微调未根治（g3c2 复合周期-2 环复发）→ **zagent 框架级反环补丁上线**（坑#47/#48 两坑三修，web_stream.go+agent.go 四处）→ g3c3 实战 6 连拦 → g3c4 短上下文收官（0.03488，fail 但闭环）→ M15 判分终局 0/3（如实记录）
|
| 521 |
- 待办移交：lproj1 基线未跑；#13 方向性偏差根因（分母应取 Wikipedia 全种群非 CSV 344）待复盘；反环补丁参数（阈值 3/重置规则）可调优
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 464 |
| 64 | bash 长命令 sleep>~600s 被杀且同调用 heredoc 回滚 | 长操作 nohup 分片 + Write 工具中转落盘, 绝不单条 bash 长阻塞 |
|
| 465 |
| 65 | 部署脚本旗标双前缀 bug（r12_pipeline.py S3 的 DEPLOY_ 重复）→ 秒退/误判 | 部署只用修正版 r12_deploy_r10.py; 重入前 rm -f /tmp/k8b/DEPLOY_*（#49 复核） |
|
| 466 |
| 66 | R11 长窗训练 OOM（W_TOK 放开后） | 梯子 6144→3400 降窗口; 长窗按长度分桶/降 batch; OOM 不退课程只降窗口 |
|
| 467 |
+
| 67 | aitun 免 token 隧道同机单身份: 第二个客户端实例顶掉第一个（Connection replaced by newer connection of this client） | 真双隧道需 -k 账户 token; 单隧道双功能走 kaggle_server /v1 代理补丁（备选 router_8102.py 独立复用器） |
|
| 468 |
+
| 68 | kaggle_server 与 aitun 客户端都有监督环（jupyter kernel 自动重生）→ 抢端口/改 -p 必被弹回 | 补丁本体文件 + kill 让监督环带补丁重生; 兜底自检自启（oneclick restart_ksguarded） |
|
| 469 |
+
| 69 | 信封内无界 grep/find 扫 /tmp（40G 模型盘）→ 30s 超时误判 | 远端搜索必须 maxdepth + -size -2M + 排除模型目录 |
|
| 470 |
+
| 70 | 双 /health 同名: kaggle_server /health（富信息）vs llama /health（{"status":"ok"}） | 经代理后验 llama 存活用 /v1/models; /health 富信息=执行桥活的标志 |
|
| 471 |
|
| 472 |
## 十、历轮战绩
|
| 473 |
|
|
|
|
| 486 |
| R10 | 混合精度梯子 | **量化无罪终审**（Q4/f16 双对照+长短双维探针）; 4x8 冠军档上线; think-行为解离实锤 | — |
|
| 487 |
| R11 | zagent PR×2+视频工具 | PR#188/#189 合并; 视频工具✅逐字读帧; computer-use❌拦截免疫→转训练靶 | R11: 210 长窗 (m13_r8→r9) |
|
| 488 |
| R12 | 五靶点 T1-T5 | 行为判据/诚实窗/纯文本收束/录屏 recipe/框架补丁（Go 57.3MB 单测 4 项过）全落地 | R12: 58 窗, **总计 268 窗 (m13_r9→r10)** |
|
| 489 |
+
| R13 | GSQ-RCO-lite 四段链（链重建→imatrix→DP 背包逐张量→容器量化; 参 GSQ 2604.18556 + RCO 2605.00649） | mixbit 8.11 → **gsqrco_v1 7.99 ppl**; container_q40 7.84; imatrix q8 参考 5.07; serving 35.9 tok/s | — |
|
| 490 |
+
| R14 | 代码仓同步 + 隧道六死 + 单隧道复用 | FNH0ITO4 判死（坑#50 六现）; 8RF5ST7K 公网 /v1 全绿（models/chat/SSE 流式, key=1234）; lora 按 git 史新者为准覆盖 | — |
|
| 491 |
|
| 492 |
+
## 十一、R12 收官状态存档（2026-09-24 · Colab T4 部署轮）
|
| 493 |
|
| 494 |
R11/R12 长窗纪律轮已收官，m13_r10 落地：
|
| 495 |
- **R11 训练**：210 长窗（r11_curriculum 课程：W1 拦截后换路/W2 拦截后收束/W3 双振换路 三窗型 × 2K-40K 深度 + 视频窗），W_TOK 放开，OOM 梯子 6144→3400（坑#66）；血统 m13_r8→m13_r9
|
|
|
|
| 525 |
- 部署完成后：换装 m13_r7 → lproj1 基线（65min, 目标 <10min）+ GAIA 同型题复测（观察死环根治效果: 环发生率/早断率/配额服从率）+ #13 补发验证
|
| 526 |
- v4.2 后续实测（死环根治轮收官）：m13_r7 换装上线（262144 池/12s 加载）→ #13 实测暴露 R7 微调未根治（g3c2 复合周期-2 环复发）→ **zagent 框架级反环补丁上线**（坑#47/#48 两坑三修，web_stream.go+agent.go 四处）→ g3c3 实战 6 连拦 → g3c4 短上下文收官（0.03488，fail 但闭环）→ M15 判分终局 0/3（如实记录）
|
| 527 |
- 待办移交：lproj1 基线未跑；#13 方向性偏差根因（分母应取 Wikipedia 全种群非 CSV 344）待复盘；反环补丁参数（阈值 3/重置规则）可调优
|
| 528 |
+
|
| 529 |
+
|
| 530 |
+
## 十二、R13/R14 战报与当前状态（2026-09-25 · 8RF5ST7K 公网 serving 全绿）
|
| 531 |
+
|
| 532 |
+
### 十二甲、R13 量化战报（GSQ-RCO-lite）
|
| 533 |
+
|
| 534 |
+
用户否决 mixbit_4x8（"量化技术不好"）后, 参考 GSQ（Gumbel-Softmax Quantization, arXiv 2604.18556）
|
| 535 |
+
与 RCO（arXiv 2605.00649, ISTA-DASLab）自适配为 **GSQ-RCO-lite 四段链**:
|
| 536 |
+
链重建 → imatrix 校准（q8 路线, ppl 5.0709）→ DP 背包逐张量类型分配 → --imatrix+类型表容器量化。
|
| 537 |
+
|
| 538 |
+
成品（tchbcb/samai-9b, 全量/抽块 sha256 与容器盘内 serving 副本比对一致）:
|
| 539 |
+
|
| 540 |
+
| 文件 | 体积 | ppl | sha256 前 16 |
|
| 541 |
+
|---|---|---|---|
|
| 542 |
+
| m13_r10_gsqrco_v1.gguf（精炼版, **serving 现役**） | 6.482G | **7.99**（旧 mixbit 8.11） | 23a73197243cb9bd |
|
| 543 |
+
| m13_r10_gsqrco_container_q40.gguf（A/B 副本） | 6.482G | 7.84 | 28ad41308f373cc3 |
|
| 544 |
+
| mmproj_m11.gguf（视觉塔, 血统链视觉冻结故持续兼容） | 921.7M | — | d89c4bc142d02ed6 |
|
| 545 |
+
| m13_r10_lora.gguf（R13 重烘焙; 按 git 史 9/24 新者为准覆盖 9/23 旧版） | 232.8M | — | f31236e81f547c95 |
|
| 546 |
+
|
| 547 |
+
两成品为不同文件（全量 sha256 相异, 稀疏差异=精炼只覆写部分张量）, A/B 对比有效;
|
| 548 |
+
ppl 差异（7.99 vs 7.84）存在度量对齐问题, 以用户实测为准。
|
| 549 |
+
|
| 550 |
+
### 十二乙、R14 serving 与公网���用（现役配方）
|
| 551 |
+
|
| 552 |
+
- **serving**: llama-server（/tmp/lcfin）`-m m13_r10_gsqrco_v1.gguf --mmproj mmproj_m11.gguf
|
| 553 |
+
--host 0.0.0.0 --port 8101 --api-key 1234 -c 131072 -fa on -ctk q8_0 -ctv q8_0 -t 2 -ngl 99`
|
| 554 |
+
（双 T4; 单卡 ctx 梯子 65536→32768）; 冒烟 35.9 tok/s, 租金额域题 48,000 元正确
|
| 555 |
+
- **公网调用（单隧道双功能, key=1234）**: `https://aitun.cc/8RF5ST7K/v1/chat/completions`
|
| 556 |
+
（OpenAI 兼容, /v1/models、chat、SSE 流式全绿）
|
| 557 |
+
- 原理: kaggle_server.py 注入 `/v1/*` → 127.0.0.1:8101 代理补丁
|
| 558 |
+
（补丁源: tchbcb/samai-8b-M8:artifacts/r14_scripts/r14_v1_proxy.py; 坑#67/#68）
|
| 559 |
+
- 隧道本体不动: aitun-client -s aitun.cc:6639 -p 5000 → kaggle_server:5000
|
| 560 |
+
（/execute 信封协议 v=1 不变, §四）
|
| 561 |
+
- 备选形态: 无 kaggle_server 的容器 → `aitun -p 8101` 直连隧道（oneclick 自动选择）
|
| 562 |
+
- **一键运行**: `python3 oneclick_gsqrco_serve.py --token hf_xxx`（本仓根目录）
|
| 563 |
+
→ 拉 6.48G+921M+tar → llama-server → 隧道适配 → 打印 curl/openai 调用示例;
|
| 564 |
+
日志 /tmp/k8b/oneclick.log, 旗标 ONECLICK_DONE/ONECLICK_FAIL
|
| 565 |
+
- **A/B 切换**: 盘内 /tmp/k8b/ 两成品均在（r13_container_q40.gguf 为容器版盘内名）,
|
| 566 |
+
pkill llama-server 后换 -m 路径重启即可（ctx 梯子照旧）
|
| 567 |
+
- 推迟项: S4 探针（s8_sprobe_r12.py A-E）+ S5（GAIA#13 复测 + testB 重放）按用户令顺延
|
| 568 |
+
|
| 569 |
+
### 十二丙、隧道运维要点（aitun.cc）
|
| 570 |
+
|
| 571 |
+
- 免 token 隧道: `aitun-client -s aitun.cc:6639 -p <本地端口>` → 自动分配码
|
| 572 |
+
（同机重连保码; 跨机/新实例换码）; **真双隧道需 -k 账户 token**（坑#67）
|
| 573 |
+
- 监督环: jupyter kernel 自动重生 aitun 客户端与 kaggle_server（勿手工抢端口, 坑#68）
|
| 574 |
+
- 测试信封（隧道通用）: crc=9e30c354, payload 行 `cHJpbnQoNDArMik`（print(40+2)）,
|
| 575 |
+
回显 42=全链通
|
| 576 |
+
- 隧道死亡史: GVMHKJCU→044WF3NQ→QCF8P0OM→FNH0ITO4（判死, 坑#50 六现）→
|
| 577 |
+
**8RF5ST7K 现役**（同容器复活, 资产零损）
|
| 578 |
+
- 远端弹药库: tchbcb/samai-8b-M8:artifacts/r14_scripts/（r14_boot / p_r14_fire /
|
| 579 |
+
p_r14_poll / router_8102 / r14_v1_proxy / oneclick 同款）
|