Raphael2099 commited on
Commit
d60a385
·
verified ·
1 Parent(s): 5cf5951

Backup final OCR data manifests mirror 2026-06-28

Browse files
competition_final_2026-06-28/POST_COMPETITION_WRAPUP_0626.md ADDED
@@ -0,0 +1,440 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 2026-06-26 复赛收尾复盘
2
+
3
+ ## 0. 最终状态
4
+
5
+ 复赛线上最优成绩:
6
+
7
+ ```text
8
+ 日期: 2026-06-25 12:31:21
9
+ 方案: arm59o
10
+ F1: 0.680599
11
+ 检测阶段F1: 0.795365
12
+ 识别阶段准确率: 0.855706
13
+ TP: 4934
14
+ FP: 1229
15
+ FN: 3402
16
+ Precision: 0.800584
17
+ Recall: 0.591891
18
+ ```
19
+
20
+ 最终保底合规镜像:
21
+
22
+ ```text
23
+ crpi-0dqah8p2l5jt2cua.cn-hangzhou.personal.cr.aliyuncs.com/fly_obc/main:arm59o_floor_compliant_0626
24
+ sha256:4d393fe62cbacffc584785c360ddd9a4342620d6d7e01790abf111bb3600c826
25
+ ```
26
+
27
+ 原始最高分镜像:
28
+
29
+ ```text
30
+ crpi-0dqah8p2l5jt2cua.cn-hangzhou.personal.cr.aliyuncs.com/fly_obc/main:arm59o
31
+ sha256:8118a3ace1cf9b76ccb693a4be5127551a0f22dd62a91b015d48647610d7c333
32
+ ```
33
+
34
+ 最后一发 ARM6 RT-DETR 失败:
35
+
36
+ ```text
37
+ 日期: 2026-06-26 12:47:08
38
+ 方案: arm6_rtdetr_0626
39
+ F1: 0.656565
40
+ 检测阶段F1: 0.799813
41
+ 识别阶段准确率: 0.820898
42
+ TP: 4918
43
+ FP: 1727
44
+ FN: 3418
45
+ Precision: 0.740105
46
+ Recall: 0.589971
47
+ ```
48
+
49
+ 结论:ARM6 的 RT-DETR proposal 增加大量 FP,TP 和 Recall 没有增加,线上失败。回退 `arm59o` 是正确决策。
50
+
51
+ ### 0.1 分数爬升轨迹
52
+
53
+ 这次不是长周期完整项目,而是极短冲刺。实际节奏:
54
+
55
+ ```text
56
+ 6/19-6/21 端午期间恢复环境与重新下数据,6/20 在华科开始重建数据。
57
+ 6/21 师门聚餐,仍未进入稳定工作流。
58
+ 6/22 回北京高铁 + 法语课 + 北语讲座。
59
+ 6/23 才真正进入高强度推进。
60
+ 6/26 14:00 复赛结束。
61
+ ```
62
+
63
+ 线上分数轨迹:
64
+
65
+ | 日期时间 | F1 | Det F1 | Rec Acc | TP | FP | FN | Precision | Recall | 备注 |
66
+ |---|---:|---:|---:|---:|---:|---:|---:|---:|---|
67
+ | 2026-06-18 00:37 | 0.516722 | 0.648453 | 0.796852 | 3291 | 1111 | 5045 | 0.747615 | 0.394794 | 早期 baseline |
68
+ | 2026-06-21 23:55 | 0.516722 | 0.648453 | 0.796852 | 3291 | 1111 | 5045 | 0.747615 | 0.394794 | 仍未推进 |
69
+ | 2026-06-22 00:45 | 0.600849 | 0.711869 | 0.844044 | 4032 | 1053 | 4304 | 0.792920 | 0.483685 | 第一轮系统恢复 |
70
+ | 2026-06-22 23:01 | 0.636085 | 0.735573 | 0.864747 | 4354 | 1000 | 3982 | 0.813224 | 0.522313 | ARM-4 级别 |
71
+ | 2026-06-23 18:44 | 0.656622 | 0.774766 | 0.847510 | 4663 | 1204 | 3673 | 0.794784 | 0.559381 | 检测线开始起效 |
72
+ | 2026-06-23 23:55 | 0.662596 | 0.781474 | 0.847881 | 4721 | 1193 | 3615 | 0.798275 | 0.566339 | arm55probe |
73
+ | 2026-06-24 17:39 | 0.673338 | 0.789938 | 0.852393 | 4845 | 1210 | 3491 | 0.800165 | 0.581214 | 识别/字典线增益 |
74
+ | 2026-06-24 23:44 | 0.676340 | 0.793807 | 0.852020 | 4871 | 1197 | 3465 | 0.802736 | 0.584333 | 持续小增益 |
75
+ | 2026-06-25 12:31 | 0.680599 | 0.795365 | 0.855706 | 4934 | 1229 | 3402 | 0.800584 | 0.591891 | 最优 arm59o |
76
+ | 2026-06-25 23:51 | 0.677435 | 0.790782 | 0.856665 | 4865 | 1162 | 3471 | 0.807201 | 0.583613 | 更保守但召回回落 |
77
+ | 2026-06-26 12:47 | 0.656565 | 0.799813 | 0.820898 | 4918 | 1727 | 3418 | 0.740105 | 0.589971 | ARM6 RT-DETR 失败,FP 爆炸 |
78
+ | 2026-06-26 13:38 | 0.680599 | 0.795365 | 0.855706 | 4934 | 1229 | 3402 | 0.800584 | 0.591891 | floor-compliant 回归最优 |
79
+
80
+ 核心事实:
81
+
82
+ ```text
83
+ 6/21 23:55 -> 6/25 12:31:
84
+ F1 0.516722 -> 0.680599,绝对提升 +0.163877。
85
+
86
+ 6/23 18:44 -> 6/25 12:31:
87
+ F1 0.656622 -> 0.680599,绝对提升 +0.023977。
88
+
89
+ 最后 ARM6:
90
+ F1 0.680599 -> 0.656565,失败原因是 FP 1229 -> 1727,而 Recall 没涨。
91
+ ```
92
+
93
+ 这说明:短期冲刺能力很强,但最后一发检测大赌注缺少足够时间做 V100 运行和线上分布风险验证。长期要把这种冲刺能力改造成结构化、低波动的迭代系统。
94
+
95
+ ## 1. 最终可复现资产
96
+
97
+ 本地备份目录:
98
+
99
+ ```text
100
+ backups/2026-06-26_final/
101
+ ```
102
+
103
+ HF 备份:
104
+
105
+ ```text
106
+ model repo:
107
+ https://huggingface.co/Raphael2099/oracle-ocr-models/tree/main/competition_final_2026-06-26
108
+ commit: https://huggingface.co/Raphael2099/oracle-ocr-models/commit/3b053019778d074e6a4b9a2bbf64920e13253b27
109
+
110
+ data repo:
111
+ https://huggingface.co/datasets/Raphael2099/oracle-ocr-data/tree/main/competition_final_2026-06-26
112
+ commit: https://huggingface.co/datasets/Raphael2099/oracle-ocr-data/commit/2a5b835619b4839e6aab5f5f345dcb99b002ff83
113
+ ```
114
+
115
+ 内容:
116
+
117
+ ```text
118
+ a800/a800_rtdetr_revival_artifacts_0626.tgz
119
+ a800/a800_yolo_rtdetr_config_labels_0626.tgz
120
+ a800/yolo_rtdetr_file_manifest.txt
121
+ image_refs/arm59o_image_inspect.json
122
+ image_refs/arm59o_floor_compliant_image_inspect.json
123
+ image_refs/arm6_rtdetr_image_inspect.json
124
+ image_refs/arm59o_floor_compliant_manifest.json
125
+ image_refs/arm6_rtdetr_manifest.json
126
+ packages/arm59o_floor_compliant_project_0626.tgz
127
+ packages/arm6_rtdetr_project_0626.tgz
128
+ docs/*.md
129
+ ```
130
+
131
+ 没有备份完整 Docker tar。原因:单镜像约 19GB,Aliyun Registry 已有 digest 级备份,本地另有 image inspect/manifest/project 包。若赛后必须长期冷备,再单独 `docker save | zstd` 上传,不应在比赛收尾高压时做。
132
+
133
+ 没有备份完整 `yolo_rtdetr` 图片目录。原因:A800 上目录约 36GB,已备份 data.yaml、labels、文件 manifest、构建脚本和训练产物。完整图片目录可由原��数据和构建脚本重建;若云卡剩余网络时间充足,可以后台上传。
134
+
135
+ ## 2. arm59o 锁版配方
136
+
137
+ 检测:
138
+
139
+ ```text
140
+ detector: /app/models/yolo26/best.pt
141
+ conf: 0.20
142
+ iou: 0.45
143
+ imgsz: 1280
144
+ max_det: 500 by inference_ens.py default
145
+ ```
146
+
147
+ 识别器 9 模型:
148
+
149
+ ```text
150
+ /app/models/recognizer/best.pth weight 2
151
+ /app/models/recognizer_v6/best.pth weight 1
152
+ /app/models/recognizer_dinov2_base224_c1/best.pth weight 1
153
+ /app/models/recognizer_moon/best.pth weight 1
154
+ /app/models/recognizer_cnxt_tiny/best.pth weight 1
155
+ /app/models/rec_dino_robust/best_ema.pth weight 3
156
+ /app/models/rec_oov_cnxt_v3/best_raw.pth weight 5
157
+ /app/models/rec_kaomfull_robust_v1/best_raw.pth weight 2
158
+ /app/models/rec_kaomfull_dinobase_v1/best_raw.pth weight 2
159
+ ```
160
+
161
+ 识别参数:
162
+
163
+ ```text
164
+ rec_conf: 0.15
165
+ tta: enabled
166
+ tta_margins: 0,0.05,0.1
167
+ ARM59_FUNNEL=1
168
+ ```
169
+
170
+ 注意:早期文档里 `max_det=800` 是文档错误。锁版镜像 `/app/run.sh` 不显式传 `--max_det`,实际用 `inference_ens.py` 默认 `500`。
171
+
172
+ ## 3. ARM6 为什么失败
173
+
174
+ ARM6 的预期:`arm59o` floor + A800 RT-DETR proposal append + 宽式隶定 hard map。
175
+
176
+ 实际线上:
177
+
178
+ ```text
179
+ TP: 4934 -> 4918 (-16)
180
+ FP: 1229 -> 1727 (+498)
181
+ FN: 3402 -> 3418 (+16)
182
+ Precision: 0.800584 -> 0.740105
183
+ Recall: 0.591891 -> 0.589971
184
+ F1: 0.680599 -> 0.656565
185
+ ```
186
+
187
+ 失败原因:
188
+
189
+ 1. RT-DETR 产出了更多候选框,但不是更多“可被识别器读对的真框”。
190
+ 2. 新增框主要变成纹理、残画、边缘、重复区域的 FP。
191
+ 3. 识别器不能可靠过滤这些新框。低置信检测源不是召回增益,而是 FP 放大器。
192
+ 4. 线上结果中 TP 和 Recall 没有提高,说明这不是简单调高 `proposal_conf` 能解决的问题。
193
+
194
+ 经验:检测是瓶颈,但“检测召回”不等于“端到端可读召回”。未来检测实验必须以 `NEW_TP / NEW_FP` 和端到端 F1 为主判据,不能只看 raw detection F1 或更多框。
195
+
196
+ ## 4. 已验证的 NO-GO/GO 经验
197
+
198
+ ### 有效
199
+
200
+ 1. `arm59o` 的 5 probe 有效:
201
+ - font-B 小字识别票
202
+ - OOV 扩类
203
+ - formula/rule 套语 rerank
204
+ - recovered 低置信补框
205
+ - funnel 当时线上有一定增益,但风险高
206
+ 2. 宽式隶定 hard map 的小范围处理合理:
207
+ - `乍 -> 作`
208
+ - `白 -> 伯`
209
+ - `隹 -> 唯`
210
+ - 不启用 `不 -> 丕`、`大 -> 太`、`且 -> 祖`、`中 -> 仲` 等默认硬映射
211
+ 3. 数据库和审计台适合作为训练、复核、人工标注辅助,不适合线上逐器查答案。
212
+
213
+ ### 失败
214
+
215
+ 1. VLM 当线上识别/审核器失败:
216
+ - 自由生成 FP 过高
217
+ - shallow fusion 无增益
218
+ - formula 审核会误杀 TP
219
+ - 适合产品线,不适合竞赛线上推理
220
+ 2. RT-DETR proposal 在线失败:
221
+ - FP 爆炸
222
+ - Recall 不涨
223
+ - 运行耗时和 V100 显存也有风险
224
+ 3. 甲骨 specialist 没进入最终投票:
225
+ - 不确定线上甲骨比例
226
+ - 常开第10票可能稀释金文主域
227
+
228
+ ## 5. 数据库和审计台的正确定位
229
+
230
+ 数据库 sidecar 已打进 `/project/private_data`,但没有进入 `/app/run.sh` 推理链路。它现在只是:
231
+
232
+ ```text
233
+ 复现材料
234
+ 数据来源说明
235
+ 审计辅助
236
+ 赛后训练数据来源
237
+ 人工标注练习题
238
+ ```
239
+
240
+ 不做:
241
+
242
+ ```text
243
+ 测试图匹配器物后查释文抄答案
244
+ 根据文件名或器物编号硬改输出
245
+ VLM 在线查考证
246
+ ```
247
+
248
+ 赛后应该把数据库和审计台转成:
249
+
250
+ 1. 人工标注优先队列。
251
+ 2. 错题本。
252
+ 3. 宽式隶定和通假规则的证据库。
253
+ 4. 训练数据挖掘器。
254
+ 5. 学者核对原文的产品工具。
255
+
256
+ ## 6. 云卡剩余 1 天建议
257
+
258
+ 停止一切复赛冲榜训练,不再花钱追分。剩余云卡只做资产沉淀或论文主线。
259
+
260
+ 优先级:
261
+
262
+ 1. 上传备份到 HF。
263
+ 2. 若网络空闲,后台上传 A800 `yolo_rtdetr` 36GB 完整目录到 HF dataset,作为失败实验资产。
264
+ 3. 跑论文主线需要的可复现实验,不再跑 OCR 大赌注。
265
+ 4. 金文数据库 OCR/结构化可轻量跑:
266
+ - 马承源《铭文选》
267
+ - 容庚《秦汉金文录》
268
+ - 器名、图版、释文、页码、来源三合一
269
+ 5. 不再开新的 DETR、VLM、甲骨 specialist 竞赛实验。
270
+
271
+ 可执行命令方向:
272
+
273
+ ```text
274
+ HF 备份 > 论文实验 > 金文数据库 OCR > 其他
275
+ ```
276
+
277
+ ## 7. 赛后可继续的技术主线
278
+
279
+ ### A. 人工标注和错题本
280
+
281
+ 人工标注不只是标数据,也可以当认字训练:
282
+
283
+ 1. 每天固定 1 小时。
284
+ 2. 每次只做 30 到 50 字。
285
+ 3. 标注时查原书释文、数据库、通假字典。
286
+ 4. 每个争议字记录:
287
+ - 图像
288
+ - 模型输出
289
+ - GT/宽式释文
290
+ - 原书释文
291
+ - 规则理由
292
+ 5. 最终形成 hard positives 和 hard negatives。
293
+
294
+ 目标:先做 2k 字,再做 5k 字,不追求一天暴冲。
295
+
296
+ ### B. 检测系统升级
297
+
298
+ 未来检测不是“再加一个检测器”,而是:
299
+
300
+ 1. 收集真实漏检 hard positives。
301
+ 2. 训练检测器专门吃小字、长铭文、鸟虫书、残拓。
302
+ 3. 新框必须经高精度 verifier:
303
+ - 识别置信
304
+ - 多模型一致性
305
+ - 字形质量
306
+ - 上下文规则
307
+ - 数据库证据只作为离线验证
308
+ 4. append 不 replace。
309
+ 5. Gate 用端到端指标,不用 raw recall 自嗨。
310
+
311
+ ### C. 宽式隶定和通假规则库
312
+
313
+ 方向是对的,但要从 5 个个案扩到规则系统:
314
+
315
+ 1. 以古汉语通假字典、王力字典、集成注释为三类证据。
316
+ 2. 分 A/B/C:
317
+ - A: 几乎无条件硬映射
318
+ - B: 需要上下文
319
+ - C: 只做候选,不自动改
320
+ 3. 本地 GT 严式 noisy 时不要直接用 local F1 判死。
321
+ 4. 每条规则要记录证据来源和反例。
322
+
323
+ ### D. 金文数据库产品线
324
+
325
+ 有长期价值。重点不是炫技,而是帮学者核对:
326
+
327
+ ```text
328
+ 器名
329
+ 编号
330
+ 图版页
331
+ 释文页
332
+ 原书目录
333
+ 简介
334
+ 书影链接
335
+ 审计状态
336
+ ```
337
+
338
+ 优先书:
339
+
340
+ 1. 《殷周金文集成》
341
+ 2. 马承源《铭文选》
342
+ 3. 容庚《秦汉金文录》
343
+ 4. 铭图续
344
+
345
+ 审计台要等数据库 join 更准后重烤,否则会复核一堆错误关联。
346
+
347
+ ### E. OOV/度量学习
348
+
349
+ 适合下一轮,不适合最后 10 小时:
350
+
351
+ 1. 分类模型继续保主干。
352
+ 2. ArcFace/metric learning 做长尾 verifier。
353
+ 3. 字典字形做 gallery。
354
+ 4. 不常开稀释主投票,先做 rerank 或 only-on-uncertain。
355
+
356
+ ## 8. 个人系统复盘
357
+
358
+ Q2 三条线:
359
+
360
+ ```text
361
+ A 早期中国/秦统一/GIS 综合国力阈值
362
+ B 法语 B2
363
+ C 甲骨文 OCR
364
+ ```
365
+
366
+ 共同问题不是能力不够,而是系统结构坏了:
367
+
368
+ 1. 多线并发,注意力碎片化。
369
+ 2. 依赖短期冲刺,不依赖长期节律。
370
+ 3. 用熬夜、短视频、情色内容、社交奔波消耗精力。
371
+ 4. 每条线都推进到“有一点成果但未闭环”的状态。
372
+ 5. 临近节点靠强刺激冲刺,压力回落后自责。
373
+
374
+ 这不是道德问题,按工程方式处理:
375
+
376
+ ```text
377
+ 减少输入源
378
+ 固定主线
379
+ 限制娱乐入口
380
+ 每天小步闭环
381
+ 每周复盘一次
382
+ ```
383
+
384
+ ## 9. 下一阶段结构
385
+
386
+ ### 6月26日到6月30日
387
+
388
+ 1. 睡眠恢复。
389
+ 2. 关闭云卡非必要任务。
390
+ 3. 完成 HF 备份。
391
+ 4. 写一页比赛复盘,不再反复刷榜。
392
+ 5. 法语只保最低维护,不加新目标。
393
+
394
+ ### 7月1日到7月18日
395
+
396
+ 目标:收束,而不是新开线。
397
+
398
+ 1. 法语完成最后一次课。
399
+ 2. 每天最多 30 分钟维护,不再冲 B2。
400
+ 3. OCR 只做资料整理和数据库轻任务,不再大训练。
401
+ 4. 准备 NUS 论文主线资料。
402
+
403
+ ### 7月18日之后
404
+
405
+ 主线切换:
406
+
407
+ ```text
408
+ NUS 论文主线 = 70%
409
+ 金文数据库/古文字 OCR = 20%
410
+ 法语维护 = 10%
411
+ ```
412
+
413
+ 规则:
414
+
415
+ 1. 同一时间只允许一个主战场。
416
+ 2. 每天先做主线 2 小时,再允许做支线。
417
+ 3. 短视频、算命八字、情色电影、无效社交全部降级为高风险输入。
418
+ 4. 晚上 23:30 后不做技术决策,不开新任务。
419
+ 5. 所有新想法先进 backlog,48 小时后再决定。
420
+
421
+ ## 10. 最小日程模板
422
+
423
+ ```text
424
+ 08:30 起床,洗漱,出门或坐到书桌
425
+ 09:00 主线深工 90 分钟
426
+ 10:30 休息 15 分钟
427
+ 10:45 主线深工 90 分钟
428
+ 12:15 午饭
429
+ 14:00 轻任务/资料整理 90 分钟
430
+ 16:00 运动或散步
431
+ 19:00 法语/古文字维护 45 分钟
432
+ 20:00 自由时间,但不刷短视频
433
+ 23:30 关屏
434
+ ```
435
+
436
+ 不追求完美执行,只追求每天有一个闭环。
437
+
438
+ ## 11. 一句话
439
+
440
+ 这次不是“天赋没兑现”的终局,而是一次代价很高的系统暴露。下一步要从“短期冲刺型聪明”转成“长期结构型产出”。技术资产还在,方向也还在,但必须减少主线数量,恢复作息,把强刺激从默认环境里移出去。
competition_final_2026-06-28/a800_du_summary.txt ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ 36G data/processed_fusai/yolo_rtdetr
2
+ 135M runs/detect/det_out/rtdetr_revival
competition_final_2026-06-28/a800_yolo_rtdetr_config_labels_0626.tgz ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9633a4c0fbc81987fee59f46ecde5da8acc41fdd52031590f966dff0ccd808c1
3
+ size 2105877
competition_final_2026-06-28/yolo_rtdetr_file_manifest.txt ADDED
The diff for this file is too large to render. See raw diff