Upload 总结/总结.md
Browse files
总结/总结.md
ADDED
|
@@ -0,0 +1,127 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 本周总结
|
| 2 |
+
|
| 3 |
+
---
|
| 4 |
+
|
| 5 |
+
## 一句话脉络
|
| 6 |
+
|
| 7 |
+
```
|
| 8 |
+
原始方法(500拟合 2000拟合?) → +残差连接 → +多边形mask → +crop后再OCR(解决截断) → +预退化 → 实验一
|
| 9 |
+
↓
|
| 10 |
+
+新loss(图内平衡+字数加权)
|
| 11 |
+
↓
|
| 12 |
+
实验二
|
| 13 |
+
```
|
| 14 |
+
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
## 起点:原始方法(baseline)
|
| 18 |
+
|
| 19 |
+
在冻结的超分主干上挂一个轻量 adapter,用文字特征(ByT5 编码)通过 cross-attention 注入,改善超分里的文字渲染。原始做法有四个特点:
|
| 20 |
+
|
| 21 |
+
1. **支路注入**:adapter 看主干 block 的**输入**,算完 attention 再加到 block 的输出上(旁路结构)。
|
| 22 |
+
2. **矩形框 mask**:文字区域用 OCR 给的 2 点矩形(左上+右下)画 mask,矩形对不齐倾斜文字。
|
| 23 |
+
3. **整图 OCR**:先对整张高清图 OCR 拿文字框,再按文字密度切 crop。问题:文字框会**横跨 crop 边界**,切 crop 时把文字切断 → 训练的 mask 跨边界、文字残缺。
|
| 24 |
+
4. **实时退化**:训练时每步从高清图现退化出低清图(随机 blur/noise),每步退化结果不同。
|
| 25 |
+
|
| 26 |
+
---
|
| 27 |
+
|
| 28 |
+
## 改进 1:残差连接
|
| 29 |
+
|
| 30 |
+
把 adapter 从"看主干输入"改成"**看主干输出**":
|
| 31 |
+
|
| 32 |
+
```
|
| 33 |
+
原: out = block(x); out = out + adapter(x) # adapter 看输入 x(旁路)
|
| 34 |
+
新: out = block(x); out = out + adapter(out) # adapter 看输出 out, 残差加回
|
| 35 |
+
```
|
| 36 |
+
|
| 37 |
+
**为什么**:残差结构让 adapter 在主干已处理好的特征上做精修,注入更稳、更对齐主干当前状态,而不是和主干"抢"输入。
|
| 38 |
+
|
| 39 |
+
---
|
| 40 |
+
|
| 41 |
+
## 改进 2:多边形 mask
|
| 42 |
+
|
| 43 |
+
文字框从 **2 点矩形**升级成 **4 点多边形**(倾斜四边形)&& 去掉实时退化:
|
| 44 |
+
|
| 45 |
+
- 矩形对不齐倾斜文字,会把文字周围的背景也划进 mask,加权/注入不精确。
|
| 46 |
+
- 多边形紧贴文字真实边界,mask 只覆盖文字像素,背景不被误伤。
|
| 47 |
+
- OCR 本来就输出 4 点多边形,之前是代码主动压扁成矩形丢掉了倾斜信息,现在直接保留。
|
| 48 |
+
|
| 49 |
+
**问题**:原始"整图 OCR → 再切 crop"流程,文字框会跨 crop 边界,切 crop 时文字被切断:
|
| 50 |
+
- mask 跨边界 → adapter 注入位置错乱
|
| 51 |
+
- 文字残缺 → 训练信号不完整
|
| 52 |
+
|
| 53 |
+
**改法**:**先切 crop,再在 crop 内重新 OCR**。
|
| 54 |
+
- crop 内 OCR 得到的多边形**完全在 crop 内**(OCR 只识别 crop 内完整文字)
|
| 55 |
+
- 边缘被切半的文字 OCR 识别不出 → 不进训练(比训练残缺字好)
|
| 56 |
+
- mask 不跨边界、文字完整
|
| 57 |
+
|
| 58 |
+
|
| 59 |
+
---
|
| 60 |
+
|
| 61 |
+
## 实验一
|
| 62 |
+
|
| 63 |
+
把上面 4 个改进合起来:**残差 + 多边形 mask + crop 后 OCR + 预退化**,损失函数沿用最朴素的 mean(加权均方误差)。
|
| 64 |
+
|
| 65 |
+
这是新架构的第一个可跑版本,用来验证改进是否 work。
|
| 66 |
+
|
| 67 |
+
---
|
| 68 |
+
|
| 69 |
+
## 改进 5:新损失函数(实验二)
|
| 70 |
+
|
| 71 |
+
实验一用 mean loss,有两个问题:
|
| 72 |
+
1. **图间不平衡**:文字多的图 loss 大、文字少的 loss 小,训练被文字多的图主导,且 loss 随文字密度剧烈抖动。
|
| 73 |
+
2. **没有字数权重**:所有图同等对待,但字多的图信息量大、应该多学。
|
| 74 |
+
|
| 75 |
+
改成 **Form B × g(n)**:
|
| 76 |
+
|
| 77 |
+
- **Form B(图内平衡)**:`loss = Σ(mse×weight) / Σweight`,把文字区(权重×10)和背景(权重×1)按权重归一化。文字占比不再让 loss 抖动,量纲和文字权重解耦。
|
| 78 |
+
- **g(n) 字数加权**:`g = log1p(字数) / log1p(平均字数)`,字多的图 g>1(权重大)、平均的 g≈1、字少的 g<1。log1p 饱和避免极端,归一到均值 1 → 学习率不用重调。加 g_min 下限保护字少的图不致于学不动。
|
| 79 |
+
|
| 80 |
+
---
|
| 81 |
+
|
| 82 |
+
## 实验二
|
| 83 |
+
|
| 84 |
+
实验一 + 新 loss(Form B × 字数加权)。其余完全相同(同残差、同多边形、同 crop 后 OCR、同预退化、同学习率、同数据)。
|
| 85 |
+
|
| 86 |
+
**对比目的**:只差 loss 公式,看 mean vs FormB×g 哪种 adapter 学得更好。
|
| 87 |
+
|
| 88 |
+
---
|
| 89 |
+
|
| 90 |
+
## 对比效果(step 12000,同一批文字 crop)
|
| 91 |
+
|
| 92 |
+
下面是两个实验在同样 12000 步、同一组 crop 上的推理结果横拼(左实验一/mean,右实验二/FormB×g):
|
| 93 |
+
|
| 94 |
+

|
| 95 |
+

|
| 96 |
+

|
| 97 |
+

|
| 98 |
+

|
| 99 |
+

|
| 100 |
+

|
| 101 |
+

|
| 102 |
+

|
| 103 |
+

|
| 104 |
+

|
| 105 |
+

|
| 106 |
+

|
| 107 |
+

|
| 108 |
+

|
| 109 |
+

|
| 110 |
+

|
| 111 |
+

|
| 112 |
+

|
| 113 |
+

|
| 114 |
+

|
| 115 |
+
|
| 116 |
+
|
| 117 |
+
---
|
| 118 |
+
|
| 119 |
+
## 后续可探索
|
| 120 |
+
|
| 121 |
+
- **dataset**:增加数据集->2000->5000 边看测试集效果
|
| 122 |
+
- **loss密度加权**:g 从"字数"改成"字数/文字面积"(单位面积字数,反映字号密集度),让密集小字图权重大。实测 g 范围 [0.01, 9.67](比字数版 [0.28, 1.60] 宽很多),需要加 g_max 上限截断极端密集图防发散。
|
| 123 |
+
- **ocr loss**:添加ocr 做字形校准 取ocr网络的代表层 不取最终层输出做loss
|
| 124 |
+
- **动态学习率**:10000步后改变不大,减小学习率
|
| 125 |
+
- **lora**:主干+lora微调
|
| 126 |
+
- **主干参加训练**:开放收尾block训练
|
| 127 |
+
---
|