LLLIN2 commited on
Commit
9f251c1
·
verified ·
1 Parent(s): 87bf77b

Upload 总结/总结.md

Browse files
Files changed (1) hide show
  1. 总结/总结.md +127 -0
总结/总结.md ADDED
@@ -0,0 +1,127 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 本周总结
2
+
3
+ ---
4
+
5
+ ## 一句话脉络
6
+
7
+ ```
8
+ 原始方法(500拟合 2000拟合?) → +残差连接 → +多边形mask → +crop后再OCR(解决截断) → +预退化 → 实验一
9
+ ↓
10
+ +新loss(图内平衡+字数加权)
11
+ ↓
12
+ 实验二
13
+ ```
14
+
15
+ ---
16
+
17
+ ## 起点:原始方法(baseline)
18
+
19
+ 在冻结的超分主干上挂一个轻量 adapter,用文字特征(ByT5 编码)通过 cross-attention 注入,改善超分里的文字渲染。原始做法有四个特点:
20
+
21
+ 1. **支路注入**:adapter 看主干 block 的**输入**,算完 attention 再加到 block 的输出上(旁路结构)。
22
+ 2. **矩形框 mask**:文字区域用 OCR 给的 2 点矩形(左上+右下)画 mask,矩形对不齐倾斜文字。
23
+ 3. **整图 OCR**:先对整张高清图 OCR 拿文字框,再按文字密度切 crop。问题:文字框会**横跨 crop 边界**,切 crop 时把文字切断 → 训练的 mask 跨边界、文字残缺。
24
+ 4. **实时退化**:训练时每步从高清图现退化出低清图(随机 blur/noise),每步退化结果不同。
25
+
26
+ ---
27
+
28
+ ## 改进 1:残差连接
29
+
30
+ 把 adapter 从"看主干输入"改成"**看主干输出**":
31
+
32
+ ```
33
+ 原: out = block(x); out = out + adapter(x) # adapter 看输入 x(旁路)
34
+ 新: out = block(x); out = out + adapter(out) # adapter 看输出 out, 残差加回
35
+ ```
36
+
37
+ **为什么**:残差结构让 adapter 在主干已处理好的特征上做精修,注入更稳、更对齐主干当前状态,而不是和主干"抢"输入。
38
+
39
+ ---
40
+
41
+ ## 改进 2:多边形 mask
42
+
43
+ 文字框从 **2 点矩形**升级成 **4 点多边形**(倾斜四边形)&& 去掉实时退化:
44
+
45
+ - 矩形对不齐倾斜文字,会把文字周围的背景也划进 mask,加权/注入不精确。
46
+ - 多边形紧贴文字真实边界,mask 只覆盖文字像素,背景不被误伤。
47
+ - OCR 本来就输出 4 点多边形,之前是代码主动压扁成矩形丢掉了倾斜信息,现在直接保留。
48
+
49
+ **问题**:原始"整图 OCR → 再切 crop"流程,文字框会跨 crop 边界,切 crop 时文字被切断:
50
+ - mask 跨边界 → adapter 注入位置错乱
51
+ - 文字残缺 → 训练信号不完整
52
+
53
+ **改法**:**先切 crop,再在 crop 内重新 OCR**。
54
+ - crop 内 OCR 得到的多边形**完全在 crop 内**(OCR 只识别 crop 内完整文字)
55
+ - 边缘被切半的文字 OCR 识别不出 → 不进训练(比训练残缺字好)
56
+ - mask 不跨边界、文字完整
57
+
58
+
59
+ ---
60
+
61
+ ## 实验一
62
+
63
+ 把上面 4 个改进合起来:**残差 + 多边形 mask + crop 后 OCR + 预退化**,损失函数沿用最朴素的 mean(加权均方误差)。
64
+
65
+ 这是新架构的第一个可跑版本,用来验证改进是否 work。
66
+
67
+ ---
68
+
69
+ ## 改进 5:新损失函数(实验二)
70
+
71
+ 实验一用 mean loss,有两个问题:
72
+ 1. **图间不平衡**:文字多的图 loss 大、文字少的 loss 小,训练被文字多的图主导,且 loss 随文字密度剧烈抖动。
73
+ 2. **没有字数权重**:所有图同等对待,但字多的图信息量大、应该多学。
74
+
75
+ 改成 **Form B × g(n)**:
76
+
77
+ - **Form B(图内平衡)**:`loss = Σ(mse×weight) / Σweight`,把文字区(权重×10)和背景(权重×1)按权重归一化。文字占比不再让 loss 抖动,量纲和文字权重解耦。
78
+ - **g(n) 字数加权**:`g = log1p(字数) / log1p(平均字数)`,字多的图 g>1(权重大)、平均的 g≈1、字少的 g<1。log1p 饱和避免极端,归一到均值 1 → 学习率不用重调。加 g_min 下限保护字少的图不致于学不动。
79
+
80
+ ---
81
+
82
+ ## 实验二
83
+
84
+ 实验一 + 新 loss(Form B × 字数加权)。其余完全相同(同残差、同多边形、同 crop 后 OCR、同预退化、同学习率、同数据)。
85
+
86
+ **对比目的**:只差 loss 公式,看 mean vs FormB×g 哪种 adapter 学得更好。
87
+
88
+ ---
89
+
90
+ ## 对比效果(step 12000,同一批文字 crop)
91
+
92
+ 下面是两个实验在同样 12000 步、同一组 crop 上的推理结果横拼(左实验一/mean,右实验二/FormB×g):
93
+
94
+ ![Canon_001](result_infer/compare_step12000/Canon_001_LR_crop0.png)
95
+ ![Canon_144](result_infer/compare_step12000/Canon_144_LR_crop0.png)
96
+ ![Nikon_011](result_infer/compare_step12000/Nikon_011_LR_crop0.png)
97
+ ![Nikon_012](result_infer/compare_step12000/Nikon_012_LR_crop0.png)
98
+ ![Nikon_051](result_infer/compare_step12000/Nikon_051_LR_crop0.png)
99
+ ![Nikon_072](result_infer/compare_step12000/Nikon_072_LR_crop0.png)
100
+ ![Nikon_132](result_infer/compare_step12000/Nikon_132_LR_crop0.png)
101
+ ![Nikon_195](result_infer/compare_step12000/Nikon_195_LR_crop0.png)
102
+ ![renew_118](result_infer/compare_step12000/ip11pro_output_TextSR_renew_118_LR_crop0.png)
103
+ ![renew_28](result_infer/compare_step12000/ip11pro_output_TextSR_renew_28_LR_crop0.png)
104
+ ![renew_72](result_infer/compare_step12000/ip11pro_output_textSR_211206_renew_72_LR_crop0.png)
105
+ ![renew_92](result_infer/compare_step12000/ip11pro_output_textSR_211206_renew_92_LR_crop0.png)
106
+ ![renew_95](result_infer/compare_step12000/ip11pro_output_textSR_211206_renew_95_LR_crop0.png)
107
+ ![renew_102](result_infer/compare_step12000/ip11pro_output_textSR_220111_xwm_renew_102_LR_crop0.png)
108
+ ![renew_34](result_infer/compare_step12000/ip11pro_output_xwm_textSR_211021_renew_34_LR_crop0.png)
109
+ ![100APPLE_28](result_infer/compare_step12000/ip12pro_output_100APPLE_renew_28_LR_crop0.png)
110
+ ![101APPLE_14](result_infer/compare_step12000/ip12pro_output_101APPLE_renew_14_LR_crop0.png)
111
+ ![101APPLE_28](result_infer/compare_step12000/ip12pro_output_101APPLE_renew_28_LR_crop0.png)
112
+ ![101APPLE_90](result_infer/compare_step12000/ip12pro_output_101APPLE_renew_90_LR_crop0.png)
113
+ ![102APPLE_2](result_infer/compare_step12000/ip12pro_output_102APPLE_renew_2_LR_crop0.png)
114
+ ![103APPLE_37](result_infer/compare_step12000/ip12pro_output_103APPLE_renew_37_LR_crop0.png)
115
+
116
+
117
+ ---
118
+
119
+ ## 后续可探索
120
+
121
+ - **dataset**:增加数据集->2000->5000 边看测试集效果
122
+ - **loss密度加权**:g 从"字数"改成"字数/文字面积"(单位面积字数,反映字号密集度),让密集小字图权重大。实测 g 范围 [0.01, 9.67](比字数版 [0.28, 1.60] 宽很多),需要加 g_max 上限截断极端密集图防发散。
123
+ - **ocr loss**:添加ocr 做字形校准 取ocr网络的代表层 不取最终层输出做loss
124
+ - **动态学习率**:10000步后改变不大,减小学习率
125
+ - **lora**:主干+lora微调
126
+ - **主干参加训练**:开放收尾block训练
127
+ ---