# 数据集说明（AdcSR 微调/蒸馏用 · CSIG 赛题二 轻量Diffusion 超分）
目标域: 4K 城市建筑 / 夜景建筑 / 高楼 / 商铺街道 / 花草 / 居民楼 / 城市远景 / 其他建筑 训练口径: 官方 AdcSR 4x 链, 输入 LR 128x128 -> 输出 HR 512x512 (P1: 512窗->bicubic128->模型->512->融合) 本数据集仅供训练/蒸馏; 推理与官方 3 对 val 见工程根 README/NOTES。
1. 数据源与角色
| 源 | 类型 | 角色 |
|---|---|---|
| NKUSR8K (8K 植物/建筑/街道, 无夜景) | 纯 HR | GT patch 池 |
| 4KLSDB (train_x4 parquet, 原生 4K) | 纯 HR(带 caption) | GT patch 池(建筑/风景/花草, 夜景适量) |
| 4KLSDB 原图 URL 定向抓取 | 纯 HR(1~6K) | 稀疏类补量(夜建/商场/店铺/居民/高楼/城景/其他建筑) |
| LIU4K v2 (Building/Street/Mountain) | 纯 HR(4K+ PNG) | GT patch 池(建筑/街道/风景) |
| RealSR V3 (真实 LR/HR 对) | 真实退化对 | real_pairs 训练/验证(退化域适配) |
2. 目录布局(data/, 整理后)
clean_all/<SRC>/: 清洗后纯 HR 原图 jpg(最长边 4096, q92); ∈ {NKUSR8K, LIU4K, 4KLSDB_b1, 4KLSDB_b2, 4KLSDB_url}real_pairs/RealSR/{train,test}_{hr,lr}/: RealSR V3 真实对(HR1400x800, LR350x200)patches/<category>/: 离线随机裁 512x512 HR patch(仅训练源, 文件名<source>_<stem>__<k>.jpg)patches_val/: 源级隔离的 val patch(训练零重叠)manifest_train.json/manifest_val.json: 训练/验证清单(synthetic_hr + real_pairs)logs/cat_pool_final.json: 最终 8 类池报表(每项 {path}); 同目录 *_clip.json 为各类别 CLIP 打标review/pool_all/*.jpg: 每类 20 张人工复核拼图split_val_sources.json: 留作 val 的源图清单(按源图分组, 防同源泄露)
3. 清洗规则(全部落脚本 tools/)
- 短边 <960 剔除; 宽高比超出 [0.35, 3.0] 剔除
- 灰度拉普拉斯方差(512 缩放下)<50 判模糊剔除
- 纯色/全黑(std<10 或非零像素<0.5%)、过曝(均值>245 或 >30% 像素>250)、低熵(<3.5)剔除
- aHash/dHash 去重(clean_images 内 aHash; 全池最终 pHash/dHash 见 tools/dedup_phash.py)
- CLIP(openai/clip-vit-base-patch32) 8 类分类 + 剔除 people/indoor/other + night-gate
- JPEG 重压体积 <20KB 阈值: 由 min_short>=960+entropy>=3.5 覆盖(可加 --min_recompressed)
4. 8 类配额(清洗后 HR 原图目标)
night_building(夜晚风光建筑) / skyscraper(大厦高楼) / storefront(店铺门牌) / mall(商场外拍) / plant(花草树木) / residential(居民楼) / city_view(城市远景) / other_building(其他建筑) 目标: 每类 400-900, 总池 5000-7000(达标检查见 logs/SUMMARY.txt / README 底部计数)
5. 训练用法
- HR patch 来自 data/patches; real pairs 来自 data/real_pairs(与 HR patch 混训, --data_mode mix)
- 在线增强(训练时): Real-ESRGAN 风格退化(LR128 由 512 HR patch 生成) + 翻转/旋转/色彩抖动 (训练脚本 src/train_lora.py / train_stage2.py; 具体退化参数与 RealPairDataset 对齐)
- 代理评测: RealSR test 99 对 + val 源 patch; 官方 3 对仅终检
6. 复现数据管线(工具链)
clean_images.py -> (tag_categories/clip_filter.py) -> merge_reports.py -> dedup_phash.py -> split_val.py(源级) -> build_patches2.py -> build_manifest.py 4KLSDB 抽取: klsdb_index.py -> klsdb_extract.py(rank/extract); URL 补量: fetch_klsdb_urls.py LIU4K: gdown 分卷 + NVIDIA 7-Zip 解压 -> clean_images -> convert_png_to_jpg.py
7. 版本与计数
- 最后更新: 见 logs/cat_pool_final.json summary 与 data/SUMMARY.txt(由 finalize 生成)
- git 提交记录见工程根 NOTES.md