| # 数据集说明（AdcSR 微调/蒸馏用 · CSIG 赛题二 轻量Diffusion 超分） | |
| > 目标域: 4K 城市建筑 / 夜景建筑 / 高楼 / 商铺街道 / 花草 / 居民楼 / 城市远景 / 其他建筑 | |
| > 训练口径: 官方 AdcSR 4x 链, 输入 LR 128x128 -> 输出 HR 512x512 (P1: 512窗->bicubic128->模型->512->融合) | |
| > 本数据集仅供训练/蒸馏; 推理与官方 3 对 val 见工程根 README/NOTES。 | |
| ## 1. 数据源与角色 | |
| | 源 | 类型 | 角色 | | |
| |---|---|---| | |
| | NKUSR8K (8K 植物/建筑/街道, 无夜景) | 纯 HR | GT patch 池 | | |
| | 4KLSDB (train_x4 parquet, 原生 4K) | 纯 HR(带 caption) | GT patch 池(建筑/风景/花草, 夜景适量) | | |
| | 4KLSDB 原图 URL 定向抓取 | 纯 HR(1~6K) | 稀疏类补量(夜建/商场/店铺/居民/高楼/城景/其他建筑) | | |
| | LIU4K v2 (Building/Street/Mountain) | 纯 HR(4K+ PNG) | GT patch 池(建筑/街道/风景) | | |
| | RealSR V3 (真实 LR/HR 对) | 真实退化对 | real_pairs 训练/验证(退化域适配) | | |
| ## 2. 目录布局(data/, 整理后) | |
| - `clean_all/<SRC>/`: 清洗后纯 HR 原图 jpg(最长边 4096, q92); <SRC> ∈ {NKUSR8K, LIU4K, 4KLSDB_b1, 4KLSDB_b2, 4KLSDB_url} | |
| - `real_pairs/RealSR/{train,test}_{hr,lr}/`: RealSR V3 真实对(HR~1400x800, LR~350x200) | |
| - `patches/<category>/`: 离线随机裁 512x512 HR patch(仅训练源, 文件名 `<source>_<stem>__<k>.jpg`) | |
| - `patches_val/`: 源级隔离的 val patch(训练零重叠) | |
| - `manifest_train.json` / `manifest_val.json`: 训练/验证清单(synthetic_hr + real_pairs) | |
| - `logs/cat_pool_final.json`: 最终 8 类池报表(每项 {path}); 同目录 *_clip.json 为各类别 CLIP 打标 | |
| - `review/pool_all/*.jpg`: 每类 20 张人工复核拼图 | |
| - `split_val_sources.json`: 留作 val 的源图清单(按源图分组, 防同源泄露) | |
| ## 3. 清洗规则(全部落脚本 tools/) | |
| - 短边 <960 剔除; 宽高比超出 [0.35, 3.0] 剔除 | |
| - 灰度拉普拉斯方差(512 缩放下)<50 判模糊剔除 | |
| - 纯色/全黑(std<10 或非零像素<0.5%)、过曝(均值>245 或 >30% 像素>250)、低熵(<3.5)剔除 | |
| - aHash/dHash 去重(clean_images 内 aHash; 全池最终 pHash/dHash 见 tools/dedup_phash.py) | |
| - CLIP(openai/clip-vit-base-patch32) 8 类分类 + 剔除 people/indoor/other + night-gate | |
| - JPEG 重压体积 <20KB 阈值: 由 min_short>=960+entropy>=3.5 覆盖(可加 --min_recompressed) | |
| ## 4. 8 类配额(清洗后 HR 原图目标) | |
| night_building(夜晚风光建筑) / skyscraper(大厦高楼) / storefront(店铺门牌) / | |
| mall(商场外拍) / plant(花草树木) / residential(居民楼) / city_view(城市远景) / other_building(其他建筑) | |
| 目标: 每类 400-900, 总池 5000-7000(达标检查见 logs/SUMMARY.txt / README 底部计数) | |
| ## 5. 训练用法 | |
| - HR patch 来自 data/patches; real pairs 来自 data/real_pairs(与 HR patch 混训, --data_mode mix) | |
| - 在线增强(训练时): Real-ESRGAN 风格退化(LR128 由 512 HR patch 生成) + 翻转/旋转/色彩抖动 | |
| (训练脚本 src/train_lora.py / train_stage2.py; 具体退化参数与 RealPairDataset 对齐) | |
| - 代理评测: RealSR test 99 对 + val 源 patch; 官方 3 对仅终检 | |
| ## 6. 复现数据管线(工具链) | |
| clean_images.py -> (tag_categories/clip_filter.py) -> merge_reports.py -> dedup_phash.py -> | |
| split_val.py(源级) -> build_patches2.py -> build_manifest.py | |
| 4KLSDB 抽取: klsdb_index.py -> klsdb_extract.py(rank/extract); URL 补量: fetch_klsdb_urls.py | |
| LIU4K: gdown 分卷 + NVIDIA 7-Zip 解压 -> clean_images -> convert_png_to_jpg.py | |
| ## 7. 版本与计数 | |
| - 最后更新: 见 logs/cat_pool_final.json summary 与 data/SUMMARY.txt(由 finalize 生成) | |
| - git 提交记录见工程根 NOTES.md | |