CASID / verification_report.md
Linwei-Chen's picture
remove internal server paths from verification report (privacy audit)
b0a8d99 verified
|
Raw History Blame Contribute Delete
8.33 kB

CASID 发布验证报告

完成时间:2026-10-15 · 范围:全部 980 对原图-标注 · 所有脚本与原始报告可复现(见文末)

一、结论(TL;DR)

  • 数据完整性:980 对原图-标注齐全,无一缺失。978 张原图为 5000×5000,2 张(新加坡-林厝港区-36/-40)为 5000×4656,全部可完整解码(原图 65.19 GB,标注 0.66 GB)。
  • 标注编码:原始大标注为 RGB 颜色编码(非 id 图)。5 个规范色的像素与作者自己的 1024×1024 训练图块逐像素 0 错配(全 980 张通过硬门槛)。
  • 发现并修复了原始训练图块的切图 bug:77 张图(亚热带/热带季风为主)的森林颜色为 (76,230,0) 而非规范绿 (85,255,0),作者切图按规范色精确匹配、失败默认背景,导致这些文件的训练图块丢失成片森林(共 6.24 亿像素)。本发布以大标注为准恢复其类别;修复后逐气候区类别占比与论文公布数字完全对齐(未受影响区域差 ±0.0005)。
  • 裁切脚本:与作者现成图块 150/150 逐像素一致(含 4656 高短图的末行裁齐)。

二、源数据普查

气候带 区域数 图像数 论文 cat_dist.py total_list
热带雨林气候 TroRf 10 210 210 ✓
热带季风气候 TroMs 6 202 202 ✓
亚热带季风气候 SubMs 7 284 284 ✓
温带季风气候 TemMs 7 284 284 ✓
  • 训练/测试划分从 all_train/all_test 死链接符号链接目标重建:按区域整体划分,681 train / 299 test。
  • 测试区域(8 个):07-日本-东京西南、16-湖南-邵阳市北、17-山西-吕梁市、18-河北-张家口市西北、04-菲律宾-拉瓦格周边、10-老挝-万象北部、06-印度尼西亚-帕朗卡拉亚北、12-马来西亚-斯里巴加湾南部。
  • 原始文件名为中文且横线全角/半角混用;发布版全部改为 ASCII 文件名,完整映射见 file_mapping.csv,双语区域表见 regions.csv。

三、标注编码的确认过程

  1. 大标注为 RGB 颜色编码,每个颜色由该图自带的 25 块训练图块(P 模式、像素值=类别 id)逐像素投票定类别;5×5 网格(起点 {0,994,1988,2982,3976},步距 994)100% 覆盖 5000×5000。
  2. 规范 5 色(黑/黄/绿/红/蓝 → 背景/建筑/森林/道路/水体)在全部 980 张上与图块逐像素 0 错配。
  3. 语义锚点:作者脚本 cat_dist.py 注释 colors = ['black','yellow','green','red','blue'] 与 ['Background','Building','Forest','Road','Water'] 一一对应(黄=建筑、红=道路,反直觉但确凿)。

四、原始训练图块的切图 bug(重要发现)

现象:77 张图的大标注中森林颜色是 (76,230,0)(而非规范绿 (85,255,0)),另有 41 张的道路为 (230,0,0)、若干张的水体为蓝变体色。作者切训练图块时按规范色精确匹配,匹配失败的颜色一律落入背景——这些文件的训练图块中森林/道路/水体成片丢失。

证据(以亚热带季风气候/25-浙江-金华市西-5 为例,卫星影像目视确认为满幅山林):

  • 该图大标注:森林 (76,230,0) 2442 万 px,另有黑/黄/红/蓝规范色;
  • 训练图块 H0-W0:背景 104.3 万 px(99.5%)、道路 3748 px、水体 2177 px、森林 0;
  • 道路 3748 / 水体 2177 与大标注分毫不差——同一标注来源,唯独漂移色被丢进背景。

全局统计(v4 图块投票报告):

  • (76,230,0)→图块判"背景" 6.24 亿 px(77 文件,占 3 张整图以上面积的森林被当作背景参与训练);
  • (230,0,0)→背景 952 万 px(41 文件);蓝变体 (0,79,179)/(5,121,239)/(0,113,255)→背景共约 7 万 px;
  • 巨港-21 的白色 (255,255,255) 460 万 px:图块与大标注一致视为背景(nodata),非 bug。

对本发布的影响:发布标注以大标注为权威来源,上述像素全部恢复其类别(见下节规则);使用原始训练图块复现论文实验的用户应注意该 bug 对相应区域的影响。

五、发布标注转换规则(v5)

对每张图:先按 25 块训练图块拼出参考 id 图(要求 100% 覆盖、重叠带一致),再对大标注逐颜色映射:

优先级 规则 适用
1 规范 5 色 → 原 id 全部规范色像素
2 白色 (255,255,255) → 0 背景 图块全票一致 + nodata 惯例
3 图块非零一致票(share≥0.999)→ 采信图块 如 (64,191,0)→道路(2800 px,切图 bug 只会产生背景票,非零票含真实信息)
4 其余颜色 → RGB 欧氏距离最近的规范色 漂移色与 JPEG 尘埃色

硬门槛:规范色像素与图块 0 错配(违反即 FAIL)。结果:980/980 通过,规范色错配总数 0。

重映射总量:846,804,104 px(占数据集 3.46%)。主要条目:

颜色 判定 像素数 文件数
(76,230,0) 森林 624,009,265 77
(3,3,3) 背景 134,314,588 40
(9,9,9) 背景 35,450,438 2
(230,0,0) 道路 9,524,168 41
(255,255,255) 背景 4,595,542 3
(5,6,5)/(5,5,5) 等近黑 背景 ~27,000,000 若干
(4,255,0)/(18,255,0) 森林 2,932,309 2
(64,191,0) 道路(图块票) 2,800 多文件零散

其余 ~1,900 种颜色均为几个像素的 JPEG 尘埃色,按最近规范色处理。

六、逐气候区类别占比 vs 论文公布数字

论文数字取自作者 cat_dist.py(源自训练图块,受第四节 bug 影响):

区 bg bld forest road water 论文 forest Δforest
TroRf 0.1098 0.0899 0.7627 0.0103 0.0273 0.7622 +0.0005
TroMs 0.3466 0.0720 0.5310 0.0117 0.0387 0.4595 +0.0715
SubMs 0.2725 0.1264 0.5514 0.0177 0.0320 0.5144 +0.0370
TemMs 0.4017 0.1090 0.4546 0.0148 0.0199 0.4542 +0.0004

无漂移区域差 ±0.0005(占比结构完全吻合);差异集中于漂移区域,且恰为救回的森林/道路——与第四节互为印证。

七、裁切脚本验证(casid_split.py)

默认参数(1024、步距 994)与作者图块逐像素比对,6 个样本(每气候区 1 张 + 新加坡 2 张短图):

样本 尺寸 图块 图像错配 标注错配
03-台湾-宜兰县以东0 5000×5000 25 0 0
17-山西-吕梁市22 5000×5000 25 0 0
04-菲律宾-拉瓦格周边0 5000×5000 25 0 0
02-马来西亚-吉隆坡17 5000×5000 25 0 0
新加坡-林厝港区-36 5000×4656 25 0 0
新加坡-林厝港区-40 5000×4656 25 0 0

短图处理:固定网格 {0,994,1988,2982,3976} 与作者惯例一致,末行起点 3976、高度裁齐 680。

八、源数据异常清单(本发布的处理)

异常 处理
新加坡-林厝港区-36/-40 为 5000×4656 原样发布,README 记录
台湾区 label/ 目录 35 张 P 模式 PNG(调色板 BGR 顺序、id 语义不明、与 TIF 不一致) 不发布,以 TIF 为准
源目录含作者渲染的 1024 图块与 GID 风格预览图 不再重复发布,用 scripts/casid_split.py 重新生成
区域 id 缺 01;19-23 区目录名用全角横线;无编号雨林区 6 个 regions.csv 全部记录(26-31 为发布补编)
12 区国名(文莱/马来西亚)、22 区(朝鲜/首尔)表述矛盾 regions.csv notes 备注
训练图块切图 bug(第四节) 发布标注已恢复类别;此报告记录

九、复现方式

以下脚本在作者的内部服务器上运行(目录结构从略):

  • audit_casid.py:全量体检(图像解码、尺寸、字节数、标注颜色分布)→ audit_report.json
  • convert_labels_v5.py:标注转换(本报告第五节规则)→ labels_unified_v5/ + convert_report_v5.json
  • validate_v5.py:逐气候区占比 vs 论文 → v5_zone_shares.json
  • validate_split.py:裁切逻辑逐像素比对
  • assemble_release.py:组装发布树(硬链接原图)→ 发布树根目录
  • casid_split.py:DOTA 风格裁切脚本(发布于 scripts/)