File size: 17,272 Bytes

10979b5

# GmNet Journal 本地实验结论

更新时间：2026-07-13 UTC

## 1. 执行范围与状态

本轮完成了当前节点、现有数据和现有 checkpoint 能够严谨执行的本地实验。
训练或评估输出保留在 `/tmp/gmnet_runs/`，可复核的小型结果表、JSON 和
Markdown 已归档到 `/nfs/ywang29/GmNet/local_results/20260712/`。

| 实验 | 本地状态 | 主要交付物 | 结论用途 |
|---|---|---|---|
| E0 environment/DDP smoke | 完成 | 单卡和 8 卡 DDP 均成功 | 只证明训练链路可运行 |
| E1 operator spectral audit | 完成 | 1,080 条频谱记录，5 seeds | 验证频率测量与算子机制 |
| E1 trained-feature audit | 完成 | 6 gates x 3 seeds x 10k | 检验训练后频谱与准确率关系 |
| E2 synthetic mechanism | 完成 | 5 seeds，5,610 条观测 | 分离谐波、alias、clipping 和 cue coupling |
| E3 CIFAR-100 gate screen | 完成 | 18 个 100-epoch run | clean、5 corruption、paired bootstrap |
| ImageNet-v2 local pre-gate | 完成 | 7 个 100-epoch run | corrected smooth、fixed-c6、activation-only |
| E4 frozen intervention | 完成 | ReLU6 三 seeds，全 10k test | gate alignment 敏感性诊断 |
| Legacy ImageNet clean | 完成 | 50k validation | historical checkpoint 兼容性结果 |
| E6 partial corruption | 完成 | 类均衡 5,000 图 | 自定义 corruption 局部结论 |
| E8 partial attack | 完成 | 类均衡 1,000 图 | PGD-10 与等 L2 频带攻击 |
| E12 local deployment | 完成 | 5 个独立进程 | A100、CPU、ONNX Runtime |
| E7/E9/E10 | 当前不可运行 | 数据或正式 runner 缺失 | 不产生结果 |
| ImageNet-v2 long runs | 超过 12 小时 | revised 21-task staged matrix | 仅 anchor 可提交，尚未提交 |

所有 CIFAR-100 模型均使用固定第 100 轮 `checkpoint_last.pt`。没有使用
CIFAR-100 test set 选择 `checkpoint_best.pt`。E3 的主要差异采用 2,000 次
hierarchical paired bootstrap，同时重采样训练 seed 和配对测试样本。

## 2. 总体科学结论

本地证据支持的主线不是“高频能量越多，分类越好”，而是：

1. 自乘 gate 会产生可重复的跨频率混合，线性 no-gate 对照不会产生新谐波。
2. 完全移除 gate 会显著降低分类准确率，但 activation-only retraining 并未下降；
   因此本地结果支持 gated operator 的作用，不支持“乘法本身对最终准确率必要”。
   ReLU6、ReLU、GELU 和 smooth-static 的 primary Top-1 也没有显著差异。
3. 训练得到的样本、空间和通道对齐比总高频能量更重要。破坏对齐会使冻结模型
   接近随机，而 no-gate 模型虽然有更高的 feature PSD centroid，准确率却最低。
4. clipping 能控制算子频谱，但标准 ReLU6 在训练模型中很少真正到达 6。旧
   smooth gate 的 0.8 至 1.2 阈值受 `raw_clip` weight decay 混杂，不能解释为
   主动适应；zero-WD 重跑得到稳定且分 stage 的 1.69 至 6.0 阈值。
5. 当前 checkpoint 对普通 corruption 有一定保持率，但对 PGD-10 不鲁棒。
   频带攻击只证明当前较强等 L2 预算下各频带都能破坏模型，不证明独特的高频脆弱性。

因此 journal 的稳健叙事应改为：**input-dependent multiplicative spectral mixing、
learned alignment 和 controllable clipping**，而不是把 raw high-frequency energy
直接等同于有效语义或准确率来源。

## 3. E1：频谱测量与训练后特征

### 3.1 测量协议审计

- FFT、DCT-II 和 Haar 的全逆变换/分带重构最大误差为 `8.53e-14`。
- 三种基底对 paired frequency shift 的排序一致，最低 Spearman `rho=0.933`。
- 高幅输入下，ReLU6 相比 ReLU 将 gate-only frequency-AUC 增量从
  `0.06220` 降至 `0.05248`，降幅为 `15.6%`。
- smooth-clipped 与 ReLU6 的该指标只差 `3.44e-5`。
- 随机初始化 block 的 gate 前值达到 6 的比例仅 `0.00427%`，ReLU6 与 ReLU
  residual branch 的频谱差仅 `3.31e-5`。这说明未经训练时 cap 几乎不生效。

该结果验证了测量工具和 clipping 对高幅输入的机制效应，但 energy AUC 不是分类
准确率，也不是模型函数频率。

### 3.2 训练模型的 Frequency-Accuracy AUC

| Gate | Clean Top-1 (%) | Frequency-Accuracy AUC |
|---|---:|---:|
| ReLU | 57.53 +/- 0.97 | 43.416 +/- 0.363 |
| smooth-static | 57.15 +/- 1.44 | 43.380 +/- 0.765 |
| ReLU6 | 57.07 +/- 1.62 | 43.174 +/- 1.237 |
| GELU | 57.04 +/- 0.47 | 43.525 +/- 0.328 |
| identity self-gate | 56.91 +/- 0.73 | 43.162 +/- 0.473 |
| no-gate | 43.07 +/- 0.31 | 32.761 +/- 0.145 |

no-gate 的 stage1/stage2 spectral centroid 为 `0.363/0.489`，高于 ReLU6 的
`0.304/0.454`，但其 Top-1 低约 14 pp。这直接否定“高频能量越多，识别越好”
的强主张。更高的 PSD centroid 可能对应无用细节、alias 或未对齐能量。

ReLU6 的实际 clip crossing 主要集中于 stage1，为 `0.430%`，后续 stage
接近 0。旧 smooth-static 的 stage1 到 stage4 clip 均值为
`1.19/1.21/0.95/0.81`，实际 crossing 为 `5.64%/0.52%/0.31%/0.49%`。
由于该 run 对 `raw_clip` 施加了 weight decay，这些绝对阈值只说明旧模型实际发生
了 clipping，不能证明阈值下降来自任务自适应。ReLU6 在深层仍近似 ReLU。

identity gate 在 soft-low-pass 后的 stage3 出现 6 个非有限观测，共影响 36 个
PSD 派生字段。正式聚合仅使用 finite 值，全非有限统计记为 JSON `null`/报告 `NA`，
并单独保存诊断；identity 的部分 filtered-feature 证据应视为不完整。

## 4. E2：受控合成机制

E2 在 128 x 128 周期信号上运行 5 seeds，共 5,610 条观测。

| Gate | 单频带外能量 | 随机场带外转移 |
|---|---:|---:|
| no-gate | 0 | 0 |
| ReLU6 | 0.5168 | 0.4361 |
| ReLU | 0.5194 | 0.4361 |
| smooth-clipped | 0.5152 | 0.4360 |
| GELU | 0.6419 | 0.4862 |
| identity self-gate | 1.0000 | 0.7710 |

单频 alias fraction 中 ReLU6 为 `0.06244`，ReLU 为 `0.06536`，约降低
`4.5%`；这支持 clipping 小幅抑制 alias，但不是经过 multiple-comparison
校正的确认性对比。幅值增加到 9 后，ReLU6 和 smooth-clipped 的带外能量均为
`0.5062`，ReLU 保持 `0.5194`，说明进入裁剪区后 smooth 近似能复现 ReLU6。

低频 cue 相位翻转会使 ReLU6/ReLU 的高频读出改变约 `2.12%`，smooth 为
`2.02%`，no-gate 为 0，支持非线性交叉频率耦合。绝对相位敏感性接近 0，
因此不能将该现象解释为平移不变性失效。随机场 Frequency-AUC 与 cue-preference
没有显示 ReLU6 的普遍高频偏好。

## 5. E3：CIFAR-100 gate screening

### 5.1 三 seed 汇总

| Gate | Clean Top-1 | Mean corruption Top-1 | Retention | Clean NLL |
|---|---:|---:|---:|---:|
| ReLU6 | 57.07 +/- 1.62 | 38.08 +/- 1.41 | 66.75 +/- 2.75 | 2.20 +/- 0.11 |
| ReLU | 57.53 +/- 0.97 | 37.50 +/- 0.90 | 65.19 +/- 2.40 | 2.11 +/- 0.04 |
| GELU | 57.04 +/- 0.47 | 38.24 +/- 1.36 | 67.05 +/- 2.64 | 2.33 +/- 0.03 |
| smooth-static | 57.15 +/- 1.44 | 38.39 +/- 0.73 | 67.22 +/- 2.73 | 2.15 +/- 0.06 |
| identity | 56.91 +/- 0.73 | 38.22 +/- 0.54 | 67.17 +/- 1.33 | 数值失稳 |
| no-gate | 43.07 +/- 0.31 | 26.27 +/- 0.32 | 61.00 +/- 1.11 | 2.23 +/- 0.01 |

相对 ReLU6 的 paired-bootstrap primary Top-1 差异如下：

| Gate | Clean 差异 [95% CI] | Corruption 差异 [95% CI] | 结论 |
|---|---:|---:|---|
| ReLU | +0.47 [-1.05, 2.03] | -0.58 [-2.37, 1.52] | 不显著 |
| GELU | -0.03 [-1.61, 1.83] | +0.16 [-1.12, 1.60] | 不显著 |
| smooth-static | +0.08 [-1.28, 1.22] | +0.31 [-0.54, 1.03] | 不显著 |
| identity | -0.16 [-1.21, 1.00] | +0.14 [-1.81, 1.88] | 不显著且 NLL 失稳 |
| no-gate | -14.00 [-15.72, -12.00] | -11.81 [-13.01, -10.50] | 显著下降 |

E3 明确支持 complete gated operator 相比 no-gate 的作用，但新增 activation-only
retraining 不支持 multiplication 对最终准确率的必要性。ReLU6 在 clean 或 corruption
Top-1 上也未显著优于 ReLU、GELU 或 smooth-static。smooth-static 的 mean-corruption
NLL 改善 `-0.1095 [-0.1638, -0.0605]`，mean-corruption Top-5 改善
`+0.503 [0.024, 0.960]`，只能称为 nominal significance：125 项比较未做
多重校正，且包含别名重复指标。

identity 的 clean accuracy 接近其他 gate，但一个 seed 的 NLL 达到约 `8.67e31`，
三 seed clean NLL 均值约 `1.87e31`。它不应作为稳定候选进入 ImageNet 主实验。

### 5.2 ImageNet-v2 本地 pre-gate

为消除旧 smooth controller 的 weight-decay 混杂，额外完成 corrected
learned-smooth 三 seeds、activation-only 三 seeds 和 fixed-smooth-c6 seed 0。
相对原 ReLU6 三 seed 的 paired-seed 差异为：

| Variant | Clean Top-1 差异 [95% CI] | Mean corruption Top-1 差异 [95% CI] |
|---|---:|---:|
| corrected smooth, zero-WD | +0.587 [-0.522, 1.695] | -0.342 [-4.068, 3.384] |
| ReLU6 activation-only | +1.137 [-1.130, 3.403] | +0.853 [-2.326, 4.033] |

corrected smooth 的 clean/corruption NLL 差异分别为 `-0.165 [-0.299, -0.031]`
和 `-0.168 [-0.239, -0.098]`，但这是本地 pre-gate 的有限样本结果，不作为
ImageNet 选择阈值。zero-WD learned cap 的三 seed stage 均值约为
`2.74/4.62/5.98/5.93`，全局最小值 `1.686`，高于预注册 severe-collapse
边界 `0.6`；fixed-c6 保持为 6。controller pre-gate 因而通过。

activation-only 没有显示预期的 material loss。ImageNet 设计将其改为
operator-replacement non-inferiority 检验，并与 ReLU/smooth 形状检验并行校正；
不再用它作为会阻断后续假设的固定序列前置项。

## 6. E4：冻结 gate 干预

在三个 ReLU6 checkpoint 的全 10,000 张 test set 上：

| 模式 | Top-1 (%) | NLL | ECE (%) |
|---|---:|---:|---:|
| baseline | 57.07 +/- 1.62 | 2.197 +/- 0.107 | 21.43 +/- 0.93 |
| batch shuffle | 2.02 +/- 0.19 | 31.15 +/- 8.35 | 83.73 +/- 1.97 |
| channel shuffle | 2.17 +/- 0.21 | 19.85 +/- 2.11 | 74.51 +/- 1.45 |
| spatial shuffle | 2.52 +/- 1.02 | 48.24 +/- 19.54 | 84.07 +/- 6.03 |
| mean gate | 3.01 +/- 0.81 | 13.05 +/- 1.85 | 65.73 +/- 12.72 |

预测与 baseline 的一致率也仅为约 2% 至 3%。这支持冻结模型依赖 gate 与当前
样本、空间位置和通道的精确对齐，单独保留边际分布或平均能量不够。

该实验同时干预全部 16 个 blocks，是严重分布外的 frozen-forward diagnostic，
没有 matched retraining，也没有逐 stage 剂量扫描。它不能证明某个 shuffle 维度
具有独立训练因果性。`stop_gradient` 在 inference 时前向等价，必须通过重训练评估。

## 7. Historical ImageNet、E6 与 E8

### 7.1 checkpoint 边界

公开 `/nfs/ywang29/GmNet/gmnet_s3.npy` 含 535 个 key，严格匹配 historical
full-BN topology，参数量 7,822,744；它不匹配 365-key paper-default topology。
因此以下结果是历史实现分析，不是 paper-default E0 严格复现。

完整 ImageNet-1K validation 50,000 图结果：Top-1 `76.292%`、Top-5
`93.222%`、NLL `1.1121`、ECE `15.836%`。

### 7.2 E6 partial corruption

E6 使用每类 5 张、共 5,000 张的固定类别均衡子集。

| Condition | Top-1 | Top-5 |
|---|---:|---:|
| clean | 76.66 | 93.86 |
| Gaussian noise | 59.80 | 82.16 |
| Gaussian blur | 72.36 | 91.20 |
| JPEG | 72.22 | 91.08 |
| contrast | 75.40 | 92.66 |
| shift 2px | 76.64 | 93.72 |

五种 corruption 平均 Top-1 为 `71.28`，clean-normalized retention 为
`92.99%`。模型对小平移和对比度变化较稳定，对 Gaussian noise 最敏感。
这不是完整 ImageNet-C/P：没有多 severity、mCE、mFR 或完整 50k 统计。

### 7.3 E8 partial attack

E8 使用每类 1 张、共 1,000 张。clean Top-1/Top-5 为 `77.20/94.10`。

| Attack | Top-1 | Top-5 | Mean L2 | Mean L-inf |
|---|---:|---:|---:|---:|
| PGD-10 L-inf 4/255 | 0.00 | 0.00 | 4.2913 | 0.015686 |
| low-band PGD | 0.30 | 2.10 | 6.0268 | 0.1102 |
| mid-band PGD | 0.00 | 0.00 | 5.8088 | 0.1328 |
| high-band PGD | 0.00 | 0.00 | 5.8001 | 0.1464 |
| per-sample worst band | 0.00 | 0.00 | - | - |

低/中/高频攻击使用共同最大 L2 预算 `6.085951`，带内能量比例均高于
`0.99992`。worst-band 选择中 high/mid/low 分别为 649/337/14 张。

标准 L-inf PGD 与频带 PGD 不是等 L-inf 约束，三类频带攻击的像素 L-inf
明显更大；三类频带之间实际 L2 也有小幅差异。因此只可得出“当前较强等 L2
预算下各频带都能破坏模型”，不能声称独特高频脆弱性。该协议是单随机起点
PGD-10，不是 AutoAttack，也没有多重启或攻击收敛性证明。

## 8. E12：本地部署与导出

五个独立进程在无其他 compute PID 的主机上顺序测量。表中为进程均值 +/-
进程间样本标准差。

| Device | Precision | Batch | p50 ms | p95 ms | image/s | Peak MiB |
|---|---|---:|---:|---:|---:|---:|
| A100 | FP32 | 1 | 6.357 +/- 0.031 | 6.499 +/- 0.033 | 157.22 +/- 0.70 | 49.8 |
| A100 | FP32 | 32 | 10.681 +/- 0.008 | 10.694 +/- 0.008 | 2995.60 +/- 2.25 | 348.1 |
| A100 | BF16 | 1 | 8.277 +/- 0.101 | 8.417 +/- 0.098 | 120.51 +/- 1.20 | 59.6 |
| A100 | BF16 | 32 | 9.703 +/- 0.007 | 9.715 +/- 0.006 | 3296.79 +/- 2.21 | 226.3 |
| CPU PyTorch | FP32 | 1 | 23.084 +/- 0.138 | 23.543 +/- 0.249 | 43.20 +/- 0.23 | - |
| CPU PyTorch | FP32 | 32 | 501.900 +/- 23.229 | 554.875 +/- 10.161 | 63.99 +/- 2.40 | - |
| ONNX Runtime CPU | FP32 | 1 | 6.090 +/- 0.118 | 6.366 +/- 0.166 | 163.41 +/- 3.40 | - |

BF16 在 batch32 提升吞吐约 10.1% 并降低峰值显存，但 batch1 比 FP32 慢，
不能笼统声称 BF16 总是更快。ONNX opset18 checker 通过，五次导出的 logits
最大绝对误差为 `2.15e-6`，Top-1 均与 PyTorch 一致。

INT8 仍为 blocked：当前没有经过校准与验证的 whole-model INT8 pipeline。
不能把只量化 Linear 层的 dynamic quantization 当成完整 INT8 结果。

## 9. 当前不可本地完成的实验

- E7 natural shift：缺 ImageNet-V2/A/R/Sketch 和 ObjectNet。
- 完整 E6：缺 ImageNet-C 和 ImageNet-P。
- 完整 E8：只有 PGD-10/频带 PGD，缺 AutoAttack、多重启和收敛审计。
- E9 semantic OOD：缺 NINCO。
- E10 fine-grained transfer：缺 CUB-200、Aircraft、Cars、DTD，且正式 transfer
  runner 尚未完成验证。
- E11 dense prediction：缺匹配的 COCO/ADE20K/Cityscapes 适配器、数据和训练审计。
- iPhone/Jetson profiling：当前节点没有目标设备。

这些项目没有伪造占位结果。Revised ImageNet-v2 的 21 个超过 12 小时 YAML
位于 `/nfs/ywang29/GmNet/depoly/imagenet_v2/`，本轮未提交 launchjob。只有
`imv2_e0_s3_relu6_seed0` 初始允许提交，其余为 held 或 conditional。

## 10. Journal 决策建议

### 10.1 可以进入论文的结论

1. multiplicative self-gating 会产生跨频率混合；该效应跨 FFT/DCT/Haar 可复核。
2. complete gate 相比 no-gate 对准确率重要，且冻结 self-gated 模型强依赖样本、
   空间和通道对齐；乘法本身的必要性尚未建立。
3. raw PSD centroid 不是有效频率贡献的充分条件。
4. clipping 可控制 alias；zero-WD learned smooth cap 有稳定、分 stage 的工作区间。
5. ReLU6、ReLU、GELU、smooth 在 CIFAR-100 Top-1 上处于同一统计区间。

### 10.2 当前不能进入论文的强主张

1. “ReLU6 显著优于其他 gate”。本地 primary Top-1 不支持。
2. “高频能量增加直接导致准确率提升”。no-gate 反例不支持。
3. “模型对 corruption/attack 普遍鲁棒”。E6 只是 partial，E8 显示 PGD 崩溃。
4. “historical checkpoint 等于 paper-default 复现”。两种拓扑不兼容。
5. “shuffle 干预证明训练因果”。需要 matched retraining 和逐 stage 干预。

### 10.3 下一批长实验优先级

1. 只先提交 S3 ReLU6 seed-0 anchor，审核固定轮指标、日志、checkpoint 和配方。
2. anchor 通过后运行 ReLU、corrected learned-smooth、ReLU6-only、no-gate 的
   seed-0 screen；技术有效性而非 seed-0 accuracy 决定 seeds 1/2 解锁，并补齐
   ReLU6 seeds 1/2。
3. fixed-smooth-c6 只做单 seed 机制诊断；S1/S2/S4 ReLU6 只做单 seed scale context，
   不把它们包装成三 seed confirmatory claim。
4. release+paper-BN 与 release+historical-full-BN 仅在复现差异被记录后条件运行。
5. ImageNet 主结果稳定后，再做 E4 matched retraining；补齐 shift/OOD 数据后再扩展鲁棒性主张。

## 11. 结果索引

持久归档根目录：`/nfs/ywang29/GmNet/local_results/20260712/`

- E1 operator：`e1_operator/REPORT.md`
- E1 trained：`e1_trained/REPORT.md`
- E2：`e2_synthetic/CONCLUSIONS.md`
- E3：`e3_cifar100/CONCLUSIONS.md`
- ImageNet-v2 pre-gate：`../imagenet_v2_pregate/CONCLUSIONS.md`
- E4：`e4_cifar100/AGGREGATE.md`
- Legacy ImageNet：`legacy_imagenet_clean/RESULTS.md`
- E6：`e6_imagenet_partial/CONCLUSIONS.md`
- E8：`e8_imagenet_partial/CONCLUSIONS.md`
- E12：`e12/AGGREGATE.md`

原始 checkpoints、逐样本 E3 correctness 和完整运行日志仍在
`/tmp/gmnet_runs/`。数据规范来源为
`s3://snap-research-cv-code/ywang29/datasets/`，节点 staging 位于
`/tmp/gmnet_data/`。所有新增正式 shell 均保留了
`/nfs/ywang29/LongLive/scripts/init_run.sh` 的 export 块。