gmnet/code/journal_exp/docs/LOCAL_EXPERIMENT_CONCLUSIONS.md

GmNet Journal 本地实验结论

更新时间：2026-07-13 UTC

1. 执行范围与状态

本轮完成了当前节点、现有数据和现有 checkpoint 能够严谨执行的本地实验。 训练或评估输出保留在 /tmp/gmnet_runs/，可复核的小型结果表、JSON 和 Markdown 已归档到 /nfs/ywang29/GmNet/local_results/20260712/。

实验	本地状态	主要交付物	结论用途
E0 environment/DDP smoke	完成	单卡和 8 卡 DDP 均成功	只证明训练链路可运行
E1 operator spectral audit	完成	1,080 条频谱记录，5 seeds	验证频率测量与算子机制
E1 trained-feature audit	完成	6 gates x 3 seeds x 10k	检验训练后频谱与准确率关系
E2 synthetic mechanism	完成	5 seeds，5,610 条观测	分离谐波、alias、clipping 和 cue coupling
E3 CIFAR-100 gate screen	完成	18 个 100-epoch run	clean、5 corruption、paired bootstrap
ImageNet-v2 local pre-gate	完成	7 个 100-epoch run	corrected smooth、fixed-c6、activation-only
E4 frozen intervention	完成	ReLU6 三 seeds，全 10k test	gate alignment 敏感性诊断
Legacy ImageNet clean	完成	50k validation	historical checkpoint 兼容性结果
E6 partial corruption	完成	类均衡 5,000 图	自定义 corruption 局部结论
E8 partial attack	完成	类均衡 1,000 图	PGD-10 与等 L2 频带攻击
E12 local deployment	完成	5 个独立进程	A100、CPU、ONNX Runtime
E7/E9/E10	当前不可运行	数据或正式 runner 缺失	不产生结果
ImageNet-v2 long runs	超过 12 小时	revised 21-task staged matrix	仅 anchor 可提交，尚未提交

所有 CIFAR-100 模型均使用固定第 100 轮 checkpoint_last.pt。没有使用 CIFAR-100 test set 选择 checkpoint_best.pt。E3 的主要差异采用 2,000 次 hierarchical paired bootstrap，同时重采样训练 seed 和配对测试样本。

2. 总体科学结论

本地证据支持的主线不是“高频能量越多，分类越好”，而是：

1. 自乘 gate 会产生可重复的跨频率混合，线性 no-gate 对照不会产生新谐波。
2. 完全移除 gate 会显著降低分类准确率，但 activation-only retraining 并未下降； 因此本地结果支持 gated operator 的作用，不支持“乘法本身对最终准确率必要”。 ReLU6、ReLU、GELU 和 smooth-static 的 primary Top-1 也没有显著差异。
3. 训练得到的样本、空间和通道对齐比总高频能量更重要。破坏对齐会使冻结模型 接近随机，而 no-gate 模型虽然有更高的 feature PSD centroid，准确率却最低。
4. clipping 能控制算子频谱，但标准 ReLU6 在训练模型中很少真正到达 6。旧 smooth gate 的 0.8 至 1.2 阈值受 raw_clip weight decay 混杂，不能解释为 主动适应；zero-WD 重跑得到稳定且分 stage 的 1.69 至 6.0 阈值。
5. 当前 checkpoint 对普通 corruption 有一定保持率，但对 PGD-10 不鲁棒。 频带攻击只证明当前较强等 L2 预算下各频带都能破坏模型，不证明独特的高频脆弱性。

因此 journal 的稳健叙事应改为：input-dependent multiplicative spectral mixing、 learned alignment 和 controllable clipping，而不是把 raw high-frequency energy 直接等同于有效语义或准确率来源。

3. E1：频谱测量与训练后特征

3.1 测量协议审计

• FFT、DCT-II 和 Haar 的全逆变换/分带重构最大误差为 8.53e-14。
• 三种基底对 paired frequency shift 的排序一致，最低 Spearman rho=0.933。
• 高幅输入下，ReLU6 相比 ReLU 将 gate-only frequency-AUC 增量从 0.06220 降至 0.05248，降幅为 15.6%。
• smooth-clipped 与 ReLU6 的该指标只差 3.44e-5。
• 随机初始化 block 的 gate 前值达到 6 的比例仅 0.00427%，ReLU6 与 ReLU residual branch 的频谱差仅 3.31e-5。这说明未经训练时 cap 几乎不生效。

该结果验证了测量工具和 clipping 对高幅输入的机制效应，但 energy AUC 不是分类 准确率，也不是模型函数频率。

3.2 训练模型的 Frequency-Accuracy AUC

Gate	Clean Top-1 (%)	Frequency-Accuracy AUC
ReLU	57.53 +/- 0.97	43.416 +/- 0.363
smooth-static	57.15 +/- 1.44	43.380 +/- 0.765
ReLU6	57.07 +/- 1.62	43.174 +/- 1.237
GELU	57.04 +/- 0.47	43.525 +/- 0.328
identity self-gate	56.91 +/- 0.73	43.162 +/- 0.473
no-gate	43.07 +/- 0.31	32.761 +/- 0.145

no-gate 的 stage1/stage2 spectral centroid 为 0.363/0.489，高于 ReLU6 的 0.304/0.454，但其 Top-1 低约 14 pp。这直接否定“高频能量越多，识别越好” 的强主张。更高的 PSD centroid 可能对应无用细节、alias 或未对齐能量。

ReLU6 的实际 clip crossing 主要集中于 stage1，为 0.430%，后续 stage 接近 0。旧 smooth-static 的 stage1 到 stage4 clip 均值为 1.19/1.21/0.95/0.81，实际 crossing 为 5.64%/0.52%/0.31%/0.49%。 由于该 run 对 raw_clip 施加了 weight decay，这些绝对阈值只说明旧模型实际发生 了 clipping，不能证明阈值下降来自任务自适应。ReLU6 在深层仍近似 ReLU。

identity gate 在 soft-low-pass 后的 stage3 出现 6 个非有限观测，共影响 36 个 PSD 派生字段。正式聚合仅使用 finite 值，全非有限统计记为 JSON null/报告 NA， 并单独保存诊断；identity 的部分 filtered-feature 证据应视为不完整。

4. E2：受控合成机制

E2 在 128 x 128 周期信号上运行 5 seeds，共 5,610 条观测。

Gate	单频带外能量	随机场带外转移
no-gate	0	0
ReLU6	0.5168	0.4361
ReLU	0.5194	0.4361
smooth-clipped	0.5152	0.4360
GELU	0.6419	0.4862
identity self-gate	1.0000	0.7710

单频 alias fraction 中 ReLU6 为 0.06244，ReLU 为 0.06536，约降低 4.5%；这支持 clipping 小幅抑制 alias，但不是经过 multiple-comparison 校正的确认性对比。幅值增加到 9 后，ReLU6 和 smooth-clipped 的带外能量均为 0.5062，ReLU 保持 0.5194，说明进入裁剪区后 smooth 近似能复现 ReLU6。

低频 cue 相位翻转会使 ReLU6/ReLU 的高频读出改变约 2.12%，smooth 为 2.02%，no-gate 为 0，支持非线性交叉频率耦合。绝对相位敏感性接近 0， 因此不能将该现象解释为平移不变性失效。随机场 Frequency-AUC 与 cue-preference 没有显示 ReLU6 的普遍高频偏好。

5. E3：CIFAR-100 gate screening

5.1 三 seed 汇总

Gate	Clean Top-1	Mean corruption Top-1	Retention	Clean NLL
ReLU6	57.07 +/- 1.62	38.08 +/- 1.41	66.75 +/- 2.75	2.20 +/- 0.11
ReLU	57.53 +/- 0.97	37.50 +/- 0.90	65.19 +/- 2.40	2.11 +/- 0.04
GELU	57.04 +/- 0.47	38.24 +/- 1.36	67.05 +/- 2.64	2.33 +/- 0.03
smooth-static	57.15 +/- 1.44	38.39 +/- 0.73	67.22 +/- 2.73	2.15 +/- 0.06
identity	56.91 +/- 0.73	38.22 +/- 0.54	67.17 +/- 1.33	数值失稳
no-gate	43.07 +/- 0.31	26.27 +/- 0.32	61.00 +/- 1.11	2.23 +/- 0.01

相对 ReLU6 的 paired-bootstrap primary Top-1 差异如下：

Gate	Clean 差异 [95% CI]	Corruption 差异 [95% CI]	结论
ReLU	+0.47 [-1.05, 2.03]	-0.58 [-2.37, 1.52]	不显著
GELU	-0.03 [-1.61, 1.83]	+0.16 [-1.12, 1.60]	不显著
smooth-static	+0.08 [-1.28, 1.22]	+0.31 [-0.54, 1.03]	不显著
identity	-0.16 [-1.21, 1.00]	+0.14 [-1.81, 1.88]	不显著且 NLL 失稳
no-gate	-14.00 [-15.72, -12.00]	-11.81 [-13.01, -10.50]	显著下降

E3 明确支持 complete gated operator 相比 no-gate 的作用，但新增 activation-only retraining 不支持 multiplication 对最终准确率的必要性。ReLU6 在 clean 或 corruption Top-1 上也未显著优于 ReLU、GELU 或 smooth-static。smooth-static 的 mean-corruption NLL 改善 -0.1095 [-0.1638, -0.0605]，mean-corruption Top-5 改善 +0.503 [0.024, 0.960]，只能称为 nominal significance：125 项比较未做 多重校正，且包含别名重复指标。

identity 的 clean accuracy 接近其他 gate，但一个 seed 的 NLL 达到约 8.67e31， 三 seed clean NLL 均值约 1.87e31。它不应作为稳定候选进入 ImageNet 主实验。

5.2 ImageNet-v2 本地 pre-gate

为消除旧 smooth controller 的 weight-decay 混杂，额外完成 corrected learned-smooth 三 seeds、activation-only 三 seeds 和 fixed-smooth-c6 seed 0。 相对原 ReLU6 三 seed 的 paired-seed 差异为：

Variant	Clean Top-1 差异 [95% CI]	Mean corruption Top-1 差异 [95% CI]
corrected smooth, zero-WD	+0.587 [-0.522, 1.695]	-0.342 [-4.068, 3.384]
ReLU6 activation-only	+1.137 [-1.130, 3.403]	+0.853 [-2.326, 4.033]

corrected smooth 的 clean/corruption NLL 差异分别为 -0.165 [-0.299, -0.031] 和 -0.168 [-0.239, -0.098]，但这是本地 pre-gate 的有限样本结果，不作为 ImageNet 选择阈值。zero-WD learned cap 的三 seed stage 均值约为 2.74/4.62/5.98/5.93，全局最小值 1.686，高于预注册 severe-collapse 边界 0.6；fixed-c6 保持为 6。controller pre-gate 因而通过。

activation-only 没有显示预期的 material loss。ImageNet 设计将其改为 operator-replacement non-inferiority 检验，并与 ReLU/smooth 形状检验并行校正； 不再用它作为会阻断后续假设的固定序列前置项。

6. E4：冻结 gate 干预

在三个 ReLU6 checkpoint 的全 10,000 张 test set 上：

模式	Top-1 (%)	NLL	ECE (%)
baseline	57.07 +/- 1.62	2.197 +/- 0.107	21.43 +/- 0.93
batch shuffle	2.02 +/- 0.19	31.15 +/- 8.35	83.73 +/- 1.97
channel shuffle	2.17 +/- 0.21	19.85 +/- 2.11	74.51 +/- 1.45
spatial shuffle	2.52 +/- 1.02	48.24 +/- 19.54	84.07 +/- 6.03
mean gate	3.01 +/- 0.81	13.05 +/- 1.85	65.73 +/- 12.72

预测与 baseline 的一致率也仅为约 2% 至 3%。这支持冻结模型依赖 gate 与当前 样本、空间位置和通道的精确对齐，单独保留边际分布或平均能量不够。

该实验同时干预全部 16 个 blocks，是严重分布外的 frozen-forward diagnostic， 没有 matched retraining，也没有逐 stage 剂量扫描。它不能证明某个 shuffle 维度 具有独立训练因果性。stop_gradient 在 inference 时前向等价，必须通过重训练评估。

7. Historical ImageNet、E6 与 E8

7.1 checkpoint 边界

公开 /nfs/ywang29/GmNet/gmnet_s3.npy 含 535 个 key，严格匹配 historical full-BN topology，参数量 7,822,744；它不匹配 365-key paper-default topology。 因此以下结果是历史实现分析，不是 paper-default E0 严格复现。

完整 ImageNet-1K validation 50,000 图结果：Top-1 76.292%、Top-5 93.222%、NLL 1.1121、ECE 15.836%。

7.2 E6 partial corruption

E6 使用每类 5 张、共 5,000 张的固定类别均衡子集。

Condition	Top-1	Top-5
clean	76.66	93.86
Gaussian noise	59.80	82.16
Gaussian blur	72.36	91.20
JPEG	72.22	91.08
contrast	75.40	92.66
shift 2px	76.64	93.72

五种 corruption 平均 Top-1 为 71.28，clean-normalized retention 为 92.99%。模型对小平移和对比度变化较稳定，对 Gaussian noise 最敏感。 这不是完整 ImageNet-C/P：没有多 severity、mCE、mFR 或完整 50k 统计。

7.3 E8 partial attack

E8 使用每类 1 张、共 1,000 张。clean Top-1/Top-5 为 77.20/94.10。

Attack	Top-1	Top-5	Mean L2	Mean L-inf
PGD-10 L-inf 4/255	0.00	0.00	4.2913	0.015686
low-band PGD	0.30	2.10	6.0268	0.1102
mid-band PGD	0.00	0.00	5.8088	0.1328
high-band PGD	0.00	0.00	5.8001	0.1464
per-sample worst band	0.00	0.00	-	-

低/中/高频攻击使用共同最大 L2 预算 6.085951，带内能量比例均高于 0.99992。worst-band 选择中 high/mid/low 分别为 649/337/14 张。

标准 L-inf PGD 与频带 PGD 不是等 L-inf 约束，三类频带攻击的像素 L-inf 明显更大；三类频带之间实际 L2 也有小幅差异。因此只可得出“当前较强等 L2 预算下各频带都能破坏模型”，不能声称独特高频脆弱性。该协议是单随机起点 PGD-10，不是 AutoAttack，也没有多重启或攻击收敛性证明。

8. E12：本地部署与导出

五个独立进程在无其他 compute PID 的主机上顺序测量。表中为进程均值 +/- 进程间样本标准差。

Device	Precision	Batch	p50 ms	p95 ms	image/s	Peak MiB
A100	FP32	1	6.357 +/- 0.031	6.499 +/- 0.033	157.22 +/- 0.70	49.8
A100	FP32	32	10.681 +/- 0.008	10.694 +/- 0.008	2995.60 +/- 2.25	348.1
A100	BF16	1	8.277 +/- 0.101	8.417 +/- 0.098	120.51 +/- 1.20	59.6
A100	BF16	32	9.703 +/- 0.007	9.715 +/- 0.006	3296.79 +/- 2.21	226.3
CPU PyTorch	FP32	1	23.084 +/- 0.138	23.543 +/- 0.249	43.20 +/- 0.23	-
CPU PyTorch	FP32	32	501.900 +/- 23.229	554.875 +/- 10.161	63.99 +/- 2.40	-
ONNX Runtime CPU	FP32	1	6.090 +/- 0.118	6.366 +/- 0.166	163.41 +/- 3.40	-

BF16 在 batch32 提升吞吐约 10.1% 并降低峰值显存，但 batch1 比 FP32 慢， 不能笼统声称 BF16 总是更快。ONNX opset18 checker 通过，五次导出的 logits 最大绝对误差为 2.15e-6，Top-1 均与 PyTorch 一致。

INT8 仍为 blocked：当前没有经过校准与验证的 whole-model INT8 pipeline。 不能把只量化 Linear 层的 dynamic quantization 当成完整 INT8 结果。

9. 当前不可本地完成的实验

• E7 natural shift：缺 ImageNet-V2/A/R/Sketch 和 ObjectNet。
• 完整 E6：缺 ImageNet-C 和 ImageNet-P。
• 完整 E8：只有 PGD-10/频带 PGD，缺 AutoAttack、多重启和收敛审计。
• E9 semantic OOD：缺 NINCO。
• E10 fine-grained transfer：缺 CUB-200、Aircraft、Cars、DTD，且正式 transfer runner 尚未完成验证。
• E11 dense prediction：缺匹配的 COCO/ADE20K/Cityscapes 适配器、数据和训练审计。
• iPhone/Jetson profiling：当前节点没有目标设备。

这些项目没有伪造占位结果。Revised ImageNet-v2 的 21 个超过 12 小时 YAML 位于 /nfs/ywang29/GmNet/depoly/imagenet_v2/，本轮未提交 launchjob。只有 imv2_e0_s3_relu6_seed0 初始允许提交，其余为 held 或 conditional。

10. Journal 决策建议

10.1 可以进入论文的结论

1. multiplicative self-gating 会产生跨频率混合；该效应跨 FFT/DCT/Haar 可复核。
2. complete gate 相比 no-gate 对准确率重要，且冻结 self-gated 模型强依赖样本、 空间和通道对齐；乘法本身的必要性尚未建立。
3. raw PSD centroid 不是有效频率贡献的充分条件。
4. clipping 可控制 alias；zero-WD learned smooth cap 有稳定、分 stage 的工作区间。
5. ReLU6、ReLU、GELU、smooth 在 CIFAR-100 Top-1 上处于同一统计区间。

10.2 当前不能进入论文的强主张

1. “ReLU6 显著优于其他 gate”。本地 primary Top-1 不支持。
2. “高频能量增加直接导致准确率提升”。no-gate 反例不支持。
3. “模型对 corruption/attack 普遍鲁棒”。E6 只是 partial，E8 显示 PGD 崩溃。
4. “historical checkpoint 等于 paper-default 复现”。两种拓扑不兼容。
5. “shuffle 干预证明训练因果”。需要 matched retraining 和逐 stage 干预。

10.3 下一批长实验优先级

1. 只先提交 S3 ReLU6 seed-0 anchor，审核固定轮指标、日志、checkpoint 和配方。
2. anchor 通过后运行 ReLU、corrected learned-smooth、ReLU6-only、no-gate 的 seed-0 screen；技术有效性而非 seed-0 accuracy 决定 seeds 1/2 解锁，并补齐 ReLU6 seeds 1/2。
3. fixed-smooth-c6 只做单 seed 机制诊断；S1/S2/S4 ReLU6 只做单 seed scale context， 不把它们包装成三 seed confirmatory claim。
4. release+paper-BN 与 release+historical-full-BN 仅在复现差异被记录后条件运行。
5. ImageNet 主结果稳定后，再做 E4 matched retraining；补齐 shift/OOD 数据后再扩展鲁棒性主张。

11. 结果索引

持久归档根目录：/nfs/ywang29/GmNet/local_results/20260712/

• E1 operator：e1_operator/REPORT.md
• E1 trained：e1_trained/REPORT.md
• E2：e2_synthetic/CONCLUSIONS.md
• E3：e3_cifar100/CONCLUSIONS.md
• ImageNet-v2 pre-gate：../imagenet_v2_pregate/CONCLUSIONS.md
• E4：e4_cifar100/AGGREGATE.md
• Legacy ImageNet：legacy_imagenet_clean/RESULTS.md
• E6：e6_imagenet_partial/CONCLUSIONS.md
• E8：e8_imagenet_partial/CONCLUSIONS.md
• E12：e12/AGGREGATE.md

原始 checkpoints、逐样本 E3 correctness 和完整运行日志仍在 /tmp/gmnet_runs/。数据规范来源为 s3://snap-research-cv-code/ywang29/datasets/，节点 staging 位于 /tmp/gmnet_data/。所有新增正式 shell 均保留了 /nfs/ywang29/LongLive/scripts/init_run.sh 的 export 块。