diff --git a/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s2.yaml b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s2.yaml new file mode 100644 index 0000000000000000000000000000000000000000..b2095d66e92d777db3e10cc3bd66412c92dee38a --- /dev/null +++ b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s2.yaml @@ -0,0 +1,5 @@ +base: ../base/imagenet_paper.yaml +experiment_id: E0-S2 +model: + variant: s2 + drop_path_rate: 0.0 diff --git a/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3.yaml b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3.yaml new file mode 100644 index 0000000000000000000000000000000000000000..01ce96d6ef653379d41a6e05f493c756e1a867fc --- /dev/null +++ b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3.yaml @@ -0,0 +1,5 @@ +base: ../base/imagenet_paper.yaml +experiment_id: E0-S3 +model: + variant: s3 + drop_path_rate: 0.02 diff --git a/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_historical_full_bn.yaml b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_historical_full_bn.yaml new file mode 100644 index 0000000000000000000000000000000000000000..d1f01728f77cf01f71f7a6f908c6c0a7893a55d1 --- /dev/null +++ b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_historical_full_bn.yaml @@ -0,0 +1,8 @@ +# Conditional audit: release README hyperparameters with historical full BN. +base: ../base/imagenet_release_readme_legacy.yaml +experiment_id: E0-AUDIT-release-historical-full-bn-S3 +model: + variant: s3 + f12_bn: true + projection_bn: true + second_dw_bn: true diff --git a/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_paper_bn.yaml b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_paper_bn.yaml new file mode 100644 index 0000000000000000000000000000000000000000..0fbefd1153263a569a3b5dc193c0cab9a8206493 --- /dev/null +++ b/gmnet/code/journal_exp/configs/e0_baseline/imagenet_gmnet_s3_release_paper_bn.yaml @@ -0,0 +1,8 @@ +# Conditional audit: release README hyperparameters with the paper BN topology. +base: ../base/imagenet_release_readme_legacy.yaml +experiment_id: E0-AUDIT-release-paper-bn-S3 +model: + variant: s3 + f12_bn: false + projection_bn: true + second_dw_bn: false diff --git a/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_channel_derangement.yaml b/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_channel_derangement.yaml new file mode 100644 index 0000000000000000000000000000000000000000..28ebe9c3e477785774f3a572d8e28034532bba7d --- /dev/null +++ b/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_channel_derangement.yaml @@ -0,0 +1,7 @@ +# Matched E4 arm: fixed per-block channel derangement of the gate input. +base: ../e0_baseline/imagenet_gmnet_s3.yaml +experiment_id: E4-ImageNet-S3-channel-derangement +protocol_id: e4-imagenet-matched-alignment-v1 +model: + gate_intervention: channel_derangement + gate_intervention_seed: 41041 diff --git a/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_stop_gradient.yaml b/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_stop_gradient.yaml new file mode 100644 index 0000000000000000000000000000000000000000..824f271bc8c28b3d18828e93d0baaffc3f7fa889 --- /dev/null +++ b/gmnet/code/journal_exp/configs/e4_alignment/imagenet_gmnet_s3_stop_gradient.yaml @@ -0,0 +1,7 @@ +# Matched E4 arm: identical forward values with the gate-branch derivative removed. +base: ../e0_baseline/imagenet_gmnet_s3.yaml +experiment_id: E4-ImageNet-S3-stop-gradient +protocol_id: e4-imagenet-matched-alignment-v1 +model: + gate_intervention: stop_gradient + gate_intervention_seed: 41041 diff --git a/gmnet/code/journal_exp/configs/smoke/cifar10_gmnet_s1.yaml b/gmnet/code/journal_exp/configs/smoke/cifar10_gmnet_s1.yaml new file mode 100644 index 0000000000000000000000000000000000000000..3f7db62b782bf14493560a14e9e34c714a77da9a --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/cifar10_gmnet_s1.yaml @@ -0,0 +1,46 @@ +recipe_id: local-cifar10-smoke-v1 +model: + variant: s1 + num_classes: 10 + gate_type: relu6_self + stem_activation: relu6 + kernel_size: 7 + layer_scale: 1.0e-6 + drop_path_rate: 0.0 +data: + dataset: cifar10 + num_classes: 10 + input_size: 32 + batch_size: 64 + eval_batch_size: 128 + workers: 2 + pin_memory: true + persistent_workers: true + prefetch_factor: 2 +optimizer: + name: adamw + lr: 0.001 + weight_decay: 0.03 + betas: [0.9, 0.999] + eps: 1.0e-8 +scheduler: + name: cosine + warmup_epochs: 0 + warmup_lr: 1.0e-6 + min_lr: 1.0e-5 +mixup: + mixup_alpha: 0.0 + cutmix_alpha: 0.0 +train: + epochs: 1 + label_smoothing: 0.0 + channels_last: false + deterministic: false + compile: false + clip_grad: 0.0 + log_interval: 1 +amp: + enabled: true + dtype: bfloat16 +wandb: + enabled: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1.yaml new file mode 100644 index 0000000000000000000000000000000000000000..54fc415699988bd3a716d1b6efc6eda534d6b348 --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1.yaml @@ -0,0 +1,45 @@ +recipe_id: local-imagenet5-smoke-v1 +model: + variant: s1 + num_classes: 5 + gate_type: relu6_self + drop_path_rate: 0.0 +data: + dataset: imagefolder + num_classes: 5 + input_size: 64 + batch_size: 2 + eval_batch_size: 2 + workers: 0 + pin_memory: true + persistent_workers: false + interpolation: bicubic + crop_pct: 0.875 + auto_augment: null + color_jitter: 0.0 + random_erasing: 0.0 +optimizer: + name: adamw + lr: 0.001 + weight_decay: 0.03 + betas: [0.9, 0.999] +scheduler: + name: cosine + warmup_epochs: 0 + warmup_lr: 1.0e-6 + min_lr: 1.0e-5 +mixup: + mixup_alpha: 0.0 + cutmix_alpha: 0.0 +train: + epochs: 1 + label_smoothing: 0.0 + channels_last: true + deterministic: false + compile: false + log_interval: 1 +amp: + enabled: true + dtype: bfloat16 +wandb: + enabled: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_channel_derangement.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_channel_derangement.yaml new file mode 100644 index 0000000000000000000000000000000000000000..667dcb950b93afdb798c68456ec4895edb1238ac --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_channel_derangement.yaml @@ -0,0 +1,14 @@ +base: imagenet5_gmnet_s1.yaml +experiment_id: E4-smoke-channel-derangement +protocol_id: e4-imagenet-matched-alignment-smoke-v1 +model: + gate_intervention: channel_derangement + gate_intervention_seed: 41041 +data: + batch_size: 1 +train: + epochs: 2 + eval_interval: 1 + fail_on_nonfinite: true + strict_resume: true + save_best_checkpoint: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_stop_gradient.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_stop_gradient.yaml new file mode 100644 index 0000000000000000000000000000000000000000..cb8012e5ceb8dc1ee697059318c380d93acdf90c --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4_stop_gradient.yaml @@ -0,0 +1,14 @@ +base: imagenet5_gmnet_s1.yaml +experiment_id: E4-smoke-stop-gradient +protocol_id: e4-imagenet-matched-alignment-smoke-v1 +model: + gate_intervention: stop_gradient + gate_intervention_seed: 41041 +data: + batch_size: 1 +train: + epochs: 2 + eval_interval: 1 + fail_on_nonfinite: true + strict_resume: true + save_best_checkpoint: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_batch_derangement.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_batch_derangement.yaml new file mode 100644 index 0000000000000000000000000000000000000000..42c4b7a5d3ea8cea4dfbbb457c5e6ac2c7716ff5 --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_batch_derangement.yaml @@ -0,0 +1,18 @@ +base: imagenet5_gmnet_s1.yaml +experiment_id: E4F-smoke-batch-derangement +protocol_id: e4-imagenet-mechanism-followup-smoke-v1 +model: + gate_intervention: batch_derangement + gate_intervention_seed: 41041 +data: + batch_size: 2 + eval_batch_size: 3 + expected_train_samples: 20 + expected_val_samples: 20 + expected_manifest_sha256: 103c257d284318cbdb55c002a8b423dd581a42152cdc6e3bd94c2dc6cfa203fa +train: + epochs: 2 + eval_interval: 1 + fail_on_nonfinite: true + strict_resume: true + save_best_checkpoint: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_current_baseline.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_current_baseline.yaml new file mode 100644 index 0000000000000000000000000000000000000000..a444836be893b9f2207a9ea9f0590e11a222f3da --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_current_baseline.yaml @@ -0,0 +1,18 @@ +base: imagenet5_gmnet_s1.yaml +experiment_id: E4F-smoke-current-baseline +protocol_id: e4-imagenet-mechanism-followup-smoke-v1 +model: + gate_intervention: baseline + gate_intervention_seed: 41041 +data: + batch_size: 2 + eval_batch_size: 3 + expected_train_samples: 20 + expected_val_samples: 20 + expected_manifest_sha256: 103c257d284318cbdb55c002a8b423dd581a42152cdc6e3bd94c2dc6cfa203fa +train: + epochs: 2 + eval_interval: 1 + fail_on_nonfinite: true + strict_resume: true + save_best_checkpoint: false diff --git a/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_stopgrad_channel_derangement.yaml b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_stopgrad_channel_derangement.yaml new file mode 100644 index 0000000000000000000000000000000000000000..a69bb1df6fe3e9a58fb2f4b6adefb50e8f3b7a62 --- /dev/null +++ b/gmnet/code/journal_exp/configs/smoke/imagenet5_gmnet_s1_e4f_stopgrad_channel_derangement.yaml @@ -0,0 +1,18 @@ +base: imagenet5_gmnet_s1.yaml +experiment_id: E4F-smoke-stopgrad-channel-derangement +protocol_id: e4-imagenet-mechanism-followup-smoke-v1 +model: + gate_intervention: stop_gradient_channel_derangement + gate_intervention_seed: 41041 +data: + batch_size: 2 + eval_batch_size: 3 + expected_train_samples: 20 + expected_val_samples: 20 + expected_manifest_sha256: 103c257d284318cbdb55c002a8b423dd581a42152cdc6e3bd94c2dc6cfa203fa +train: + epochs: 2 + eval_interval: 1 + fail_on_nonfinite: true + strict_resume: true + save_best_checkpoint: false diff --git a/gmnet/code/journal_exp/docs/reference/GMNET_TPAMI_JOURNAL_EXTENSION_PLAN.md b/gmnet/code/journal_exp/docs/reference/GMNET_TPAMI_JOURNAL_EXTENSION_PLAN.md new file mode 100644 index 0000000000000000000000000000000000000000..ff6237c37192a58ebb5f58f531ac6db4c1bae1a9 --- /dev/null +++ b/gmnet/code/journal_exp/docs/reference/GMNET_TPAMI_JOURNAL_EXTENSION_PLAN.md @@ -0,0 +1,1202 @@ +# GmNet Journal/TPAMI 扩展方案与实验执行手册 + +> 基于 **GmNet: Revisiting Gating Mechanisms From A Frequency View** 的 arXiv v3 +>（2026-02-26，ICLR 2026 发表版）及公开代码仓库审读。 +> 调研与方案冻结日期：2026-07-12。 + +## 0. 一页结论 + +### 0.1 推荐的 journal 核心叙事 + +会议版的主张是： + +> GLU 中的逐元素乘法扩展频谱，非光滑激活有利于保留高频；基于此构造 +> ReLU6 自门控的轻量网络 GmNet。 + +journal 版不应继续停留在“高频越多越好”，而应推进为： + +> **Beyond High-Frequency Amplification: when and how gating creates, transfers, +> aliases, and selectively preserves task-relevant frequencies.** + +建议形成三个相互闭环的新贡献： + +1. **统一且严格的门控频谱理论**：区分输入图像空间频率、隐藏特征空间频率和模型函数频率；对离散自门控/双分支门控推导频谱传输、相关项、阈值穿越与 aliasing 条件。 +2. **频谱可控的自适应门控**：从固定的 \(x\operatorname{ReLU6}(x)\) 升级为可控平滑度、可控截断幅值、按 stage/样本自适应的门控，在不执行 FFT 的前提下平衡有用细节与高频噪声。 +3. **因果式频谱诊断和完整泛化验证**：不再只依赖高通/低通图像分类准确率；增加频带移除、频带扰动、输入到层输出的 spectral transfer matrix、函数频率、OOD/腐蚀/攻击、细粒度和边界/小目标任务。 + +这三项中，**理论 + 因果诊断为必选**；新门控应至少在 clean accuracy、 +robustness 和 latency 三维 Pareto 上优于原始 GmNet。仅增加数据集、backbone、 +激活函数或下游任务不足以构成强 journal 增量。 + +### 0.2 推荐题目（工作名） + +- **Beyond High-Frequency Amplification: Spectrally Controllable Gating for Efficient and Robust Vision** +- **GmNet++: A Causal and Aliasing-Aware Frequency View of Gating Mechanisms** +- **When Does Gating Help? Spectral Transfer, Aliasing, and Adaptive Control in Efficient Vision Networks** + +建议优先使用第一项，最终方法名暂称 **FreqCal-Gate**，投稿前再做名称检索。 +不要使用 “Spectral Gating Network”，该名称和 Fourier/RFF gate 已被近期工作使用。 + +### 0.3 journal 成功的最低证据门槛 + +必须同时满足： + +- 理论结论能在合成信号上被定量验证，而不只是重新陈述卷积定理； +- 新门控在严格同训练配方下，相比原始 GmNet-S3 至少满足以下之一： + - ImageNet-1K Top-1 提升 \(\ge 0.5\) 个百分点，mCE 不退化； + - Top-1 基本持平（差值 \(\ge -0.1\)），ImageNet-C mCE 相对改善 \(\ge 5\%\)； + - clean/robust/latency Pareto 明显支配原始门控； +- 至少核心结论使用 3 个随机种子并报告置信区间； +- 新结论不依赖某一种硬圆形 Fourier mask； +- 在真实移动/边缘设备上，新增模块延迟开销不超过 5%，或用明确性能收益解释开销； +- 复现包能够重现 S1-S4、频谱分析、鲁棒性和下游实验。 + +--- + +## 1. 对当前论文的基线理解 + +### 1.1 当前方法 + +GmNet block 可写为： + +\[ +Z=P_1(D_1(X)),\qquad +G(Z)=Z\odot \operatorname{ReLU6}(Z), +\] + +\[ +Y=X+\operatorname{DropPath}\left[ +\gamma\odot D_2(P_2(G(Z))) +\right], +\] + +其中 \(D_1,D_2\) 为 \(7\times7\) depthwise convolution，\(P_1,P_2\) +为 \(1\times1\) pointwise convolution。网络采用四阶段结构，每阶段开始以 +\(3\times3\)、stride 2 卷积降采样。 + +| Variant | Width | Depth | Expansion | Params | FLOPs | ImageNet Top-1 | +|---|---:|---|---|---:|---:|---:| +| GmNet-S1 | 40 | [2,2,10,2] | [3,3,3,2] | 3.7M | 0.6G | 75.5 | +| GmNet-S2 | 48 | [2,2,8,3] | [3,3,3,2] | 6.2M | 0.9G | 78.3 | +| GmNet-S3 | 48 | [3,3,8,3] | [4,4,4,4] | 7.8M | 1.2G | 79.3 | +| GmNet-S4 | 68 | [3,3,11,3] | [4,4,4,4] | 17.0M | 2.7G | 81.5 | + +### 1.2 v3 已经覆盖的内容 + +以下内容不能再单独作为 journal 新贡献： + +- ImageNet-1K 分类和 S1-S4 速度/精度； +- ReLU、ReLU6、GELU、SiLU、SwiGLU； +- 多种 GLU 分支设计； +- ResNet-18、MobileNetV2、EfficientFormerV2、ConvNeXt； +- 高频/低频图像准确率和中间特征 H/L energy ratio； +- CIFAR-10 上一次 PGD 对比； +- CUB-100（协议不清楚）； +- COCO Mask R-CNN 检测/实例分割； +- ADE20K Semantic FPN 语义分割； +- A100 与 iPhone 14 延迟。 + +### 1.3 当前最有价值的观察 + +- 原始门控 \(Z\operatorname{ReLU6}(Z)\) 在 ImageNet 上兼顾了较好的原图和高频图像准确率； +- GELU 更偏低频，ReLU 更偏高频，ReLU6 在当前设置中较平衡； +- 更强高频偏好并不自动带来鲁棒性：CIFAR-10 PGD 中 ReLU gate 比 GELU gate 低约 1 个点； +- ConvNeXt 上 GLU 仅带来约 0.5 点，说明门控效果具有架构/容量依赖； +- matched ablation 中 \(7\times7\) DWConv 带来的增益明显大于 gate 的独立增益，必须进一步解耦。 + +--- + +## 2. 投稿前必须完成的基线与复现审计 + +这些问题会直接削弱 journal 可信度，应作为 Phase 0 处理，不应等写论文时再修。 + +### 2.1 论文内部不一致 + +| 项目 | 当前不一致 | 处理要求 | +|---|---|---| +| S3 准确率 | 引言 81.3%，主表/消融 79.3% | 回查 checkpoint 与日志，统一全文 | +| S3 对 EfficientFormer-L1 | 引言称 +4.0，按主表为 +2.1 | 全文自动检查算术 | +| S3 对 RepViT-M1.0 | 正文称 +1.9，按主表为 +0.7 | 修正 | +| S1 参数 | 主表 3.7M，CUB 表 3.1M | 重新导出模型统计 | +| CUB 数据 | 写作 “CUB-100”，非标准公开协议 | 明确是否为 CUB-200-2011 子集，发布 split | +| “五次 testing” | 确定性模型重复测试没有随机性定义 | 改为 seeds、crops 或 bootstrap，并写清楚 | +| kernel bandwidth | 没有严格定义 | 给算法、阈值、单位与敏感性 | +| PGD | 缺 \(\epsilon\)、步数、步长、随机起点 | 采用标准协议并补全 | +| 频率掩码 | 缺 DFT shift、通道、逆变换、归一化细节 | 发布统一评测实现 | + +### 2.2 论文、README 与代码不一致 + +公开仓库当前只完整注册了 S3，且存在缺失 import/文件和部署脚本依赖： + +- 论文 supplementary：weight decay 0.03、CutMix 0.4、S3/S4 DropPath 0.02； +- README：weight decay 0.05、CutMix 0.2、DropPath 0； +- README 的 benchmark 命令含 **.py.py** 拼写； +- 训练和部署脚本引用仓库中不存在或未提交的模块； +- 频谱分析、CIFAR、COCO、ADE20K、鲁棒性代码未公开； +- S1、S2、S4 配置/权重未在当前模型文件中完整提供。 + +### 2.3 Phase 0 交付物 + +1. 冻结 conference baseline tag，例如 **iclr2026-v3-repro**； +2. 单一 YAML 配方作为 truth source，论文表格由日志自动生成； +3. S1-S4 的 model registry、FLOPs/params 单元测试和 checkpoint； +4. 固定容器、依赖锁文件、数据校验 hash； +5. 训练、评测、频率干预、鲁棒性和部署脚本； +6. 每次实验保存 seed、git commit、数据版本、硬件、精度模式； +7. 先用 3 seeds 复现 S3，目标为论文值 \(\pm0.2\)； +8. 建立结果 schema，禁止手工拷贝表格数字。 + +若 Phase 0 无法复现 79.3%，暂停新方法实验，先定位配方差异。 + +--- + +## 3. 当前科学论证的关键缺口 + +### 3.1 三种“频率”被混用 + +需要明确区分： + +1. **图像空间频率**：二维像素坐标上的 DFT/DCT/wavelet 频率； +2. **隐藏特征空间频率**：每层 \(H\times W\) 特征图上的空间频率； +3. **模型函数频率**：分类函数沿输入空间方向变化的频率，经典 spectral bias + 通常讨论这一项。 + +图像中高频多不等于分类函数学习了高函数频率，中间特征高频能量多也不等于 +这些频率对标签有因果贡献。journal 必须统一定义，并分别设计指标。 + +### 3.2 卷积定理只给“可能扩频”，不给“有效扩频” + +\[ +\mathcal F(u\odot v)=\widehat u * \widehat v +\] + +只能说明频谱支持可能变宽。它没有保证： + +- 高频能量一定增加； +- 不同相位不会相消； +- 新频率位于 Nyquist 范围内； +- 新频率与类别标签有关； +- 新频率不会是噪声或 alias； +- 梯度下降会优先利用这些频率。 + +### 3.3 分析对象应是复合 gate，而非激活函数本身 + +实际算子是： + +\[ +q(x)=x\,\sigma(x). +\] + +例如： + +\[ +x\operatorname{ReLU}(x)=\max(x,0)^2, +\] + +它在零点处比 ReLU 本身更光滑；ReLU6 自门控还在 \(x=6\) 引入另一个拐点。 +因此仅用 “ReLU 非光滑、GELU 光滑” 解释空间特征频率不充分。还需控制输出 +均值/方差、梯度增益、阈值穿越率和 clipping。 + +### 3.4 连续 Fourier 推导与离散网络不匹配 + +网络处理有限离散网格。逐点乘法对应二维 **循环卷积**： + +\[ +\widehat{Y}[k] +=\frac{1}{HW}\sum_m +\widehat{U}[m]\, +\widehat{\sigma(V)}[(k-m)\bmod(H,W)]. +\] + +超出 Nyquist 的频率会折叠回来。会议版的 support doubling 例子忽略了 +aliasing；也没有说明边界条件、window 和频谱泄漏。 + +### 3.5 当前频率评测主要是相关性 + +硬圆形频率掩码可能产生 ringing，band-only 图像也严重偏离训练分布。 +“高频图像准确率更高”不能证明原图决策因高频而正确。必须增加保持语义且可 +配对比较的频带干预和函数敏感性分析。 + +### 3.6 二阶映射、优化与频率效应尚未解耦 + +门控收益也可能来自： + +- 二阶多项式特征扩张； +- 输出尺度/方差变化； +- 梯度流改变； +- \(7\times7\) DWConv； +- LayerScale/BN； +- 参数布局对硬件更友好。 + +因此需要 matched controls：\(x^2\)、ReLU\(^2\)、\(|x|\)、普通 ReLU6、 +方差匹配激活、Jacobian 匹配、共享/独立投影门控。 + +--- + +## 4. 建议的新理论主线 + +### 4.1 统一门控形式 + +将常见门控写成： + +\[ +Y=U(X)\odot \phi(V(X)). +\] + +覆盖： + +- self gate：\(U=V=X\)； +- independent GLU：\(U=W_uX,\ V=W_vX\)； +- correlated/cross gate：两分支共享部分投影； +- StarNet 类纯乘法； +- GmNet 的 clipped self gate。 + +### 4.2 必做定理/命题 + +**T1：有限离散网格上的精确谱传输恒等式** + +- 给出二维 DFT 的归一化、循环卷积和多通道形式； +- 给出 support expansion 与 alias-folding 的充分条件； +- 明确共享分支与独立分支的区别。 + +**T2：平稳随机场下的期望功率谱** + +对归一化特征 \(V\) 做 Hermite/Volterra 展开： + +\[ +\phi(V)=\sum_{n\ge 0} c_n H_n(V). +\] + +在零均值平稳高斯近似下，将输出 PSD 写成输入 PSD 的多重卷积加权和。 +对 self gate 可利用 + +\[ +xH_n(x)=H_{n+1}(x)+nH_{n-1}(x) +\] + +得到复合 \(x\phi(x)\) 的系数。这样才能把激活形状、输入统计和空间频率联系起来。 + +**T3：高频信号与噪声增益界** + +将 \(X=S+N\)，给出门控后有用频段能量和噪声能量的上界/近似，显示： + +- 非线性高阶系数增大时可能同时提高细节和噪声； +- clipping \(c\) 控制幅值增益； +- smoothness \(\tau\) 控制高阶系数衰减； +- 输入相关性/相干性决定交叉项是否有益。 + +**T4（可选）：训练动态** + +对简化网络或无限宽近似分析 NTK/eNTK eigenvalue decay 与 target alignment， +说明 Hadamard product 为什么可能更快拟合高函数频率。若无法给出严格证明， +只将其作为实证分析，不要写成定理。 + +### 4.3 理论必须给出的可证伪预测 + +1. 单频输入经 self gate 会出现哪些谐波； +2. 双频输入会出现哪些 sum/difference intermodulation； +3. 何时生成频率发生 Nyquist folding； +4. 阈值穿越率接近 0 时，ReLU/ReLU6/GELU 的差异应显著减小； +5. 输出方差匹配后，某些“高频优势”是否仍存在； +6. 分支相关性从 0 扫到 1 时，高频能量与可分类性如何变化； +7. 相同高频能量、不同 phase/coherence 时，准确率应不同。 + +### 4.4 理论边界 + +- 不要再声称“逐元素乘法必然增强高频”； +- 不要把激活标量函数的 Fourier transform 直接当成特征图频谱； +- 不要把“频谱支持更宽”直接等同于“表达能力/泛化更强”； +- 对 ReLU/GELU 在整条实轴上的 Fourier 变换需使用有限窗口、广义函数或 + Hermite 展开，明确数学条件； +- “first” 表述必须收窄，因为已有 Hadamard-product spectral bias、激活依赖 + spectral bias 和 spectral gating 相关理论。 + +--- + +## 5. 建议的新方法：FreqCal-Gate + +### 5.1 设计目标 + +1. 把原始 ReLU6 看成“固定 smoothness + 固定 clipping”的一个点； +2. 按 stage 和样本调节细节/噪声平衡； +3. 推理时不使用 FFT/DCT； +4. 额外参数和 FLOPs 尽量低于 0.1%，实际延迟增幅低于 5%； +5. 能退化为原始 GmNet，便于公平 warm start 和消融。 + +### 5.2 可控平滑度的 clipped activation + +定义温度化 Softplus： + +\[ +\operatorname{sp}_{\tau}(z) +=\tau\log(1+\exp(z/\tau)), +\] + +再定义平滑 clipped linear unit： + +\[ +a_{\tau,c}(z) +=\operatorname{sp}_{\tau}(z) +-\operatorname{sp}_{\tau}(z-c). +\] + +性质： + +- \(\tau\to 0\) 时趋近 \(\operatorname{ReLU}_{c}(z)\)； +- \(c=6,\tau\to0\) 时接近原始 ReLU6； +- \(\tau\) 控制拐点平滑度和高阶谱系数； +- \(c\) 控制饱和幅值和噪声放大上限。 + +新 self gate： + +\[ +G_{\tau,c}(Z)=Z\odot a_{\tau,c}(Z). +\] + +实现应采用数值稳定的 softplus，\(\tau\) 和 \(c\) 通过有界参数化产生。 + +### 5.3 无 FFT 的频率/可靠性 proxy + +对 stage 特征 \(Z_s\)，使用固定 \(3\times3\) blur \(B\)： + +\[ +L_s=B(Z_s),\qquad H_s=Z_s-L_s. +\] + +构造低成本描述量： + +\[ +r_E=\log\frac{\mathbb E[H_s^2]+\epsilon} +{\mathbb E[L_s^2]+\epsilon}, +\] + +\[ +r_C=\frac{\mathbb E[B(H_s)^2]+\epsilon} +{\mathbb E[H_s^2]+\epsilon}, +\] + +其中 \(r_E\) 表示相对高频能量，\(r_C\) 是粗略空间相干性；随机噪声和稳定边缘 +即使能量相近，也可能具有不同相干性。可再选配阈值穿越率： + +\[ +r_T(c)=\Pr(Z_s<0)+\Pr(Z_s>c). +\] + +控制器只用全局标量或 channel groups： + +\[ +(\tau_s,c_s)=h_s(r_E,r_C,r_T), +\] + +\[ +\tau_s\in[\tau_{\min},\tau_{\max}],\quad +c_s\in[c_{\min},c_{\max}]. +\] + +首版优先使用每个样本、每个 stage 两个标量；不要直接上逐像素动态频带图， +否则会与 FADC、FDConv 等方法重叠并增加部署成本。 + +### 5.4 训练目标 + +基础目标： + +\[ +\mathcal L_{\rm cls} +=\operatorname{CE}(f(x),y). +\] + +构造语义保持的频谱扰动视图 \(x'\)，包括 Fourier-basis noise、轻度 JPEG、 +受控高频噪声、轻度 blur，但每批只采一种： + +\[ +\mathcal L_{\rm cons} +=\operatorname{JS}(p(x),p(x')). +\] + +对明确注入高频噪声的配对样本，可加入弱排序约束，让控制器选择更平滑/更强 +clipping，而不是硬编码所有频率： + +\[ +\mathcal L_{\rm cal} +=\max\{0,m-[\bar\tau(x')-\bar\tau(x)]\}. +\] + +总损失： + +\[ +\mathcal L +=\mathcal L_{\rm cls} ++\lambda_{\rm cons}\mathcal L_{\rm cons} ++\lambda_{\rm cal}\mathcal L_{\rm cal}. +\] + +所有方法对比必须使用相同频谱 augmentation；否则收益可能来自数据增强而非门控。 + +### 5.5 由简到繁的候选 + +| ID | Gate | 用途 | +|---|---|---| +| G0 | 原始 \(Z\operatorname{ReLU6}(Z)\) | conference baseline | +| G1 | 静态、每 stage 可学习 \((\tau,c)\) | 最低风险版本 | +| G2 | sample-stage adaptive \((\tau,c)\) | 推荐主模型 | +| G3 | group-wise adaptive \((\tau,c)\) | 容量上界 | +| G4 | GELU/ReLU6 混合 \(Z[(1-\alpha)\phi_s+\alpha\phi_{ns}]\) | 备选 | +| G5 | 显式 DCT/FFT band gate | 分析上界，不作为默认部署模型 | + +筛选顺序为 G1 -> G2 -> G3/G4。只有 G2 无法形成 Pareto 改善时才测试 G4； +G5 只用于判断低成本 proxy 与显式频谱控制的差距。 + +### 5.6 新颖性定位 + +FreqCal-Gate 必须明确区别于： + +- FADC/FDConv：它们动态调节卷积核或显式频带；本方法调节 GLU 复合非线性的 + smoothness/clipping，并由门控谱传输理论推导； +- Spectral Gating Networks：后者增加 RFF/Fourier branch；本方法不增加 + spectral basis，不做跨模态 FFN 替换； +- SpectFormer/Fourier gate：本方法推理时无 FFT； +- StarNet：后者强调高维乘法映射；本方法研究相关 self-gate 的可控谱传输和鲁棒性； +- 普通 dynamic activation：本方法的控制量、理论预测和评价均与频谱传输及 aliasing + 对齐。 + +--- + +## 6. 研究问题与假设 + +| 编号 | 研究问题 | 可检验假设 | +|---|---|---| +| RQ1 | 乘法何时真正增加有效高频？ | 由分支谱重叠、相关性、相位和阈值穿越共同决定，而非只由 support 决定 | +| RQ2 | 激活 smoothness 是否决定空间频谱？ | 只在控制输入统计与复合 gate 后呈稳定关系 | +| RQ3 | ReLU6 为什么优于 ReLU/GELU？ | clipping 限制噪声增益，非零拐点保留中高频；优势随分辨率与 stage 变化 | +| RQ4 | 高频准确率能否预测原图性能？ | 单一 band-only accuracy 不够，因果频带移除和 transfer matrix 更有预测力 | +| RQ5 | 自适应门控能否打破 clean/robust trade-off？ | reliability-aware smoothness/clipping 可保持细节并降低噪声敏感性 | +| RQ6 | 效果是否只来自二阶映射或 DWConv？ | 在方差、梯度、参数、FLOPs 匹配后仍有独立 gate 增益 | +| RQ7 | 结论能否迁移？ | 在轻量 CNN/Hybrid/SSM 和密集任务中趋势一致，但增益随容量衰减 | + +--- + +## 7. 总体实验路线 + +### Phase 0：基线复现与协议冻结 + +**目标**：建立可信的 conference baseline。 + +步骤： + +1. 修复公开代码 import、补齐 S1-S4； +2. 冻结唯一训练配置； +3. 在 ImageNet-1K 重训 S3，3 seeds； +4. 验证 params/FLOPs/throughput/latency； +5. 重现 Table 1、activation ablation 和 H/L 结果； +6. 检查频率变换的数值可逆性： + \(\|x-\mathcal F^{-1}\mathcal F(x)\|_\infty<10^{-5}\)； +7. 发布频率评测单元测试和最小示例。 + +**通过条件**：Top-1 与 79.3 的差值不超过 0.2，3-seed std 合理，所有表格数值 +可由日志自动生成。 + +### Phase 1：合成机制验证 + +**数据 A：单/双正弦** + +\[ +x(i,j)=A_1\sin(2\pi f_1^\top p+\varphi_1) ++A_2\sin(2\pi f_2^\top p+\varphi_2). +\] + +扫描： + +- 频率半径：0.05 到 0.95 Nyquist； +- 方向：0、30、45、60、90 度； +- 振幅：0.25、0.5、1、2； +- 相位差：0 到 \(2\pi\)； +- 分支相关系数：0、0.25、0.5、0.75、1； +- feature mean/std 和 BN 前后状态； +- \(\tau,c\) 与 ReLU/GELU/ReLU6。 + +测量： + +- 生成谐波的位置、幅值和相位； +- intermodulation \(f_1\pm f_2\)； +- 理论 PSD 与实测 PSD 的相对误差； +- alias energy ratio； +- 阈值穿越率。 + +**数据 B：可控 PSD 随机场** + +生成 \(S(f)\propto 1/f^\beta\)， +\(\beta\in\{0,1,2,3\}\)，再叠加结构化边缘或白噪声。验证相同 H/L energy、 +不同 coherence 下 gate 的行为。 + +**数据 C：可控标签任务** + +- 标签只由低频决定； +- 标签只由高频决定； +- 标签由低高频 conjunction 决定； +- 高频为伪相关 shortcut，测试分布翻转； +- 相同 amplitude、不同 phase 决定标签。 + +对比 baseline MLP/CNN、plain product、self gate、independent GLU 和新门控。 + +**通过条件**： + +- T1/T2 预测与实测趋势一致； +- 能构造“高频能量增加但准确率下降”的反例； +- 新门控在 shortcut 翻转时比固定 ReLU6 更稳。 + +### Phase 2：低成本候选筛选 + +先用 CIFAR-100 或 ImageNet-100，不直接烧 ImageNet-1K。 + +筛选维度： + +- G0-G5； +- static/stage/sample/group 控制粒度； +- \(r_E\)、\(r_C\)、\(r_T\) 的组合； +- \(\tau,c\) 范围； +- \(\lambda_{\rm cons},\lambda_{\rm cal}\)； +- 仅 clean 训练 vs 同配方频谱增强。 + +每个候选 3 seeds，画 clean accuracy、corruption accuracy、latency 三维 Pareto。 +不在 Pareto 前沿的设计立即淘汰。 + +**升级到 Phase 3 的条件**： + +- clean 不低于 G0 0.2 点； +- corruption error 相对改善至少 3%； +- 延迟开销小于 5%； +- controller 没有塌缩到固定边界值。 + +### Phase 3：ImageNet-1K 主实验 + +1. GmNet S1-S4 全尺度； +2. S2/S3 为主要 3-seed 尺度； +3. S1/S4 在结构冻结后至少 1 次完整训练，关键结果再补 seeds； +4. 统一 300 epochs、augment、optimizer、EMA/无 EMA； +5. 同时报告无频谱增强和统一频谱增强两套； +6. 报告 Top-1/Top-5、NLL、ECE、params、FLOPs、训练吞吐和推理延迟； +7. 用 paired bootstrap 比较逐图预测差异。 + +### Phase 4：因果频谱诊断 + +每个主模型至少完成： + +1. soft band removal； +2. band-limited additive perturbation； +3. Fourier basis sensitivity heat map； +4. amplitude/phase recombination； +5. DFT、DCT、wavelet、Laplacian pyramid 一致性； +6. layer-wise radial PSD； +7. spectral entropy、centroid、roll-off； +8. spectral transfer matrix； +9. band-wise input Jacobian gain； +10. activation threshold crossing； +11. alias energy； +12. 局部函数频率或 eNTK target alignment（选一个可扩展实现）。 + +### Phase 5：鲁棒性、OOD 与线索偏好 + +详见第 9 节。核心不是追求 adversarial SOTA，而是验证“可控门控是否缓解 +高频准确率与鲁棒性冲突”。 + +### Phase 6：高频敏感任务和下游任务 + +详见第 10 节。原有 COCO/ADE20K 总指标继续保留，但新增 AP_S、边界指标和 +细粒度任务，直接对应论文机制。 + +### Phase 7：部署、量化和完整统计 + +详见第 11-12 节。冻结硬件、runtime、精度、batch、warmup 和测量次数。 + +### 7.1 可直接建表的实验 registry + +| ID | 实验 | 数据/设置 | Primary endpoint | 重复 | 优先级 | +|---|---|---|---|---:|---| +| E0 | conference baseline 复现 | GmNet-S2/S3, ImageNet-1K | Top-1、params、latency | 3 seeds | 必做 | +| E1 | 频率测量审计 | 硬/软 FFT、DCT、wavelet | Frequency-Accuracy AUC、重构误差 | 3 seeds | 必做 | +| E2 | 合成谱机制 | 正弦、随机场、线索冲突 | 谱传输误差、alias ratio、cue reliance | 5 seeds | 必做 | +| E3 | composite gate 光滑度 | RePU/Softplus/capped-ReLU | PSD slope、Frequency-AUC、clean/mCE | 3-5 seeds | 核心 | +| E4 | gate 因果干预 | self/independent/shuffle/stop-grad | gate-input coherence、Top-1、transfer | 3-5 seeds | 核心 | +| E5 | stage/capacity law | S1-S4、逐 stage 插入 | gain vs log(params) slope | 3 seeds | 必做 | +| E6 | corruption/stability | ImageNet-C/P、shift、JPEG | mCE、mFR、ECE | frozen models | 必做 | +| E7 | natural shift | IN-V2/A/R/Sketch/ObjectNet | mean OOD、relative retention | frozen models | 必做 | +| E8 | adversarial | AutoAttack、low/mid/high attacks | robust acc、worst-band acc | 3 seeds/5k 起 | 必做 | +| E9 | semantic OOD | NINCO，Energy/MSP | AUROC、FPR95 | 3 seed models | 可选核心 | +| E10 | fine-grained | CUB-200、Aircraft、Cars/DTD | Top-1 与频率需求指数相关性 | 3 seeds | 次核心 | +| E11 | boundary/small object | COCO、ADE/Cityscapes | AP_S、AP75、Boundary IoU/F | 3 seeds | 次核心 | +| E12 | deployment | GPU/CPU/iPhone/Jetson, FP16/INT8 | p50/p95、memory、energy | 5 processes | 必做 | + +每个 ID 在配置、日志、表格和论文图中保持一致，例如 **E3-G2-S3-seed1**。 +建议 primary endpoints 预先冻结为：ImageNet Top-1、Frequency-Accuracy AUC、 +ImageNet-C mCE、自然偏移平均准确率、目标设备 p50 latency。 + +--- + +## 8. 主实验与 baseline 矩阵 + +### 8.1 模型 baseline + +所有延迟必须在同一硬件、同一导出链上重测；不能直接拼接各论文设备数字。 + +| 类别 | 建议模型 | +|---|---| +| 经典轻量 CNN | MobileNetV2/V4、MobileOne、FasterNet | +| 现代轻量 CNN | StarNet、RapidNet、RepViT、LSNet | +| Hybrid/attention | EfficientFormerV2、SHViT、CARE | +| SSM | MobileMamba、EfficientViM | +| 频率相关 | FcaNet、FADC adapter、GFNet 或同预算 spectral baseline | +| 门控相关 | GEGLU、ReGLU、SwiGLU、StarNet-style product | +| 本文 | GmNet G0、G1、G2，必要时 G3/G4/G5 | + +核心主表不宜超过 20 个模型；其余放 supplement。优先选择公开 checkpoint 且能统一 +导出的模型。 + +### 8.2 严格 matched controls + +对 GmNet-S3 block 在 params/FLOPs/实际 latency 匹配下比较： + +- \(x\)； +- ReLU、ReLU6、GELU； +- \(x^2\)； +- \(|x|\)； +- ReLU\(^2\)； +- \(x\operatorname{ReLU}(x)\)； +- \(x\operatorname{ReLU6}(x)\)； +- 输出 mean/variance 匹配版本； +- Jacobian RMS 匹配版本； +- self/independent/correlated gate； +- 去掉第一/第二个 \(7\times7\) DWConv； +- kernel size 3/5/7/9； +- 加/不加 BN、LayerScale。 + +#### 连续光滑度与截断扫描 + +不要只再枚举两个 activation，应构造可排序的函数族： + +- RePU：\(p\in\{1,2,3,4\}\)，控制复合算子的有限可微阶数； +- Softplus：\(\beta\in\{1,2,5,10,20\}\)，连续逼近 ReLU； +- capped-ReLU：\(c\in\{1,3,6,\infty\}\)，定位 clipping 的作用； +- FreqCal-Gate：扫描 \(\tau,c\) 并与上述固定族对齐。 + +所有 gate 在标准正态输入下校准输出 mean/variance，并记录每层 +\(Z<0\)、\(0