eduzrh's picture
sync docs
4b59547 verified
|
Raw History Blame Contribute Delete
7.05 kB

方法:物理信息增强的选择性状态空间模型(PI-Mamba)for 多合金 MD 轨迹

对应 step 2.docx 的四项要求:(i) 多合金/多工况条件输入;(ii) 时序状态递推; (iii) 多任务输出;(iv) 允许标签缺失。所有实现见 code/pimamba/。

1. 问题形式化

对样本 $s$(一种合金 + 一组载荷条件)给定应变序列 $\varepsilon_{1:T}$(本数据 $T=401$,$\varepsilon\in[0,0.2]$,$\Delta\varepsilon=5\times10^{-4}$), 模型递推隐藏状态并同时输出 13 个物理量:

ht=fθ(ht−1,ut,cs),y^t=gθ(ht,cs),y^t∈R13 \mathbf{h}_t = f_\theta(\mathbf{h}_{t-1}, \mathbf{u}_t, \mathbf{c}_s), \qquad \hat{\mathbf{y}}_t = g_\theta(\mathbf{h}_t, \mathbf{c}_s), \qquad \hat{\mathbf{y}}_t \in \mathbb{R}^{13}

其中 $\mathbf{u}t$ 为动态输入(应变、应变增量、$\log{10}\dot\varepsilon$、$T_0$、拉/压符号), $\mathbf{c}_s$ 为静态条件(成分、VEC、δ、ΔH_mix、几何、系综、初始微观状态等)。

标签缺失:每个样本只有部分目标有标注。定义观测掩码 $m_{t,k}\in{0,1}$,损失只在 $m_{t,k}=1$ 处计算。

2. 选择性状态空间递推(S6)

连续时间状态空间 $\dot{\mathbf{h}}(t)=\mathbf{A}\mathbf{h}(t)+\mathbf{B}\mathbf{u}(t)$ 在零阶保持(ZOH)离散化下为

ht=Aˉtht−1+Bˉtut,Aˉt=exp⁡(ΔtA),Bˉt=(ΔtA)−1(eΔtA−I)ΔtBt \mathbf{h}_t = \bar{\mathbf{A}}_t \mathbf{h}_{t-1} + \bar{\mathbf{B}}_t \mathbf{u}_t,\quad \bar{\mathbf{A}}_t=\exp(\Delta_t \mathbf{A}),\quad \bar{\mathbf{B}}_t=(\Delta_t\mathbf{A})^{-1}\big(e^{\Delta_t\mathbf{A}}-\mathbf{I}\big)\Delta_t\mathbf{B}_t

关键是 $\Delta_t$、$\mathbf{B}_t$、$\mathbf{C}_t$ 都是输入的函数(选择性), 因此模型能对「弹性→屈服→塑性硬化」这类分段切换自适应地改变记忆尺度: 弹性段需要长记忆($\Delta$ 小、$\bar A\to1$),位错增殖段需要快速更新($\Delta$ 大)。

实现为分块并行扫描(models.selective_scan),复杂度 $O(T)$、无递归依赖, 在长度 401 的序列上比逐点循环快一个数量级;数值上用 chunk 内 cumprod/cumsum 并 clamp $\Delta\in[10^{-4},0.2]$。

Mamba-2 变体(Mamba2Block):多头(4 头)、每头独立的 $\mathbf{A}$、 组共享 $\mathbf{B}/\mathbf{C}$、$d_{state}=64$,结构上等价于 SSD 分解的门控线性注意力, 用于检验「SSM 的优势是否依赖于具体参数化」。

3. 物理信息注入(PI-Mamba)

三条物理通道,均可单独消融:

  1. 静态条件调制(FiLM):$\mathbf{c}_s$ 经 MLP 得到 $(\gamma_\ell,\beta_\ell)$, 在每层 SSM 之后做 $\mathbf{h}\leftarrow(1+\gamma_\ell)\odot\mathbf{h}+\beta_\ell$, 使同一套动力学参数可随合金成分连续变化(对应「多合金条件输入」)。
  2. 微观→宏观耦合:应力头不直接读 $\mathbf{h}t$,而是读 $[\mathbf{h}t,\ \mathbf{W},\mathbf{z}t]$,其中 $\mathbf{z}t=[\xi{BCC},\xi{FCC},\xi{HCP},\xi{other},\rho_{1..7},\rho_{twin}]$ 是同一时刻的微观预测。这实现了「微观结构演化 → 宏观流动应力」的显式通路, 也是第 6 节敏感性分析的抓手。
  3. 物理约束损失(可选,--physics):
    • 单调性:$\rho_{total}$、$\rho_{twin}$ 在塑性段非减(软约束,hinge);
    • 初态一致:$t=1$ 的微观预测应接近表格给出的初始值;
    • 光滑性:应力二阶差分惩罚(抑制非物理振荡)。

4. 多任务输出头

共享主干 + 每个物理量独立输出头(step 2 明确要求,避免异量纲目标互相干扰):

头 输出维度 激活 说明
应力 1 线性 z-score 空间
相分数 4 softmax 单纯形约束,和为 1
位错密度 7 softplus 非负
孪晶密度 1 softplus 非负

损失为掩码 MSE 的加权和:

L=∑kwk∑tmt,k(y^t,k−yt,k)2∑tmt,k+λmonoLmono+λinitLinit+λsmoothLsmooth \mathcal{L}=\sum_{k} w_k \frac{\sum_{t}m_{t,k}(\hat y_{t,k}-y_{t,k})^2}{\sum_t m_{t,k}} +\lambda_{mono}\mathcal{L}_{mono}+\lambda_{init}\mathcal{L}_{init}+\lambda_{smooth}\mathcal{L}_{smooth}

权重 $w_k = 1/\max(\mathrm{Var}_k, 0.05)$ 后归一化到均值 1:相分数是 0–1 原始尺度 (MSE ~1e-2),应力是 z-score(MSE ~1),若不配平,13 个头等权会把相分数头淹没。

5. 归一化

类型 变换 理由
应力、温度等物理量 z-score 常规
应变率(1e8–5e11) $\log_{10}$ → z-score 跨 3.7 个数量级
几何尺寸 $\log_{10}$ → z-score,配适用性 flag 形状不同,缺失维度不能填 0
位错/孪晶密度 $\mathrm{asinh}(x/s_0)$ → z-score 零值有定义、大值近似对数
相分数、one-hot、flag 不缩放 本身无量纲且界于 [0,1]

Normalizer 只在训练集上拟合并随 checkpoint 保存,避免信息泄漏。

6. 训练协议

  • 优化器 AdamW,wd=1e-4,OneCycleLR(pct_start=0.25),max_lr=3e-4,300 epochs, batch=8,梯度裁剪 1.0。
  • 不使用内部验证集早停:33 个样本下 15% 留出只有约 4 条轨迹,早停完全由噪声驱动 (见报告 §5.1 的诊断)。改为固定轮次 + 完整退火,测试集即 5 折的 out-of-fold 样本。
  • 数值防护:loss 或梯度范数非有限时跳过该 batch(不更新权重),并记录 nan_batches。
  • 每个配置记录 metrics.json / history.json / curves.csv / predictions.npz / model.pt。

7. 评估

  • 物理单位下逐目标 $R^2$、MAE、nMAE(=MAE/σ_y)、bias。
  • 主指标:7 个目标的宏平均 $R^2$(sigma, xi_*×4, rho_total, twin); 6 个位错分型目标单列(覆盖 3–6 个样本,R² 不稳定)。
  • 应力分解:把总 $R^2$ 拆成
    • level_oracle_r2:若精确知道每条曲线的均值(只知道"哪个合金多强")能达到的上界;
    • shape_r2:去掉每条曲线自身均值后的 $R^2$(刻画硬化/软化形状);
    • level_corr / level_mae:样本级平均应力的相关与偏差。
  • 曲线指标:峰值相对误差、$\varepsilon=0.02/0.05/0.10$ 处应力相对误差、曲线 RMSE。

8. 实验设计

套件 目的 规模
main 7 种架构对比(MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba) 5 折 × 2 种子
loao 跨合金泛化:留一合金体系 10 个体系 × 4 模型
ablation 耦合/物理损失/几何/flag/系综/初态/归一化 8 变体 × 5 折
dataeff 数据效率 25/50/75/100% 4 模型 × 4 比例 × 5 折
敏感性 $\partial\sigma/\partial z_{micro}$ 反事实 训练好的 PI-Mamba

9. 复现

cd code
python -m pimamba.build_dataset          # 解析 Excel -> data/processed
python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
python -m pimamba.run_experiments --suite all --seeds 0 1
python -m pimamba.report                 # 生成表格与图

环境:Python 3.12、PyTorch 2.8(CUDA 12.8)或 2.15(CPU),单卡 A800-80GB 即可, 全部实验合计 < 4 GPU·小时。