eduzrh's picture
sync docs
4b59547 verified
|
Raw History Blame Contribute Delete
7.05 kB
# 方法:物理信息增强的选择性状态空间模型(PI-Mamba)for 多合金 MD 轨迹
对应 `step 2.docx` 的四项要求:(i) 多合金/多工况条件输入;(ii) 时序状态递推;
(iii) 多任务输出;(iv) 允许标签缺失。所有实现见 `code/pimamba/`。
## 1. 问题形式化
对样本 $s$(一种合金 + 一组载荷条件)给定应变序列
$\varepsilon_{1:T}$(本数据 $T=401$,$\varepsilon\in[0,0.2]$,$\Delta\varepsilon=5\times10^{-4}$),
模型递推隐藏状态并同时输出 13 个物理量:
$$
\mathbf{h}_t = f_\theta(\mathbf{h}_{t-1}, \mathbf{u}_t, \mathbf{c}_s), \qquad
\hat{\mathbf{y}}_t = g_\theta(\mathbf{h}_t, \mathbf{c}_s), \qquad
\hat{\mathbf{y}}_t \in \mathbb{R}^{13}
$$
其中 $\mathbf{u}_t$ 为动态输入(应变、应变增量、$\log_{10}\dot\varepsilon$、$T_0$、拉/压符号),
$\mathbf{c}_s$ 为静态条件(成分、VEC、δ、ΔH_mix、几何、系综、初始微观状态等)。
**标签缺失**:每个样本只有部分目标有标注。定义观测掩码
$m_{t,k}\in\{0,1\}$,损失只在 $m_{t,k}=1$ 处计算。
## 2. 选择性状态空间递推(S6)
连续时间状态空间
$\dot{\mathbf{h}}(t)=\mathbf{A}\mathbf{h}(t)+\mathbf{B}\mathbf{u}(t)$
在零阶保持(ZOH)离散化下为
$$
\mathbf{h}_t = \bar{\mathbf{A}}_t \mathbf{h}_{t-1} + \bar{\mathbf{B}}_t \mathbf{u}_t,\quad
\bar{\mathbf{A}}_t=\exp(\Delta_t \mathbf{A}),\quad
\bar{\mathbf{B}}_t=(\Delta_t\mathbf{A})^{-1}\big(e^{\Delta_t\mathbf{A}}-\mathbf{I}\big)\Delta_t\mathbf{B}_t
$$
关键是 $\Delta_t$、$\mathbf{B}_t$、$\mathbf{C}_t$ 都是输入的函数(选择性),
因此模型能对「弹性→屈服→塑性硬化」这类**分段切换**自适应地改变记忆尺度:
弹性段需要长记忆($\Delta$ 小、$\bar A\to1$),位错增殖段需要快速更新($\Delta$ 大)。
实现为分块并行扫描(`models.selective_scan`),复杂度 $O(T)$、无递归依赖,
在长度 401 的序列上比逐点循环快一个数量级;数值上用 chunk 内
`cumprod/cumsum` 并 clamp $\Delta\in[10^{-4},0.2]$。
**Mamba-2 变体**(`Mamba2Block`):多头(4 头)、每头独立的 $\mathbf{A}$、
组共享 $\mathbf{B}/\mathbf{C}$、$d_{state}=64$,结构上等价于 SSD 分解的门控线性注意力,
用于检验「SSM 的优势是否依赖于具体参数化」。
## 3. 物理信息注入(PI-Mamba)
三条物理通道,均可单独消融:
1. **静态条件调制(FiLM)**:$\mathbf{c}_s$ 经 MLP 得到 $(\gamma_\ell,\beta_\ell)$,
在每层 SSM 之后做 $\mathbf{h}\leftarrow(1+\gamma_\ell)\odot\mathbf{h}+\beta_\ell$,
使同一套动力学参数可随合金成分连续变化(对应「多合金条件输入」)。
2. **微观→宏观耦合**:应力头不直接读 $\mathbf{h}_t$,而是读
$[\mathbf{h}_t,\ \mathbf{W}\,\mathbf{z}_t]$,其中
$\mathbf{z}_t=[\xi_{BCC},\xi_{FCC},\xi_{HCP},\xi_{other},\rho_{1..7},\rho_{twin}]$
是同一时刻的微观预测。这实现了「微观结构演化 → 宏观流动应力」的显式通路,
也是第 6 节敏感性分析的抓手。
3. **物理约束损失**(可选,`--physics`):
- 单调性:$\rho_{total}$、$\rho_{twin}$ 在塑性段非减(软约束,hinge);
- 初态一致:$t=1$ 的微观预测应接近表格给出的初始值;
- 光滑性:应力二阶差分惩罚(抑制非物理振荡)。
## 4. 多任务输出头
共享主干 + **每个物理量独立输出头**(step 2 明确要求,避免异量纲目标互相干扰):
| 头 | 输出维度 | 激活 | 说明 |
|---|---|---|---|
| 应力 | 1 | 线性 | z-score 空间 |
| 相分数 | 4 | softmax | 单纯形约束,和为 1 |
| 位错密度 | 7 | softplus | 非负 |
| 孪晶密度 | 1 | softplus | 非负 |
损失为掩码 MSE 的加权和:
$$
\mathcal{L}=\sum_{k} w_k \frac{\sum_{t}m_{t,k}(\hat y_{t,k}-y_{t,k})^2}{\sum_t m_{t,k}}
+\lambda_{mono}\mathcal{L}_{mono}+\lambda_{init}\mathcal{L}_{init}+\lambda_{smooth}\mathcal{L}_{smooth}
$$
权重 $w_k = 1/\max(\mathrm{Var}_k, 0.05)$ 后归一化到均值 1:相分数是 0–1 原始尺度
(MSE ~1e-2),应力是 z-score(MSE ~1),若不配平,13 个头等权会把相分数头淹没。
## 5. 归一化
| 类型 | 变换 | 理由 |
|---|---|---|
| 应力、温度等物理量 | z-score | 常规 |
| 应变率(1e8–5e11) | $\log_{10}$ → z-score | 跨 3.7 个数量级 |
| 几何尺寸 | $\log_{10}$ → z-score,配适用性 flag | 形状不同,缺失维度不能填 0 |
| 位错/孪晶密度 | $\mathrm{asinh}(x/s_0)$ → z-score | 零值有定义、大值近似对数 |
| 相分数、one-hot、flag | 不缩放 | 本身无量纲且界于 [0,1] |
`Normalizer` 只在训练集上拟合并随 checkpoint 保存,避免信息泄漏。
## 6. 训练协议
- 优化器 AdamW,`wd=1e-4`,OneCycleLR(`pct_start=0.25`),`max_lr=3e-4`,300 epochs,
batch=8,梯度裁剪 1.0。
- **不使用内部验证集早停**:33 个样本下 15% 留出只有约 4 条轨迹,早停完全由噪声驱动
(见报告 §5.1 的诊断)。改为固定轮次 + 完整退火,测试集即 5 折的 out-of-fold 样本。
- 数值防护:loss 或梯度范数非有限时跳过该 batch(不更新权重),并记录 `nan_batches`。
- 每个配置记录 `metrics.json / history.json / curves.csv / predictions.npz / model.pt`。
## 7. 评估
- 物理单位下逐目标 $R^2$、MAE、nMAE(=MAE/σ_y)、bias。
- **主指标**:7 个目标的宏平均 $R^2$(`sigma, xi_*×4, rho_total, twin`);
6 个位错分型目标单列(覆盖 3–6 个样本,R² 不稳定)。
- **应力分解**:把总 $R^2$ 拆成
- `level_oracle_r2`:若精确知道每条曲线的均值(只知道"哪个合金多强")能达到的上界;
- `shape_r2`:去掉每条曲线自身均值后的 $R^2$(刻画硬化/软化形状);
- `level_corr` / `level_mae`:样本级平均应力的相关与偏差。
- **曲线指标**:峰值相对误差、$\varepsilon=0.02/0.05/0.10$ 处应力相对误差、曲线 RMSE。
## 8. 实验设计
| 套件 | 目的 | 规模 |
|---|---|---|
| `main` | 7 种架构对比(MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba) | 5 折 × 2 种子 |
| `loao` | 跨合金泛化:留一合金体系 | 10 个体系 × 4 模型 |
| `ablation` | 耦合/物理损失/几何/flag/系综/初态/归一化 | 8 变体 × 5 折 |
| `dataeff` | 数据效率 25/50/75/100% | 4 模型 × 4 比例 × 5 折 |
| 敏感性 | $\partial\sigma/\partial z_{micro}$ 反事实 | 训练好的 PI-Mamba |
## 9. 复现
```bash
cd code
python -m pimamba.build_dataset # 解析 Excel -> data/processed
python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
python -m pimamba.run_experiments --suite all --seeds 0 1
python -m pimamba.report # 生成表格与图
```
环境:Python 3.12、PyTorch 2.8(CUDA 12.8)或 2.15(CPU),单卡 A800-80GB 即可,
全部实验合计 < 4 GPU·小时。