Download docs/method.md from eduzrh/training-model-material: direct link, hf CLI and curl.
- Browser
- Download file 7.05 kB
-
https://huggingface.co/datasets/eduzrh/training-model-material/resolve/main/docs/method.md
- Command line
-
hf download hf://datasets/eduzrh/training-model-material/docs/method.md
-
curl -L -o method.md https://huggingface.co/datasets/eduzrh/training-model-material/resolve/main/docs/method.md
方法:物理信息增强的选择性状态空间模型(PI-Mamba)for 多合金 MD 轨迹
对应 step 2.docx 的四项要求:(i) 多合金/多工况条件输入;(ii) 时序状态递推;
(iii) 多任务输出;(iv) 允许标签缺失。所有实现见 code/pimamba/。
1. 问题形式化
对样本 $s$(一种合金 + 一组载荷条件)给定应变序列 $\varepsilon_{1:T}$(本数据 $T=401$,$\varepsilon\in[0,0.2]$,$\Delta\varepsilon=5\times10^{-4}$), 模型递推隐藏状态并同时输出 13 个物理量:
其中 $\mathbf{u}t$ 为动态输入(应变、应变增量、$\log{10}\dot\varepsilon$、$T_0$、拉/压符号), $\mathbf{c}_s$ 为静态条件(成分、VEC、δ、ΔH_mix、几何、系综、初始微观状态等)。
标签缺失:每个样本只有部分目标有标注。定义观测掩码 $m_{t,k}\in{0,1}$,损失只在 $m_{t,k}=1$ 处计算。
2. 选择性状态空间递推(S6)
连续时间状态空间 $\dot{\mathbf{h}}(t)=\mathbf{A}\mathbf{h}(t)+\mathbf{B}\mathbf{u}(t)$ 在零阶保持(ZOH)离散化下为
关键是 $\Delta_t$、$\mathbf{B}_t$、$\mathbf{C}_t$ 都是输入的函数(选择性), 因此模型能对「弹性→屈服→塑性硬化」这类分段切换自适应地改变记忆尺度: 弹性段需要长记忆($\Delta$ 小、$\bar A\to1$),位错增殖段需要快速更新($\Delta$ 大)。
实现为分块并行扫描(models.selective_scan),复杂度 $O(T)$、无递归依赖,
在长度 401 的序列上比逐点循环快一个数量级;数值上用 chunk 内
cumprod/cumsum 并 clamp $\Delta\in[10^{-4},0.2]$。
Mamba-2 变体(Mamba2Block):多头(4 头)、每头独立的 $\mathbf{A}$、
组共享 $\mathbf{B}/\mathbf{C}$、$d_{state}=64$,结构上等价于 SSD 分解的门控线性注意力,
用于检验「SSM 的优势是否依赖于具体参数化」。
3. 物理信息注入(PI-Mamba)
三条物理通道,均可单独消融:
- 静态条件调制(FiLM):$\mathbf{c}_s$ 经 MLP 得到 $(\gamma_\ell,\beta_\ell)$, 在每层 SSM 之后做 $\mathbf{h}\leftarrow(1+\gamma_\ell)\odot\mathbf{h}+\beta_\ell$, 使同一套动力学参数可随合金成分连续变化(对应「多合金条件输入」)。
- 微观→宏观耦合:应力头不直接读 $\mathbf{h}t$,而是读 $[\mathbf{h}t,\ \mathbf{W},\mathbf{z}t]$,其中 $\mathbf{z}t=[\xi{BCC},\xi{FCC},\xi{HCP},\xi{other},\rho_{1..7},\rho_{twin}]$ 是同一时刻的微观预测。这实现了「微观结构演化 → 宏观流动应力」的显式通路, 也是第 6 节敏感性分析的抓手。
- 物理约束损失(可选,
--physics):- 单调性:$\rho_{total}$、$\rho_{twin}$ 在塑性段非减(软约束,hinge);
- 初态一致:$t=1$ 的微观预测应接近表格给出的初始值;
- 光滑性:应力二阶差分惩罚(抑制非物理振荡)。
4. 多任务输出头
共享主干 + 每个物理量独立输出头(step 2 明确要求,避免异量纲目标互相干扰):
| 头 | 输出维度 | 激活 | 说明 |
|---|---|---|---|
| 应力 | 1 | 线性 | z-score 空间 |
| 相分数 | 4 | softmax | 单纯形约束,和为 1 |
| 位错密度 | 7 | softplus | 非负 |
| 孪晶密度 | 1 | softplus | 非负 |
损失为掩码 MSE 的加权和:
权重 $w_k = 1/\max(\mathrm{Var}_k, 0.05)$ 后归一化到均值 1:相分数是 0–1 原始尺度 (MSE ~1e-2),应力是 z-score(MSE ~1),若不配平,13 个头等权会把相分数头淹没。
5. 归一化
| 类型 | 变换 | 理由 |
|---|---|---|
| 应力、温度等物理量 | z-score | 常规 |
| 应变率(1e8–5e11) | $\log_{10}$ → z-score | 跨 3.7 个数量级 |
| 几何尺寸 | $\log_{10}$ → z-score,配适用性 flag | 形状不同,缺失维度不能填 0 |
| 位错/孪晶密度 | $\mathrm{asinh}(x/s_0)$ → z-score | 零值有定义、大值近似对数 |
| 相分数、one-hot、flag | 不缩放 | 本身无量纲且界于 [0,1] |
Normalizer 只在训练集上拟合并随 checkpoint 保存,避免信息泄漏。
6. 训练协议
- 优化器 AdamW,
wd=1e-4,OneCycleLR(pct_start=0.25),max_lr=3e-4,300 epochs, batch=8,梯度裁剪 1.0。 - 不使用内部验证集早停:33 个样本下 15% 留出只有约 4 条轨迹,早停完全由噪声驱动 (见报告 §5.1 的诊断)。改为固定轮次 + 完整退火,测试集即 5 折的 out-of-fold 样本。
- 数值防护:loss 或梯度范数非有限时跳过该 batch(不更新权重),并记录
nan_batches。 - 每个配置记录
metrics.json / history.json / curves.csv / predictions.npz / model.pt。
7. 评估
- 物理单位下逐目标 $R^2$、MAE、nMAE(=MAE/σ_y)、bias。
- 主指标:7 个目标的宏平均 $R^2$(
sigma, xi_*×4, rho_total, twin); 6 个位错分型目标单列(覆盖 3–6 个样本,R² 不稳定)。 - 应力分解:把总 $R^2$ 拆成
level_oracle_r2:若精确知道每条曲线的均值(只知道"哪个合金多强")能达到的上界;shape_r2:去掉每条曲线自身均值后的 $R^2$(刻画硬化/软化形状);level_corr/level_mae:样本级平均应力的相关与偏差。
- 曲线指标:峰值相对误差、$\varepsilon=0.02/0.05/0.10$ 处应力相对误差、曲线 RMSE。
8. 实验设计
| 套件 | 目的 | 规模 |
|---|---|---|
main |
7 种架构对比(MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba) | 5 折 × 2 种子 |
loao |
跨合金泛化:留一合金体系 | 10 个体系 × 4 模型 |
ablation |
耦合/物理损失/几何/flag/系综/初态/归一化 | 8 变体 × 5 折 |
dataeff |
数据效率 25/50/75/100% | 4 模型 × 4 比例 × 5 折 |
| 敏感性 | $\partial\sigma/\partial z_{micro}$ 反事实 | 训练好的 PI-Mamba |
9. 复现
cd code
python -m pimamba.build_dataset # 解析 Excel -> data/processed
python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
python -m pimamba.run_experiments --suite all --seeds 0 1
python -m pimamba.report # 生成表格与图
环境:Python 3.12、PyTorch 2.8(CUDA 12.8)或 2.15(CPU),单卡 A800-80GB 即可, 全部实验合计 < 4 GPU·小时。