|
Download docs/method.md from eduzrh/training-model-material: direct link, hf CLI and curl.
- Browser
- Download file 7.05 kB
-
https://huggingface.co/datasets/eduzrh/training-model-material/resolve/main/docs/method.md
- Command line
-
hf download hf://datasets/eduzrh/training-model-material/docs/method.md
-
curl -L -o method.md https://huggingface.co/datasets/eduzrh/training-model-material/resolve/main/docs/method.md
7.05 kB
| # 方法:物理信息增强的选择性状态空间模型(PI-Mamba)for 多合金 MD 轨迹 | |
| 对应 `step 2.docx` 的四项要求:(i) 多合金/多工况条件输入;(ii) 时序状态递推; | |
| (iii) 多任务输出;(iv) 允许标签缺失。所有实现见 `code/pimamba/`。 | |
| ## 1. 问题形式化 | |
| 对样本 $s$(一种合金 + 一组载荷条件)给定应变序列 | |
| $\varepsilon_{1:T}$(本数据 $T=401$,$\varepsilon\in[0,0.2]$,$\Delta\varepsilon=5\times10^{-4}$), | |
| 模型递推隐藏状态并同时输出 13 个物理量: | |
| $$ | |
| \mathbf{h}_t = f_\theta(\mathbf{h}_{t-1}, \mathbf{u}_t, \mathbf{c}_s), \qquad | |
| \hat{\mathbf{y}}_t = g_\theta(\mathbf{h}_t, \mathbf{c}_s), \qquad | |
| \hat{\mathbf{y}}_t \in \mathbb{R}^{13} | |
| $$ | |
| 其中 $\mathbf{u}_t$ 为动态输入(应变、应变增量、$\log_{10}\dot\varepsilon$、$T_0$、拉/压符号), | |
| $\mathbf{c}_s$ 为静态条件(成分、VEC、δ、ΔH_mix、几何、系综、初始微观状态等)。 | |
| **标签缺失**:每个样本只有部分目标有标注。定义观测掩码 | |
| $m_{t,k}\in\{0,1\}$,损失只在 $m_{t,k}=1$ 处计算。 | |
| ## 2. 选择性状态空间递推(S6) | |
| 连续时间状态空间 | |
| $\dot{\mathbf{h}}(t)=\mathbf{A}\mathbf{h}(t)+\mathbf{B}\mathbf{u}(t)$ | |
| 在零阶保持(ZOH)离散化下为 | |
| $$ | |
| \mathbf{h}_t = \bar{\mathbf{A}}_t \mathbf{h}_{t-1} + \bar{\mathbf{B}}_t \mathbf{u}_t,\quad | |
| \bar{\mathbf{A}}_t=\exp(\Delta_t \mathbf{A}),\quad | |
| \bar{\mathbf{B}}_t=(\Delta_t\mathbf{A})^{-1}\big(e^{\Delta_t\mathbf{A}}-\mathbf{I}\big)\Delta_t\mathbf{B}_t | |
| $$ | |
| 关键是 $\Delta_t$、$\mathbf{B}_t$、$\mathbf{C}_t$ 都是输入的函数(选择性), | |
| 因此模型能对「弹性→屈服→塑性硬化」这类**分段切换**自适应地改变记忆尺度: | |
| 弹性段需要长记忆($\Delta$ 小、$\bar A\to1$),位错增殖段需要快速更新($\Delta$ 大)。 | |
| 实现为分块并行扫描(`models.selective_scan`),复杂度 $O(T)$、无递归依赖, | |
| 在长度 401 的序列上比逐点循环快一个数量级;数值上用 chunk 内 | |
| `cumprod/cumsum` 并 clamp $\Delta\in[10^{-4},0.2]$。 | |
| **Mamba-2 变体**(`Mamba2Block`):多头(4 头)、每头独立的 $\mathbf{A}$、 | |
| 组共享 $\mathbf{B}/\mathbf{C}$、$d_{state}=64$,结构上等价于 SSD 分解的门控线性注意力, | |
| 用于检验「SSM 的优势是否依赖于具体参数化」。 | |
| ## 3. 物理信息注入(PI-Mamba) | |
| 三条物理通道,均可单独消融: | |
| 1. **静态条件调制(FiLM)**:$\mathbf{c}_s$ 经 MLP 得到 $(\gamma_\ell,\beta_\ell)$, | |
| 在每层 SSM 之后做 $\mathbf{h}\leftarrow(1+\gamma_\ell)\odot\mathbf{h}+\beta_\ell$, | |
| 使同一套动力学参数可随合金成分连续变化(对应「多合金条件输入」)。 | |
| 2. **微观→宏观耦合**:应力头不直接读 $\mathbf{h}_t$,而是读 | |
| $[\mathbf{h}_t,\ \mathbf{W}\,\mathbf{z}_t]$,其中 | |
| $\mathbf{z}_t=[\xi_{BCC},\xi_{FCC},\xi_{HCP},\xi_{other},\rho_{1..7},\rho_{twin}]$ | |
| 是同一时刻的微观预测。这实现了「微观结构演化 → 宏观流动应力」的显式通路, | |
| 也是第 6 节敏感性分析的抓手。 | |
| 3. **物理约束损失**(可选,`--physics`): | |
| - 单调性:$\rho_{total}$、$\rho_{twin}$ 在塑性段非减(软约束,hinge); | |
| - 初态一致:$t=1$ 的微观预测应接近表格给出的初始值; | |
| - 光滑性:应力二阶差分惩罚(抑制非物理振荡)。 | |
| ## 4. 多任务输出头 | |
| 共享主干 + **每个物理量独立输出头**(step 2 明确要求,避免异量纲目标互相干扰): | |
| | 头 | 输出维度 | 激活 | 说明 | | |
| |---|---|---|---| | |
| | 应力 | 1 | 线性 | z-score 空间 | | |
| | 相分数 | 4 | softmax | 单纯形约束,和为 1 | | |
| | 位错密度 | 7 | softplus | 非负 | | |
| | 孪晶密度 | 1 | softplus | 非负 | | |
| 损失为掩码 MSE 的加权和: | |
| $$ | |
| \mathcal{L}=\sum_{k} w_k \frac{\sum_{t}m_{t,k}(\hat y_{t,k}-y_{t,k})^2}{\sum_t m_{t,k}} | |
| +\lambda_{mono}\mathcal{L}_{mono}+\lambda_{init}\mathcal{L}_{init}+\lambda_{smooth}\mathcal{L}_{smooth} | |
| $$ | |
| 权重 $w_k = 1/\max(\mathrm{Var}_k, 0.05)$ 后归一化到均值 1:相分数是 0–1 原始尺度 | |
| (MSE ~1e-2),应力是 z-score(MSE ~1),若不配平,13 个头等权会把相分数头淹没。 | |
| ## 5. 归一化 | |
| | 类型 | 变换 | 理由 | | |
| |---|---|---| | |
| | 应力、温度等物理量 | z-score | 常规 | | |
| | 应变率(1e8–5e11) | $\log_{10}$ → z-score | 跨 3.7 个数量级 | | |
| | 几何尺寸 | $\log_{10}$ → z-score,配适用性 flag | 形状不同,缺失维度不能填 0 | | |
| | 位错/孪晶密度 | $\mathrm{asinh}(x/s_0)$ → z-score | 零值有定义、大值近似对数 | | |
| | 相分数、one-hot、flag | 不缩放 | 本身无量纲且界于 [0,1] | | |
| `Normalizer` 只在训练集上拟合并随 checkpoint 保存,避免信息泄漏。 | |
| ## 6. 训练协议 | |
| - 优化器 AdamW,`wd=1e-4`,OneCycleLR(`pct_start=0.25`),`max_lr=3e-4`,300 epochs, | |
| batch=8,梯度裁剪 1.0。 | |
| - **不使用内部验证集早停**:33 个样本下 15% 留出只有约 4 条轨迹,早停完全由噪声驱动 | |
| (见报告 §5.1 的诊断)。改为固定轮次 + 完整退火,测试集即 5 折的 out-of-fold 样本。 | |
| - 数值防护:loss 或梯度范数非有限时跳过该 batch(不更新权重),并记录 `nan_batches`。 | |
| - 每个配置记录 `metrics.json / history.json / curves.csv / predictions.npz / model.pt`。 | |
| ## 7. 评估 | |
| - 物理单位下逐目标 $R^2$、MAE、nMAE(=MAE/σ_y)、bias。 | |
| - **主指标**:7 个目标的宏平均 $R^2$(`sigma, xi_*×4, rho_total, twin`); | |
| 6 个位错分型目标单列(覆盖 3–6 个样本,R² 不稳定)。 | |
| - **应力分解**:把总 $R^2$ 拆成 | |
| - `level_oracle_r2`:若精确知道每条曲线的均值(只知道"哪个合金多强")能达到的上界; | |
| - `shape_r2`:去掉每条曲线自身均值后的 $R^2$(刻画硬化/软化形状); | |
| - `level_corr` / `level_mae`:样本级平均应力的相关与偏差。 | |
| - **曲线指标**:峰值相对误差、$\varepsilon=0.02/0.05/0.10$ 处应力相对误差、曲线 RMSE。 | |
| ## 8. 实验设计 | |
| | 套件 | 目的 | 规模 | | |
| |---|---|---| | |
| | `main` | 7 种架构对比(MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba) | 5 折 × 2 种子 | | |
| | `loao` | 跨合金泛化:留一合金体系 | 10 个体系 × 4 模型 | | |
| | `ablation` | 耦合/物理损失/几何/flag/系综/初态/归一化 | 8 变体 × 5 折 | | |
| | `dataeff` | 数据效率 25/50/75/100% | 4 模型 × 4 比例 × 5 折 | | |
| | 敏感性 | $\partial\sigma/\partial z_{micro}$ 反事实 | 训练好的 PI-Mamba | | |
| ## 9. 复现 | |
| ```bash | |
| cd code | |
| python -m pimamba.build_dataset # 解析 Excel -> data/processed | |
| python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300 | |
| python -m pimamba.run_experiments --suite all --seeds 0 1 | |
| python -m pimamba.report # 生成表格与图 | |
| ``` | |
| 环境:Python 3.12、PyTorch 2.8(CUDA 12.8)或 2.15(CPU),单卡 A800-80GB 即可, | |
| 全部实验合计 < 4 GPU·小时。 |