多合金分子动力学轨迹的应力–应变预测:物理约束序列模型与新一代架构的系统评估

摘要 分子动力学(MD)可以给出合金在原子尺度上的演化细节,但单条轨迹的计算成本很高,难以覆盖全部成分与加载条件。本文研究一个替代问题:用少量已算好的 MD 轨迹训练模型,输入合金成分、加载条件和应变序列,直接输出整条应力–应变曲线以及相分数、位错密度、孪晶密度等微观量的演化。数据共 33 条轨迹、10 个合金体系、13 个输出目标,其中微观量的标签大面积缺失(部分目标只有 3–6 条轨迹有标注),因此模型必须同时处理“多任务”和“标签不全”两件事。

我们以选择性状态空间模型(Mamba,一类带门控的线性递推网络)为骨干,加入三项材料领域的先验:用合金条件调制网络内部特征(FiLM)、让应力预测显式读取同一时刻的微观量预测(微观→宏观耦合)、对缺陷密度施加单调性与初态约束。在此基础上,我们把 2024–2026 年出现的 8 类新架构放进同一套流程中逐一替换骨干,包括 LLaMA 式 Transformer、xLSTM、Gated DeltaNet、Mamba+注意力混合(Hymba)、Deep Koopman、Neural ODE、RSSM 世界模型和条件流匹配。

在 5 折交叉验证、33 个样本的池化留出预测上,应力 R² 从 MLP 的 0.317 提升到 Mamba 的 0.735 和 PI-Mamba 的 0.680(PI-Mamba 的优势在跨折稳定性:0.691 ± 0.111,Mamba 为 0.572 ± 0.421)。新架构中最好的是 Mamba+注意力混合(0.768)和 Gated DeltaNet(0.745,逐折标准差仅 0.064)。放开算力预算(128 维、4 层、600 轮)后,LLaMA 式 Transformer 把池化应力 R² 从 d64 的 0.748 推到 0.791,是全部单模型中的最高值;按目标做留一折贪心堆叠则把 7 个主要目标的平均 R² 从 0.587 提到 0.637(应力 0.744)。两者各有所长:单模型负责应力曲线本身,集成负责补齐标注稀疏的微观目标。

物理解释方面,我们设计了五组探针并得到可检验的结论:Koopman 模型的线性算子记忆时间只有约 1.5 个应变步,从机理上解释了它为什么学不到硬化形状;Gated DeltaNet 的“写入门”随应变上升、“衰减门”下降,与弹性→塑性转变对应;Neural ODE 的向量场模长单调上升、没有屈服拐点;RSSM 的后验塌缩为确定性映射;流匹配的 90% 预测区间只覆盖 63.5% 的实测点。这些结果说明,架构选择不只是精度问题,它决定了模型能否表达我们关心的物理。

关键词 高熵合金;分子动力学;应力–应变曲线;状态空间模型;多任务学习;缺失标签;可解释性


1 引言

1.1 问题背景

合金设计的核心问题之一,是知道“某种成分在某种加载条件下会怎样变形”。分子动力学(MD)能在原子尺度回答这个问题:给定成分、温度、应变率和初始缺陷结构,积分牛顿方程就能得到每一个原子的位置,进而统计出应力、相结构、位错密度等量随应变的演化。它的缺点是贵。一条 0→0.2 应变的拉伸轨迹,视体系大小和应变率,通常需要数小时到数天;如果要在成分空间里扫描,成本会迅速不可接受。

一个自然的想法是用机器学习做代理模型:从已有轨迹里学习“成分 + 条件 + 应变 → 响应”的映射,之后对新成分直接推理,成本可以忽略。已有大量工作用神经网络拟合势函数或直接拟合应力–应变曲线,但这类工作大多假设数据是“一个成分一条曲线”的表格,模型输出单点或单条曲线,且标签齐全。本文面对的数据更接近真实科研场景:不同论文、不同体系、不同加载方式混在一起,输出是多条相互关联的曲线,而且微观量的标注严重不全。

1.2 本文要解决的问题

我们把任务写成序列到序列的回归:

1.3 本文的工作

  1. 建立了一套可复现的数据处理与评估流程:从原始 Excel 清洗出 33 条轨迹、13233 个应变点,统一单位,按合金分层做 5 折交叉验证,并用“池化留出预测”作为主口径,避免小折上 R² 剧烈波动造成的误判。
  2. 以 Mamba 为骨干构建 PI-Mamba,加入条件调制、微观→宏观耦合与物理约束三项先验,并用消融实验量化每一项的贡献。
  3. 把 2024–2026 年的 8 类新架构移植到同一任务上,给出统一口径下的精度、稳定性、参数量与耗时对比。
  4. 为其中 6 类模型设计物理探针,把“模型学到了什么”变成可以读出来的量(记忆时间、门控值、向量场模长、预测区间覆盖率),并据此解释成败。
  5. 在放开算力预算后,用“加大模型 + 逐目标堆叠”得到当前最佳配置,并给出诚实的留出评估。

1.4 本文不做什么

我们不训练原子间势,也不做第一性原理计算;模型只在已有 MD 轨迹的分布内做插值。跨合金外推的实验(留一合金,LOAO)表明这类模型在化学成分远离训练集时会明显失效,这一点在第 5.5 节如实报告。


2 数据

2.1 来源与清洗

原始数据来自使用者提供的论文提取表(Excel),共 70 个样本块。其中 Sheet1 有 37 行被整行标黄,表示作者认为数据质量不合格或不属于本任务,sample_id 为 24–60。我们按标记剔除这 37 条,保留 33 条轨迹,来自 10 个合金体系,覆盖压缩与拉伸两种加载方式。

每条轨迹包含 401 个应变点(0→0.2,步长 5×10⁻⁴),因此轨迹表共 33 × 401 = 13233 行。所有物理量统一到 GPa、无量纲分数和 m⁻²,换算规则记录在 data/processed/build_report.json 与数据字典中。

2.2 输入特征

静态条件向量分四组,共 81 维(含独热与标志位):

序列输入只有应变本身(以及由它派生的应变率符号),因为应力是应变的函数,其余条件已进入静态向量。

2.3 输出目标与缺失情况

表 1 给出 13 个目标的覆盖情况。应力覆盖全部 33 条轨迹;相分数覆盖 7–11 条;7 类位错分型只覆盖 3–6 条;孪晶密度覆盖 6 条。缺失不是随机丢包,而是“这篇论文没测这个量”,因此不能删除缺失样本,只能把损失限制在有标注的位置上。

表 1 输出目标与标签覆盖

组别 目标 含义 有标注轨迹数 单位
力学 σ 真应力 33 GPa
相分数 ξ_BCC, ξ_FCC, ξ_HCP, ξ_other 各相体积分数 7–11 –
位错(分型) ρ_1/2, ρ_a/2, ρ_a/3, ρ_edge, ρ_screw, ρ_perfect, ρ_other 各类位错密度 3–6 m⁻²
位错(合计) ρ_total 总位错密度 6 m⁻²
孪晶 ρ_twin 孪晶界密度 6 m⁻²

rho_frank 与 rho_100 在全表中没有任何标注,直接不建模。

2.4 数据划分

采用按合金分层的 5 折交叉验证:同一个合金的样本尽量分散到不同折,避免“同一条曲线的相邻应变点”泄漏到测试集。每条轨迹整体属于某一折,因此测试集是“整条曲线”,符合实际使用场景(预测一条没见过的轨迹)。

为了让不同模型、不同随机种子之间的结果可以直接比较和集成,最佳配置实验固定了折划分(split_seed=0),随机种子只影响参数初始化与批顺序。早期的主对比实验没有固定这一点,因此那些数字的逐折标准差里同时包含“划分差异”和“初始化差异”,解释时需要留意(第 5.1 节会说明)。

2.5 评估口径

两个口径并用:

R² 的含义需要说明:R² = 1 表示完美预测;R² = 0 表示模型的效果和“直接猜训练集均值”一样;R² < 0 表示比猜均值还差。对稀有目标,单折 R² 出现 −25 或 −100 并不奇怪,这时应看池化值。


3 方法

3.1 总体结构

所有模型共享同一种组织方式,区别只在中间的序列骨干:

静态条件 c ──► 条件编码器 ──► 调制参数 (γ, β)
                                   │
应变序列 ε₁..ε_T ──► 输入投影 ──► 序列骨干(逐层被条件调制)──► 隐状态 <i>h</i><sub><i>t</i></sub>
                                                                   │
                        ┌──────────────────────────────────────────┤
                        │                                          │
                 微观量输出头                                应力输出头
              (相分数/位错/孪晶)                      读 [<i>h</i><sub><i>t</i></sub>, 微观量预测]

这样组织有三个好处:条件只进入调制参数,不随序列长度重复拼接;应力头可以直接“看到”微观量预测,从而显式表达“结构决定力学响应”;每个物理量有独立的输出头,量纲和尺度互不干扰。

3.2 序列骨干:为什么用状态空间模型

循环网络(GRU/LSTM)按时间步递推,天然适合序列,但必须一步一步算,长序列上慢,而且门控容易被早期信息占满。Transformer 用注意力直接连接任意两个时间点,并行性好,但计算量随序列长度平方增长,且在本任务里 401 个点全部是稠密输入,注意力没有明显的“稀疏关注”可学。

状态空间模型(SSM)介于两者之间。它用一个隐状态 ht 概括历史:

ht = At ht−1 + Bt xt, yt = Ct ht

其中 At、Bt、Ct 由当前输入决定(所以叫“选择性”)。这个形式看起来像线性递归,但因为参数随输入变化,它能做到“该记的时候记、该忘的时候忘”。Mamba 的关键工程贡献是把这个递推改写成可并行的分块扫描,训练时不必真的按 401 步串行,计算量随序列长度线性增长。

对材料问题来说,这个结构有一个直观解释:ht 可以看作“当前微结构状态”的压缩表示,At 决定它衰减多快,Bt 决定新的应变信息写入多少。第 6 节的探针正是去读这些量。

3.3 条件注入:FiLM

不同合金、不同温度的曲线形状差别很大,但条件向量是静态的。我们把条件编码成一组逐层的缩放与平移参数:

γ = 1 + Wγc, β = Wβc, h ← γ ⊙ h + β

这就是 FiLM(Feature-wise Linear Modulation)。它等价于让网络为每个合金“换一套内部参数”,但参数量只与条件维度有关,不会随合金数量增长。消融实验(第 5.4 节)显示,去掉条件注入后模型仍然能工作,但跨合金的应力水平明显变差。

3.4 微观→宏观耦合

材料力学里,应力与微观缺陷之间有条件明确的关系。最经典的是 Taylor 关系:

σ = σ0 + MαGb√ρ

其中 ρ 是位错密度,G 是剪切模量,b 是柏氏矢量,M、α 是取向与交互系数。我们不让模型去拟合这些常数,而是把这个函数形式作为一种“归纳偏置”喂给它:应力头的输入不只是 ht,还拼接了同一时刻的微观量预测 zt 以及 √ρ、ρ·ρ_twin 这样的非线性项。

这样做的效果是双面的。好处是模型不必从零学“位错多→应力高”,在小数据下更稳;坏处是如果微观量预测错了,误差会直接传进应力。第 5.4 节的消融显示耦合带来约 +0.06 的 R²,而去掉耦合会让部分折出现数值不稳定。

需要说明的是,第 7.4 节还尝试了更“物理”的 Taylor 展开版本(v2),结果反而更差。原因在讨论部分分析:约束太强时,模型为了满足函数形式牺牲了拟合的灵活性。

3.5 多任务输出与缺失标签

13 个目标共用一个骨干,但每个目标有独立输出头:

损失只在有标注的位置计算:

L = Σj wj · Σt mj,t (ŷj,t − yj,t)² ⁄ Σt mj,t

其中 m 是观测掩码。权重 wj 按目标方差设置,目的是让 0–1 尺度的相分数和 10¹⁶ 量级的位错密度在梯度里贡献相当。如果不做这个平衡,位错头会把相分数头压死。

这个写法有一个额外好处:没有标注的样本仍然参与前向计算,只是不产生损失,相当于半监督——它们的输入分布仍然约束着骨干。

3.6 物理约束

我们加了三条弱约束,权重都很小(合计约 0.05):

  1. 单调性:塑性变形阶段位错密度不应下降,用 ReLU(−Δρ) 惩罚;
  2. 初态一致:t=0 时的预测应接近给定的初始缺陷状态;
  3. 曲线光滑:应力的二阶差分过大时给惩罚,抑制锯齿。

这些约束作用在没有标注的样本上,也是半监督的一种形式。消融结果(第 5.4 节)显示,权重为 0.05 时略有帮助(在噪声范围内),权重加到 1.0 时反而显著变差——约束太强会与数据冲突。

3.7 2024–2026 年的新架构

为了回答“是否还有更好的骨干”,我们把近两年出现的 8 类结构逐一替换掉 Mamba,其余部分(条件注入、耦合头、损失、训练协议)保持不变。下面用一句话说明每种结构的核心思想和它“为什么可能有用”:

(1)LLaMA 式 Transformer。 旋转位置编码(RoPE)+ RMSNorm + SwiGLU + 因果注意力。它是当前大模型的主流结构,优点是长程依赖建模能力强;在本任务里它对应“整条曲线一起看”。

(2)xLSTM(mLSTM 块)。 把 LSTM 的门控升级为矩阵记忆,用指数门控控制写入。它保留了递归的串行结构,但记忆容量比 LSTM 大得多。

(3)Gated DeltaNet。 一种“快权重”模型,把历史写成矩阵 S_t,并用 delta 规则按当前误差更新:

S_t = α_t S_(t−1) + β_t (v_t − S_(t−1) k_t) k_tᵀ

α 是衰减、β 是写入强度。它和材料中的“缺陷累积—回复”在形式上很像。

(4)Mamba + 注意力混合(Hymba/Jamba 式)。 每层交替使用 Mamba 和注意力,兼顾局部递推与全局检索。

(5)Deep Koopman。 假设隐状态按线性算子演化 z_(t+1) = A zt,A 用块对角 2×2 旋转块参数化。它的特征值直接给出“记忆时间”,可解释性最好,但表达能力受限于线性。

(6)Neural ODE。 把序列建模成连续时间的初值问题 dz/dt = f(z, t),用 RK4 积分。它的好处是时间分辨率可以任意,物理上对应“演化方程”。

(7)RSSM 世界模型。 Dreamer 系列使用的结构,隐状态分确定性与随机两部分,用 KL 约束后验。它本来用于强化学习中的想象推演,这里借它的“不确定性”能力。

(8)条件流匹配(Flow Matching)。 学习一个速度场,把噪声分布搬运到“以条件为输入的曲线分布”,推理时积分 ODE 采样。它可以给出多条可能的曲线,从而估计预测区间。

每种结构都保留相同的输入输出接口,因此可以用同一套评估代码比较。

3.8 集成与堆叠

不同架构的失效位置不一样:有的擅长应力绝对水平,有的擅长曲线形状。最简单的利用方式是把同折的预测做算术平均(第 5.6 节);更进一步是按目标给不同模型分配权重:

ŷj = Σm wj,m · ŷj,m

权重不能在所有样本上拟合后再报告同一批样本的分数,那会高估。我们采用留一折嵌套:预测第 k 折时,权重只用其余四折的留出预测估计。这样每个样本的预测都没有参与自己的权重估计,得到的分数是诚实的。

权重的估计方法有两种。岭回归(带非负约束)在 26 条训练轨迹上很不稳定:九个基模型的预测高度相关,解会在几个模型之间来回跳,换一折就换一组权重,实测效果不如单模型。因此最终采用贪心选择(Caruana 式前向选择):从空组合开始,每一轮把“加入后训练折误差最小”的模型加进去,重复 15 轮,允许同一个模型被多次选中;最终的权重就是各模型被选中的次数占比。这种做法只做加法和比较、不求解线性方程组,在几十条样本的规模上稳健得多。


4 实验设置

4.1 实现与训练细节

所有模型用 PyTorch 实现,在单张 A800-80GB 上训练。优化器为 AdamW(权重衰减 1e-4),学习率 3e-4,采用 OneCycle 调度(前 25% 步数线性升温),批大小 8,梯度裁剪 1.0。

训练轮数按实验组区分:

我们不做早停。原因是训练集只有 26 条轨迹,切出 15% 做验证集只剩 4 条,验证损失几乎全是噪声,早停等于随机选模型。固定轮数 + OneCycle 退火在小数据上更稳。这个选择在第 5.1 节有对比依据。

4.2 对比模型

第一组是通用基线:MLP(逐点全连接)、GRU、LSTM、标准 Transformer(可学习位置编码)。

第二组是状态空间模型:Mamba(S6,选择性扫描)与 Mamba-2(SSD,结构化状态空间对偶)。

第三组是本文的物理约束版本 PI-Mamba,以及它的两个消融变体。

第四组是 2024–2026 年的新架构,共 8 个,见 3.7 节。

第五组是集成:同折算术平均与逐目标堆叠。

参数量从 4.4 万(MLP)到 19 万(Hymba),都在同一数量级,避免“靠参数量取胜”的质疑。最佳配置组放大到 128 维、4 层,参数量约 40–80 万。

4.3 评估指标


5 结果

5.1 主对比:状态空间模型明显优于递归与注意力基线

表 2 给出 7 种架构在 5 折 × 2 种子下的结果。池化留出集包含全部 33 条轨迹。

表 2 主对比结果(5 折交叉验证,池化留出 33 条轨迹)

模型 应力 R²(逐折) 形状 R²(逐折) 池化应力 R² 池化形状 R² 主指标均值 峰值误差 参数量
MLP 0.224 ± 0.202 0.002 ± 0.004 0.317 0.002 0.326 0.384 44 k
GRU 0.371 ± 0.276 0.248 ± 0.185 0.444 0.199 0.441 0.261 94 k
LSTM 0.368 ± 0.279 0.249 ± 0.124 0.519 0.255 0.443 0.278 110 k
Transformer 0.543 ± 0.356 0.487 ± 0.253 0.608 0.488 0.573 0.245 177 k
Mamba (S6) 0.572 ± 0.421 0.604 ± 0.190 0.735 0.674 0.566 0.268 104 k
Mamba-2 0.662 ± 0.129 0.617 ± 0.097 0.649 0.509 0.450 0.225 66 k
PI-Mamba 0.691 ± 0.111 0.681 ± 0.129 0.680 0.592 0.603 0.211 116 k

三点观察:

第一,MLP 的形状 R² 几乎为 0(0.002)。它能记住“这个合金大概多强”(水平相关 0.898),但完全学不到硬化段的形状。这说明这个任务不能靠逐点回归解决。

第二,状态空间类模型的池化应力 R² 最高(Mamba 0.735、PI-Mamba 0.680),而且形状 R² 领先一个档次(0.67 vs 0.49)。原因是 SSM 的隐状态可以累积塑性历史,而逐点 MLP 和窗口有限的注意力都做不到。

第三,PI-Mamba 的池化应力不是最高,但逐折最稳。它的逐折标准差 0.111,Mamba 是 0.421,相差 3.8 倍。Mamba 的 0.735 里有“某一折特别好”的成分:在池化口径下,Mamba 与 PI-Mamba 的差距(0.055)小于逐折标准差。换句话说,单看一次实验,两者谁高谁低并不确定;但 PI-Mamba 的波动小得多,实际部署更可靠。

另外可以看到,Mamba-2 的逐折均值(0.662)高于 Mamba(0.572),但池化值反而更低(0.649 vs 0.735)。这是“平均每折 R²”与“合并后算 R²”的典型差异:前者给每折同等权重,后者让误差大的折贡献更多。我们以池化值为准,因为它对应“把 33 条曲线放在一起用”的真实场景。

主对比

图 1 7 种架构的应力 R² 与形状 R²。误差棒为 5 折标准差。

汇总指标之外,图 2 给出一条具体的留出曲线(PI-Mamba,第 3 折)。三个面板分别是应力、总位错密度和孪晶密度;灰线是 MD 参考,彩色虚线是预测。

从这张图能看出模型的强项与短板。应力面板中,弹性段斜率与峰值位置都对得上,峰值后的软化被低估了一些;位错密度面板的趋势正确,但平台值偏低;孪晶密度面板几乎是水平的,而 MD 显示明显的形核—衰减过程。这与孪晶只有 6 条标注的事实一致:数据不足的目标,模型倾向于输出接近均值的平线。

典型曲线

图 2 一条留出轨迹的预测(第 3 折)。灰线为 MD 参考,虚线为 PI-Mamba 预测;同一面板中的多条曲线对应不同的测试样本。

5.2 新一代架构:没有出现“降维打击”

表 3 是 8 个新架构在同一预算下的结果。为了阅读方便,按池化应力 R² 排序。

表 3 2024–2026 新架构(5 折交叉验证,池化留出)

模型 池化应力 R² 池化形状 R² 主指标 逐折应力 R² 峰值误差 参数量
Mamba+注意力混合 0.768 0.754 0.588 0.667 ± 0.240 0.229 191 k
LLaMA 式 Transformer 0.748 0.685 0.623 0.680 ± 0.220 0.226 127 k
Gated DeltaNet 0.745 0.694 0.573 0.748 ± 0.064 0.206 128 k
xLSTM 0.654 0.600 0.513 0.646 ± 0.152 0.217 128 k
条件流匹配 0.541 0.300 −0.587 0.422 ± 0.236 0.459 133 k
Neural ODE 0.410 0.348 0.514 0.363 ± 0.244 0.276 86 k
Deep Koopman 0.345 0.026 0.279 0.294 ± 0.135 0.362 59 k
RSSM 世界模型 −0.164 0.023 −0.038 −0.255 ± 0.130 0.468 95 k

结论可以概括为三句话:

  1. 最好的新架构只比 PI-Mamba 高 0.09 的应力 R²,没有质变。 Hymba 的 0.768 是本文单模型最高值,但它逐折标准差 0.240,说明这个优势并不稳固。
  2. Gated DeltaNet 是最“稳”的模型:逐折 0.748 ± 0.064,是所有模型里标准差最小的。它的池化值(0.745)与 Hymba 接近,但没有 Hymba 那种“某折崩掉”的问题。
  3. 生成式与世界模型类方法明显更差:流匹配 0.541、RSSM −0.164。原因不是实现错误,而是任务性质不匹配——第 6 节会用探针说明。

新架构对比

图 3 新架构(蓝)、第一代模型(绿)与 PI-Mamba(橙)的应力 R² 与形状 R²。误差棒为多次运行的离散程度。

5.3 放开预算后的最佳配置

前两节的比较都限定在“同参数量、同轮数”。实际使用时没有这个约束,精度优先。这一节把三个表现最好的骨干放大到 128 维、4 层,训练 600 轮,固定折划分后各跑 2 个随机种子,并在此基础上做集成。

表 4 放大后的单模型与集成结果(固定折划分,种子 0,池化留出 33 条轨迹)

配置 参数量 池化应力 R² 池化形状 R² 主指标 逐折应力 R²(5 折)
PI-Mamba(128 维 / 4 层) 713 k 0.686 0.582 0.577 0.742 ± 0.098
LLaMA 式(128 维 / 4 层) 823 k 0.791 0.762 0.587 0.791 ± 0.058
Mamba+注意力(128 维 / 4 层) 1.27 M 0.746 0.703 0.569 0.776 ± 0.100
9 个基模型的等权平均 – 0.707 0.594 0.620 –
逐目标贪心堆叠(留一折拟合) – 0.744 0.706 0.637 –

放大模型只带来有限收益。 LLaMA 式 Transformer 从 d64 的 0.748(表 3)提到 0.791,是唯一有明显提升的架构,增幅 0.043:它在 26 条训练轨迹上仍能量到长程依赖,参数量翻 6 倍后过拟合也不算严重(600 轮内留出误差一直在缓慢下降)。Hymba 的池化值从 0.768 变成 0.746,基本持平,但逐折标准差从 0.240 降到 0.100——放大换来的是稳定性,不是均值。PI-Mamba 从 0.680 到 0.686,几乎不动。把参数量翻 6 倍、训练轮数翻倍,收益远小于换一次架构(同预算下 Transformer 0.608 → LLaMA 式 0.748)。在 33 条轨迹的规模上,容量不是主要瓶颈,数据和归纳偏置才是。

Gated DeltaNet 没有进入放大实验。 它的 delta 规则内核实测比 LLaMA 慢约 5 倍,单折 600 轮跑 18 分钟仍未跑完,无法在可接受的时间内完成 5 折,因此只保留表 3 的 d64 结果。这是工程限制,不是精度结论。

种子平均没有帮助。 每个配置跑 2 个种子,把同折的两个种子预测平均后,LLaMA 从 0.791 降到 0.719、Hymba 从 0.746 到 0.730、PI-Mamba 从 0.686 到 0.676。原因是种子之间的差异不是零均值噪声:某个种子碰巧学出了更好的峰值形状,平均反而把它抹平。在 33 条轨迹的规模上,多种子平均能降方差,但降不了偏差。

集成补的是“别的目标”,不是应力。 表 4 最后两行是两种组合方式。等权平均 9 个基模型把主指标从 0.587 提到 0.620,但应力掉到 0.707——弱模型偏平滑的预测把峰值削掉了。按目标做留一折贪心选择后,应力回到 0.744,主指标 0.637,其中 HCP 相分数(0.806)、其他相分数(0.580)、总位错密度(0.766)都明显好于任何单模型。最终推荐的用法是分开的:要应力曲线本身,用 LLaMA 式单模型;要一整套微观量,用贪心堆叠。 需要强调的是,堆叠的权重只在训练折内估计,每条轨迹都做过留出样本,0.744 这个数字没有用到任何测试信息。

5.4 消融:哪些设计真的有用

表 5 是在 d_model=64、2 层、5 折、单种子下对 PI-Mamba 逐项拆解的结果。基准是完整模型(应力 R² 0.701 ± 0.113)。

表 5 PI-Mamba 消融(5 折)

变体 应力 R² 形状 R² 与完整模型的差
完整模型 0.701 ± 0.113 0.662 ± 0.168 –
去掉几何与取向特征 0.665 ± 0.126 0.586 ± 0.185 −0.037
加物理约束(权重 0.05) 0.663 ± 0.111 0.611 ± 0.160 −0.038
去掉集成描述符 0.645 ± 0.138 0.562 ± 0.219 −0.056
去掉微观→宏观耦合 0.641 ± 0.170 0.593 ± 0.264 −0.060
去掉形状标志位 0.630 ± 0.138 0.602 ± 0.130 −0.071
去掉初始状态特征 0.606 ± 0.123 0.563 ± 0.171 −0.095
加物理约束(权重 1.0) 0.359 ± 0.138 0.207 ± 0.240 −0.343
不做归一化 −0.702 ± 0.880 0.000 ± 0.000 −1.404

几点解读:

5.5 跨合金泛化:化学远离训练集时会失效

留一合金(LOAO)实验:每次留出一个完整合金体系做测试,其余训练。14 个体系各有 4 个模型的结果。

表 6 留一合金实验(应力 R²)

留出体系 MLP GRU Mamba PI-Mamba
Al0.1CoCrFeNi −0.59 0.43 −0.37 −0.52
Al20.4Mo10.5Nb22.4Ta10.1Ti17.8Zr18.8 −0.95 −5.11 −0.06 −0.16
CoCrFeMnNi −22.4 −12.9 −8.46 −8.76
Fe2Ni2CrAl −453.9 −1146.9 −11.2 −11.8
FeCoNiCr −4.65 −6.72 −12.1 −10.2
HEA FeNiCrCoAl(压缩) −0.10 0.28 0.75 0.58
HEA FeNiCrCoAl(拉伸) −0.58 0.35 0.74 0.72
HESA Fe35NiCrCoAl(压缩) −0.08 0.31 0.63 0.81
HESA Fe35NiCrCoAl(拉伸) 0.12 0.66 0.74 0.69
MEA FeNiAl(压缩) −0.03 0.52 0.58 0.35
MEA FeNiAl(拉伸) −0.51 0.79 0.69 0.78
MEA FeNiCrAl(压缩) −0.02 0.44 0.91 0.87
MEA FeNiCrAl(拉伸) 0.06 0.67 0.81 0.78
MoNbTaW −0.66 −0.59 −0.92 −1.05
平均 −34.6 −83.4 −1.95 −1.92

结论要分两层看。在 9 个成分相近的 Fe 基体系上,Mamba 与 PI-Mamba 有 7–8 个体系 R² > 0.5,模型是可用的;在 CoCrFeMnNi、Fe2Ni2CrAl、FeCoNiCr、MoNbTaW 等化学距离远的体系上,所有模型都失效,平均 R² 被拉到 −2 以下。

值得注意的是失效的方式:MLP 和 GRU 在 Fe2Ni2CrAl 上给出 −454 和 −1147,说明它们输出了量级错误的应力;SSM 类模型只到 −11,属于“预测偏了但没崩”。对工程使用而言,后者的失败更容易被发现和兜底。

5.6 数据效率:约 20 条轨迹后饱和

把训练集按 25%、50%、75%、100% 抽样(每个比例 5 折),结果见表 7。

表 7 数据效率(应力 R²)

模型 25% 50% 75% 100%
MLP −15.1 −91.3 0.24 0.26
GRU −76.7 −74.0 0.41 0.42
Mamba −0.41 0.35 0.69 0.75
PI-Mamba −0.52 0.31 0.71 0.70

25% 大约对应 6–7 条训练轨迹。此时 MLP 和 GRU 直接崩溃(R² 低至 −91),SSM 类只是变差(−0.4 ~ −0.5),仍然没有发散。到 75%(约 20 条)时四类模型都接近各自的饱和值,再增加数据收益很小。

这条曲线对实际使用有直接意义:如果只有十几条 MD 轨迹,应该选 SSM 类模型;如果有 20 条以上,架构之间的差距才真正体现在精度上。

5.7 集成:稳定为正的改进

表 8 是在 d64 / 2 层这一同预算设置下的同折、同种子算术平均结果(两个模型各占一半),用来说明架构之间的误差有多不相关;放大后的集成结果见表 4。

表 8 两两集成(池化应力 R² / 主指标)

组合 应力 R² 主指标
PI-Mamba + LLaMA 0.730 0.629
PI-Mamba + Gated DeltaNet 0.730 0.612
Hymba + LLaMA 0.767 0.628
Hymba + Mamba 0.764 0.603
Hymba + Mamba + PI-Mamba 0.747 0.612
PI-Mamba + xLSTM 0.690 0.582
PI-Mamba + Mamba 0.715 0.591

算术平均几乎从不伤害性能:PI-Mamba 单独 0.680,与 LLaMA 平均后 0.730;Hymba 单独 0.768,与 LLaMA 平均后 0.767(基本持平,但逐折波动更小)。原因是不同架构的误差相关性不高,平均能抵消一部分。

既然简单平均已经有效,自然可以问:按目标分配权重是否更好?5.3 节的结果给出了一个略显意外但可信的答案——在 33 条轨迹的规模上,拟合出来的权重方差抵消了它的灵活性,按目标选择基模型的收益主要体现在标注稀疏的微观目标上,而不是应力本身。


6 物理解释:这些模型到底学到了什么

精度排名只能告诉我们“谁更好”,不能告诉我们“为什么”。这一节用五组探针把模型内部的量读出来,再和材料学的直觉对照。所有探针都在同一批留出轨迹上运行。

6.1 探针设计

模型 读出的量 物理含义
Deep Koopman 线性算子的特征值 λ 记忆时间 τ = −Δε / ln
Gated DeltaNet 快权重矩阵范数 ‖S‖、衰减门 α、写入门 β 记忆里存了多少、忘得多快、写得多快
xLSTM 遗忘门 f_t 隐状态保留比例
Neural ODE 向量场模长 ‖dz/dt‖ 状态变化速率,拐点对应物理转变
RSSM 先验标准差 σ_t 模型对下一步的不确定度
流匹配 采样曲线的 90% 区间覆盖率 预测区间是否可信

6.2 Koopman:线性动力学没有记忆

Koopman 模型把隐状态限制为线性演化 z_{t+1} = A zt。从学到的 A 的谱可以读出每个模态的记忆时间。结果显示,所有模态的半径都在 0.51 左右,对应 τ ≈ 7.5×10⁻⁴ 应变,也就是 1.5 个应变步(步长 5×10⁻⁴)。

物理上,1.5 步的记忆等于“没有记忆”:模型只能根据当前应变和条件做逐点映射,无法累积位错增殖的历史。这正好解释了它的形状 R² 只有 0.026——和 MLP 一样,它只能记住“这个合金多强”,学不到硬化段。

这是一个“架构决定能力”的清晰例子:不是训练不够,而是线性假设从根上排除了塑性历史。

Koopman 谱

图 4 Deep Koopman 的特征值分布(左)与各模态的记忆时间(右,对数坐标)。

6.3 Gated DeltaNet:门控对应弹性→塑性转变

GDN 的快权重按 S_t = α_t S_{t−1} + β_t (v_t − S_{t−1}k_t)k_tᵀ 更新。我们把 α、β 和 ‖S‖ 随应变的变化画出来(图 4 右上):

这组变化与“弹性阶段变形可回复、塑性阶段缺陷不可逆累积”的物理图像一致。模型没有被显式告知屈服点在哪,却自己学出了“先记后改”的切换。

6.4 xLSTM:同方向,但幅度小一个量级

xLSTM 的遗忘门在同区间内从 0.5566 升到 0.5684,方向与 GDN 相反(这里是“保留得更多”),幅度只有 0.012。考虑到 mLSTM 的门是逐通道的,平均值淹没了通道差异,这个结果只能说明“变化存在但不剧烈”。

与 GDN 相比,xLSTM 的应力 R² 也低一些(0.654 vs 0.745),两者在“记忆切换的锐度”上是一致的。

6.5 Neural ODE:向量场没有屈服拐点

NODE 学到的向量场模长 ‖dz/dt‖ 随应变单调上升,从 13.1 到 16.3,与应变的相关系数 0.992。曲线没有拐折。

真实的应力–应变曲线在屈服点(约 0.5%–2% 应变)附近,位错增殖机制切换,曲线斜率会明显变化。一个能表达这种切换的模型,其内部状态变化率应该在屈服点附近出现拐点。NODE 没有,说明它把整个变形过程当成了平滑的连续演化。

可能的原因有两个:RK4 积分用了较粗的子步(每 5 个应变点积分一次),细节被抹平;以及 NODE 的向量场是状态和时间的平滑函数,本身不擅长表达“机制切换”这种分段行为。

6.6 RSSM:后验塌缩成确定性模型

RSSM 的先验标准差从 1087 饱和到 1300(归一化空间),在整条曲线上几乎是常数。也就是说,随机隐变量没有提供任何有效的不确定性信息,后验塌缩成了确定性映射。

直接原因是 KL 权重只有 10⁻³:为了让重建损失下降,模型选择忽略随机分支。这在数据量小、噪声低的任务里很常见。RSSM 的应力 R² 为 −0.164,比不用随机分支的 GRU(0.444)还差,说明这个额外的随机结构不仅没帮助,还增加了优化难度。

6.7 流匹配:预测区间过于自信

流匹配可以采样多条曲线,理论上能给出预测分布。实测的 90% 预测区间覆盖率为 0.635(名义值 0.90),平均区间宽度 3.65 GPa,平均绝对误差 1.73 GPa。

覆盖率偏低说明模型低估了不确定性:真实曲线经常落在区间外。这对工程使用是危险的——如果用它做“置信区间”,会给出过于乐观的判断。

6.8 微观→宏观耦合的敏感性

在 PI-Mamba 上做反事实实验:把某一微观量整体加 1 个标准差,看应力曲线怎么变。

扰动量 应力平均相对变化 符号一致性
总位错密度 +1σ +2.2% 0.77
孪晶密度 +1σ +9.5% 1.00
FCC 相分数 +1σ −4.4% 0.98

方向都符合物理:位错和孪晶提高强度(孪晶界是更强的障碍,所以影响更大),FCC 相增多则软化(FCC 滑移系多)。符号一致性接近 1,说明这不是个别样本的偶然。

孪晶的影响(9.5%)明显大于位错(2.2%),与 Hall–Petch 型强化的量级直觉一致,也解释了为什么孪晶目标虽然只有 6 条标注,却对预测很重要。

记忆探针

图 5 四个记忆相关探针随真应变的变化。标题中的两个数字是弹性段(ε<0.02)与塑性段(ε>0.15)的均值。

6.9 小结

现象 证据 解释
线性动力学学不到硬化 Koopman τ≈1.5 步,形状 R²=0.026 塑性历史需要非线性记忆
快权重模型能表达弹塑性切换 GDN α↓、β↑、‖S‖↑ 门控自发对应“先记后改”
平滑连续模型缺少屈服拐点 NODE ‖dz/dt‖ 单调,相关 0.992 RK4 粗网格 + 平滑向量场
随机隐变量未提供不确定性 RSSM 先验 σ 近似常数 KL 权重过小导致后验塌缩
生成式模型区间不可信 流匹配覆盖率 0.635 小数据下分布估计不足

7 讨论

7.1 两个失败的改进尝试

Taylor 形式的耦合。 3.4 节的耦合头用的是“拼接隐特征”的软耦合。我们另外实现了一个更贴近物理公式的版本(记为 v2):应力头显式接收 √ρ 的 8 个分型项和 ρ·ρ_twin 的乘积项,形式上对应 σ = σ₀ + MαGb√ρ 的展开。结果反而更差:池化应力 R² 0.636,比 PI-Mamba 的 0.680 低 0.082;逐折 0.609 ± 0.140。

去掉耦合的对照(0.532)说明耦合本身是有效的,问题出在“函数形式”上:当模型被迫通过 √ρ 这一条通道表达应力时,它失去了用其他特征修正偏差的自由度。在只有 26 条训练曲线的情况下,这种约束的代价大于收益。

峰值感知损失。 工程上最关心峰值应力,所以我们给曲线最大值加了一项权重 0.5 的损失。结果同样为负:pimamba_peak 的池化应力 R² 0.288,pimamba2_peak 为 −0.051,逐折甚至是 −0.161 ± 0.422。

原因是峰值只由曲线上一个点决定,而峰值样本又集中在少数几条轨迹上。给峰值加权等于给这几条轨迹加权,模型为了拟合它们牺牲了整条曲线的形状(形状 R² 从 0.528 掉到 −0.558)。

这两个负结果合起来说明一件事:在小数据下,物理先验的价值在于“提供归纳偏置”,而不在于“施加硬约束”。 软耦合有效,硬函数形式无效;整曲线拟合有效,单点加权无效。

表 9 两个改进尝试(5 折,池化留出)

变体 池化应力 R² 池化形状 R² 与 PI-Mamba 的差
PI-Mamba 0.680 0.592 –
v2:Taylor 形式耦合 0.636 0.528 −0.044
v2:去掉耦合 0.532 0.345 −0.148
PI-Mamba + 峰值损失 0.288 −0.114 −0.392
v2 + 峰值损失 −0.051 −0.558 −0.731

7.2 为什么状态空间模型适合这个任务

三个原因,按重要性排序:

第一,任务本质是“状态累积”。 塑性变形是不可逆过程,当前的微结构状态取决于历史路径。SSM 的隐状态 ht 正好是一个随应变累积的量,At 控制衰减、Bt 控制写入。MLP 没有状态,注意力只有“加权求和历史”,都不如递推自然。

第二,数据量小,需要强归纳偏置。 26 条训练曲线、每条约 400 个点,参数量稍大就会过拟合。SSM 的线性递推结构比注意力更“窄”,在同样参数量下更容易学到平滑的演化规律。这也是为什么 Transformer 在主对比里(0.608)不如 Mamba(0.735)。

第三,长序列的计算效率。 401 个点不算长,但 5 折 × 多种子 × 多架构的实验量很大。SSM 的线性复杂度让单次训练控制在几分钟内,才有可能做本文这样的系统性比较。

需要说明的是,这些优势是“在这个数据规模下”的。如果数据量增加到几百条轨迹,注意力类的模型(LLaMA 式、Hymba)大概率会反超——它们在放大预算后已经表现出这个趋势(第 5.3 节)。

7.3 生成式模型为什么不适合

流匹配和 RSSM 的表现(0.541 和 −0.164)容易被误读为“实现有问题”。我们的判断是任务性质不匹配,理由有三:

  1. 这个映射几乎是确定性的。 给定成分、条件和应变,MD 给出的应力曲线在相同初始条件下是可重复的。生成式模型本来用于建模“一对多”的分布,这里没有多少多模态可学。
  2. 小数据下分布估计不可靠。 33 条曲线要支撑一个 13 维输出分布,样本量远远不够。流匹配的 90% 区间覆盖率只有 0.635,正是分布估计不足的直接证据。
  3. 随机分支会稀释监督信号。 RSSM 的 KL 项与重建损失竞争,在 KL 权重小的时候退化为确定性模型,大的时候又会牺牲重建精度。

一个可能的例外是“跨论文数据合并”场景:不同论文的测量存在系统偏差,这时用生成式模型建模“论文间的分布差异”可能有用。本文的数据没有做这种分层,留作后续工作。

7.4 怎么选:一张决策表

场景 推荐 理由
只有 10–20 条轨迹 PI-Mamba 或 Mamba 低数据下不发散(表 7)
20 条以上,追求单模型精度 LLaMA 式(放大) 池化应力 R² 0.791(表 4)
要求跨折稳定、可复现 Gated DeltaNet 逐折标准差 0.064,最小
要求可解释、能读出门控 Gated DeltaNet / xLSTM 有明确的衰减门与写入门
要一整套微观量、可以部署多个模型 逐目标贪心堆叠 主指标 0.637,最高(表 4)
需要预测区间 暂不推荐 流匹配覆盖率仅 0.635
新合金成分远离训练集 不要直接用 LOAO 平均 R² < −1

7.5 局限

数据层面。 33 条轨迹来自 10 个体系,且分布很不均匀:Fe 基体系占多数,MoNbTaW 等难熔合金只有 1–2 条。跨合金实验(表 6)已经显示,化学距离一远模型就失效。这不是换架构能解决的,需要补数据。

统计层面。 每折 6–7 条轨迹,池化也只有 33 条。表 2、表 3 中 0.05 量级的差距在统计上并不显著(逐折标准差普遍在 0.1 以上)。本文的结论更应理解为“量级判断”而非“精确排名”。

评估层面。 所有指标都基于同一批 33 条曲线。虽然用了 5 折交叉验证,但超参数(层数、维度、轮数)是我们在这批数据上试出来的,存在轻微的选择偏差。要完全避免,需要一套独立的外部测试集。

部署层面。 贪心堆叠需要同时运行 9 个基模型,推理成本约为单模型的 9 倍(其中 5 个是 d64 的小模型,实际开销低得多)。对离线分析无所谓,对在线耦合模拟则需要权衡。


8 结论

本文用 33 条 MD 轨迹研究了多合金、多工况下的应力–应变与微结构演化预测。主要结论如下。

(1)架构选择的第一原则是“能不能表达历史”。 MLP 的形状 R² 接近 0,Mamba 达到 0.674;Koopman 的线性假设让它退回逐点映射(τ≈1.5 步)。在塑性问题上,有没有状态、状态能不能非线性更新,比层数、宽度重要得多。

(2)物理先验要用“软”的方式注入。 条件调制(FiLM)与微观→宏观耦合分别带来可测量的收益(耦合 +0.060),而强函数形式约束(Taylor 展开)和单点加权(峰值损失)都产生负结果(−0.044 与 −0.392)。先验的作用是缩小假设空间,不是替代数据。

(3)2024–2026 的新架构没有带来质变,但提供了不同的取舍。 同等预算下 Hymba 的池化应力 R² 最高(0.768),Gated DeltaNet 最稳(0.748 ± 0.064),LLaMA 式的主指标最好(0.623),三者都只比 PI-Mamba 高不到 0.09。放开预算后,LLaMA 式只从 0.748 提到 0.791,说明在 33 条轨迹的规模上容量已经不是主要瓶颈。集成的作用是补齐小目标:逐目标贪心堆叠把主指标从 0.587 提到 0.637,但应力(0.744)仍低于最好的单模型。

(4)模型的可解释性可以直接读出来。 Koopman 的谱给出记忆时间,GDN 的门控给出弹塑性切换,NODE 的向量场暴露了缺失的屈服拐点,RSSM 的先验方差暴露了后验塌缩。这些量不仅能解释成败,也能指导下一步改哪里。

(5)这套方法有明确的使用边界。 在成分相近的体系内,模型可以给出 R² 0.7–0.8 的曲线预测;一旦测试合金在化学上远离训练集,所有模型都会失效(LOAO 平均 R² < −1)。实际使用时应把“分布内”作为前提,而不是默认模型能外推。

后续工作有三个方向:补充难熔合金与更多体系的 MD 数据,把“化学距离”作为不确定性估计的一部分;尝试把屈服点显式建模为分段结构;以及在更大的数据规模上重新检验注意力类模型是否反超。


附录 A 复现


# 环境
pip install -r requirements.txt

# 1) 从原始 Excel 重建数据集(含黄色标记剔除)
cd code && python -m pimamba.build_dataset

# 2) 主对比:7 架构 × 5 折 × 2 种子(300 轮,d64/l2)
python -m pimamba.run_experiments --suite main --seeds 0 1

# 3) 新一代骨干:8 个架构 × 5 折
python -m pimamba.run_experiments --suite next --seeds 0

# 4) 放大配置:3 架构 × 5 折 × 2 种子(600 轮,d128/l4,固定折划分)
python -m pimamba.run_experiments --suite best --seeds 0 1

# 5) 留一折贪心堆叠(基模型可来自不同套件)
python -m pimamba.stack --prefix best --method greedy \
    --models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \
    --prefixes mlp=main gru=main lstm=main transformer=main mamba=main \
               mamba2=main pimamba=best hymba=best llama=best \
    --seeds 0 --out stack_final

# 6) 池化评估、表格与图
python -m pimamba.pooled && python -m pimamba.report

# 7) 物理探针
python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0 \
       --xlstm next_xlstm_f4_s0 --node next_node_f3_s0 --rssm next_rssm_f1_s0 \
       --flow next_flow_f0_s0

单卡 A800-80GB 的耗时:主对比约 3.5 GPU·小时,新架构约 3 GPU·小时,放大配置约 4 GPU·小时。

附录 B 文件与产物

路径 内容
data/processed/samples_meta.csv 33 × 81 样本级元数据
data/processed/trajectories.csv 13233 × 18 长表
code/pimamba/ 全部模型、训练、评估、解释代码
results/runs/<tag>/ 每次训练的指标、曲线、预测
results/runs/best_*/ 放大配置的 30 次运行(3 架构 × 5 折 × 2 种子)
results/tables/tab_stack_final.csv 贪心堆叠的逐目标指标与权重
results/tables/ 汇总表(主对比/新架构/消融/LOAO/数据效率/堆叠)
results/figures/ 全部图
report/paper.md / paper.html / paper.pdf 本文

附录 C 术语表

术语 含义
R²(决定系数) 1 为完美;0 相当于直接猜均值;负值表示比猜均值更差
池化留出(pooled OOF) 每个样本由未见过它的模型预测一次,再把所有预测拼起来统一算指标
5 折交叉验证 把样本分成 5 份,轮流用 4 份训练、1 份测试
SSM / Mamba 状态空间模型;用可学习的递推 ht = At h_{t−1} + Bt xt 概括历史
FiLM 用条件向量生成缩放和平移参数,逐层调制特征
消融实验 逐个去掉模型组件,看性能变化,判断组件是否必要
LOAO 留一合金:每次把一个完整合金体系留作测试
堆叠(stacking) 用一组基模型的预测作为输入,再训练一个组合器;本文用贪心选择,权重即各模型被选中的比例
后验塌缩 变分模型忽略随机隐变量,退化为确定性模型
覆盖率 预测区间包含真实值的比例,名义 90% 应接近 0.90