摘要 分子动力学(MD)可以给出合金在原子尺度上的演化细节,但单条轨迹的计算成本很高,难以覆盖全部成分与加载条件。本文研究一个替代问题:用少量已算好的 MD 轨迹训练模型,输入合金成分、加载条件和应变序列,直接输出整条应力–应变曲线以及相分数、位错密度、孪晶密度等微观量的演化。数据共 33 条轨迹、10 个合金体系、13 个输出目标,其中微观量的标签大面积缺失(部分目标只有 3–6 条轨迹有标注),因此模型必须同时处理“多任务”和“标签不全”两件事。
我们以选择性状态空间模型(Mamba,一类带门控的线性递推网络)为骨干,加入三项材料领域的先验:用合金条件调制网络内部特征(FiLM)、让应力预测显式读取同一时刻的微观量预测(微观→宏观耦合)、对缺陷密度施加单调性与初态约束。在此基础上,我们把 2024–2026 年出现的 8 类新架构放进同一套流程中逐一替换骨干,包括 LLaMA 式 Transformer、xLSTM、Gated DeltaNet、Mamba+注意力混合(Hymba)、Deep Koopman、Neural ODE、RSSM 世界模型和条件流匹配。
在 5 折交叉验证、33 个样本的池化留出预测上,应力 R² 从 MLP 的 0.317 提升到 Mamba 的 0.735 和 PI-Mamba 的 0.680(PI-Mamba 的优势在跨折稳定性:0.691 ± 0.111,Mamba 为 0.572 ± 0.421)。新架构中最好的是 Mamba+注意力混合(0.768)和 Gated DeltaNet(0.745,逐折标准差仅 0.064)。放开算力预算(128 维、4 层、600 轮)后,LLaMA 式 Transformer 把池化应力 R² 从 d64 的 0.748 推到 0.791,是全部单模型中的最高值;按目标做留一折贪心堆叠则把 7 个主要目标的平均 R² 从 0.587 提到 0.637(应力 0.744)。两者各有所长:单模型负责应力曲线本身,集成负责补齐标注稀疏的微观目标。
物理解释方面,我们设计了五组探针并得到可检验的结论:Koopman 模型的线性算子记忆时间只有约 1.5 个应变步,从机理上解释了它为什么学不到硬化形状;Gated DeltaNet 的“写入门”随应变上升、“衰减门”下降,与弹性→塑性转变对应;Neural ODE 的向量场模长单调上升、没有屈服拐点;RSSM 的后验塌缩为确定性映射;流匹配的 90% 预测区间只覆盖 63.5% 的实测点。这些结果说明,架构选择不只是精度问题,它决定了模型能否表达我们关心的物理。
关键词 高熵合金;分子动力学;应力–应变曲线;状态空间模型;多任务学习;缺失标签;可解释性
合金设计的核心问题之一,是知道“某种成分在某种加载条件下会怎样变形”。分子动力学(MD)能在原子尺度回答这个问题:给定成分、温度、应变率和初始缺陷结构,积分牛顿方程就能得到每一个原子的位置,进而统计出应力、相结构、位错密度等量随应变的演化。它的缺点是贵。一条 0→0.2 应变的拉伸轨迹,视体系大小和应变率,通常需要数小时到数天;如果要在成分空间里扫描,成本会迅速不可接受。
一个自然的想法是用机器学习做代理模型:从已有轨迹里学习“成分 + 条件 + 应变 → 响应”的映射,之后对新成分直接推理,成本可以忽略。已有大量工作用神经网络拟合势函数或直接拟合应力–应变曲线,但这类工作大多假设数据是“一个成分一条曲线”的表格,模型输出单点或单条曲线,且标签齐全。本文面对的数据更接近真实科研场景:不同论文、不同体系、不同加载方式混在一起,输出是多条相互关联的曲线,而且微观量的标注严重不全。
我们把任务写成序列到序列的回归:
我们不训练原子间势,也不做第一性原理计算;模型只在已有 MD 轨迹的分布内做插值。跨合金外推的实验(留一合金,LOAO)表明这类模型在化学成分远离训练集时会明显失效,这一点在第 5.5 节如实报告。
原始数据来自使用者提供的论文提取表(Excel),共 70 个样本块。其中 Sheet1 有 37 行被整行标黄,表示作者认为数据质量不合格或不属于本任务,sample_id 为 24–60。我们按标记剔除这 37 条,保留 33 条轨迹,来自 10 个合金体系,覆盖压缩与拉伸两种加载方式。
每条轨迹包含 401 个应变点(0→0.2,步长 5×10⁻⁴),因此轨迹表共 33 × 401 = 13233 行。所有物理量统一到 GPa、无量纲分数和 m⁻²,换算规则记录在 data/processed/build_report.json 与数据字典中。
静态条件向量分四组,共 81 维(含独热与标志位):
序列输入只有应变本身(以及由它派生的应变率符号),因为应力是应变的函数,其余条件已进入静态向量。
表 1 给出 13 个目标的覆盖情况。应力覆盖全部 33 条轨迹;相分数覆盖 7–11 条;7 类位错分型只覆盖 3–6 条;孪晶密度覆盖 6 条。缺失不是随机丢包,而是“这篇论文没测这个量”,因此不能删除缺失样本,只能把损失限制在有标注的位置上。
表 1 输出目标与标签覆盖
| 组别 | 目标 | 含义 | 有标注轨迹数 | 单位 |
|---|---|---|---|---|
| 力学 | σ | 真应力 | 33 | GPa |
| 相分数 | ξ_BCC, ξ_FCC, ξ_HCP, ξ_other | 各相体积分数 | 7–11 | – |
| 位错(分型) | ρ_1/2, ρ_a/2, ρ_a/3, ρ_edge, ρ_screw, ρ_perfect, ρ_other | 各类位错密度 | 3–6 | m⁻² |
| 位错(合计) | ρ_total | 总位错密度 | 6 | m⁻² |
| 孪晶 | ρ_twin | 孪晶界密度 | 6 | m⁻² |
rho_frank 与 rho_100 在全表中没有任何标注,直接不建模。
采用按合金分层的 5 折交叉验证:同一个合金的样本尽量分散到不同折,避免“同一条曲线的相邻应变点”泄漏到测试集。每条轨迹整体属于某一折,因此测试集是“整条曲线”,符合实际使用场景(预测一条没见过的轨迹)。
为了让不同模型、不同随机种子之间的结果可以直接比较和集成,最佳配置实验固定了折划分(split_seed=0),随机种子只影响参数初始化与批顺序。早期的主对比实验没有固定这一点,因此那些数字的逐折标准差里同时包含“划分差异”和“初始化差异”,解释时需要留意(第 5.1 节会说明)。
两个口径并用:
R² 的含义需要说明:R² = 1 表示完美预测;R² = 0 表示模型的效果和“直接猜训练集均值”一样;R² < 0 表示比猜均值还差。对稀有目标,单折 R² 出现 −25 或 −100 并不奇怪,这时应看池化值。
所有模型共享同一种组织方式,区别只在中间的序列骨干:
静态条件 c ──► 条件编码器 ──► 调制参数 (γ, β)
│
应变序列 ε₁..ε_T ──► 输入投影 ──► 序列骨干(逐层被条件调制)──► 隐状态 <i>h</i><sub><i>t</i></sub>
│
┌──────────────────────────────────────────┤
│ │
微观量输出头 应力输出头
(相分数/位错/孪晶) 读 [<i>h</i><sub><i>t</i></sub>, 微观量预测]
这样组织有三个好处:条件只进入调制参数,不随序列长度重复拼接;应力头可以直接“看到”微观量预测,从而显式表达“结构决定力学响应”;每个物理量有独立的输出头,量纲和尺度互不干扰。
循环网络(GRU/LSTM)按时间步递推,天然适合序列,但必须一步一步算,长序列上慢,而且门控容易被早期信息占满。Transformer 用注意力直接连接任意两个时间点,并行性好,但计算量随序列长度平方增长,且在本任务里 401 个点全部是稠密输入,注意力没有明显的“稀疏关注”可学。
状态空间模型(SSM)介于两者之间。它用一个隐状态 ht 概括历史:
ht = At ht−1 + Bt xt, yt = Ct ht
其中 At、Bt、Ct 由当前输入决定(所以叫“选择性”)。这个形式看起来像线性递归,但因为参数随输入变化,它能做到“该记的时候记、该忘的时候忘”。Mamba 的关键工程贡献是把这个递推改写成可并行的分块扫描,训练时不必真的按 401 步串行,计算量随序列长度线性增长。
对材料问题来说,这个结构有一个直观解释:ht 可以看作“当前微结构状态”的压缩表示,At 决定它衰减多快,Bt 决定新的应变信息写入多少。第 6 节的探针正是去读这些量。
不同合金、不同温度的曲线形状差别很大,但条件向量是静态的。我们把条件编码成一组逐层的缩放与平移参数:
γ = 1 + Wγc, β = Wβc, h ← γ ⊙ h + β
这就是 FiLM(Feature-wise Linear Modulation)。它等价于让网络为每个合金“换一套内部参数”,但参数量只与条件维度有关,不会随合金数量增长。消融实验(第 5.4 节)显示,去掉条件注入后模型仍然能工作,但跨合金的应力水平明显变差。
材料力学里,应力与微观缺陷之间有条件明确的关系。最经典的是 Taylor 关系:
σ = σ0 + MαGb√ρ
其中 ρ 是位错密度,G 是剪切模量,b 是柏氏矢量,M、α 是取向与交互系数。我们不让模型去拟合这些常数,而是把这个函数形式作为一种“归纳偏置”喂给它:应力头的输入不只是 ht,还拼接了同一时刻的微观量预测 zt 以及 √ρ、ρ·ρ_twin 这样的非线性项。
这样做的效果是双面的。好处是模型不必从零学“位错多→应力高”,在小数据下更稳;坏处是如果微观量预测错了,误差会直接传进应力。第 5.4 节的消融显示耦合带来约 +0.06 的 R²,而去掉耦合会让部分折出现数值不稳定。
需要说明的是,第 7.4 节还尝试了更“物理”的 Taylor 展开版本(v2),结果反而更差。原因在讨论部分分析:约束太强时,模型为了满足函数形式牺牲了拟合的灵活性。
13 个目标共用一个骨干,但每个目标有独立输出头:
损失只在有标注的位置计算:
L = Σj wj · Σt mj,t (ŷj,t − yj,t)² ⁄ Σt mj,t
其中 m 是观测掩码。权重 wj 按目标方差设置,目的是让 0–1 尺度的相分数和 10¹⁶ 量级的位错密度在梯度里贡献相当。如果不做这个平衡,位错头会把相分数头压死。
这个写法有一个额外好处:没有标注的样本仍然参与前向计算,只是不产生损失,相当于半监督——它们的输入分布仍然约束着骨干。
我们加了三条弱约束,权重都很小(合计约 0.05):
这些约束作用在没有标注的样本上,也是半监督的一种形式。消融结果(第 5.4 节)显示,权重为 0.05 时略有帮助(在噪声范围内),权重加到 1.0 时反而显著变差——约束太强会与数据冲突。
为了回答“是否还有更好的骨干”,我们把近两年出现的 8 类结构逐一替换掉 Mamba,其余部分(条件注入、耦合头、损失、训练协议)保持不变。下面用一句话说明每种结构的核心思想和它“为什么可能有用”:
(1)LLaMA 式 Transformer。 旋转位置编码(RoPE)+ RMSNorm + SwiGLU + 因果注意力。它是当前大模型的主流结构,优点是长程依赖建模能力强;在本任务里它对应“整条曲线一起看”。
(2)xLSTM(mLSTM 块)。 把 LSTM 的门控升级为矩阵记忆,用指数门控控制写入。它保留了递归的串行结构,但记忆容量比 LSTM 大得多。
(3)Gated DeltaNet。 一种“快权重”模型,把历史写成矩阵 S_t,并用 delta 规则按当前误差更新:
S_t = α_t S_(t−1) + β_t (v_t − S_(t−1) k_t) k_tᵀ
α 是衰减、β 是写入强度。它和材料中的“缺陷累积—回复”在形式上很像。
(4)Mamba + 注意力混合(Hymba/Jamba 式)。 每层交替使用 Mamba 和注意力,兼顾局部递推与全局检索。
(5)Deep Koopman。 假设隐状态按线性算子演化 z_(t+1) = A zt,A 用块对角 2×2 旋转块参数化。它的特征值直接给出“记忆时间”,可解释性最好,但表达能力受限于线性。
(6)Neural ODE。 把序列建模成连续时间的初值问题 dz/dt = f(z, t),用 RK4 积分。它的好处是时间分辨率可以任意,物理上对应“演化方程”。
(7)RSSM 世界模型。 Dreamer 系列使用的结构,隐状态分确定性与随机两部分,用 KL 约束后验。它本来用于强化学习中的想象推演,这里借它的“不确定性”能力。
(8)条件流匹配(Flow Matching)。 学习一个速度场,把噪声分布搬运到“以条件为输入的曲线分布”,推理时积分 ODE 采样。它可以给出多条可能的曲线,从而估计预测区间。
每种结构都保留相同的输入输出接口,因此可以用同一套评估代码比较。
不同架构的失效位置不一样:有的擅长应力绝对水平,有的擅长曲线形状。最简单的利用方式是把同折的预测做算术平均(第 5.6 节);更进一步是按目标给不同模型分配权重:
ŷj = Σm wj,m · ŷj,m
权重不能在所有样本上拟合后再报告同一批样本的分数,那会高估。我们采用留一折嵌套:预测第 k 折时,权重只用其余四折的留出预测估计。这样每个样本的预测都没有参与自己的权重估计,得到的分数是诚实的。
权重的估计方法有两种。岭回归(带非负约束)在 26 条训练轨迹上很不稳定:九个基模型的预测高度相关,解会在几个模型之间来回跳,换一折就换一组权重,实测效果不如单模型。因此最终采用贪心选择(Caruana 式前向选择):从空组合开始,每一轮把“加入后训练折误差最小”的模型加进去,重复 15 轮,允许同一个模型被多次选中;最终的权重就是各模型被选中的次数占比。这种做法只做加法和比较、不求解线性方程组,在几十条样本的规模上稳健得多。
所有模型用 PyTorch 实现,在单张 A800-80GB 上训练。优化器为 AdamW(权重衰减 1e-4),学习率 3e-4,采用 OneCycle 调度(前 25% 步数线性升温),批大小 8,梯度裁剪 1.0。
训练轮数按实验组区分:
我们不做早停。原因是训练集只有 26 条轨迹,切出 15% 做验证集只剩 4 条,验证损失几乎全是噪声,早停等于随机选模型。固定轮数 + OneCycle 退火在小数据上更稳。这个选择在第 5.1 节有对比依据。
第一组是通用基线:MLP(逐点全连接)、GRU、LSTM、标准 Transformer(可学习位置编码)。
第二组是状态空间模型:Mamba(S6,选择性扫描)与 Mamba-2(SSD,结构化状态空间对偶)。
第三组是本文的物理约束版本 PI-Mamba,以及它的两个消融变体。
第四组是 2024–2026 年的新架构,共 8 个,见 3.7 节。
第五组是集成:同折算术平均与逐目标堆叠。
参数量从 4.4 万(MLP)到 19 万(Hymba),都在同一数量级,避免“靠参数量取胜”的质疑。最佳配置组放大到 128 维、4 层,参数量约 40–80 万。
表 2 给出 7 种架构在 5 折 × 2 种子下的结果。池化留出集包含全部 33 条轨迹。
表 2 主对比结果(5 折交叉验证,池化留出 33 条轨迹)
| 模型 | 应力 R²(逐折) | 形状 R²(逐折) | 池化应力 R² | 池化形状 R² | 主指标均值 | 峰值误差 | 参数量 |
|---|---|---|---|---|---|---|---|
| MLP | 0.224 ± 0.202 | 0.002 ± 0.004 | 0.317 | 0.002 | 0.326 | 0.384 | 44 k |
| GRU | 0.371 ± 0.276 | 0.248 ± 0.185 | 0.444 | 0.199 | 0.441 | 0.261 | 94 k |
| LSTM | 0.368 ± 0.279 | 0.249 ± 0.124 | 0.519 | 0.255 | 0.443 | 0.278 | 110 k |
| Transformer | 0.543 ± 0.356 | 0.487 ± 0.253 | 0.608 | 0.488 | 0.573 | 0.245 | 177 k |
| Mamba (S6) | 0.572 ± 0.421 | 0.604 ± 0.190 | 0.735 | 0.674 | 0.566 | 0.268 | 104 k |
| Mamba-2 | 0.662 ± 0.129 | 0.617 ± 0.097 | 0.649 | 0.509 | 0.450 | 0.225 | 66 k |
| PI-Mamba | 0.691 ± 0.111 | 0.681 ± 0.129 | 0.680 | 0.592 | 0.603 | 0.211 | 116 k |
三点观察:
第一,MLP 的形状 R² 几乎为 0(0.002)。它能记住“这个合金大概多强”(水平相关 0.898),但完全学不到硬化段的形状。这说明这个任务不能靠逐点回归解决。
第二,状态空间类模型的池化应力 R² 最高(Mamba 0.735、PI-Mamba 0.680),而且形状 R² 领先一个档次(0.67 vs 0.49)。原因是 SSM 的隐状态可以累积塑性历史,而逐点 MLP 和窗口有限的注意力都做不到。
第三,PI-Mamba 的池化应力不是最高,但逐折最稳。它的逐折标准差 0.111,Mamba 是 0.421,相差 3.8 倍。Mamba 的 0.735 里有“某一折特别好”的成分:在池化口径下,Mamba 与 PI-Mamba 的差距(0.055)小于逐折标准差。换句话说,单看一次实验,两者谁高谁低并不确定;但 PI-Mamba 的波动小得多,实际部署更可靠。
另外可以看到,Mamba-2 的逐折均值(0.662)高于 Mamba(0.572),但池化值反而更低(0.649 vs 0.735)。这是“平均每折 R²”与“合并后算 R²”的典型差异:前者给每折同等权重,后者让误差大的折贡献更多。我们以池化值为准,因为它对应“把 33 条曲线放在一起用”的真实场景。

图 1 7 种架构的应力 R² 与形状 R²。误差棒为 5 折标准差。
汇总指标之外,图 2 给出一条具体的留出曲线(PI-Mamba,第 3 折)。三个面板分别是应力、总位错密度和孪晶密度;灰线是 MD 参考,彩色虚线是预测。
从这张图能看出模型的强项与短板。应力面板中,弹性段斜率与峰值位置都对得上,峰值后的软化被低估了一些;位错密度面板的趋势正确,但平台值偏低;孪晶密度面板几乎是水平的,而 MD 显示明显的形核—衰减过程。这与孪晶只有 6 条标注的事实一致:数据不足的目标,模型倾向于输出接近均值的平线。

图 2 一条留出轨迹的预测(第 3 折)。灰线为 MD 参考,虚线为 PI-Mamba 预测;同一面板中的多条曲线对应不同的测试样本。
表 3 是 8 个新架构在同一预算下的结果。为了阅读方便,按池化应力 R² 排序。
表 3 2024–2026 新架构(5 折交叉验证,池化留出)
| 模型 | 池化应力 R² | 池化形状 R² | 主指标 | 逐折应力 R² | 峰值误差 | 参数量 |
|---|---|---|---|---|---|---|
| Mamba+注意力混合 | 0.768 | 0.754 | 0.588 | 0.667 ± 0.240 | 0.229 | 191 k |
| LLaMA 式 Transformer | 0.748 | 0.685 | 0.623 | 0.680 ± 0.220 | 0.226 | 127 k |
| Gated DeltaNet | 0.745 | 0.694 | 0.573 | 0.748 ± 0.064 | 0.206 | 128 k |
| xLSTM | 0.654 | 0.600 | 0.513 | 0.646 ± 0.152 | 0.217 | 128 k |
| 条件流匹配 | 0.541 | 0.300 | −0.587 | 0.422 ± 0.236 | 0.459 | 133 k |
| Neural ODE | 0.410 | 0.348 | 0.514 | 0.363 ± 0.244 | 0.276 | 86 k |
| Deep Koopman | 0.345 | 0.026 | 0.279 | 0.294 ± 0.135 | 0.362 | 59 k |
| RSSM 世界模型 | −0.164 | 0.023 | −0.038 | −0.255 ± 0.130 | 0.468 | 95 k |
结论可以概括为三句话:

图 3 新架构(蓝)、第一代模型(绿)与 PI-Mamba(橙)的应力 R² 与形状 R²。误差棒为多次运行的离散程度。
前两节的比较都限定在“同参数量、同轮数”。实际使用时没有这个约束,精度优先。这一节把三个表现最好的骨干放大到 128 维、4 层,训练 600 轮,固定折划分后各跑 2 个随机种子,并在此基础上做集成。
表 4 放大后的单模型与集成结果(固定折划分,种子 0,池化留出 33 条轨迹)
| 配置 | 参数量 | 池化应力 R² | 池化形状 R² | 主指标 | 逐折应力 R²(5 折) |
|---|---|---|---|---|---|
| PI-Mamba(128 维 / 4 层) | 713 k | 0.686 | 0.582 | 0.577 | 0.742 ± 0.098 |
| LLaMA 式(128 维 / 4 层) | 823 k | 0.791 | 0.762 | 0.587 | 0.791 ± 0.058 |
| Mamba+注意力(128 维 / 4 层) | 1.27 M | 0.746 | 0.703 | 0.569 | 0.776 ± 0.100 |
| 9 个基模型的等权平均 | – | 0.707 | 0.594 | 0.620 | – |
| 逐目标贪心堆叠(留一折拟合) | – | 0.744 | 0.706 | 0.637 | – |
放大模型只带来有限收益。 LLaMA 式 Transformer 从 d64 的 0.748(表 3)提到 0.791,是唯一有明显提升的架构,增幅 0.043:它在 26 条训练轨迹上仍能量到长程依赖,参数量翻 6 倍后过拟合也不算严重(600 轮内留出误差一直在缓慢下降)。Hymba 的池化值从 0.768 变成 0.746,基本持平,但逐折标准差从 0.240 降到 0.100——放大换来的是稳定性,不是均值。PI-Mamba 从 0.680 到 0.686,几乎不动。把参数量翻 6 倍、训练轮数翻倍,收益远小于换一次架构(同预算下 Transformer 0.608 → LLaMA 式 0.748)。在 33 条轨迹的规模上,容量不是主要瓶颈,数据和归纳偏置才是。
Gated DeltaNet 没有进入放大实验。 它的 delta 规则内核实测比 LLaMA 慢约 5 倍,单折 600 轮跑 18 分钟仍未跑完,无法在可接受的时间内完成 5 折,因此只保留表 3 的 d64 结果。这是工程限制,不是精度结论。
种子平均没有帮助。 每个配置跑 2 个种子,把同折的两个种子预测平均后,LLaMA 从 0.791 降到 0.719、Hymba 从 0.746 到 0.730、PI-Mamba 从 0.686 到 0.676。原因是种子之间的差异不是零均值噪声:某个种子碰巧学出了更好的峰值形状,平均反而把它抹平。在 33 条轨迹的规模上,多种子平均能降方差,但降不了偏差。
集成补的是“别的目标”,不是应力。 表 4 最后两行是两种组合方式。等权平均 9 个基模型把主指标从 0.587 提到 0.620,但应力掉到 0.707——弱模型偏平滑的预测把峰值削掉了。按目标做留一折贪心选择后,应力回到 0.744,主指标 0.637,其中 HCP 相分数(0.806)、其他相分数(0.580)、总位错密度(0.766)都明显好于任何单模型。最终推荐的用法是分开的:要应力曲线本身,用 LLaMA 式单模型;要一整套微观量,用贪心堆叠。 需要强调的是,堆叠的权重只在训练折内估计,每条轨迹都做过留出样本,0.744 这个数字没有用到任何测试信息。
表 5 是在 d_model=64、2 层、5 折、单种子下对 PI-Mamba 逐项拆解的结果。基准是完整模型(应力 R² 0.701 ± 0.113)。
表 5 PI-Mamba 消融(5 折)
| 变体 | 应力 R² | 形状 R² | 与完整模型的差 |
|---|---|---|---|
| 完整模型 | 0.701 ± 0.113 | 0.662 ± 0.168 | – |
| 去掉几何与取向特征 | 0.665 ± 0.126 | 0.586 ± 0.185 | −0.037 |
| 加物理约束(权重 0.05) | 0.663 ± 0.111 | 0.611 ± 0.160 | −0.038 |
| 去掉集成描述符 | 0.645 ± 0.138 | 0.562 ± 0.219 | −0.056 |
| 去掉微观→宏观耦合 | 0.641 ± 0.170 | 0.593 ± 0.264 | −0.060 |
| 去掉形状标志位 | 0.630 ± 0.138 | 0.602 ± 0.130 | −0.071 |
| 去掉初始状态特征 | 0.606 ± 0.123 | 0.563 ± 0.171 | −0.095 |
| 加物理约束(权重 1.0) | 0.359 ± 0.138 | 0.207 ± 0.240 | −0.343 |
| 不做归一化 | −0.702 ± 0.880 | 0.000 ± 0.000 | −1.404 |
几点解读:
留一合金(LOAO)实验:每次留出一个完整合金体系做测试,其余训练。14 个体系各有 4 个模型的结果。
表 6 留一合金实验(应力 R²)
| 留出体系 | MLP | GRU | Mamba | PI-Mamba |
|---|---|---|---|---|
| Al0.1CoCrFeNi | −0.59 | 0.43 | −0.37 | −0.52 |
| Al20.4Mo10.5Nb22.4Ta10.1Ti17.8Zr18.8 | −0.95 | −5.11 | −0.06 | −0.16 |
| CoCrFeMnNi | −22.4 | −12.9 | −8.46 | −8.76 |
| Fe2Ni2CrAl | −453.9 | −1146.9 | −11.2 | −11.8 |
| FeCoNiCr | −4.65 | −6.72 | −12.1 | −10.2 |
| HEA FeNiCrCoAl(压缩) | −0.10 | 0.28 | 0.75 | 0.58 |
| HEA FeNiCrCoAl(拉伸) | −0.58 | 0.35 | 0.74 | 0.72 |
| HESA Fe35NiCrCoAl(压缩) | −0.08 | 0.31 | 0.63 | 0.81 |
| HESA Fe35NiCrCoAl(拉伸) | 0.12 | 0.66 | 0.74 | 0.69 |
| MEA FeNiAl(压缩) | −0.03 | 0.52 | 0.58 | 0.35 |
| MEA FeNiAl(拉伸) | −0.51 | 0.79 | 0.69 | 0.78 |
| MEA FeNiCrAl(压缩) | −0.02 | 0.44 | 0.91 | 0.87 |
| MEA FeNiCrAl(拉伸) | 0.06 | 0.67 | 0.81 | 0.78 |
| MoNbTaW | −0.66 | −0.59 | −0.92 | −1.05 |
| 平均 | −34.6 | −83.4 | −1.95 | −1.92 |
结论要分两层看。在 9 个成分相近的 Fe 基体系上,Mamba 与 PI-Mamba 有 7–8 个体系 R² > 0.5,模型是可用的;在 CoCrFeMnNi、Fe2Ni2CrAl、FeCoNiCr、MoNbTaW 等化学距离远的体系上,所有模型都失效,平均 R² 被拉到 −2 以下。
值得注意的是失效的方式:MLP 和 GRU 在 Fe2Ni2CrAl 上给出 −454 和 −1147,说明它们输出了量级错误的应力;SSM 类模型只到 −11,属于“预测偏了但没崩”。对工程使用而言,后者的失败更容易被发现和兜底。
把训练集按 25%、50%、75%、100% 抽样(每个比例 5 折),结果见表 7。
表 7 数据效率(应力 R²)
| 模型 | 25% | 50% | 75% | 100% |
|---|---|---|---|---|
| MLP | −15.1 | −91.3 | 0.24 | 0.26 |
| GRU | −76.7 | −74.0 | 0.41 | 0.42 |
| Mamba | −0.41 | 0.35 | 0.69 | 0.75 |
| PI-Mamba | −0.52 | 0.31 | 0.71 | 0.70 |
25% 大约对应 6–7 条训练轨迹。此时 MLP 和 GRU 直接崩溃(R² 低至 −91),SSM 类只是变差(−0.4 ~ −0.5),仍然没有发散。到 75%(约 20 条)时四类模型都接近各自的饱和值,再增加数据收益很小。
这条曲线对实际使用有直接意义:如果只有十几条 MD 轨迹,应该选 SSM 类模型;如果有 20 条以上,架构之间的差距才真正体现在精度上。
表 8 是在 d64 / 2 层这一同预算设置下的同折、同种子算术平均结果(两个模型各占一半),用来说明架构之间的误差有多不相关;放大后的集成结果见表 4。
表 8 两两集成(池化应力 R² / 主指标)
| 组合 | 应力 R² | 主指标 |
|---|---|---|
| PI-Mamba + LLaMA | 0.730 | 0.629 |
| PI-Mamba + Gated DeltaNet | 0.730 | 0.612 |
| Hymba + LLaMA | 0.767 | 0.628 |
| Hymba + Mamba | 0.764 | 0.603 |
| Hymba + Mamba + PI-Mamba | 0.747 | 0.612 |
| PI-Mamba + xLSTM | 0.690 | 0.582 |
| PI-Mamba + Mamba | 0.715 | 0.591 |
算术平均几乎从不伤害性能:PI-Mamba 单独 0.680,与 LLaMA 平均后 0.730;Hymba 单独 0.768,与 LLaMA 平均后 0.767(基本持平,但逐折波动更小)。原因是不同架构的误差相关性不高,平均能抵消一部分。
既然简单平均已经有效,自然可以问:按目标分配权重是否更好?5.3 节的结果给出了一个略显意外但可信的答案——在 33 条轨迹的规模上,拟合出来的权重方差抵消了它的灵活性,按目标选择基模型的收益主要体现在标注稀疏的微观目标上,而不是应力本身。
精度排名只能告诉我们“谁更好”,不能告诉我们“为什么”。这一节用五组探针把模型内部的量读出来,再和材料学的直觉对照。所有探针都在同一批留出轨迹上运行。
| 模型 | 读出的量 | 物理含义 |
|---|---|---|
| Deep Koopman | 线性算子的特征值 λ | 记忆时间 τ = −Δε / ln |
| Gated DeltaNet | 快权重矩阵范数 ‖S‖、衰减门 α、写入门 β | 记忆里存了多少、忘得多快、写得多快 |
| xLSTM | 遗忘门 f_t | 隐状态保留比例 |
| Neural ODE | 向量场模长 ‖dz/dt‖ | 状态变化速率,拐点对应物理转变 |
| RSSM | 先验标准差 σ_t | 模型对下一步的不确定度 |
| 流匹配 | 采样曲线的 90% 区间覆盖率 | 预测区间是否可信 |
Koopman 模型把隐状态限制为线性演化 z_{t+1} = A zt。从学到的 A 的谱可以读出每个模态的记忆时间。结果显示,所有模态的半径都在 0.51 左右,对应 τ ≈ 7.5×10⁻⁴ 应变,也就是 1.5 个应变步(步长 5×10⁻⁴)。
物理上,1.5 步的记忆等于“没有记忆”:模型只能根据当前应变和条件做逐点映射,无法累积位错增殖的历史。这正好解释了它的形状 R² 只有 0.026——和 MLP 一样,它只能记住“这个合金多强”,学不到硬化段。
这是一个“架构决定能力”的清晰例子:不是训练不够,而是线性假设从根上排除了塑性历史。

图 4 Deep Koopman 的特征值分布(左)与各模态的记忆时间(右,对数坐标)。
GDN 的快权重按 S_t = α_t S_{t−1} + β_t (v_t − S_{t−1}k_t)k_tᵀ 更新。我们把 α、β 和 ‖S‖ 随应变的变化画出来(图 4 右上):
这组变化与“弹性阶段变形可回复、塑性阶段缺陷不可逆累积”的物理图像一致。模型没有被显式告知屈服点在哪,却自己学出了“先记后改”的切换。
xLSTM 的遗忘门在同区间内从 0.5566 升到 0.5684,方向与 GDN 相反(这里是“保留得更多”),幅度只有 0.012。考虑到 mLSTM 的门是逐通道的,平均值淹没了通道差异,这个结果只能说明“变化存在但不剧烈”。
与 GDN 相比,xLSTM 的应力 R² 也低一些(0.654 vs 0.745),两者在“记忆切换的锐度”上是一致的。
NODE 学到的向量场模长 ‖dz/dt‖ 随应变单调上升,从 13.1 到 16.3,与应变的相关系数 0.992。曲线没有拐折。
真实的应力–应变曲线在屈服点(约 0.5%–2% 应变)附近,位错增殖机制切换,曲线斜率会明显变化。一个能表达这种切换的模型,其内部状态变化率应该在屈服点附近出现拐点。NODE 没有,说明它把整个变形过程当成了平滑的连续演化。
可能的原因有两个:RK4 积分用了较粗的子步(每 5 个应变点积分一次),细节被抹平;以及 NODE 的向量场是状态和时间的平滑函数,本身不擅长表达“机制切换”这种分段行为。
RSSM 的先验标准差从 1087 饱和到 1300(归一化空间),在整条曲线上几乎是常数。也就是说,随机隐变量没有提供任何有效的不确定性信息,后验塌缩成了确定性映射。
直接原因是 KL 权重只有 10⁻³:为了让重建损失下降,模型选择忽略随机分支。这在数据量小、噪声低的任务里很常见。RSSM 的应力 R² 为 −0.164,比不用随机分支的 GRU(0.444)还差,说明这个额外的随机结构不仅没帮助,还增加了优化难度。
流匹配可以采样多条曲线,理论上能给出预测分布。实测的 90% 预测区间覆盖率为 0.635(名义值 0.90),平均区间宽度 3.65 GPa,平均绝对误差 1.73 GPa。
覆盖率偏低说明模型低估了不确定性:真实曲线经常落在区间外。这对工程使用是危险的——如果用它做“置信区间”,会给出过于乐观的判断。
在 PI-Mamba 上做反事实实验:把某一微观量整体加 1 个标准差,看应力曲线怎么变。
| 扰动量 | 应力平均相对变化 | 符号一致性 |
|---|---|---|
| 总位错密度 +1σ | +2.2% | 0.77 |
| 孪晶密度 +1σ | +9.5% | 1.00 |
| FCC 相分数 +1σ | −4.4% | 0.98 |
方向都符合物理:位错和孪晶提高强度(孪晶界是更强的障碍,所以影响更大),FCC 相增多则软化(FCC 滑移系多)。符号一致性接近 1,说明这不是个别样本的偶然。
孪晶的影响(9.5%)明显大于位错(2.2%),与 Hall–Petch 型强化的量级直觉一致,也解释了为什么孪晶目标虽然只有 6 条标注,却对预测很重要。

图 5 四个记忆相关探针随真应变的变化。标题中的两个数字是弹性段(ε<0.02)与塑性段(ε>0.15)的均值。
| 现象 | 证据 | 解释 |
|---|---|---|
| 线性动力学学不到硬化 | Koopman τ≈1.5 步,形状 R²=0.026 | 塑性历史需要非线性记忆 |
| 快权重模型能表达弹塑性切换 | GDN α↓、β↑、‖S‖↑ | 门控自发对应“先记后改” |
| 平滑连续模型缺少屈服拐点 | NODE ‖dz/dt‖ 单调,相关 0.992 | RK4 粗网格 + 平滑向量场 |
| 随机隐变量未提供不确定性 | RSSM 先验 σ 近似常数 | KL 权重过小导致后验塌缩 |
| 生成式模型区间不可信 | 流匹配覆盖率 0.635 | 小数据下分布估计不足 |
Taylor 形式的耦合。 3.4 节的耦合头用的是“拼接隐特征”的软耦合。我们另外实现了一个更贴近物理公式的版本(记为 v2):应力头显式接收 √ρ 的 8 个分型项和 ρ·ρ_twin 的乘积项,形式上对应 σ = σ₀ + MαGb√ρ 的展开。结果反而更差:池化应力 R² 0.636,比 PI-Mamba 的 0.680 低 0.082;逐折 0.609 ± 0.140。
去掉耦合的对照(0.532)说明耦合本身是有效的,问题出在“函数形式”上:当模型被迫通过 √ρ 这一条通道表达应力时,它失去了用其他特征修正偏差的自由度。在只有 26 条训练曲线的情况下,这种约束的代价大于收益。
峰值感知损失。 工程上最关心峰值应力,所以我们给曲线最大值加了一项权重 0.5 的损失。结果同样为负:pimamba_peak 的池化应力 R² 0.288,pimamba2_peak 为 −0.051,逐折甚至是 −0.161 ± 0.422。
原因是峰值只由曲线上一个点决定,而峰值样本又集中在少数几条轨迹上。给峰值加权等于给这几条轨迹加权,模型为了拟合它们牺牲了整条曲线的形状(形状 R² 从 0.528 掉到 −0.558)。
这两个负结果合起来说明一件事:在小数据下,物理先验的价值在于“提供归纳偏置”,而不在于“施加硬约束”。 软耦合有效,硬函数形式无效;整曲线拟合有效,单点加权无效。
表 9 两个改进尝试(5 折,池化留出)
| 变体 | 池化应力 R² | 池化形状 R² | 与 PI-Mamba 的差 |
|---|---|---|---|
| PI-Mamba | 0.680 | 0.592 | – |
| v2:Taylor 形式耦合 | 0.636 | 0.528 | −0.044 |
| v2:去掉耦合 | 0.532 | 0.345 | −0.148 |
| PI-Mamba + 峰值损失 | 0.288 | −0.114 | −0.392 |
| v2 + 峰值损失 | −0.051 | −0.558 | −0.731 |
三个原因,按重要性排序:
第一,任务本质是“状态累积”。 塑性变形是不可逆过程,当前的微结构状态取决于历史路径。SSM 的隐状态 ht 正好是一个随应变累积的量,At 控制衰减、Bt 控制写入。MLP 没有状态,注意力只有“加权求和历史”,都不如递推自然。
第二,数据量小,需要强归纳偏置。 26 条训练曲线、每条约 400 个点,参数量稍大就会过拟合。SSM 的线性递推结构比注意力更“窄”,在同样参数量下更容易学到平滑的演化规律。这也是为什么 Transformer 在主对比里(0.608)不如 Mamba(0.735)。
第三,长序列的计算效率。 401 个点不算长,但 5 折 × 多种子 × 多架构的实验量很大。SSM 的线性复杂度让单次训练控制在几分钟内,才有可能做本文这样的系统性比较。
需要说明的是,这些优势是“在这个数据规模下”的。如果数据量增加到几百条轨迹,注意力类的模型(LLaMA 式、Hymba)大概率会反超——它们在放大预算后已经表现出这个趋势(第 5.3 节)。
流匹配和 RSSM 的表现(0.541 和 −0.164)容易被误读为“实现有问题”。我们的判断是任务性质不匹配,理由有三:
一个可能的例外是“跨论文数据合并”场景:不同论文的测量存在系统偏差,这时用生成式模型建模“论文间的分布差异”可能有用。本文的数据没有做这种分层,留作后续工作。
| 场景 | 推荐 | 理由 |
|---|---|---|
| 只有 10–20 条轨迹 | PI-Mamba 或 Mamba | 低数据下不发散(表 7) |
| 20 条以上,追求单模型精度 | LLaMA 式(放大) | 池化应力 R² 0.791(表 4) |
| 要求跨折稳定、可复现 | Gated DeltaNet | 逐折标准差 0.064,最小 |
| 要求可解释、能读出门控 | Gated DeltaNet / xLSTM | 有明确的衰减门与写入门 |
| 要一整套微观量、可以部署多个模型 | 逐目标贪心堆叠 | 主指标 0.637,最高(表 4) |
| 需要预测区间 | 暂不推荐 | 流匹配覆盖率仅 0.635 |
| 新合金成分远离训练集 | 不要直接用 | LOAO 平均 R² < −1 |
数据层面。 33 条轨迹来自 10 个体系,且分布很不均匀:Fe 基体系占多数,MoNbTaW 等难熔合金只有 1–2 条。跨合金实验(表 6)已经显示,化学距离一远模型就失效。这不是换架构能解决的,需要补数据。
统计层面。 每折 6–7 条轨迹,池化也只有 33 条。表 2、表 3 中 0.05 量级的差距在统计上并不显著(逐折标准差普遍在 0.1 以上)。本文的结论更应理解为“量级判断”而非“精确排名”。
评估层面。 所有指标都基于同一批 33 条曲线。虽然用了 5 折交叉验证,但超参数(层数、维度、轮数)是我们在这批数据上试出来的,存在轻微的选择偏差。要完全避免,需要一套独立的外部测试集。
部署层面。 贪心堆叠需要同时运行 9 个基模型,推理成本约为单模型的 9 倍(其中 5 个是 d64 的小模型,实际开销低得多)。对离线分析无所谓,对在线耦合模拟则需要权衡。
本文用 33 条 MD 轨迹研究了多合金、多工况下的应力–应变与微结构演化预测。主要结论如下。
(1)架构选择的第一原则是“能不能表达历史”。 MLP 的形状 R² 接近 0,Mamba 达到 0.674;Koopman 的线性假设让它退回逐点映射(τ≈1.5 步)。在塑性问题上,有没有状态、状态能不能非线性更新,比层数、宽度重要得多。
(2)物理先验要用“软”的方式注入。 条件调制(FiLM)与微观→宏观耦合分别带来可测量的收益(耦合 +0.060),而强函数形式约束(Taylor 展开)和单点加权(峰值损失)都产生负结果(−0.044 与 −0.392)。先验的作用是缩小假设空间,不是替代数据。
(3)2024–2026 的新架构没有带来质变,但提供了不同的取舍。 同等预算下 Hymba 的池化应力 R² 最高(0.768),Gated DeltaNet 最稳(0.748 ± 0.064),LLaMA 式的主指标最好(0.623),三者都只比 PI-Mamba 高不到 0.09。放开预算后,LLaMA 式只从 0.748 提到 0.791,说明在 33 条轨迹的规模上容量已经不是主要瓶颈。集成的作用是补齐小目标:逐目标贪心堆叠把主指标从 0.587 提到 0.637,但应力(0.744)仍低于最好的单模型。
(4)模型的可解释性可以直接读出来。 Koopman 的谱给出记忆时间,GDN 的门控给出弹塑性切换,NODE 的向量场暴露了缺失的屈服拐点,RSSM 的先验方差暴露了后验塌缩。这些量不仅能解释成败,也能指导下一步改哪里。
(5)这套方法有明确的使用边界。 在成分相近的体系内,模型可以给出 R² 0.7–0.8 的曲线预测;一旦测试合金在化学上远离训练集,所有模型都会失效(LOAO 平均 R² < −1)。实际使用时应把“分布内”作为前提,而不是默认模型能外推。
后续工作有三个方向:补充难熔合金与更多体系的 MD 数据,把“化学距离”作为不确定性估计的一部分;尝试把屈服点显式建模为分段结构;以及在更大的数据规模上重新检验注意力类模型是否反超。
# 环境
pip install -r requirements.txt
# 1) 从原始 Excel 重建数据集(含黄色标记剔除)
cd code && python -m pimamba.build_dataset
# 2) 主对比:7 架构 × 5 折 × 2 种子(300 轮,d64/l2)
python -m pimamba.run_experiments --suite main --seeds 0 1
# 3) 新一代骨干:8 个架构 × 5 折
python -m pimamba.run_experiments --suite next --seeds 0
# 4) 放大配置:3 架构 × 5 折 × 2 种子(600 轮,d128/l4,固定折划分)
python -m pimamba.run_experiments --suite best --seeds 0 1
# 5) 留一折贪心堆叠(基模型可来自不同套件)
python -m pimamba.stack --prefix best --method greedy \
--models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \
--prefixes mlp=main gru=main lstm=main transformer=main mamba=main \
mamba2=main pimamba=best hymba=best llama=best \
--seeds 0 --out stack_final
# 6) 池化评估、表格与图
python -m pimamba.pooled && python -m pimamba.report
# 7) 物理探针
python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0 \
--xlstm next_xlstm_f4_s0 --node next_node_f3_s0 --rssm next_rssm_f1_s0 \
--flow next_flow_f0_s0
单卡 A800-80GB 的耗时:主对比约 3.5 GPU·小时,新架构约 3 GPU·小时,放大配置约 4 GPU·小时。
| 路径 | 内容 |
|---|---|
data/processed/samples_meta.csv |
33 × 81 样本级元数据 |
data/processed/trajectories.csv |
13233 × 18 长表 |
code/pimamba/ |
全部模型、训练、评估、解释代码 |
results/runs/<tag>/ |
每次训练的指标、曲线、预测 |
results/runs/best_*/ |
放大配置的 30 次运行(3 架构 × 5 折 × 2 种子) |
results/tables/tab_stack_final.csv |
贪心堆叠的逐目标指标与权重 |
results/tables/ |
汇总表(主对比/新架构/消融/LOAO/数据效率/堆叠) |
results/figures/ |
全部图 |
report/paper.md / paper.html / paper.pdf |
本文 |
| 术语 | 含义 |
|---|---|
| R²(决定系数) | 1 为完美;0 相当于直接猜均值;负值表示比猜均值更差 |
| 池化留出(pooled OOF) | 每个样本由未见过它的模型预测一次,再把所有预测拼起来统一算指标 |
| 5 折交叉验证 | 把样本分成 5 份,轮流用 4 份训练、1 份测试 |
| SSM / Mamba | 状态空间模型;用可学习的递推 ht = At h_{t−1} + Bt xt 概括历史 |
| FiLM | 用条件向量生成缩放和平移参数,逐层调制特征 |
| 消融实验 | 逐个去掉模型组件,看性能变化,判断组件是否必要 |
| LOAO | 留一合金:每次把一个完整合金体系留作测试 |
| 堆叠(stacking) | 用一组基模型的预测作为输入,再训练一个组合器;本文用贪心选择,权重即各模型被选中的比例 |
| 后验塌缩 | 变分模型忽略随机隐变量,退化为确定性模型 |
| 覆盖率 | 预测区间包含真实值的比例,名义 90% 应接近 0.90 |