eduzrh's picture
sync report
301903f verified
Raw History Blame Contribute Delete
64.9 kB
<!DOCTYPE html> <html lang="zh-CN"> <head> <meta charset="utf-8"> <title>多合金 MD 轨迹的应力–应变预测</title> <style> @page { size: A4; margin: 20mm 18mm 18mm 18mm; @bottom-center { content: counter(page); font-family: "Noto Serif CJK SC", serif; font-size: 9pt; color: #555; } @top-center { content: string(doctitle); font-family: "Noto Serif CJK SC", serif; font-size: 8.5pt; color: #777; } } @page :first { @top-center { content: none; } } html { font-size: 10.5pt; } body { font-family: "Noto Serif CJK SC", "Songti SC", serif; line-height: 1.78; color: #111; text-align: left; max-width: 820px; margin: 0 auto; padding: 0 8px; } h1 { font-size: 19pt; line-height: 1.45; text-align: center; margin: 0 0 6px 0; font-weight: 700; string-set: doctitle content(); } h2 { font-size: 13.5pt; margin: 22px 0 8px 0; font-weight: 700; border-bottom: 1.2px solid #333; padding-bottom: 3px; page-break-after: avoid; } h3 { font-size: 11.5pt; margin: 16px 0 6px 0; font-weight: 700; page-break-after: avoid; } p { margin: 0 0 8px 0; text-indent: 2em; } p.eq { text-align: center; text-indent: 0; margin: 9px 0 11px 0; } p.eq sub, td sub { font-size: 68%; } p:has(> img) { text-indent: 0; text-align: center; margin: 12px 0 4px 0; } img { max-width: 96%; height: auto; } table { border-collapse: collapse; width: 100%; margin: 10px 0 6px 0; font-size: 8.6pt; line-height: 1.45; page-break-inside: avoid; break-before: avoid; /* keep the caption above the table on the same page */ } th, td { border: 0.5pt solid #999; padding: 3px 5px; text-align: center; vertical-align: middle; } th { background: #f0f0f0; font-weight: 700; } td:first-child, th:first-child { text-align: left; } tr:nth-child(even) td { background: #fafafa; } code { font-family: "DejaVu Sans Mono", monospace; font-size: 8.6pt; background: #f4f4f4; padding: 0 2px; } pre { background: #f6f6f6; border: 0.5pt solid #ddd; padding: 6px 8px; font-size: 8.2pt; line-height: 1.4; white-space: pre-wrap; page-break-inside: avoid; } pre code { background: none; } blockquote { margin: 8px 0; padding-left: 10px; border-left: 3px solid #ccc; color: #444; } hr { border: none; border-top: 0.6pt solid #ccc; margin: 16px 0; } strong { font-weight: 700; } #TOC { background: #f7f7f7; border: 0.5pt solid #ddd; padding: 8px 14px; margin: 14px 0 18px 0; } #TOC ul { margin: 2px 0; padding-left: 18px; } #TOC li { margin: 1px 0; font-size: 9.2pt; } #TOC a { color: #111; text-decoration: none; } a { color: #1a4f8b; text-decoration: none; } </style> </head> <body> <h1 id="_1">多合金分子动力学轨迹的应力–应变预测:物理约束序列模型与新一代架构的系统评估</h1> <p><strong>摘要</strong> 分子动力学(MD)可以给出合金在原子尺度上的演化细节,但单条轨迹的计算成本很高,难以覆盖全部成分与加载条件。本文研究一个替代问题:用少量已算好的 MD 轨迹训练模型,输入合金成分、加载条件和应变序列,直接输出整条应力–应变曲线以及相分数、位错密度、孪晶密度等微观量的演化。数据共 33 条轨迹、10 个合金体系、13 个输出目标,其中微观量的标签大面积缺失(部分目标只有 3–6 条轨迹有标注),因此模型必须同时处理“多任务”和“标签不全”两件事。</p> <p>我们以选择性状态空间模型(Mamba,一类带门控的线性递推网络)为骨干,加入三项材料领域的先验:用合金条件调制网络内部特征(FiLM)、让应力预测显式读取同一时刻的微观量预测(微观→宏观耦合)、对缺陷密度施加单调性与初态约束。在此基础上,我们把 2024–2026 年出现的 8 类新架构放进同一套流程中逐一替换骨干,包括 LLaMA 式 Transformer、xLSTM、Gated DeltaNet、Mamba+注意力混合(Hymba)、Deep Koopman、Neural ODE、RSSM 世界模型和条件流匹配。</p> <p>在 5 折交叉验证、33 个样本的池化留出预测上,应力 R² 从 MLP 的 0.317 提升到 Mamba 的 0.735 和 PI-Mamba 的 0.680(PI-Mamba 的优势在跨折稳定性:0.691 ± 0.111,Mamba 为 0.572 ± 0.421)。新架构中最好的是 Mamba+注意力混合(0.768)和 Gated DeltaNet(0.745,逐折标准差仅 0.064)。放开算力预算(128 维、4 层、600 轮)后,LLaMA 式 Transformer 把池化应力 R² 从 d64 的 0.748 推到 <strong>0.791</strong>,是全部单模型中的最高值;按目标做留一折贪心堆叠则把 7 个主要目标的平均 R² 从 0.587 提到 <strong>0.637</strong>(应力 0.744)。两者各有所长:单模型负责应力曲线本身,集成负责补齐标注稀疏的微观目标。</p> <p>物理解释方面,我们设计了五组探针并得到可检验的结论:Koopman 模型的线性算子记忆时间只有约 1.5 个应变步,从机理上解释了它为什么学不到硬化形状;Gated DeltaNet 的“写入门”随应变上升、“衰减门”下降,与弹性→塑性转变对应;Neural ODE 的向量场模长单调上升、没有屈服拐点;RSSM 的后验塌缩为确定性映射;流匹配的 90% 预测区间只覆盖 63.5% 的实测点。这些结果说明,架构选择不只是精度问题,它决定了模型能否表达我们关心的物理。</p> <p><strong>关键词</strong> 高熵合金;分子动力学;应力–应变曲线;状态空间模型;多任务学习;缺失标签;可解释性</p> <hr /> <h2 id="1">1 引言</h2> <h3 id="11">1.1 问题背景</h3> <p>合金设计的核心问题之一,是知道“某种成分在某种加载条件下会怎样变形”。分子动力学(MD)能在原子尺度回答这个问题:给定成分、温度、应变率和初始缺陷结构,积分牛顿方程就能得到每一个原子的位置,进而统计出应力、相结构、位错密度等量随应变的演化。它的缺点是贵。一条 0→0.2 应变的拉伸轨迹,视体系大小和应变率,通常需要数小时到数天;如果要在成分空间里扫描,成本会迅速不可接受。</p> <p>一个自然的想法是用机器学习做代理模型:从已有轨迹里学习“成分 + 条件 + 应变 → 响应”的映射,之后对新成分直接推理,成本可以忽略。已有大量工作用神经网络拟合势函数或直接拟合应力–应变曲线,但这类工作大多假设数据是“一个成分一条曲线”的表格,模型输出单点或单条曲线,且标签齐全。本文面对的数据更接近真实科研场景:不同论文、不同体系、不同加载方式混在一起,输出是多条相互关联的曲线,而且微观量的标注严重不全。</p> <h3 id="12">1.2 本文要解决的问题</h3> <p>我们把任务写成序列到序列的回归:</p> <ul> <li><strong>输入</strong>:一个静态条件向量 c(合金成分描述符、温度、应变率、加载方式、几何与取向标志、初始缺陷状态),以及一条长度为 T = 401 的应变序列 ε(1..T)(0 到 0.2,步长 5×10⁻⁴)。</li> <li><strong>输出</strong>:每个应变点上的 13 个物理量,包括应力 σ、4 个相分数(BCC/FCC/HCP/其他)、7 类位错密度和孪晶密度。</li> <li><strong>难点</strong>:13 个目标的标签覆盖率从 100%(应力)到 9%–18%(部分位错分型)不等;不同目标的量纲相差多个数量级(GPa 与 10¹⁶ m⁻²);不同合金的应力水平相差数倍。</li> </ul> <h3 id="13">1.3 本文的工作</h3> <ol> <li>建立了一套可复现的数据处理与评估流程:从原始 Excel 清洗出 33 条轨迹、13233 个应变点,统一单位,按合金分层做 5 折交叉验证,并用“池化留出预测”作为主口径,避免小折上 R² 剧烈波动造成的误判。</li> <li>以 Mamba 为骨干构建 PI-Mamba,加入条件调制、微观→宏观耦合与物理约束三项先验,并用消融实验量化每一项的贡献。</li> <li>把 2024–2026 年的 8 类新架构移植到同一任务上,给出统一口径下的精度、稳定性、参数量与耗时对比。</li> <li>为其中 6 类模型设计物理探针,把“模型学到了什么”变成可以读出来的量(记忆时间、门控值、向量场模长、预测区间覆盖率),并据此解释成败。</li> <li>在放开算力预算后,用“加大模型 + 逐目标堆叠”得到当前最佳配置,并给出诚实的留出评估。</li> </ol> <h3 id="14">1.4 本文不做什么</h3> <p>我们不训练原子间势,也不做第一性原理计算;模型只在已有 MD 轨迹的分布内做插值。跨合金外推的实验(留一合金,LOAO)表明这类模型在化学成分远离训练集时会明显失效,这一点在第 5.5 节如实报告。</p> <hr /> <h2 id="2">2 数据</h2> <h3 id="21">2.1 来源与清洗</h3> <p>原始数据来自使用者提供的论文提取表(Excel),共 70 个样本块。其中 Sheet1 有 37 行被整行标黄,表示作者认为数据质量不合格或不属于本任务,<code>sample_id</code> 为 24–60。我们按标记剔除这 37 条,保留 <strong>33 条轨迹</strong>,来自 10 个合金体系,覆盖压缩与拉伸两种加载方式。</p> <p>每条轨迹包含 401 个应变点(0→0.2,步长 5×10⁻⁴),因此轨迹表共 33 × 401 = 13233 行。所有物理量统一到 GPa、无量纲分数和 m⁻²,换算规则记录在 <code>data/processed/build_report.json</code> 与数据字典中。</p> <h3 id="22">2.2 输入特征</h3> <p>静态条件向量分四组,共 81 维(含独热与标志位):</p> <ul> <li><strong>成分</strong>:20 种元素的原子百分比,以及若干经验描述符(价电子浓度 VEC、原子半径差 δ、混合焓 ΔH_mix、混合熵 ΔS_mix、χ 参数、平均熔点、平均密度等)。</li> <li><strong>工况</strong>:温度、应变率(取对数)、加载方式(拉伸/压缩)。</li> <li><strong>几何与取向</strong>:试样形状标志、加载方向与晶向的夹角等;不适用的字段用单独的 flag 区分“不适用”与“零”。</li> <li><strong>初始状态</strong>:初始位错密度、初始各相分数。</li> </ul> <p>序列输入只有应变本身(以及由它派生的应变率符号),因为应力是应变的函数,其余条件已进入静态向量。</p> <h3 id="23">2.3 输出目标与缺失情况</h3> <p>表 1 给出 13 个目标的覆盖情况。应力覆盖全部 33 条轨迹;相分数覆盖 7–11 条;7 类位错分型只覆盖 3–6 条;孪晶密度覆盖 6 条。缺失不是随机丢包,而是“这篇论文没测这个量”,因此不能删除缺失样本,只能把损失限制在有标注的位置上。</p> <p><strong>表 1 输出目标与标签覆盖</strong></p> <table> <thead> <tr> <th>组别</th> <th>目标</th> <th>含义</th> <th>有标注轨迹数</th> <th>单位</th> </tr> </thead> <tbody> <tr> <td>力学</td> <td>σ</td> <td>真应力</td> <td>33</td> <td>GPa</td> </tr> <tr> <td>相分数</td> <td>ξ_BCC, ξ_FCC, ξ_HCP, ξ_other</td> <td>各相体积分数</td> <td>7–11</td> <td>–</td> </tr> <tr> <td>位错(分型)</td> <td>ρ_1/2, ρ_a/2, ρ_a/3, ρ_edge, ρ_screw, ρ_perfect, ρ_other</td> <td>各类位错密度</td> <td>3–6</td> <td>m⁻²</td> </tr> <tr> <td>位错(合计)</td> <td>ρ_total</td> <td>总位错密度</td> <td>6</td> <td>m⁻²</td> </tr> <tr> <td>孪晶</td> <td>ρ_twin</td> <td>孪晶界密度</td> <td>6</td> <td>m⁻²</td> </tr> </tbody> </table> <p><code>rho_frank</code> 与 <code>rho_100</code> 在全表中没有任何标注,直接不建模。</p> <h3 id="24">2.4 数据划分</h3> <p>采用<strong>按合金分层的 5 折交叉验证</strong>:同一个合金的样本尽量分散到不同折,避免“同一条曲线的相邻应变点”泄漏到测试集。每条轨迹整体属于某一折,因此测试集是“整条曲线”,符合实际使用场景(预测一条没见过的轨迹)。</p> <p>为了让不同模型、不同随机种子之间的结果可以直接比较和集成,最佳配置实验固定了折划分(<code>split_seed=0</code>),随机种子只影响参数初始化与批顺序。早期的主对比实验没有固定这一点,因此那些数字的逐折标准差里同时包含“划分差异”和“初始化差异”,解释时需要留意(第 5.1 节会说明)。</p> <h3 id="25">2.5 评估口径</h3> <p>两个口径并用:</p> <ul> <li><strong>逐折指标</strong>:在每一折的测试集上算 R²,再对 5 折取平均与标准差。它反映“换一批合金还能不能行”,但每折只有 6–7 条轨迹,稀有目标可能只有 1 个标注点,此时 R² 没有意义。</li> <li><strong>池化留出(pooled OOF)</strong>:33 个样本中每个都恰好被某一折的模型预测一次,把所有折的预测拼成 33 条完整曲线后统一计算 R²。它更稳定,是本文的主口径。</li> </ul> <p>R² 的含义需要说明:R² = 1 表示完美预测;R² = 0 表示模型的效果和“直接猜训练集均值”一样;R² &lt; 0 表示比猜均值还差。对稀有目标,单折 R² 出现 −25 或 −100 并不奇怪,这时应看池化值。</p> <hr /> <h2 id="3">3 方法</h2> <h3 id="31">3.1 总体结构</h3> <p>所有模型共享同一种组织方式,区别只在中间的序列骨干:</p> <pre><code>静态条件 c ──► 条件编码器 ──► 调制参数 (γ, β) │ 应变序列 ε₁..ε_T ──► 输入投影 ──► 序列骨干(逐层被条件调制)──► 隐状态 &lt;i&gt;h&lt;/i&gt;&lt;sub&gt;&lt;i&gt;t&lt;/i&gt;&lt;/sub&gt; │ ┌──────────────────────────────────────────┤ │ │ 微观量输出头 应力输出头 (相分数/位错/孪晶) 读 [&lt;i&gt;h&lt;/i&gt;&lt;sub&gt;&lt;i&gt;t&lt;/i&gt;&lt;/sub&gt;, 微观量预测] </code></pre> <p>这样组织有三个好处:条件只进入调制参数,不随序列长度重复拼接;应力头可以直接“看到”微观量预测,从而显式表达“结构决定力学响应”;每个物理量有独立的输出头,量纲和尺度互不干扰。</p> <h3 id="32">3.2 序列骨干:为什么用状态空间模型</h3> <p>循环网络(GRU/LSTM)按时间步递推,天然适合序列,但必须一步一步算,长序列上慢,而且门控容易被早期信息占满。Transformer 用注意力直接连接任意两个时间点,并行性好,但计算量随序列长度平方增长,且在本任务里 401 个点全部是稠密输入,注意力没有明显的“稀疏关注”可学。</p> <p>状态空间模型(SSM)介于两者之间。它用一个隐状态 <i>h</i><sub><i>t</i></sub> 概括历史:</p> <p class="eq"><i>h</i><sub><i>t</i></sub> = <i>A</i><sub><i>t</i></sub> <i>h</i><sub><i>t</i>−1</sub> + <i>B</i><sub><i>t</i></sub> <i>x</i><sub><i>t</i></sub>,&#8195;<i>y</i><sub><i>t</i></sub> = <i>C</i><sub><i>t</i></sub> <i>h</i><sub><i>t</i></sub></p> <p>其中 <i>A</i><sub><i>t</i></sub>、<i>B</i><sub><i>t</i></sub>、<i>C</i><sub><i>t</i></sub> 由当前输入决定(所以叫“选择性”)。这个形式看起来像线性递归,但因为参数随输入变化,它能做到“该记的时候记、该忘的时候忘”。Mamba 的关键工程贡献是把这个递推改写成可并行的分块扫描,训练时不必真的按 401 步串行,计算量随序列长度线性增长。</p> <p>对材料问题来说,这个结构有一个直观解释:<i>h</i><sub><i>t</i></sub> 可以看作“当前微结构状态”的压缩表示,<i>A</i><sub><i>t</i></sub> 决定它衰减多快,<i>B</i><sub><i>t</i></sub> 决定新的应变信息写入多少。第 6 节的探针正是去读这些量。</p> <h3 id="33-film">3.3 条件注入:FiLM</h3> <p>不同合金、不同温度的曲线形状差别很大,但条件向量是静态的。我们把条件编码成一组逐层的缩放与平移参数:</p> <p class="eq"><i>γ</i> = 1 + <i>W</i><sub><i>γ</i></sub><i>c</i>,&#8195;<i>β</i> = <i>W</i><sub><i>β</i></sub><i>c</i>,&#8195;<i>h</i> ← <i>γ</i> ⊙ <i>h</i> + <i>β</i></p> <p>这就是 FiLM(Feature-wise Linear Modulation)。它等价于让网络为每个合金“换一套内部参数”,但参数量只与条件维度有关,不会随合金数量增长。消融实验(第 5.4 节)显示,去掉条件注入后模型仍然能工作,但跨合金的应力水平明显变差。</p> <h3 id="34">3.4 微观→宏观耦合</h3> <p>材料力学里,应力与微观缺陷之间有条件明确的关系。最经典的是 Taylor 关系:</p> <p class="eq"><i>σ</i> = <i>σ</i><sub>0</sub> + <i>M</i><i>α</i><i>G</i><i>b</i>√<i>ρ</i></p> <p>其中 ρ 是位错密度,G 是剪切模量,b 是柏氏矢量,M、α 是取向与交互系数。我们不让模型去拟合这些常数,而是把这个函数形式作为一种“归纳偏置”喂给它:应力头的输入不只是 <i>h</i><sub><i>t</i></sub>,还拼接了同一时刻的微观量预测 <i>z</i><sub><i>t</i></sub> 以及 √ρ、ρ·ρ_twin 这样的非线性项。</p> <p>这样做的效果是双面的。好处是模型不必从零学“位错多→应力高”,在小数据下更稳;坏处是如果微观量预测错了,误差会直接传进应力。第 5.4 节的消融显示耦合带来约 +0.06 的 R²,而去掉耦合会让部分折出现数值不稳定。</p> <p>需要说明的是,第 7.4 节还尝试了更“物理”的 Taylor 展开版本(v2),结果反而更差。原因在讨论部分分析:约束太强时,模型为了满足函数形式牺牲了拟合的灵活性。</p> <h3 id="35">3.5 多任务输出与缺失标签</h3> <p>13 个目标共用一个骨干,但每个目标有独立输出头:</p> <ul> <li>相分数:4 维 softmax,保证和为 1;</li> <li>位错与孪晶密度:softplus,保证非负;</li> <li>应力:线性输出。</li> </ul> <p>损失只在有标注的位置计算:</p> <p class="eq"><i>L</i> = Σ<sub><i>j</i></sub> <i>w</i><sub><i>j</i></sub> · Σ<sub><i>t</i></sub> <i>m</i><sub><i>j</i>,<i>t</i></sub> (<i>ŷ</i><sub><i>j</i>,<i>t</i></sub> − <i>y</i><sub><i>j</i>,<i>t</i></sub>)² ⁄ Σ<sub><i>t</i></sub> <i>m</i><sub><i>j</i>,<i>t</i></sub></p> <p>其中 m 是观测掩码。权重 <i>w</i><sub><i>j</i></sub> 按目标方差设置,目的是让 0–1 尺度的相分数和 10¹⁶ 量级的位错密度在梯度里贡献相当。如果不做这个平衡,位错头会把相分数头压死。</p> <p>这个写法有一个额外好处:没有标注的样本仍然参与前向计算,只是不产生损失,相当于半监督——它们的输入分布仍然约束着骨干。</p> <h3 id="36">3.6 物理约束</h3> <p>我们加了三条弱约束,权重都很小(合计约 0.05):</p> <ol> <li><strong>单调性</strong>:塑性变形阶段位错密度不应下降,用 ReLU(−Δρ) 惩罚;</li> <li><strong>初态一致</strong>:t=0 时的预测应接近给定的初始缺陷状态;</li> <li><strong>曲线光滑</strong>:应力的二阶差分过大时给惩罚,抑制锯齿。</li> </ol> <p>这些约束作用在没有标注的样本上,也是半监督的一种形式。消融结果(第 5.4 节)显示,权重为 0.05 时略有帮助(在噪声范围内),权重加到 1.0 时反而显著变差——约束太强会与数据冲突。</p> <h3 id="37-20242026">3.7 2024–2026 年的新架构</h3> <p>为了回答“是否还有更好的骨干”,我们把近两年出现的 8 类结构逐一替换掉 Mamba,其余部分(条件注入、耦合头、损失、训练协议)保持不变。下面用一句话说明每种结构的核心思想和它“为什么可能有用”:</p> <p><strong>(1)LLaMA 式 Transformer。</strong> 旋转位置编码(RoPE)+ RMSNorm + SwiGLU + 因果注意力。它是当前大模型的主流结构,优点是长程依赖建模能力强;在本任务里它对应“整条曲线一起看”。</p> <p><strong>(2)xLSTM(mLSTM 块)。</strong> 把 LSTM 的门控升级为矩阵记忆,用指数门控控制写入。它保留了递归的串行结构,但记忆容量比 LSTM 大得多。</p> <p><strong>(3)Gated DeltaNet。</strong> 一种“快权重”模型,把历史写成矩阵 S_t,并用 delta 规则按当前误差更新:</p> <p style=“text-indent:0;text-align:center”>S_t = α_t S_(t−1) + β_t (v_t − S_(t−1) k_t) k_tᵀ</p> <p>α 是衰减、β 是写入强度。它和材料中的“缺陷累积—回复”在形式上很像。</p> <p><strong>(4)Mamba + 注意力混合(Hymba/Jamba 式)。</strong> 每层交替使用 Mamba 和注意力,兼顾局部递推与全局检索。</p> <p><strong>(5)Deep Koopman。</strong> 假设隐状态按线性算子演化 z_(t+1) = A <i>z</i><sub><i>t</i></sub>,A 用块对角 2×2 旋转块参数化。它的特征值直接给出“记忆时间”,可解释性最好,但表达能力受限于线性。</p> <p><strong>(6)Neural ODE。</strong> 把序列建模成连续时间的初值问题 dz/dt = f(z, t),用 RK4 积分。它的好处是时间分辨率可以任意,物理上对应“演化方程”。</p> <p><strong>(7)RSSM 世界模型。</strong> Dreamer 系列使用的结构,隐状态分确定性与随机两部分,用 KL 约束后验。它本来用于强化学习中的想象推演,这里借它的“不确定性”能力。</p> <p><strong>(8)条件流匹配(Flow Matching)。</strong> 学习一个速度场,把噪声分布搬运到“以条件为输入的曲线分布”,推理时积分 ODE 采样。它可以给出多条可能的曲线,从而估计预测区间。</p> <p>每种结构都保留相同的输入输出接口,因此可以用同一套评估代码比较。</p> <h3 id="38">3.8 集成与堆叠</h3> <p>不同架构的失效位置不一样:有的擅长应力绝对水平,有的擅长曲线形状。最简单的利用方式是把同折的预测做算术平均(第 5.6 节);更进一步是按目标给不同模型分配权重:</p> <p class="eq"><i>ŷ</i><sub><i>j</i></sub> = Σ<sub><i>m</i></sub> <i>w</i><sub><i>j</i>,<i>m</i></sub> · <i>ŷ</i><sub><i>j</i>,<i>m</i></sub></p> <p>权重不能在所有样本上拟合后再报告同一批样本的分数,那会高估。我们采用<strong>留一折嵌套</strong>:预测第 k 折时,权重只用其余四折的留出预测估计。这样每个样本的预测都没有参与自己的权重估计,得到的分数是诚实的。</p> <p>权重的估计方法有两种。岭回归(带非负约束)在 26 条训练轨迹上很不稳定:九个基模型的预测高度相关,解会在几个模型之间来回跳,换一折就换一组权重,实测效果不如单模型。因此最终采用<strong>贪心选择</strong>(Caruana 式前向选择):从空组合开始,每一轮把“加入后训练折误差最小”的模型加进去,重复 15 轮,允许同一个模型被多次选中;最终的权重就是各模型被选中的次数占比。这种做法只做加法和比较、不求解线性方程组,在几十条样本的规模上稳健得多。</p> <hr /> <h2 id="4">4 实验设置</h2> <h3 id="41">4.1 实现与训练细节</h3> <p>所有模型用 PyTorch 实现,在单张 A800-80GB 上训练。优化器为 AdamW(权重衰减 1e-4),学习率 3e-4,采用 OneCycle 调度(前 25% 步数线性升温),批大小 8,梯度裁剪 1.0。</p> <p>训练轮数按实验组区分:</p> <ul> <li><strong>主对比与新架构</strong>:300 轮,d_model = 64,2 层。这是“同等预算”下的比较,用来回答“换骨干有没有用”。</li> <li><strong>最佳配置</strong>:600 轮,d_model = 128,4 层,3 个随机种子。这一组不追求与前面可比,只追求精度,是本文推荐使用的结果。</li> <li><strong>消融、跨合金、数据效率</strong>:300 轮,d_model = 64,2 层,与主对比一致。</li> </ul> <p>我们不做早停。原因是训练集只有 26 条轨迹,切出 15% 做验证集只剩 4 条,验证损失几乎全是噪声,早停等于随机选模型。固定轮数 + OneCycle 退火在小数据上更稳。这个选择在第 5.1 节有对比依据。</p> <h3 id="42">4.2 对比模型</h3> <p>第一组是通用基线:MLP(逐点全连接)、GRU、LSTM、标准 Transformer(可学习位置编码)。</p> <p>第二组是状态空间模型:Mamba(S6,选择性扫描)与 Mamba-2(SSD,结构化状态空间对偶)。</p> <p>第三组是本文的物理约束版本 PI-Mamba,以及它的两个消融变体。</p> <p>第四组是 2024–2026 年的新架构,共 8 个,见 3.7 节。</p> <p>第五组是集成:同折算术平均与逐目标堆叠。</p> <p>参数量从 4.4 万(MLP)到 19 万(Hymba),都在同一数量级,避免“靠参数量取胜”的质疑。最佳配置组放大到 128 维、4 层,参数量约 40–80 万。</p> <h3 id="43">4.3 评估指标</h3> <ul> <li><strong>应力 R²</strong>:主指标,在池化留出集上计算。</li> <li><strong>形状 R²</strong>:先把每条曲线的均值减掉,再算 R²。它衡量“曲线形状”而不是“绝对水平”,用来区分“记住了这个合金有多强”和“学会了硬化规律”。</li> <li><strong>主指标均值</strong>:7 个主要目标(应力、4 个相分数、总位错、孪晶)R² 的算术平均。</li> <li><strong>峰值相对误差</strong>:每条曲线最大应力的相对误差,工程上最关心。</li> <li><strong>水平相关</strong>:每条曲线平均应力与实测平均应力的相关系数。</li> </ul> <hr /> <h2 id="5">5 结果</h2> <h3 id="51">5.1 主对比:状态空间模型明显优于递归与注意力基线</h3> <p>表 2 给出 7 种架构在 5 折 × 2 种子下的结果。池化留出集包含全部 33 条轨迹。</p> <p><strong>表 2 主对比结果(5 折交叉验证,池化留出 33 条轨迹)</strong></p> <table> <thead> <tr> <th>模型</th> <th>应力 R²(逐折)</th> <th>形状 R²(逐折)</th> <th>池化应力 R²</th> <th>池化形状 R²</th> <th>主指标均值</th> <th>峰值误差</th> <th>参数量</th> </tr> </thead> <tbody> <tr> <td>MLP</td> <td>0.224 ± 0.202</td> <td>0.002 ± 0.004</td> <td>0.317</td> <td>0.002</td> <td>0.326</td> <td>0.384</td> <td>44 k</td> </tr> <tr> <td>GRU</td> <td>0.371 ± 0.276</td> <td>0.248 ± 0.185</td> <td>0.444</td> <td>0.199</td> <td>0.441</td> <td>0.261</td> <td>94 k</td> </tr> <tr> <td>LSTM</td> <td>0.368 ± 0.279</td> <td>0.249 ± 0.124</td> <td>0.519</td> <td>0.255</td> <td>0.443</td> <td>0.278</td> <td>110 k</td> </tr> <tr> <td>Transformer</td> <td>0.543 ± 0.356</td> <td>0.487 ± 0.253</td> <td>0.608</td> <td>0.488</td> <td>0.573</td> <td>0.245</td> <td>177 k</td> </tr> <tr> <td>Mamba (S6)</td> <td>0.572 ± 0.421</td> <td>0.604 ± 0.190</td> <td><strong>0.735</strong></td> <td><strong>0.674</strong></td> <td>0.566</td> <td>0.268</td> <td>104 k</td> </tr> <tr> <td>Mamba-2</td> <td>0.662 ± 0.129</td> <td>0.617 ± 0.097</td> <td>0.649</td> <td>0.509</td> <td>0.450</td> <td>0.225</td> <td>66 k</td> </tr> <tr> <td><strong>PI-Mamba</strong></td> <td><strong>0.691 ± 0.111</strong></td> <td><strong>0.681 ± 0.129</strong></td> <td>0.680</td> <td>0.592</td> <td><strong>0.603</strong></td> <td><strong>0.211</strong></td> <td>116 k</td> </tr> </tbody> </table> <p>三点观察:</p> <p>第一,<strong>MLP 的形状 R² 几乎为 0</strong>(0.002)。它能记住“这个合金大概多强”(水平相关 0.898),但完全学不到硬化段的形状。这说明这个任务不能靠逐点回归解决。</p> <p>第二,<strong>状态空间类模型的池化应力 R² 最高</strong>(Mamba 0.735、PI-Mamba 0.680),而且形状 R² 领先一个档次(0.67 vs 0.49)。原因是 SSM 的隐状态可以累积塑性历史,而逐点 MLP 和窗口有限的注意力都做不到。</p> <p>第三,<strong>PI-Mamba 的池化应力不是最高,但逐折最稳</strong>。它的逐折标准差 0.111,Mamba 是 0.421,相差 3.8 倍。Mamba 的 0.735 里有“某一折特别好”的成分:在池化口径下,Mamba 与 PI-Mamba 的差距(0.055)小于逐折标准差。换句话说,单看一次实验,两者谁高谁低并不确定;但 PI-Mamba 的波动小得多,实际部署更可靠。</p> <p>另外可以看到,Mamba-2 的逐折均值(0.662)高于 Mamba(0.572),但池化值反而更低(0.649 vs 0.735)。这是“平均每折 R²”与“合并后算 R²”的典型差异:前者给每折同等权重,后者让误差大的折贡献更多。我们以池化值为准,因为它对应“把 33 条曲线放在一起用”的真实场景。</p> <p><img alt="主对比" src="figures/fig1_model_comparison.png" /></p> <p><strong>图 1</strong> 7 种架构的应力 R² 与形状 R²。误差棒为 5 折标准差。</p> <p>汇总指标之外,图 2 给出一条具体的留出曲线(PI-Mamba,第 3 折)。三个面板分别是应力、总位错密度和孪晶密度;灰线是 MD 参考,彩色虚线是预测。</p> <p>从这张图能看出模型的强项与短板。应力面板中,弹性段斜率与峰值位置都对得上,峰值后的软化被低估了一些;位错密度面板的趋势正确,但平台值偏低;孪晶密度面板几乎是水平的,而 MD 显示明显的形核—衰减过程。这与孪晶只有 6 条标注的事实一致:数据不足的目标,模型倾向于输出接近均值的平线。</p> <p><img alt="典型曲线" src="figures/fig_curves_main_pimamba_f2_s0.png" /></p> <p><strong>图 2</strong> 一条留出轨迹的预测(第 3 折)。灰线为 MD 参考,虚线为 PI-Mamba 预测;同一面板中的多条曲线对应不同的测试样本。</p> <h3 id="52">5.2 新一代架构:没有出现“降维打击”</h3> <p>表 3 是 8 个新架构在同一预算下的结果。为了阅读方便,按池化应力 R² 排序。</p> <p><strong>表 3 2024–2026 新架构(5 折交叉验证,池化留出)</strong></p> <table> <thead> <tr> <th>模型</th> <th>池化应力 R²</th> <th>池化形状 R²</th> <th>主指标</th> <th>逐折应力 R²</th> <th>峰值误差</th> <th>参数量</th> </tr> </thead> <tbody> <tr> <td>Mamba+注意力混合</td> <td><strong>0.768</strong></td> <td><strong>0.754</strong></td> <td>0.588</td> <td>0.667 ± 0.240</td> <td>0.229</td> <td>191 k</td> </tr> <tr> <td>LLaMA 式 Transformer</td> <td>0.748</td> <td>0.685</td> <td><strong>0.623</strong></td> <td>0.680 ± 0.220</td> <td>0.226</td> <td>127 k</td> </tr> <tr> <td>Gated DeltaNet</td> <td>0.745</td> <td>0.694</td> <td>0.573</td> <td><strong>0.748 ± 0.064</strong></td> <td>0.206</td> <td>128 k</td> </tr> <tr> <td>xLSTM</td> <td>0.654</td> <td>0.600</td> <td>0.513</td> <td>0.646 ± 0.152</td> <td>0.217</td> <td>128 k</td> </tr> <tr> <td>条件流匹配</td> <td>0.541</td> <td>0.300</td> <td>−0.587</td> <td>0.422 ± 0.236</td> <td>0.459</td> <td>133 k</td> </tr> <tr> <td>Neural ODE</td> <td>0.410</td> <td>0.348</td> <td>0.514</td> <td>0.363 ± 0.244</td> <td>0.276</td> <td>86 k</td> </tr> <tr> <td>Deep Koopman</td> <td>0.345</td> <td>0.026</td> <td>0.279</td> <td>0.294 ± 0.135</td> <td>0.362</td> <td>59 k</td> </tr> <tr> <td>RSSM 世界模型</td> <td>−0.164</td> <td>0.023</td> <td>−0.038</td> <td>−0.255 ± 0.130</td> <td>0.468</td> <td>95 k</td> </tr> </tbody> </table> <p>结论可以概括为三句话:</p> <ol> <li><strong>最好的新架构只比 PI-Mamba 高 0.09 的应力 R²,没有质变。</strong> Hymba 的 0.768 是本文单模型最高值,但它逐折标准差 0.240,说明这个优势并不稳固。</li> <li><strong>Gated DeltaNet 是最“稳”的模型</strong>:逐折 0.748 ± 0.064,是所有模型里标准差最小的。它的池化值(0.745)与 Hymba 接近,但没有 Hymba 那种“某折崩掉”的问题。</li> <li><strong>生成式与世界模型类方法明显更差</strong>:流匹配 0.541、RSSM −0.164。原因不是实现错误,而是任务性质不匹配——第 6 节会用探针说明。</li> </ol> <p><img alt="新架构对比" src="figures/fig_next_comparison.png" /></p> <p><strong>图 3</strong> 新架构(蓝)、第一代模型(绿)与 PI-Mamba(橙)的应力 R² 与形状 R²。误差棒为多次运行的离散程度。</p> <h3 id="53">5.3 放开预算后的最佳配置</h3> <p>前两节的比较都限定在“同参数量、同轮数”。实际使用时没有这个约束,精度优先。这一节把三个表现最好的骨干放大到 128 维、4 层,训练 600 轮,固定折划分后各跑 2 个随机种子,并在此基础上做集成。</p> <p><strong>表 4 放大后的单模型与集成结果(固定折划分,种子 0,池化留出 33 条轨迹)</strong></p> <table> <thead> <tr> <th>配置</th> <th>参数量</th> <th>池化应力 R²</th> <th>池化形状 R²</th> <th>主指标</th> <th>逐折应力 R²(5 折)</th> </tr> </thead> <tbody> <tr> <td>PI-Mamba(128 维 / 4 层)</td> <td>713 k</td> <td>0.686</td> <td>0.582</td> <td>0.577</td> <td>0.742 ± 0.098</td> </tr> <tr> <td>LLaMA 式(128 维 / 4 层)</td> <td>823 k</td> <td><strong>0.791</strong></td> <td><strong>0.762</strong></td> <td>0.587</td> <td><strong>0.791 ± 0.058</strong></td> </tr> <tr> <td>Mamba+注意力(128 维 / 4 层)</td> <td>1.27 M</td> <td>0.746</td> <td>0.703</td> <td>0.569</td> <td>0.776 ± 0.100</td> </tr> <tr> <td>9 个基模型的等权平均</td> <td>–</td> <td>0.707</td> <td>0.594</td> <td>0.620</td> <td>–</td> </tr> <tr> <td>逐目标贪心堆叠(留一折拟合)</td> <td>–</td> <td>0.744</td> <td>0.706</td> <td><strong>0.637</strong></td> <td>–</td> </tr> </tbody> </table> <p><strong>放大模型只带来有限收益。</strong> LLaMA 式 Transformer 从 d64 的 0.748(表 3)提到 0.791,是唯一有明显提升的架构,增幅 0.043:它在 26 条训练轨迹上仍能量到长程依赖,参数量翻 6 倍后过拟合也不算严重(600 轮内留出误差一直在缓慢下降)。Hymba 的池化值从 0.768 变成 0.746,基本持平,但逐折标准差从 0.240 降到 0.100——放大换来的是稳定性,不是均值。PI-Mamba 从 0.680 到 0.686,几乎不动。把参数量翻 6 倍、训练轮数翻倍,收益远小于换一次架构(同预算下 Transformer 0.608 → LLaMA 式 0.748)。在 33 条轨迹的规模上,容量不是主要瓶颈,数据和归纳偏置才是。</p> <p><strong>Gated DeltaNet 没有进入放大实验。</strong> 它的 delta 规则内核实测比 LLaMA 慢约 5 倍,单折 600 轮跑 18 分钟仍未跑完,无法在可接受的时间内完成 5 折,因此只保留表 3 的 d64 结果。这是工程限制,不是精度结论。</p> <p><strong>种子平均没有帮助。</strong> 每个配置跑 2 个种子,把同折的两个种子预测平均后,LLaMA 从 0.791 降到 0.719、Hymba 从 0.746 到 0.730、PI-Mamba 从 0.686 到 0.676。原因是种子之间的差异不是零均值噪声:某个种子碰巧学出了更好的峰值形状,平均反而把它抹平。在 33 条轨迹的规模上,多种子平均能降方差,但降不了偏差。</p> <p><strong>集成补的是“别的目标”,不是应力。</strong> 表 4 最后两行是两种组合方式。等权平均 9 个基模型把主指标从 0.587 提到 0.620,但应力掉到 0.707——弱模型偏平滑的预测把峰值削掉了。按目标做留一折贪心选择后,应力回到 0.744,主指标 0.637,其中 HCP 相分数(0.806)、其他相分数(0.580)、总位错密度(0.766)都明显好于任何单模型。最终推荐的用法是分开的:<strong>要应力曲线本身,用 LLaMA 式单模型;要一整套微观量,用贪心堆叠。</strong> 需要强调的是,堆叠的权重只在训练折内估计,每条轨迹都做过留出样本,0.744 这个数字没有用到任何测试信息。</p> <h3 id="54">5.4 消融:哪些设计真的有用</h3> <p>表 5 是在 d_model=64、2 层、5 折、单种子下对 PI-Mamba 逐项拆解的结果。基准是完整模型(应力 R² 0.701 ± 0.113)。</p> <p><strong>表 5 PI-Mamba 消融(5 折)</strong></p> <table> <thead> <tr> <th>变体</th> <th>应力 R²</th> <th>形状 R²</th> <th>与完整模型的差</th> </tr> </thead> <tbody> <tr> <td>完整模型</td> <td>0.701 ± 0.113</td> <td>0.662 ± 0.168</td> <td>–</td> </tr> <tr> <td>去掉几何与取向特征</td> <td>0.665 ± 0.126</td> <td>0.586 ± 0.185</td> <td>−0.037</td> </tr> <tr> <td>加物理约束(权重 0.05)</td> <td>0.663 ± 0.111</td> <td>0.611 ± 0.160</td> <td>−0.038</td> </tr> <tr> <td>去掉集成描述符</td> <td>0.645 ± 0.138</td> <td>0.562 ± 0.219</td> <td>−0.056</td> </tr> <tr> <td>去掉微观→宏观耦合</td> <td>0.641 ± 0.170</td> <td>0.593 ± 0.264</td> <td>−0.060</td> </tr> <tr> <td>去掉形状标志位</td> <td>0.630 ± 0.138</td> <td>0.602 ± 0.130</td> <td>−0.071</td> </tr> <tr> <td>去掉初始状态特征</td> <td>0.606 ± 0.123</td> <td>0.563 ± 0.171</td> <td>−0.095</td> </tr> <tr> <td>加物理约束(权重 1.0)</td> <td>0.359 ± 0.138</td> <td>0.207 ± 0.240</td> <td>−0.343</td> </tr> <tr> <td>不做归一化</td> <td>−0.702 ± 0.880</td> <td>0.000 ± 0.000</td> <td>−1.404</td> </tr> </tbody> </table> <p>几点解读:</p> <ul> <li><strong>归一化是前提,不是技巧。</strong> 去掉后 R² 直接变成负数,形状 R² 为 0——模型连“平均曲线”都学不到。原因是 13 个目标的量纲差十几个数量级,不归一化时梯度被位错密度主导。</li> <li><strong>初始状态特征贡献最大</strong>(−0.095)。这符合物理:初始位错密度和初始相分数决定了后续演化的起点,去掉它等于让模型猜起点。</li> <li><strong>耦合项贡献 +0.060</strong>,与设计预期一致。去掉耦合不但精度下降,逐折标准差也从 0.129 涨到 0.264,说明耦合还起到稳定训练的作用。</li> <li><strong>物理约束是双刃剑</strong>:权重 0.05 时与基准持平(差异在噪声内),权重 1.0 时崩溃(−0.343)。在只有 26 条训练曲线的情况下,强约束会与数据打架。这是本文想强调的一个负面结果:物理先验不是越多越好。</li> </ul> <h3 id="55">5.5 跨合金泛化:化学远离训练集时会失效</h3> <p>留一合金(LOAO)实验:每次留出一个完整合金体系做测试,其余训练。14 个体系各有 4 个模型的结果。</p> <p><strong>表 6 留一合金实验(应力 R²)</strong></p> <table> <thead> <tr> <th>留出体系</th> <th>MLP</th> <th>GRU</th> <th>Mamba</th> <th>PI-Mamba</th> </tr> </thead> <tbody> <tr> <td>Al0.1CoCrFeNi</td> <td>−0.59</td> <td>0.43</td> <td>−0.37</td> <td>−0.52</td> </tr> <tr> <td>Al20.4Mo10.5Nb22.4Ta10.1Ti17.8Zr18.8</td> <td>−0.95</td> <td>−5.11</td> <td>−0.06</td> <td>−0.16</td> </tr> <tr> <td>CoCrFeMnNi</td> <td>−22.4</td> <td>−12.9</td> <td>−8.46</td> <td>−8.76</td> </tr> <tr> <td>Fe2Ni2CrAl</td> <td>−453.9</td> <td>−1146.9</td> <td>−11.2</td> <td>−11.8</td> </tr> <tr> <td>FeCoNiCr</td> <td>−4.65</td> <td>−6.72</td> <td>−12.1</td> <td>−10.2</td> </tr> <tr> <td>HEA FeNiCrCoAl(压缩)</td> <td>−0.10</td> <td>0.28</td> <td>0.75</td> <td>0.58</td> </tr> <tr> <td>HEA FeNiCrCoAl(拉伸)</td> <td>−0.58</td> <td>0.35</td> <td>0.74</td> <td>0.72</td> </tr> <tr> <td>HESA Fe35NiCrCoAl(压缩)</td> <td>−0.08</td> <td>0.31</td> <td>0.63</td> <td>0.81</td> </tr> <tr> <td>HESA Fe35NiCrCoAl(拉伸)</td> <td>0.12</td> <td>0.66</td> <td>0.74</td> <td>0.69</td> </tr> <tr> <td>MEA FeNiAl(压缩)</td> <td>−0.03</td> <td>0.52</td> <td>0.58</td> <td>0.35</td> </tr> <tr> <td>MEA FeNiAl(拉伸)</td> <td>−0.51</td> <td>0.79</td> <td>0.69</td> <td>0.78</td> </tr> <tr> <td>MEA FeNiCrAl(压缩)</td> <td>−0.02</td> <td>0.44</td> <td>0.91</td> <td>0.87</td> </tr> <tr> <td>MEA FeNiCrAl(拉伸)</td> <td>0.06</td> <td>0.67</td> <td>0.81</td> <td>0.78</td> </tr> <tr> <td>MoNbTaW</td> <td>−0.66</td> <td>−0.59</td> <td>−0.92</td> <td>−1.05</td> </tr> <tr> <td><strong>平均</strong></td> <td><strong>−34.6</strong></td> <td><strong>−83.4</strong></td> <td><strong>−1.95</strong></td> <td><strong>−1.92</strong></td> </tr> </tbody> </table> <p>结论要分两层看。在 9 个成分相近的 Fe 基体系上,Mamba 与 PI-Mamba 有 7–8 个体系 R² &gt; 0.5,模型是可用的;在 CoCrFeMnNi、Fe2Ni2CrAl、FeCoNiCr、MoNbTaW 等化学距离远的体系上,所有模型都失效,平均 R² 被拉到 −2 以下。</p> <p>值得注意的是失效的<strong>方式</strong>:MLP 和 GRU 在 Fe2Ni2CrAl 上给出 −454 和 −1147,说明它们输出了量级错误的应力;SSM 类模型只到 −11,属于“预测偏了但没崩”。对工程使用而言,后者的失败更容易被发现和兜底。</p> <h3 id="56-20">5.6 数据效率:约 20 条轨迹后饱和</h3> <p>把训练集按 25%、50%、75%、100% 抽样(每个比例 5 折),结果见表 7。</p> <p><strong>表 7 数据效率(应力 R²)</strong></p> <table> <thead> <tr> <th>模型</th> <th>25%</th> <th>50%</th> <th>75%</th> <th>100%</th> </tr> </thead> <tbody> <tr> <td>MLP</td> <td>−15.1</td> <td>−91.3</td> <td>0.24</td> <td>0.26</td> </tr> <tr> <td>GRU</td> <td>−76.7</td> <td>−74.0</td> <td>0.41</td> <td>0.42</td> </tr> <tr> <td>Mamba</td> <td>−0.41</td> <td>0.35</td> <td>0.69</td> <td>0.75</td> </tr> <tr> <td>PI-Mamba</td> <td>−0.52</td> <td>0.31</td> <td>0.71</td> <td>0.70</td> </tr> </tbody> </table> <p>25% 大约对应 6–7 条训练轨迹。此时 MLP 和 GRU 直接崩溃(R² 低至 −91),SSM 类只是变差(−0.4 ~ −0.5),仍然没有发散。到 75%(约 20 条)时四类模型都接近各自的饱和值,再增加数据收益很小。</p> <p>这条曲线对实际使用有直接意义:<strong>如果只有十几条 MD 轨迹,应该选 SSM 类模型;如果有 20 条以上,架构之间的差距才真正体现在精度上。</strong></p> <h3 id="57">5.7 集成:稳定为正的改进</h3> <p>表 8 是在 d64 / 2 层这一同预算设置下的同折、同种子算术平均结果(两个模型各占一半),用来说明架构之间的误差有多不相关;放大后的集成结果见表 4。</p> <p><strong>表 8 两两集成(池化应力 R² / 主指标)</strong></p> <table> <thead> <tr> <th>组合</th> <th>应力 R²</th> <th>主指标</th> </tr> </thead> <tbody> <tr> <td>PI-Mamba + LLaMA</td> <td>0.730</td> <td>0.629</td> </tr> <tr> <td>PI-Mamba + Gated DeltaNet</td> <td>0.730</td> <td>0.612</td> </tr> <tr> <td>Hymba + LLaMA</td> <td><strong>0.767</strong></td> <td>0.628</td> </tr> <tr> <td>Hymba + Mamba</td> <td>0.764</td> <td>0.603</td> </tr> <tr> <td>Hymba + Mamba + PI-Mamba</td> <td>0.747</td> <td>0.612</td> </tr> <tr> <td>PI-Mamba + xLSTM</td> <td>0.690</td> <td>0.582</td> </tr> <tr> <td>PI-Mamba + Mamba</td> <td>0.715</td> <td>0.591</td> </tr> </tbody> </table> <p>算术平均几乎从不伤害性能:PI-Mamba 单独 0.680,与 LLaMA 平均后 0.730;Hymba 单独 0.768,与 LLaMA 平均后 0.767(基本持平,但逐折波动更小)。原因是不同架构的误差相关性不高,平均能抵消一部分。</p> <p>既然简单平均已经有效,自然可以问:按目标分配权重是否更好?5.3 节的结果给出了一个略显意外但可信的答案——在 33 条轨迹的规模上,拟合出来的权重方差抵消了它的灵活性,按目标选择基模型的收益主要体现在标注稀疏的微观目标上,而不是应力本身。</p> <hr /> <h2 id="6">6 物理解释:这些模型到底学到了什么</h2> <p>精度排名只能告诉我们“谁更好”,不能告诉我们“为什么”。这一节用五组探针把模型内部的量读出来,再和材料学的直觉对照。所有探针都在同一批留出轨迹上运行。</p> <h3 id="61">6.1 探针设计</h3> <table> <thead> <tr> <th>模型</th> <th>读出的量</th> <th>物理含义</th> </tr> </thead> <tbody> <tr> <td>Deep Koopman</td> <td>线性算子的特征值 λ</td> <td>记忆时间 τ = −Δε / ln</td> </tr> <tr> <td>Gated DeltaNet</td> <td>快权重矩阵范数 ‖S‖、衰减门 α、写入门 β</td> <td>记忆里存了多少、忘得多快、写得多快</td> </tr> <tr> <td>xLSTM</td> <td>遗忘门 f_t</td> <td>隐状态保留比例</td> </tr> <tr> <td>Neural ODE</td> <td>向量场模长 ‖dz/dt‖</td> <td>状态变化速率,拐点对应物理转变</td> </tr> <tr> <td>RSSM</td> <td>先验标准差 σ_t</td> <td>模型对下一步的不确定度</td> </tr> <tr> <td>流匹配</td> <td>采样曲线的 90% 区间覆盖率</td> <td>预测区间是否可信</td> </tr> </tbody> </table> <h3 id="62-koopman">6.2 Koopman:线性动力学没有记忆</h3> <p>Koopman 模型把隐状态限制为线性演化 z_{t+1} = A <i>z</i><sub><i>t</i></sub>。从学到的 A 的谱可以读出每个模态的记忆时间。结果显示,所有模态的半径都在 0.51 左右,对应 τ ≈ 7.5×10⁻⁴ 应变,也就是 <strong>1.5 个应变步</strong>(步长 5×10⁻⁴)。</p> <p>物理上,1.5 步的记忆等于“没有记忆”:模型只能根据当前应变和条件做逐点映射,无法累积位错增殖的历史。这正好解释了它的形状 R² 只有 0.026——和 MLP 一样,它只能记住“这个合金多强”,学不到硬化段。</p> <p>这是一个“架构决定能力”的清晰例子:不是训练不够,而是线性假设从根上排除了塑性历史。</p> <p><img alt="Koopman 谱" src="figures/fig_interpret_koopman.png" /></p> <p><strong>图 4</strong> Deep Koopman 的特征值分布(左)与各模态的记忆时间(右,对数坐标)。</p> <h3 id="63-gated-deltanet">6.3 Gated DeltaNet:门控对应弹性→塑性转变</h3> <p>GDN 的快权重按 S_t = α_t S_{t−1} + β_t (v_t − S_{t−1}k_t)k_tᵀ 更新。我们把 α、β 和 ‖S‖ 随应变的变化画出来(图 4 右上):</p> <ul> <li><strong>衰减门 α 从 0.62 降到约 0.55</strong>:弹性阶段模型倾向于保留历史,进入塑性后开始遗忘;</li> <li><strong>写入门 β 从 0.59 升到约 0.65</strong>:塑性阶段新信息写入更强;</li> <li><strong>‖S‖ 从 12 升到 14</strong>:记忆总量随变形累积。</li> </ul> <p>这组变化与“弹性阶段变形可回复、塑性阶段缺陷不可逆累积”的物理图像一致。模型没有被显式告知屈服点在哪,却自己学出了“先记后改”的切换。</p> <h3 id="64-xlstm">6.4 xLSTM:同方向,但幅度小一个量级</h3> <p>xLSTM 的遗忘门在同区间内从 0.5566 升到 0.5684,方向与 GDN 相反(这里是“保留得更多”),幅度只有 0.012。考虑到 mLSTM 的门是逐通道的,平均值淹没了通道差异,这个结果只能说明“变化存在但不剧烈”。</p> <p>与 GDN 相比,xLSTM 的应力 R² 也低一些(0.654 vs 0.745),两者在“记忆切换的锐度”上是一致的。</p> <h3 id="65-neural-ode">6.5 Neural ODE:向量场没有屈服拐点</h3> <p>NODE 学到的向量场模长 ‖dz/dt‖ 随应变单调上升,从 13.1 到 16.3,与应变的相关系数 0.992。<strong>曲线没有拐折</strong>。</p> <p>真实的应力–应变曲线在屈服点(约 0.5%–2% 应变)附近,位错增殖机制切换,曲线斜率会明显变化。一个能表达这种切换的模型,其内部状态变化率应该在屈服点附近出现拐点。NODE 没有,说明它把整个变形过程当成了平滑的连续演化。</p> <p>可能的原因有两个:RK4 积分用了较粗的子步(每 5 个应变点积分一次),细节被抹平;以及 NODE 的向量场是状态和时间的平滑函数,本身不擅长表达“机制切换”这种分段行为。</p> <h3 id="66-rssm">6.6 RSSM:后验塌缩成确定性模型</h3> <p>RSSM 的先验标准差从 1087 饱和到 1300(归一化空间),在整条曲线上几乎是常数。也就是说,随机隐变量没有提供任何有效的不确定性信息,后验塌缩成了确定性映射。</p> <p>直接原因是 KL 权重只有 10⁻³:为了让重建损失下降,模型选择忽略随机分支。这在数据量小、噪声低的任务里很常见。RSSM 的应力 R² 为 −0.164,比不用随机分支的 GRU(0.444)还差,说明这个额外的随机结构不仅没帮助,还增加了优化难度。</p> <h3 id="67">6.7 流匹配:预测区间过于自信</h3> <p>流匹配可以采样多条曲线,理论上能给出预测分布。实测的 90% 预测区间覆盖率为 <strong>0.635</strong>(名义值 0.90),平均区间宽度 3.65 GPa,平均绝对误差 1.73 GPa。</p> <p>覆盖率偏低说明模型低估了不确定性:真实曲线经常落在区间外。这对工程使用是危险的——如果用它做“置信区间”,会给出过于乐观的判断。</p> <h3 id="68">6.8 微观→宏观耦合的敏感性</h3> <p>在 PI-Mamba 上做反事实实验:把某一微观量整体加 1 个标准差,看应力曲线怎么变。</p> <table> <thead> <tr> <th>扰动量</th> <th>应力平均相对变化</th> <th>符号一致性</th> </tr> </thead> <tbody> <tr> <td>总位错密度 +1σ</td> <td>+2.2%</td> <td>0.77</td> </tr> <tr> <td>孪晶密度 +1σ</td> <td>+9.5%</td> <td>1.00</td> </tr> <tr> <td>FCC 相分数 +1σ</td> <td>−4.4%</td> <td>0.98</td> </tr> </tbody> </table> <p>方向都符合物理:位错和孪晶提高强度(孪晶界是更强的障碍,所以影响更大),FCC 相增多则软化(FCC 滑移系多)。符号一致性接近 1,说明这不是个别样本的偶然。</p> <p>孪晶的影响(9.5%)明显大于位错(2.2%),与 Hall–Petch 型强化的量级直觉一致,也解释了为什么孪晶目标虽然只有 6 条标注,却对预测很重要。</p> <p><img alt="记忆探针" src="figures/fig_interpret_memory.png" /></p> <p><strong>图 5</strong> 四个记忆相关探针随真应变的变化。标题中的两个数字是弹性段(ε&lt;0.02)与塑性段(ε&gt;0.15)的均值。</p> <h3 id="69">6.9 小结</h3> <table> <thead> <tr> <th>现象</th> <th>证据</th> <th>解释</th> </tr> </thead> <tbody> <tr> <td>线性动力学学不到硬化</td> <td>Koopman τ≈1.5 步,形状 R²=0.026</td> <td>塑性历史需要非线性记忆</td> </tr> <tr> <td>快权重模型能表达弹塑性切换</td> <td>GDN α↓、β↑、‖S‖↑</td> <td>门控自发对应“先记后改”</td> </tr> <tr> <td>平滑连续模型缺少屈服拐点</td> <td>NODE ‖dz/dt‖ 单调,相关 0.992</td> <td>RK4 粗网格 + 平滑向量场</td> </tr> <tr> <td>随机隐变量未提供不确定性</td> <td>RSSM 先验 σ 近似常数</td> <td>KL 权重过小导致后验塌缩</td> </tr> <tr> <td>生成式模型区间不可信</td> <td>流匹配覆盖率 0.635</td> <td>小数据下分布估计不足</td> </tr> </tbody> </table> <h2 id="7">7 讨论</h2> <h3 id="71">7.1 两个失败的改进尝试</h3> <p><strong>Taylor 形式的耦合。</strong> 3.4 节的耦合头用的是“拼接隐特征”的软耦合。我们另外实现了一个更贴近物理公式的版本(记为 v2):应力头显式接收 √ρ 的 8 个分型项和 ρ·ρ_twin 的乘积项,形式上对应 σ = σ₀ + MαGb√ρ 的展开。结果反而更差:池化应力 R² 0.636,比 PI-Mamba 的 0.680 低 0.082;逐折 0.609 ± 0.140。</p> <p>去掉耦合的对照(0.532)说明耦合本身是有效的,问题出在“函数形式”上:当模型被迫通过 √ρ 这一条通道表达应力时,它失去了用其他特征修正偏差的自由度。在只有 26 条训练曲线的情况下,这种约束的代价大于收益。</p> <p><strong>峰值感知损失。</strong> 工程上最关心峰值应力,所以我们给曲线最大值加了一项权重 0.5 的损失。结果同样为负:pimamba_peak 的池化应力 R² 0.288,pimamba2_peak 为 −0.051,逐折甚至是 −0.161 ± 0.422。</p> <p>原因是峰值只由曲线上一个点决定,而峰值样本又集中在少数几条轨迹上。给峰值加权等于给这几条轨迹加权,模型为了拟合它们牺牲了整条曲线的形状(形状 R² 从 0.528 掉到 −0.558)。</p> <p>这两个负结果合起来说明一件事:<strong>在小数据下,物理先验的价值在于“提供归纳偏置”,而不在于“施加硬约束”。</strong> 软耦合有效,硬函数形式无效;整曲线拟合有效,单点加权无效。</p> <p><strong>表 9 两个改进尝试(5 折,池化留出)</strong></p> <table> <thead> <tr> <th>变体</th> <th>池化应力 R²</th> <th>池化形状 R²</th> <th>与 PI-Mamba 的差</th> </tr> </thead> <tbody> <tr> <td>PI-Mamba</td> <td>0.680</td> <td>0.592</td> <td>–</td> </tr> <tr> <td>v2:Taylor 形式耦合</td> <td>0.636</td> <td>0.528</td> <td>−0.044</td> </tr> <tr> <td>v2:去掉耦合</td> <td>0.532</td> <td>0.345</td> <td>−0.148</td> </tr> <tr> <td>PI-Mamba + 峰值损失</td> <td>0.288</td> <td>−0.114</td> <td>−0.392</td> </tr> <tr> <td>v2 + 峰值损失</td> <td>−0.051</td> <td>−0.558</td> <td>−0.731</td> </tr> </tbody> </table> <h3 id="72">7.2 为什么状态空间模型适合这个任务</h3> <p>三个原因,按重要性排序:</p> <p><strong>第一,任务本质是“状态累积”。</strong> 塑性变形是不可逆过程,当前的微结构状态取决于历史路径。SSM 的隐状态 <i>h</i><sub><i>t</i></sub> 正好是一个随应变累积的量,<i>A</i><sub><i>t</i></sub> 控制衰减、<i>B</i><sub><i>t</i></sub> 控制写入。MLP 没有状态,注意力只有“加权求和历史”,都不如递推自然。</p> <p><strong>第二,数据量小,需要强归纳偏置。</strong> 26 条训练曲线、每条约 400 个点,参数量稍大就会过拟合。SSM 的线性递推结构比注意力更“窄”,在同样参数量下更容易学到平滑的演化规律。这也是为什么 Transformer 在主对比里(0.608)不如 Mamba(0.735)。</p> <p><strong>第三,长序列的计算效率。</strong> 401 个点不算长,但 5 折 × 多种子 × 多架构的实验量很大。SSM 的线性复杂度让单次训练控制在几分钟内,才有可能做本文这样的系统性比较。</p> <p>需要说明的是,这些优势是“在这个数据规模下”的。如果数据量增加到几百条轨迹,注意力类的模型(LLaMA 式、Hymba)大概率会反超——它们在放大预算后已经表现出这个趋势(第 5.3 节)。</p> <h3 id="73">7.3 生成式模型为什么不适合</h3> <p>流匹配和 RSSM 的表现(0.541 和 −0.164)容易被误读为“实现有问题”。我们的判断是任务性质不匹配,理由有三:</p> <ol> <li><strong>这个映射几乎是确定性的。</strong> 给定成分、条件和应变,MD 给出的应力曲线在相同初始条件下是可重复的。生成式模型本来用于建模“一对多”的分布,这里没有多少多模态可学。</li> <li><strong>小数据下分布估计不可靠。</strong> 33 条曲线要支撑一个 13 维输出分布,样本量远远不够。流匹配的 90% 区间覆盖率只有 0.635,正是分布估计不足的直接证据。</li> <li><strong>随机分支会稀释监督信号。</strong> RSSM 的 KL 项与重建损失竞争,在 KL 权重小的时候退化为确定性模型,大的时候又会牺牲重建精度。</li> </ol> <p>一个可能的例外是“跨论文数据合并”场景:不同论文的测量存在系统偏差,这时用生成式模型建模“论文间的分布差异”可能有用。本文的数据没有做这种分层,留作后续工作。</p> <h3 id="74">7.4 怎么选:一张决策表</h3> <table> <thead> <tr> <th>场景</th> <th>推荐</th> <th>理由</th> </tr> </thead> <tbody> <tr> <td>只有 10–20 条轨迹</td> <td>PI-Mamba 或 Mamba</td> <td>低数据下不发散(表 7)</td> </tr> <tr> <td>20 条以上,追求单模型精度</td> <td>LLaMA 式(放大)</td> <td>池化应力 R² 0.791(表 4)</td> </tr> <tr> <td>要求跨折稳定、可复现</td> <td>Gated DeltaNet</td> <td>逐折标准差 0.064,最小</td> </tr> <tr> <td>要求可解释、能读出门控</td> <td>Gated DeltaNet / xLSTM</td> <td>有明确的衰减门与写入门</td> </tr> <tr> <td>要一整套微观量、可以部署多个模型</td> <td>逐目标贪心堆叠</td> <td>主指标 0.637,最高(表 4)</td> </tr> <tr> <td>需要预测区间</td> <td>暂不推荐</td> <td>流匹配覆盖率仅 0.635</td> </tr> <tr> <td>新合金成分远离训练集</td> <td>不要直接用</td> <td>LOAO 平均 R² &lt; −1</td> </tr> </tbody> </table> <h3 id="75">7.5 局限</h3> <p><strong>数据层面。</strong> 33 条轨迹来自 10 个体系,且分布很不均匀:Fe 基体系占多数,MoNbTaW 等难熔合金只有 1–2 条。跨合金实验(表 6)已经显示,化学距离一远模型就失效。这不是换架构能解决的,需要补数据。</p> <p><strong>统计层面。</strong> 每折 6–7 条轨迹,池化也只有 33 条。表 2、表 3 中 0.05 量级的差距在统计上并不显著(逐折标准差普遍在 0.1 以上)。本文的结论更应理解为“量级判断”而非“精确排名”。</p> <p><strong>评估层面。</strong> 所有指标都基于同一批 33 条曲线。虽然用了 5 折交叉验证,但超参数(层数、维度、轮数)是我们在这批数据上试出来的,存在轻微的选择偏差。要完全避免,需要一套独立的外部测试集。</p> <p><strong>部署层面。</strong> 贪心堆叠需要同时运行 9 个基模型,推理成本约为单模型的 9 倍(其中 5 个是 d64 的小模型,实际开销低得多)。对离线分析无所谓,对在线耦合模拟则需要权衡。</p> <hr /> <h2 id="8">8 结论</h2> <p>本文用 33 条 MD 轨迹研究了多合金、多工况下的应力–应变与微结构演化预测。主要结论如下。</p> <p><strong>(1)架构选择的第一原则是“能不能表达历史”。</strong> MLP 的形状 R² 接近 0,Mamba 达到 0.674;Koopman 的线性假设让它退回逐点映射(τ≈1.5 步)。在塑性问题上,有没有状态、状态能不能非线性更新,比层数、宽度重要得多。</p> <p><strong>(2)物理先验要用“软”的方式注入。</strong> 条件调制(FiLM)与微观→宏观耦合分别带来可测量的收益(耦合 +0.060),而强函数形式约束(Taylor 展开)和单点加权(峰值损失)都产生负结果(−0.044 与 −0.392)。先验的作用是缩小假设空间,不是替代数据。</p> <p><strong>(3)2024–2026 的新架构没有带来质变,但提供了不同的取舍。</strong> 同等预算下 Hymba 的池化应力 R² 最高(0.768),Gated DeltaNet 最稳(0.748 ± 0.064),LLaMA 式的主指标最好(0.623),三者都只比 PI-Mamba 高不到 0.09。放开预算后,LLaMA 式只从 0.748 提到 0.791,说明在 33 条轨迹的规模上容量已经不是主要瓶颈。集成的作用是补齐小目标:逐目标贪心堆叠把主指标从 0.587 提到 0.637,但应力(0.744)仍低于最好的单模型。</p> <p><strong>(4)模型的可解释性可以直接读出来。</strong> Koopman 的谱给出记忆时间,GDN 的门控给出弹塑性切换,NODE 的向量场暴露了缺失的屈服拐点,RSSM 的先验方差暴露了后验塌缩。这些量不仅能解释成败,也能指导下一步改哪里。</p> <p><strong>(5)这套方法有明确的使用边界。</strong> 在成分相近的体系内,模型可以给出 R² 0.7–0.8 的曲线预测;一旦测试合金在化学上远离训练集,所有模型都会失效(LOAO 平均 R² &lt; −1)。实际使用时应把“分布内”作为前提,而不是默认模型能外推。</p> <p>后续工作有三个方向:补充难熔合金与更多体系的 MD 数据,把“化学距离”作为不确定性估计的一部分;尝试把屈服点显式建模为分段结构;以及在更大的数据规模上重新检验注意力类模型是否反超。</p> <hr /> <h2 id="a">附录 A 复现</h2> <pre><code class="language-bash"> # 环境 pip install -r requirements.txt # 1) 从原始 Excel 重建数据集(含黄色标记剔除) cd code &amp;&amp; python -m pimamba.build_dataset # 2) 主对比:7 架构 × 5 折 × 2 种子(300 轮,d64/l2) python -m pimamba.run_experiments --suite main --seeds 0 1 # 3) 新一代骨干:8 个架构 × 5 折 python -m pimamba.run_experiments --suite next --seeds 0 # 4) 放大配置:3 架构 × 5 折 × 2 种子(600 轮,d128/l4,固定折划分) python -m pimamba.run_experiments --suite best --seeds 0 1 # 5) 留一折贪心堆叠(基模型可来自不同套件) python -m pimamba.stack --prefix best --method greedy \ --models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \ --prefixes mlp=main gru=main lstm=main transformer=main mamba=main \ mamba2=main pimamba=best hymba=best llama=best \ --seeds 0 --out stack_final # 6) 池化评估、表格与图 python -m pimamba.pooled &amp;&amp; python -m pimamba.report # 7) 物理探针 python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0 \ --xlstm next_xlstm_f4_s0 --node next_node_f3_s0 --rssm next_rssm_f1_s0 \ --flow next_flow_f0_s0 </code></pre> <p>单卡 A800-80GB 的耗时:主对比约 3.5 GPU·小时,新架构约 3 GPU·小时,放大配置约 4 GPU·小时。</p> <h2 id="b">附录 B 文件与产物</h2> <table> <thead> <tr> <th>路径</th> <th>内容</th> </tr> </thead> <tbody> <tr> <td><code>data/processed/samples_meta.csv</code></td> <td>33 × 81 样本级元数据</td> </tr> <tr> <td><code>data/processed/trajectories.csv</code></td> <td>13233 × 18 长表</td> </tr> <tr> <td><code>code/pimamba/</code></td> <td>全部模型、训练、评估、解释代码</td> </tr> <tr> <td><code>results/runs/&lt;tag&gt;/</code></td> <td>每次训练的指标、曲线、预测</td> </tr> <tr> <td><code>results/runs/best_*/</code></td> <td>放大配置的 30 次运行(3 架构 × 5 折 × 2 种子)</td> </tr> <tr> <td><code>results/tables/tab_stack_final.csv</code></td> <td>贪心堆叠的逐目标指标与权重</td> </tr> <tr> <td><code>results/tables/</code></td> <td>汇总表(主对比/新架构/消融/LOAO/数据效率/堆叠)</td> </tr> <tr> <td><code>results/figures/</code></td> <td>全部图</td> </tr> <tr> <td><code>report/paper.md</code> / <code>paper.html</code> / <code>paper.pdf</code></td> <td>本文</td> </tr> </tbody> </table> <h2 id="c">附录 C 术语表</h2> <table> <thead> <tr> <th>术语</th> <th>含义</th> </tr> </thead> <tbody> <tr> <td>R²(决定系数)</td> <td>1 为完美;0 相当于直接猜均值;负值表示比猜均值更差</td> </tr> <tr> <td>池化留出(pooled OOF)</td> <td>每个样本由未见过它的模型预测一次,再把所有预测拼起来统一算指标</td> </tr> <tr> <td>5 折交叉验证</td> <td>把样本分成 5 份,轮流用 4 份训练、1 份测试</td> </tr> <tr> <td>SSM / Mamba</td> <td>状态空间模型;用可学习的递推 <i>h</i><sub><i>t</i></sub> = <i>A</i><sub><i>t</i></sub> h_{t−1} + <i>B</i><sub><i>t</i></sub> <i>x</i><sub><i>t</i></sub> 概括历史</td> </tr> <tr> <td>FiLM</td> <td>用条件向量生成缩放和平移参数,逐层调制特征</td> </tr> <tr> <td>消融实验</td> <td>逐个去掉模型组件,看性能变化,判断组件是否必要</td> </tr> <tr> <td>LOAO</td> <td>留一合金:每次把一个完整合金体系留作测试</td> </tr> <tr> <td>堆叠(stacking)</td> <td>用一组基模型的预测作为输入,再训练一个组合器;本文用贪心选择,权重即各模型被选中的比例</td> </tr> <tr> <td>后验塌缩</td> <td>变分模型忽略随机隐变量,退化为确定性模型</td> </tr> <tr> <td>覆盖率</td> <td>预测区间包含真实值的比例,名义 90% 应接近 0.90</td> </tr> </tbody> </table> </body> </html>
<!DOCTYPE html>
<html lang="zh-CN">
<head>
<meta charset="utf-8">
<title>多合金 MD 轨迹的应力–应变预测</title>
<style>
@page {
size: A4;
margin: 20mm 18mm 18mm 18mm;
@bottom-center {
content: counter(page);
font-family: "Noto Serif CJK SC", serif;
font-size: 9pt;
color: #555;
}
@top-center {
content: string(doctitle);
font-family: "Noto Serif CJK SC", serif;
font-size: 8.5pt;
color: #777;
}
}
@page :first { @top-center { content: none; } }
html { font-size: 10.5pt; }
body {
font-family: "Noto Serif CJK SC", "Songti SC", serif;
line-height: 1.78;
color: #111;
text-align: left;
max-width: 820px;
margin: 0 auto;
padding: 0 8px;
}
h1 {
font-size: 19pt; line-height: 1.45; text-align: center;
margin: 0 0 6px 0; font-weight: 700; string-set: doctitle content();
}
h2 {
font-size: 13.5pt; margin: 22px 0 8px 0; font-weight: 700;
border-bottom: 1.2px solid #333; padding-bottom: 3px;
page-break-after: avoid;
}
h3 { font-size: 11.5pt; margin: 16px 0 6px 0; font-weight: 700; page-break-after: avoid; }
p { margin: 0 0 8px 0; text-indent: 2em; }
p.eq { text-align: center; text-indent: 0; margin: 9px 0 11px 0; }
p.eq sub, td sub { font-size: 68%; }
p:has(> img) { text-indent: 0; text-align: center; margin: 12px 0 4px 0; }
img { max-width: 96%; height: auto; }
table {
border-collapse: collapse; width: 100%; margin: 10px 0 6px 0;
font-size: 8.6pt; line-height: 1.45; page-break-inside: avoid;
break-before: avoid; /* keep the caption above the table on the same page */
}
th, td { border: 0.5pt solid #999; padding: 3px 5px; text-align: center; vertical-align: middle; }
th { background: #f0f0f0; font-weight: 700; }
td:first-child, th:first-child { text-align: left; }
tr:nth-child(even) td { background: #fafafa; }
code { font-family: "DejaVu Sans Mono", monospace; font-size: 8.6pt; background: #f4f4f4; padding: 0 2px; }
pre {
background: #f6f6f6; border: 0.5pt solid #ddd; padding: 6px 8px;
font-size: 8.2pt; line-height: 1.4; white-space: pre-wrap; page-break-inside: avoid;
}
pre code { background: none; }
blockquote { margin: 8px 0; padding-left: 10px; border-left: 3px solid #ccc; color: #444; }
hr { border: none; border-top: 0.6pt solid #ccc; margin: 16px 0; }
strong { font-weight: 700; }
#TOC { background: #f7f7f7; border: 0.5pt solid #ddd; padding: 8px 14px; margin: 14px 0 18px 0; }
#TOC ul { margin: 2px 0; padding-left: 18px; }
#TOC li { margin: 1px 0; font-size: 9.2pt; }
#TOC a { color: #111; text-decoration: none; }
a { color: #1a4f8b; text-decoration: none; }
</style>
</head>
<body>
<h1 id="_1">多合金分子动力学轨迹的应力–应变预测:物理约束序列模型与新一代架构的系统评估</h1>
<p><strong>摘要</strong> 分子动力学(MD)可以给出合金在原子尺度上的演化细节,但单条轨迹的计算成本很高,难以覆盖全部成分与加载条件。本文研究一个替代问题:用少量已算好的 MD 轨迹训练模型,输入合金成分、加载条件和应变序列,直接输出整条应力–应变曲线以及相分数、位错密度、孪晶密度等微观量的演化。数据共 33 条轨迹、10 个合金体系、13 个输出目标,其中微观量的标签大面积缺失(部分目标只有 3–6 条轨迹有标注),因此模型必须同时处理“多任务”和“标签不全”两件事。</p>
<p>我们以选择性状态空间模型(Mamba,一类带门控的线性递推网络)为骨干,加入三项材料领域的先验:用合金条件调制网络内部特征(FiLM)、让应力预测显式读取同一时刻的微观量预测(微观→宏观耦合)、对缺陷密度施加单调性与初态约束。在此基础上,我们把 2024–2026 年出现的 8 类新架构放进同一套流程中逐一替换骨干,包括 LLaMA 式 Transformer、xLSTM、Gated DeltaNet、Mamba+注意力混合(Hymba)、Deep Koopman、Neural ODE、RSSM 世界模型和条件流匹配。</p>
<p>在 5 折交叉验证、33 个样本的池化留出预测上,应力 R² 从 MLP 的 0.317 提升到 Mamba 的 0.735 和 PI-Mamba 的 0.680(PI-Mamba 的优势在跨折稳定性:0.691 ± 0.111,Mamba 为 0.572 ± 0.421)。新架构中最好的是 Mamba+注意力混合(0.768)和 Gated DeltaNet(0.745,逐折标准差仅 0.064)。放开算力预算(128 维、4 层、600 轮)后,LLaMA 式 Transformer 把池化应力 R² 从 d64 的 0.748 推到 <strong>0.791</strong>,是全部单模型中的最高值;按目标做留一折贪心堆叠则把 7 个主要目标的平均 R² 从 0.587 提到 <strong>0.637</strong>(应力 0.744)。两者各有所长:单模型负责应力曲线本身,集成负责补齐标注稀疏的微观目标。</p>
<p>物理解释方面,我们设计了五组探针并得到可检验的结论:Koopman 模型的线性算子记忆时间只有约 1.5 个应变步,从机理上解释了它为什么学不到硬化形状;Gated DeltaNet 的“写入门”随应变上升、“衰减门”下降,与弹性→塑性转变对应;Neural ODE 的向量场模长单调上升、没有屈服拐点;RSSM 的后验塌缩为确定性映射;流匹配的 90% 预测区间只覆盖 63.5% 的实测点。这些结果说明,架构选择不只是精度问题,它决定了模型能否表达我们关心的物理。</p>
<p><strong>关键词</strong> 高熵合金;分子动力学;应力–应变曲线;状态空间模型;多任务学习;缺失标签;可解释性</p>
<hr />
<h2 id="1">1 引言</h2>
<h3 id="11">1.1 问题背景</h3>
<p>合金设计的核心问题之一,是知道“某种成分在某种加载条件下会怎样变形”。分子动力学(MD)能在原子尺度回答这个问题:给定成分、温度、应变率和初始缺陷结构,积分牛顿方程就能得到每一个原子的位置,进而统计出应力、相结构、位错密度等量随应变的演化。它的缺点是贵。一条 0→0.2 应变的拉伸轨迹,视体系大小和应变率,通常需要数小时到数天;如果要在成分空间里扫描,成本会迅速不可接受。</p>
<p>一个自然的想法是用机器学习做代理模型:从已有轨迹里学习“成分 + 条件 + 应变 → 响应”的映射,之后对新成分直接推理,成本可以忽略。已有大量工作用神经网络拟合势函数或直接拟合应力–应变曲线,但这类工作大多假设数据是“一个成分一条曲线”的表格,模型输出单点或单条曲线,且标签齐全。本文面对的数据更接近真实科研场景:不同论文、不同体系、不同加载方式混在一起,输出是多条相互关联的曲线,而且微观量的标注严重不全。</p>
<h3 id="12">1.2 本文要解决的问题</h3>
<p>我们把任务写成序列到序列的回归:</p>
<ul>
<li><strong>输入</strong>:一个静态条件向量 c(合金成分描述符、温度、应变率、加载方式、几何与取向标志、初始缺陷状态),以及一条长度为 T = 401 的应变序列 ε(1..T)(0 到 0.2,步长 5×10⁻⁴)。</li>
<li><strong>输出</strong>:每个应变点上的 13 个物理量,包括应力 σ、4 个相分数(BCC/FCC/HCP/其他)、7 类位错密度和孪晶密度。</li>
<li><strong>难点</strong>:13 个目标的标签覆盖率从 100%(应力)到 9%–18%(部分位错分型)不等;不同目标的量纲相差多个数量级(GPa 与 10¹⁶ m⁻²);不同合金的应力水平相差数倍。</li>
</ul>
<h3 id="13">1.3 本文的工作</h3>
<ol>
<li>建立了一套可复现的数据处理与评估流程:从原始 Excel 清洗出 33 条轨迹、13233 个应变点,统一单位,按合金分层做 5 折交叉验证,并用“池化留出预测”作为主口径,避免小折上 R² 剧烈波动造成的误判。</li>
<li>以 Mamba 为骨干构建 PI-Mamba,加入条件调制、微观→宏观耦合与物理约束三项先验,并用消融实验量化每一项的贡献。</li>
<li>把 2024–2026 年的 8 类新架构移植到同一任务上,给出统一口径下的精度、稳定性、参数量与耗时对比。</li>
<li>为其中 6 类模型设计物理探针,把“模型学到了什么”变成可以读出来的量(记忆时间、门控值、向量场模长、预测区间覆盖率),并据此解释成败。</li>
<li>在放开算力预算后,用“加大模型 + 逐目标堆叠”得到当前最佳配置,并给出诚实的留出评估。</li>