Hugging Face's logo

Datasets:
eduzrh
/
training-model-material

Languages:
Chinese
English
Size:
n<1K
Tags:
materials-informatics
molecular-dynamics
state-space-model
mamba
multi-task-learning
high-entropy-alloy
License:
Dataset card Files
xet
 Community
training-model-material / README.md
eduzrh's picture
eduzrh
sync README.md
cc94e62 verified
preview code
|
Raw History Blame Contribute Delete
10.2 kB
metadata 
license: other
language:
  - zh
  - en
tags:
  - materials-informatics
  - molecular-dynamics
  - state-space-model
  - mamba
  - multi-task-learning
  - high-entropy-alloy
size_categories:
  - n<1K

training-model-material

按 step 2.docx 构建的多合金 / 多工况 → 时序状态递推 → 多任务输出（允许标签缺失） 建模数据集与代码仓库。任务对象是分子动力学（MD）得到的高熵合金应力-应变轨迹： 已知应变序列与合金成分/载荷条件，预测应力、相分数、位错密度与孪晶密度的整条演化曲线。

仓库结构 

raw/                     用户上传的原始材料（Excel、step2.docx、报告正文 PDF、原始压缩包）
data/processed/          清洗后的建模数据
  samples_meta.csv         33 × 81 样本级元数据（成分、判据、几何、工况、初态）
  trajectories.csv         13233 × 18 长表（sample_id, strain, 13 个目标）
  build_report.json        覆盖率/单位审计
  data_dictionary.json     字段字典
code/pimamba/            建模代码（PyTorch）
  build_dataset.py         Excel -> 建模数据集
  data.py                  目标定义、归一化、数据集、划分
  models.py                MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba
  models_next.py           2024–2026 新骨干：LLaMA式/xLSTM/Gated DeltaNet/Hymba/
                           Deep Koopman/Neural ODE/RSSM/Flow Matching
  losses.py                掩码多任务损失 + 物理约束
  metrics.py               R²/MAE/nMAE/曲线指标 + 应力 level/shape 分解
  train.py                 单次训练与评估
  run_experiments.py       实验编排（main/loao/ablation/dataeff）
  analysis.py              图表与耦合敏感性分析
  interpret.py             物理可解释性探针（谱/门控/向量场/不确定性）
  pooled.py                5 折 out-of-fold 汇总评估
  stack.py                 逐目标集成（留一折嵌套；贪心选择 / 岭回归 / 等权平均）
  report.py                自动生成结果表与 RESULTS.md
  predict.py               推理/部署：用训练好的 checkpoint 预测新合金条件
docs/                    数据卡与方法文档
report/                  最终交付：paper.md（源）/ paper.html / paper.pdf（21 页）
figures/                 报告用图
results/
  runs/<tag>/              每次训练一个目录：metrics.json / history.json / curves.csv
                           （seed-0 主实验另含 predictions.npz，4 个基线含 model.pt）
  tables/*.csv             汇总表（主对比/LOAO/消融/数据效率/逐目标）
  figures/*.png            全部图
  summary.csv              321 个 run 的一行式汇总
  RESULTS.md               自动生成的表格汇总
logs/                    训练日志（main/ablation/loao/dataeff）

数据

  • 原始 70 个样本块，剔除 Sheet1 中整行标黄的 37 个（sample_id 24–60，来自 2 篇论文）， 保留 33 条轨迹 / 13233 个应变点 / 10 个合金体系。
  • 每条轨迹 401 个应变点（0 → 0.2，步长 5e-4）。
  • 13 个输出目标：应力（33 样本全覆盖）、4 个相分数（7–11）、7 个位错分型（3–6）、 孪晶密度（6）。rho_frank、rho_100 无数据，不建模。
  • 标签大量缺失是本任务的固有属性，模型用观测掩码处理，损失只在有标注处计算。

详见 docs/data_card.md。

方法要点

PI-Mamba = 选择性状态空间（S6，$O(T)$ 并行扫描）+ 三条物理信息通道：

  1. FiLM 静态调制：合金成分/工况 → 逐层 $(\gamma,\beta)$，一个模型覆盖多合金；
  2. 微观→宏观显式耦合：应力头读 $[\mathbf h_t, \mathbf W\mathbf z_t]$，$\mathbf z_t$ 为同时刻相分数/位错/孪晶；
  3. 物理约束损失：缺陷密度单调、初态一致、应力曲线光滑（作用到无标注样本，兼作半监督）。

多任务头：共享骨干 + 每变量独立头（softmax 相分数 / softplus 密度 / 线性应力）， 按变量方差配平权重，避免 0–1 尺度的相分数头被 z-score 应力头淹没。

详见 docs/method.md 与 report/。

主要结果（5 折 out-of-fold，33 个样本汇总）

模型 应力 R² 曲线形状 R² 主指标均值 R²
MLP 0.317 0.002 0.326
GRU 0.444 0.199 0.441
LSTM 0.519 0.255 0.443
Transformer 0.608 0.488 0.573
Mamba (S6) 0.735 0.674 0.566
Mamba-2 0.649 0.509 0.450
PI-Mamba 0.680 0.592 0.603

要点：状态空间类模型显著优于递归/注意力基线，MLP 的形状 R² 几乎为 0（只能记住"这个合金多强"， 学不到硬化形状）；PI-Mamba 在跨折稳定性与微观多任务上最好。

2024–2026 新骨干（同一 PI 框架、同一预算，池化 OOF）：

模型 应力 R² 形状 R² 主指标 逐折 mean ± sd
Mamba+Attention 混合 (Hymba) 0.768 0.754 0.588 0.667 ± 0.240
LLaMA 式 Transformer 0.748 0.685 0.623 0.680 ± 0.220
Gated DeltaNet 0.745 0.694 0.573 0.748 ± 0.064
xLSTM (mLSTM) 0.654 0.600 0.513 0.646 ± 0.152
Flow matching 0.541 0.300 −0.587 0.422 ± 0.236
Neural ODE 0.410 0.348 0.514 0.363 ± 0.244
Deep Koopman 0.345 0.026 0.279 0.294 ± 0.135
RSSM world model −0.164 0.023 −0.038 −0.255 ± 0.130

没有一个新架构显著超过 PI-Mamba（ΔR² < 0.10）；同折集成是稳定为正的改进 （PI-Mamba + LLaMA：应力 0.680→0.730、主指标 0.603→0.629）。

放大 + 集成（性能优先，128 维 / 4 层 / 600 轮，固定折划分，种子 0）：

配置 参数量 池化应力 R² 形状 R² 主指标 逐折应力 R²
PI-Mamba 713 k 0.686 0.582 0.577 0.742 ± 0.098
LLaMA 式 Transformer 823 k 0.791 0.762 0.587 0.791 ± 0.058
Mamba+Attention (Hymba) 1.27 M 0.746 0.703 0.569 0.776 ± 0.100
9 模型等权平均 – 0.707 0.594 0.620 –
逐目标贪心堆叠（留一折） – 0.744 0.706 0.637 –

放大只带来有限收益（LLaMA 式 0.748→0.791），主要收益来自架构与物理先验；种子平均无益 （LLaMA 0.791→0.719）；贪心堆叠主要补齐标注稀疏的微观目标（主指标 0.587→0.637）， 但应力仍以 LLaMA 式单模型最好。完整论文见 report/paper.pdf（HTML: report/paper.html）。

物理解释见论文第 6 节：Koopman 谱给出 τ≈1.5 个应变步（无记忆）， GDN 的衰减门↓/写入门↑对应弹性→塑性切换，NODE 向量场无屈服拐点，Flow 90% 区间覆盖率仅 0.635。

更多结论（详见 report/paper.md）：

  • 逐折统计：PI-Mamba 应力 R² = 0.691 ± 0.111，对 GRU/LSTM/MLP 配对 10/10 全胜， 跨折标准差比 Mamba（0.572 ± 0.421）小 3.8 倍。
  • 跨合金 LOAO：SSM 系 7–8/14 个体系 R² > 0.5，MLP 为 0/14。
  • 消融：归一化是前提（去掉后 R² → −0.70）；初态特征最重要（−0.095）； 微观→宏观耦合 +0.060 且能消除 NaN；物理残差损失在本实现下是负结果（权重 1.0 时 −0.343）。
  • 耦合敏感性：位错 +1σ → 应力 +2.2%，孪晶 +1σ → +9.5%，FCC 相 +1σ → −4.4%。
  • 数据效率：约 20 条轨迹即饱和；样本更少时递归/MLP 崩溃（R² 低至 −91），SSM 只是变差。

推理 / 部署

仓库随附 6 个 checkpoint（main_pimamba_f0_s0、main_mamba_f0_s0、 main_gru_f0_s0、abl_pimamba_f0_s0、next_hymba_f0_s0、v2_pimamba2_f0_s0）； 其余 run 只发布指标与预测，可用相同命令重训得到权重。用 predict.py 直接做预测：

cd code
# (a) 复算某个 run 的测试折（与 predictions.npz 一致，误差 <1e-5 GPa）
python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 --out preds.csv

# (b) what-if：给一张与 samples_meta.csv 同列的新合金/新工况表
python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 \
       --meta my_alloys.csv --out my_preds.csv

输出为长表 sample_id, strain, <13 个目标>，物理单位。应变网格默认 0→0.2（401 点）， 可用 --n-points / --eps-max 调整。静态列必须与 data/processed/samples_meta.csv 一致 （几何不适用字段留空即可，模型用 flag 区分「不适用」与「零」）。

复现 

pip install -r requirements.txt
cd code
python -m pimamba.build_dataset
python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
python -m pimamba.run_experiments --suite main     --seeds 0 1
python -m pimamba.run_experiments --suite loao     --seeds 0
python -m pimamba.run_experiments --suite ablation --seeds 0
python -m pimamba.run_experiments --suite dataeff  --seeds 0
python -m pimamba.run_experiments --suite next     --seeds 0   # 8 个新骨干
python -m pimamba.run_experiments --suite v2       --seeds 0   # Taylor 耦合 / 峰值损失
python -m pimamba.run_experiments --suite best     --seeds 0 1  # 放大配置（d128/l4/600ep）
python -m pimamba.stack --prefix best --method greedy \
    --models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \
    --prefixes mlp=main gru=main lstm=main transformer=main mamba=main \
               mamba2=main pimamba=best hymba=best llama=best \
    --seeds 0 --out stack_final          # 留一折贪心堆叠
python -m pimamba.pooled && python -m pimamba.report
python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0

单卡 A800-80GB：第一代 7 架构约 3.5 GPU·小时，新一代 8 架构 + v2 约 3 GPU·小时 （xLSTM/GDN 的逐点递归较慢，各约 15–19 min/run）。

说明

数据来自使用者提供的论文提取表，原始文献版权归各论文作者所有；本仓库仅用于方法研究与复现。 raw/原始上传包.zip 为用户原始上传内容，未做修改。