Datasets:

eduzrh
/

training-model-material

---
license: other
language:
  - zh
  - en
tags:
  - materials-informatics
  - molecular-dynamics
  - state-space-model
  - mamba
  - multi-task-learning
  - high-entropy-alloy
size_categories:
  - n<1K
---
# training-model-material

按 `step 2.docx` 构建的**多合金 / 多工况 → 时序状态递推 → 多任务输出（允许标签缺失）**
建模数据集与代码仓库。任务对象是分子动力学（MD）得到的高熵合金应力-应变轨迹：
已知应变序列与合金成分/载荷条件，预测应力、相分数、位错密度与孪晶密度的整条演化曲线。

## 仓库结构

```
raw/                     用户上传的原始材料（Excel、step2.docx、报告正文 PDF、原始压缩包）
data/processed/          清洗后的建模数据
  samples_meta.csv         33 × 81 样本级元数据（成分、判据、几何、工况、初态）
  trajectories.csv         13233 × 18 长表（sample_id, strain, 13 个目标）
  build_report.json        覆盖率/单位审计
  data_dictionary.json     字段字典
code/pimamba/            建模代码（PyTorch）
  build_dataset.py         Excel -> 建模数据集
  data.py                  目标定义、归一化、数据集、划分
  models.py                MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba
  models_next.py           2024–2026 新骨干：LLaMA式/xLSTM/Gated DeltaNet/Hymba/
                           Deep Koopman/Neural ODE/RSSM/Flow Matching
  losses.py                掩码多任务损失 + 物理约束
  metrics.py               R²/MAE/nMAE/曲线指标 + 应力 level/shape 分解
  train.py                 单次训练与评估
  run_experiments.py       实验编排（main/loao/ablation/dataeff）
  analysis.py              图表与耦合敏感性分析
  interpret.py             物理可解释性探针（谱/门控/向量场/不确定性）
  pooled.py                5 折 out-of-fold 汇总评估
  stack.py                 逐目标集成（留一折嵌套；贪心选择 / 岭回归 / 等权平均）
  report.py                自动生成结果表与 RESULTS.md
  predict.py               推理/部署：用训练好的 checkpoint 预测新合金条件
docs/                    数据卡与方法文档
report/                  最终交付：paper.md（源）/ paper.html / paper.pdf（21 页）
figures/                 报告用图
results/
  runs/<tag>/              每次训练一个目录：metrics.json / history.json / curves.csv
                           （seed-0 主实验另含 predictions.npz，4 个基线含 model.pt）
  tables/*.csv             汇总表（主对比/LOAO/消融/数据效率/逐目标）
  figures/*.png            全部图
  summary.csv              321 个 run 的一行式汇总
  RESULTS.md               自动生成的表格汇总
logs/                    训练日志（main/ablation/loao/dataeff）
```

## 数据

- 原始 70 个样本块，剔除 Sheet1 中整行标黄的 37 个（`sample_id` 24–60，来自 2 篇论文），
  保留 **33 条轨迹 / 13233 个应变点 / 10 个合金体系**。
- 每条轨迹 401 个应变点（0 → 0.2，步长 5e-4）。
- 13 个输出目标：应力（33 样本全覆盖）、4 个相分数（7–11）、7 个位错分型（3–6）、
  孪晶密度（6）。`rho_frank`、`rho_100` 无数据，不建模。
- **标签大量缺失是本任务的固有属性**，模型用观测掩码处理，损失只在有标注处计算。

详见 `docs/data_card.md`。

## 方法要点

PI-Mamba = 选择性状态空间（S6，$O(T)$ 并行扫描）+ 三条物理信息通道：

1. **FiLM 静态调制**：合金成分/工况 → 逐层 $(\gamma,\beta)$，一个模型覆盖多合金；
2. **微观→宏观显式耦合**：应力头读 $[\mathbf h_t, \mathbf W\mathbf z_t]$，$\mathbf z_t$ 为同时刻相分数/位错/孪晶；
3. **物理约束损失**：缺陷密度单调、初态一致、应力曲线光滑（作用到无标注样本，兼作半监督）。
多任务头：共享骨干 + 每变量独立头（softmax 相分数 / softplus 密度 / 线性应力），
按变量方差配平权重，避免 0–1 尺度的相分数头被 z-score 应力头淹没。
详见 `docs/method.md` 与 `report/`。
## 主要结果（5 折 out-of-fold，33 个样本汇总）
| 模型 | 应力 R² | 曲线形状 R² | 主指标均值 R² |
|---|---|---|---|
| MLP | 0.317 | 0.002 | 0.326 |
| GRU | 0.444 | 0.199 | 0.441 |
| LSTM | 0.519 | 0.255 | 0.443 |
| Transformer | 0.608 | 0.488 | 0.573 |
| Mamba (S6) | **0.735** | 0.674 | 0.566 |
| Mamba-2 | 0.649 | 0.509 | 0.450 |
| **PI-Mamba** | 0.680 | 0.592 | **0.603** |
要点：状态空间类模型显著优于递归/注意力基线，MLP 的形状 R² 几乎为 0（只能记住"这个合金多强"，
学不到硬化形状）；PI-Mamba 在跨折稳定性与微观多任务上最好。
**2024–2026 新骨干**（同一 PI 框架、同一预算，池化 OOF）：
| 模型 | 应力 R² | 形状 R² | 主指标 | 逐折 mean ± sd |
|---|---|---|---|---|
| Mamba+Attention 混合 (Hymba) | **0.768** | **0.754** | 0.588 | 0.667 ± 0.240 |
| LLaMA 式 Transformer | 0.748 | 0.685 | **0.623** | 0.680 ± 0.220 |
| Gated DeltaNet | 0.745 | 0.694 | 0.573 | **0.748 ± 0.064** |
| xLSTM (mLSTM) | 0.654 | 0.600 | 0.513 | 0.646 ± 0.152 |
| Flow matching | 0.541 | 0.300 | −0.587 | 0.422 ± 0.236 |
| Neural ODE | 0.410 | 0.348 | 0.514 | 0.363 ± 0.244 |
| Deep Koopman | 0.345 | 0.026 | 0.279 | 0.294 ± 0.135 |
| RSSM world model | −0.164 | 0.023 | −0.038 | −0.255 ± 0.130 |
没有一个新架构显著超过 PI-Mamba（ΔR² < 0.10）；**同折集成**是稳定为正的改进
（PI-Mamba + LLaMA：应力 0.680→0.730、主指标 0.603→0.629）。
**放大 + 集成（性能优先，128 维 / 4 层 / 600 轮，固定折划分，种子 0）**：
| 配置 | 参数量 | 池化应力 R² | 形状 R² | 主指标 | 逐折应力 R² |
|---|---|---|---|---|---|
| PI-Mamba | 713 k | 0.686 | 0.582 | 0.577 | 0.742 ± 0.098 |
| LLaMA 式 Transformer | 823 k | **0.791** | **0.762** | 0.587 | **0.791 ± 0.058** |
| Mamba+Attention (Hymba) | 1.27 M | 0.746 | 0.703 | 0.569 | 0.776 ± 0.100 |
| 9 模型等权平均 | – | 0.707 | 0.594 | 0.620 | – |
| 逐目标贪心堆叠（留一折） | – | 0.744 | 0.706 | **0.637** | – |
放大只带来有限收益（LLaMA 式 0.748→0.791），主要收益来自架构与物理先验；种子平均无益
（LLaMA 0.791→0.719）；贪心堆叠主要补齐标注稀疏的微观目标（主指标 0.587→0.637），
但应力仍以 LLaMA 式单模型最好。完整论文见 `report/paper.pdf`（HTML: `report/paper.html`）。
物理解释见论文第 6 节：Koopman 谱给出 τ≈1.5 个应变步（无记忆），
GDN 的衰减门↓/写入门↑对应弹性→塑性切换，NODE 向量场无屈服拐点，Flow 90% 区间覆盖率仅 0.635。
更多结论（详见 `report/paper.md`）：
- **逐折统计**：PI-Mamba 应力 R² = 0.691 ± 0.111，对 GRU/LSTM/MLP 配对 10/10 全胜，
  跨折标准差比 Mamba（0.572 ± 0.421）小 3.8 倍。
- **跨合金 LOAO**：SSM 系 7–8/14 个体系 R² > 0.5，MLP 为 0/14。
- **消融**：归一化是前提（去掉后 R² → −0.70）；初态特征最重要（−0.095）；
  微观→宏观耦合 +0.060 且能消除 NaN；物理残差损失在本实现下是负结果（权重 1.0 时 −0.343）。
- **耦合敏感性**：位错 +1σ → 应力 +2.2%，孪晶 +1σ → +9.5%，FCC 相 +1σ → −4.4%。
- **数据效率**：约 20 条轨迹即饱和；样本更少时递归/MLP 崩溃（R² 低至 −91），SSM 只是变差。
## 推理 / 部署
仓库随附 6 个 checkpoint（`main_pimamba_f0_s0`、`main_mamba_f0_s0`、
`main_gru_f0_s0`、`abl_pimamba_f0_s0`、`next_hymba_f0_s0`、`v2_pimamba2_f0_s0`）；
其余 run 只发布指标与预测，可用相同命令重训得到权重。用 `predict.py` 直接做预测：
```bash
cd code
# (a) 复算某个 run 的测试折（与 predictions.npz 一致，误差 <1e-5 GPa）
python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 --out preds.csv

# (b) what-if：给一张与 samples_meta.csv 同列的新合金/新工况表
python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 \
       --meta my_alloys.csv --out my_preds.csv
```
输出为长表 `sample_id, strain, <13 个目标>`，物理单位。应变网格默认 0→0.2（401 点），
可用 `--n-points / --eps-max` 调整。静态列必须与 `data/processed/samples_meta.csv` 一致
（几何不适用字段留空即可，模型用 flag 区分「不适用」与「零」）。

## 复现

```bash
pip install -r requirements.txt
cd code
python -m pimamba.build_dataset
python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
python -m pimamba.run_experiments --suite main     --seeds 0 1
python -m pimamba.run_experiments --suite loao     --seeds 0
python -m pimamba.run_experiments --suite ablation --seeds 0
python -m pimamba.run_experiments --suite dataeff  --seeds 0
python -m pimamba.run_experiments --suite next     --seeds 0   # 8 个新骨干
python -m pimamba.run_experiments --suite v2       --seeds 0   # Taylor 耦合 / 峰值损失
python -m pimamba.run_experiments --suite best     --seeds 0 1  # 放大配置（d128/l4/600ep）
python -m pimamba.stack --prefix best --method greedy \
    --models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \
    --prefixes mlp=main gru=main lstm=main transformer=main mamba=main \
               mamba2=main pimamba=best hymba=best llama=best \
    --seeds 0 --out stack_final          # 留一折贪心堆叠
python -m pimamba.pooled && python -m pimamba.report
python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0
```

单卡 A800-80GB：第一代 7 架构约 3.5 GPU·小时，新一代 8 架构 + v2 约 3 GPU·小时
（xLSTM/GDN 的逐点递归较慢，各约 15–19 min/run）。

## 说明

数据来自使用者提供的论文提取表，原始文献版权归各论文作者所有；本仓库仅用于方法研究与复现。
`raw/原始上传包.zip` 为用户原始上传内容，未做修改。

	---
	license: other
	language:
	- zh
	- en
	tags:
	- materials-informatics
	- molecular-dynamics
	- state-space-model
	- mamba
	- multi-task-learning
	- high-entropy-alloy
	size_categories:
	- n<1K
	---

	# training-model-material

	按 `step 2.docx` 构建的多合金 / 多工况 → 时序状态递推 → 多任务输出（允许标签缺失）
	建模数据集与代码仓库。任务对象是分子动力学（MD）得到的高熵合金应力-应变轨迹：
	已知应变序列与合金成分/载荷条件，预测应力、相分数、位错密度与孪晶密度的整条演化曲线。

	## 仓库结构

	```
	raw/ 用户上传的原始材料（Excel、step2.docx、报告正文 PDF、原始压缩包）
	data/processed/ 清洗后的建模数据
	samples_meta.csv 33 × 81 样本级元数据（成分、判据、几何、工况、初态）
	trajectories.csv 13233 × 18 长表（sample_id, strain, 13 个目标）
	build_report.json 覆盖率/单位审计
	data_dictionary.json 字段字典
	code/pimamba/ 建模代码（PyTorch）
	build_dataset.py Excel -> 建模数据集
	data.py 目标定义、归一化、数据集、划分
	models.py MLP/GRU/LSTM/Transformer/Mamba/Mamba-2/PI-Mamba
	models_next.py 2024–2026 新骨干：LLaMA式/xLSTM/Gated DeltaNet/Hymba/
	Deep Koopman/Neural ODE/RSSM/Flow Matching
	losses.py 掩码多任务损失 + 物理约束
	metrics.py R²/MAE/nMAE/曲线指标 + 应力 level/shape 分解
	train.py 单次训练与评估
	run_experiments.py 实验编排（main/loao/ablation/dataeff）
	analysis.py 图表与耦合敏感性分析
	interpret.py 物理可解释性探针（谱/门控/向量场/不确定性）
	pooled.py 5 折 out-of-fold 汇总评估
	stack.py 逐目标集成（留一折嵌套；贪心选择 / 岭回归 / 等权平均）
	report.py 自动生成结果表与 RESULTS.md
	predict.py 推理/部署：用训练好的 checkpoint 预测新合金条件
	docs/ 数据卡与方法文档
	report/ 最终交付：paper.md（源）/ paper.html / paper.pdf（21 页）
	figures/ 报告用图
	results/
	runs/<tag>/ 每次训练一个目录：metrics.json / history.json / curves.csv
	（seed-0 主实验另含 predictions.npz，4 个基线含 model.pt）
	tables/*.csv 汇总表（主对比/LOAO/消融/数据效率/逐目标）
	figures/*.png 全部图
	summary.csv 321 个 run 的一行式汇总
	RESULTS.md 自动生成的表格汇总
	logs/ 训练日志（main/ablation/loao/dataeff）
	```

	## 数据

	- 原始 70 个样本块，剔除 Sheet1 中整行标黄的 37 个（`sample_id` 24–60，来自 2 篇论文），
	保留 33 条轨迹 / 13233 个应变点 / 10 个合金体系。
	- 每条轨迹 401 个应变点（0 → 0.2，步长 5e-4）。
	- 13 个输出目标：应力（33 样本全覆盖）、4 个相分数（7–11）、7 个位错分型（3–6）、
	孪晶密度（6）。`rho_frank`、`rho_100` 无数据，不建模。
	- 标签大量缺失是本任务的固有属性，模型用观测掩码处理，损失只在有标注处计算。

	详见 `docs/data_card.md`。

	## 方法要点

	PI-Mamba = 选择性状态空间（S6，$O(T)$ 并行扫描）+ 三条物理信息通道：

	1. FiLM 静态调制：合金成分/工况 → 逐层 $(\gamma,\beta)$，一个模型覆盖多合金；
	2. 微观→宏观显式耦合：应力头读 $[\mathbf h_t, \mathbf W\mathbf z_t]$，$\mathbf z_t$ 为同时刻相分数/位错/孪晶；
	3. 物理约束损失：缺陷密度单调、初态一致、应力曲线光滑（作用到无标注样本，兼作半监督）。

	多任务头：共享骨干 + 每变量独立头（softmax 相分数 / softplus 密度 / 线性应力），
	按变量方差配平权重，避免 0–1 尺度的相分数头被 z-score 应力头淹没。

	详见 `docs/method.md` 与 `report/`。

	## 主要结果（5 折 out-of-fold，33 个样本汇总）

	\| 模型 \| 应力 R² \| 曲线形状 R² \| 主指标均值 R² \|
	\|---\|---\|---\|---\|
	\| MLP \| 0.317 \| 0.002 \| 0.326 \|
	\| GRU \| 0.444 \| 0.199 \| 0.441 \|
	\| LSTM \| 0.519 \| 0.255 \| 0.443 \|
	\| Transformer \| 0.608 \| 0.488 \| 0.573 \|
	\| Mamba (S6) \| 0.735 \| 0.674 \| 0.566 \|
	\| Mamba-2 \| 0.649 \| 0.509 \| 0.450 \|
	\| PI-Mamba \| 0.680 \| 0.592 \| 0.603 \|

	要点：状态空间类模型显著优于递归/注意力基线，MLP 的形状 R² 几乎为 0（只能记住"这个合金多强"，
	学不到硬化形状）；PI-Mamba 在跨折稳定性与微观多任务上最好。

	2024–2026 新骨干（同一 PI 框架、同一预算，池化 OOF）：

	\| 模型 \| 应力 R² \| 形状 R² \| 主指标 \| 逐折 mean ± sd \|
	\|---\|---\|---\|---\|---\|
	\| Mamba+Attention 混合 (Hymba) \| 0.768 \| 0.754 \| 0.588 \| 0.667 ± 0.240 \|
	\| LLaMA 式 Transformer \| 0.748 \| 0.685 \| 0.623 \| 0.680 ± 0.220 \|
	\| Gated DeltaNet \| 0.745 \| 0.694 \| 0.573 \| 0.748 ± 0.064 \|
	\| xLSTM (mLSTM) \| 0.654 \| 0.600 \| 0.513 \| 0.646 ± 0.152 \|
	\| Flow matching \| 0.541 \| 0.300 \| −0.587 \| 0.422 ± 0.236 \|
	\| Neural ODE \| 0.410 \| 0.348 \| 0.514 \| 0.363 ± 0.244 \|
	\| Deep Koopman \| 0.345 \| 0.026 \| 0.279 \| 0.294 ± 0.135 \|
	\| RSSM world model \| −0.164 \| 0.023 \| −0.038 \| −0.255 ± 0.130 \|

	没有一个新架构显著超过 PI-Mamba（ΔR² < 0.10）；同折集成是稳定为正的改进
	（PI-Mamba + LLaMA：应力 0.680→0.730、主指标 0.603→0.629）。

	放大 + 集成（性能优先，128 维 / 4 层 / 600 轮，固定折划分，种子 0）：

	\| 配置 \| 参数量 \| 池化应力 R² \| 形状 R² \| 主指标 \| 逐折应力 R² \|
	\|---\|---\|---\|---\|---\|---\|
	\| PI-Mamba \| 713 k \| 0.686 \| 0.582 \| 0.577 \| 0.742 ± 0.098 \|
	\| LLaMA 式 Transformer \| 823 k \| 0.791 \| 0.762 \| 0.587 \| 0.791 ± 0.058 \|
	\| Mamba+Attention (Hymba) \| 1.27 M \| 0.746 \| 0.703 \| 0.569 \| 0.776 ± 0.100 \|
	\| 9 模型等权平均 \| – \| 0.707 \| 0.594 \| 0.620 \| – \|
	\| 逐目标贪心堆叠（留一折） \| – \| 0.744 \| 0.706 \| 0.637 \| – \|

	放大只带来有限收益（LLaMA 式 0.748→0.791），主要收益来自架构与物理先验；种子平均无益
	（LLaMA 0.791→0.719）；贪心堆叠主要补齐标注稀疏的微观目标（主指标 0.587→0.637），
	但应力仍以 LLaMA 式单模型最好。完整论文见 `report/paper.pdf`（HTML: `report/paper.html`）。

	物理解释见论文第 6 节：Koopman 谱给出 τ≈1.5 个应变步（无记忆），
	GDN 的衰减门↓/写入门↑对应弹性→塑性切换，NODE 向量场无屈服拐点，Flow 90% 区间覆盖率仅 0.635。

	更多结论（详见 `report/paper.md`）：

	- 逐折统计：PI-Mamba 应力 R² = 0.691 ± 0.111，对 GRU/LSTM/MLP 配对 10/10 全胜，
	跨折标准差比 Mamba（0.572 ± 0.421）小 3.8 倍。
	- 跨合金 LOAO：SSM 系 7–8/14 个体系 R² > 0.5，MLP 为 0/14。
	- 消融：归一化是前提（去掉后 R² → −0.70）；初态特征最重要（−0.095）；
	微观→宏观耦合 +0.060 且能消除 NaN；物理残差损失在本实现下是负结果（权重 1.0 时 −0.343）。
	- 耦合敏感性：位错 +1σ → 应力 +2.2%，孪晶 +1σ → +9.5%，FCC 相 +1σ → −4.4%。
	- 数据效率：约 20 条轨迹即饱和；样本更少时递归/MLP 崩溃（R² 低至 −91），SSM 只是变差。

	## 推理 / 部署

	仓库随附 6 个 checkpoint（`main_pimamba_f0_s0`、`main_mamba_f0_s0`、
	`main_gru_f0_s0`、`abl_pimamba_f0_s0`、`next_hymba_f0_s0`、`v2_pimamba2_f0_s0`）；
	其余 run 只发布指标与预测，可用相同命令重训得到权重。用 `predict.py` 直接做预测：

	```bash
	cd code
	# (a) 复算某个 run 的测试折（与 predictions.npz 一致，误差 <1e-5 GPa）
	python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 --out preds.csv

	# (b) what-if：给一张与 samples_meta.csv 同列的新合金/新工况表
	python -m pimamba.predict --run results/runs/main_pimamba_f0_s0 \
	--meta my_alloys.csv --out my_preds.csv
	```

	输出为长表 `sample_id, strain, <13 个目标>`，物理单位。应变网格默认 0→0.2（401 点），
	可用 `--n-points / --eps-max` 调整。静态列必须与 `data/processed/samples_meta.csv` 一致
	（几何不适用字段留空即可，模型用 flag 区分「不适用」与「零」）。

	## 复现

	```bash
	pip install -r requirements.txt
	cd code
	python -m pimamba.build_dataset
	python -m pimamba.train --model pimamba --split kfold --fold 0 --epochs 300
	python -m pimamba.run_experiments --suite main --seeds 0 1
	python -m pimamba.run_experiments --suite loao --seeds 0
	python -m pimamba.run_experiments --suite ablation --seeds 0
	python -m pimamba.run_experiments --suite dataeff --seeds 0
	python -m pimamba.run_experiments --suite next --seeds 0 # 8 个新骨干
	python -m pimamba.run_experiments --suite v2 --seeds 0 # Taylor 耦合 / 峰值损失
	python -m pimamba.run_experiments --suite best --seeds 0 1 # 放大配置（d128/l4/600ep）
	python -m pimamba.stack --prefix best --method greedy \
	--models mlp gru lstm transformer mamba mamba2 pimamba hymba llama \
	--prefixes mlp=main gru=main lstm=main transformer=main mamba=main \
	mamba2=main pimamba=best hymba=best llama=best \
	--seeds 0 --out stack_final # 留一折贪心堆叠
	python -m pimamba.pooled && python -m pimamba.report
	python -m pimamba.interpret --koopman next_koopman_f3_s0 --gdn next_gdn_f3_s0
	```

	单卡 A800-80GB：第一代 7 架构约 3.5 GPU·小时，新一代 8 架构 + v2 约 3 GPU·小时
	（xLSTM/GDN 的逐点递归较慢，各约 15–19 min/run）。

	## 说明

	数据来自使用者提供的论文提取表，原始文献版权归各论文作者所有；本仓库仅用于方法研究与复现。
	`raw/原始上传包.zip` 为用户原始上传内容，未做修改。