Blame for README.md

---

license: gpl-3.0
language:
- zh
- en
pipeline_tag: image-to-image
base_model: microsoft/Mage-Flow
base_model_relation: adapter
tags:
- moss-image
- rgba
- transparent-background
- vae
- lora
- mage
library_name: peft
inference: false
---


# Mage-Flow-RGBA VAE — step 14000 continuation

本仓库发布 **Mage RGBA VAE **。结构参考
[ChenkinLab/CKMoss-Image-RGBA](https://huggingface.co/ChenkinLab/CKMoss-Image-RGBA)。
训练数据集[leafmoone/webdataset_danbooru_v3_alpha_repack](https://www.modelscope.cn/datasets/leafmoone/webdataset_danbooru_v3_alpha_repack)中的部分透明图，没有使用图文对以及不透明图片等
## 文件

| 路径 | 说明 |
| --- | --- |
| `vae/moss_rgba_vae.safetensors` | 已合并 LoRA 的 RGBA VAE 权重（404.6 MB），可直接加载 |
| `vae/mage_config.json` | 模型结构配置 |
| `vae/weights.json` | 合并前后数值一致性报告 |
| `checkpoint-00014000/lora/adapter_model.safetensors` | 未合并的 LoRA 适配器（43.7 MB，rank 32） |
| `checkpoint-00014000/lora/adapter_config.json` | PEFT/LoRA 配置 |
| `checkpoint-00014000/lora/mage_config.json` | 适配器对应的模型配置 |
| `checkpoint-00014000/progress.json` | 训练进度（step 14000，next_batch 44000） |

| `checkpoint-00014000/manifest.json` | 该 checkpoint 的文件清单与 SHA256 |



## 训练指标



累计到 **14310** 步；**最后一个完整保存的 checkpoint 是 step 14000**。



训练损失（1131 条日志，3010→14310，前 100 条 vs 后 100 条均值）：



| 指标 | 前 100 条 | 后 100 条 | 变化 |

| --- | ---: | ---: | ---: |

| Total loss | 0.010546 | 0.008037 | -23.8% |

| Alpha MAE | 0.011672 | 0.008140 | -30.3% |

| AB-MSE | 0.001462 | 0.001092 | -25.3% |

| LPIPS | 0.009080 | 0.006940 | -23.6% |

| Latent RMS | 1.0184 | 1.0378 | +1.9% |



固定 8 张验证图（每 500 步一次，共 22 次）：



| 指标 | step 3500 | step 10000 | step 11500 | step 14000 | 最佳 |

| --- | ---: | ---: | ---: | ---: | --- |

| Alpha MAE ↓ | 0.01498 | 0.01111 | 0.01107 | 0.01131 | 0.01107 @ 11500 |

| PSNR ↑ | 29.99 dB | 30.99 dB | 31.08 dB | 31.12 dB | 31.12 dB @ 13500 |

| 黑底 PSNR ↑ | 31.98 dB | 32.62 dB | 32.66 dB | 32.70 dB | 32.71 dB @ 13500 |

| 白底 PSNR ↑ | 28.01 dB | 29.36 dB | 29.50 dB | 29.54 dB | 29.54 dB @ 14000 |





```



训练配置：512px、bf16、micro-batch 8 × accumulation 4（global batch 32）、LoRA rank/alpha 32、

单卡 DCU，平均约 **4.79 秒/步**，峰值显存约 39.5 GiB。

优化器与随机状态文件只用于精确续训，推理不需要。



VAE 输入/输出均为 4 通道、归一化到 `[-1, 1]`，Alpha 在通道 3，`+1` 表示不透明。



## 已知限制



本仓库只包含 **VAE 阶段**的权重，**没有训练 DiT LoRA 阶段**。



- VAE 对真实 RGBA 输入的重建可以正确恢复 Alpha

若要原生透明输出，需要补训 DiT LoRA。



## 许可与致谢



[Mage](https://github.com/microsoft/Mage)（MIT）与

[CKMoss-Image-RGBA](https://github.com/Chenkin-x/CKMoss-Image-RGBA)（GPLv3）。

本项目采用 GPLv3，见 `LICENSE` 与 `NOTICE`。