File size: 228 Bytes
bc2cf94
 
 
 
e82ed9f
 
a6a04c3
1
2
3
4
5
6
7
8
---
license: apache-2.0
---
目前是基于一个GPU训练的版本,架构采用Yarn,GQA,MOE(可选),
预训练和后训练(SFT和(GRPO/DCPO))的数据包含文本,代码。目前是没有图文训练过程。