Update README.md
Browse files
README.md
CHANGED
|
@@ -2,4 +2,5 @@
|
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
目前是基于一个GPU训练的版本，架构采用Yarn，GQA,MOE（可选），
|
| 5 |
-
预训练和后训练(SFT和GRPO)的数据包含文本，代码
|
|
|
|
|
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
目前是基于一个GPU训练的版本，架构采用Yarn，GQA,MOE（可选），
|
| 5 |
+
预训练和后训练(SFT和（GRPO/DCPO）)的数据包含文本，代码。目前是没有图文训练过程。
|
| 6 |
+
|