Update README.md
Browse files
README.md
CHANGED
|
@@ -16,6 +16,7 @@ pipeline_tag: text-generation
|
|
| 16 |
base_model: LiquidAI/LFM2.5-2.6B
|
| 17 |
datasets:
|
| 18 |
- OpenPathAI/alpaca-gpt4-indonesian-cleaned
|
|
|
|
| 19 |
---
|
| 20 |
|
| 21 |
# Orbit-3-Nano
|
|
@@ -77,7 +78,7 @@ Kami melakukan fine-tuning pada dataset instruksi Bahasa Indonesia untuk meningk
|
|
| 77 |
|
| 78 |
| Parameter | Nilai |
|
| 79 |
|-----------|-------|
|
| 80 |
-
| **Dataset** | OpenPathAI/alpaca-gpt4-indonesian-cleaned |
|
| 81 |
| **Jumlah Samples** | ~47.000 pasangan instruksi-respons |
|
| 82 |
| **Metode** | SFT (Supervised Fine-Tuning) dengan QLoRA |
|
| 83 |
| **LoRA Rank (r)** | 16 |
|
|
@@ -198,7 +199,7 @@ Gunakan tokenizer.apply_chat_template() untuk format yang benar.
|
|
| 198 |
Keterbatasan
|
| 199 |
|
| 200 |
Keterbatasan Deskripsi
|
| 201 |
-
Ukuran Model 2,6B parameter
|
| 202 |
Akurasi Fakta Mungkin menghasilkan informasi yang tidak akurat
|
| 203 |
Bahasa Fokus Bahasa Indonesia, tapi masih bisa Inggris
|
| 204 |
Reasoning Kemampuan penalaran terbatas untuk tugas kompleks
|
|
|
|
| 16 |
base_model: LiquidAI/LFM2.5-2.6B
|
| 17 |
datasets:
|
| 18 |
- OpenPathAI/alpaca-gpt4-indonesian-cleaned
|
| 19 |
+
- biznetgio/oasst2-indonesia
|
| 20 |
---
|
| 21 |
|
| 22 |
# Orbit-3-Nano
|
|
|
|
| 78 |
|
| 79 |
| Parameter | Nilai |
|
| 80 |
|-----------|-------|
|
| 81 |
+
| **Dataset** | OpenPathAI/alpaca-gpt4-indonesian-cleaned, biznetgio/oasst2-indonesia |
|
| 82 |
| **Jumlah Samples** | ~47.000 pasangan instruksi-respons |
|
| 83 |
| **Metode** | SFT (Supervised Fine-Tuning) dengan QLoRA |
|
| 84 |
| **LoRA Rank (r)** | 16 |
|
|
|
|
| 199 |
Keterbatasan
|
| 200 |
|
| 201 |
Keterbatasan Deskripsi
|
| 202 |
+
Ukuran Model 2,6B parameter kapasitas terbatas dibanding model besar
|
| 203 |
Akurasi Fakta Mungkin menghasilkan informasi yang tidak akurat
|
| 204 |
Bahasa Fokus Bahasa Indonesia, tapi masih bisa Inggris
|
| 205 |
Reasoning Kemampuan penalaran terbatas untuk tugas kompleks
|