Update README.md

README.md

@@ -26,7 +26,7 @@ datasets:
 
 ## Ringkasan
 
-Orbit-3-Nano adalah model bahasa yang dikembangkan oleh **OpenPathAI** sebagai bagian dari seri Orbit. Model ini dibangun di atas **LFM2.5-2.6B** dari **Liquid AI** dan di-fine-tune menggunakan dataset instruksi Bahasa Indonesia berkualitas tinggi.
+Orbit-3-Nano adalah model bahasa yang dikembangkan oleh **OpenPathAI** sebagai bagian dari seri Orbit. Model ini dibangun di atas **LFM2.5** dari **Liquid AI** dan di-fine-tune menggunakan dataset instruksi Bahasa Indonesia berkualitas tinggi.
 
 Model ini dirancang untuk:
 - Memahami instruksi Bahasa Indonesia dengan baik
@@ -86,7 +86,7 @@ Kami melakukan fine-tuning pada dataset instruksi Bahasa Indonesia untuk meningk
 | **Target Modules** | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
 | **Epoch** | 3 |
 | **Learning Rate** | 2e-4 |
-| **Precision** | FP16 |
+| **Precision** | BF16 |
 
 ---
 
@@ -94,51 +94,90 @@ Kami melakukan fine-tuning pada dataset instruksi Bahasa Indonesia untuk meningk
 
 ### Instalasi
 
-```bash
-pip install transformers torch accelerate
+```python
+# ==================== CELL 1: INSTALL ====================
+!pip install -q --upgrade transformers>=5.2.0 torch accelerate huggingface_hub
+!pip uninstall -y torchvision torchaudio  # Hindari konflik torchvision
+
+print("="*60)
+print("SETELAH INSTALL SELESAI:")
+print("1. Klik Runtime → Restart Session")
+print("2. Jalankan cell berikutnya")
+print("="*60)
 ```
 
 Penggunaan Dasar
 
 ```python
-from transformers import AutoModelForCausalLM, AutoTokenizer
+# ==================== CELL 2: TEST ORBIT-3-NANO ====================
+import os
 import torch
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+# Cek versi
+import transformers
+print(f"transformers: {transformers.__version__}")
+print(f"torch: {torch.__version__}")
+
+HF_TOKEN = "TOKEN_HF"
+MODEL_NAME = "OpenPathAI/Orbit-3-Nano"  # ← Nama repo baru
 
-MODEL_NAME = "OpenPathAI/Orbit-3-Nano"
+os.environ["HUGGING_FACE_HUB_TOKEN"] = HF_TOKEN
+os.environ["HF_TOKEN"] = HF_TOKEN
 
-tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
+# ==================== LOAD TOKENIZER ====================
+print("\nLoading tokenizer...")
+tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, token=HF_TOKEN)
+print("✅ Tokenizer loaded!")
+
+# ==================== LOAD MODEL ====================
+print("Loading model...")
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
     torch_dtype=torch.float16,
     device_map="auto",
+    token=HF_TOKEN,
 )
-
-# Format chat
-messages = [
-    {"role": "user", "content": "Jelaskan apa itu machine learning"}
-]
-
-inputs = tokenizer.apply_chat_template(
-    messages,
-    add_generation_prompt=True,
-    return_tensors="pt",
-    return_dict=True,
-).to(model.device)
-
-outputs = model.generate(
-    **inputs,
-    max_new_tokens=512,
-    temperature=0.7,
-    top_p=0.9,
-    do_sample=True,
-    pad_token_id=tokenizer.eos_token_id,
-)
-
-response = tokenizer.decode(
-    outputs[0][inputs["input_ids"].shape[1]:],
-    skip_special_tokens=True
-)
-print(response)
+model.eval()
+print("✅ Model loaded!")
+
+# ==================== FUNGSI CHAT ====================
+def chat(pertanyaan, max_new_tokens=512, temperature=0.7):
+    """Fungsi chat yang sudah diperbaiki untuk transformers v5."""
+    messages = [{"role": "user", "content": pertanyaan}]
+    
+    inputs = tokenizer.apply_chat_template(
+        messages,
+        add_generation_prompt=True,
+        return_tensors="pt",
+        return_dict=True,  # ← Kunci: return dict
+    ).to(model.device)
+    
+    with torch.no_grad():
+        outputs = model.generate(
+            **inputs,  # ← Kunci: unpack dengan **
+            max_new_tokens=max_new_tokens,
+            temperature=temperature,
+            top_p=0.9,
+            do_sample=True,
+            pad_token_id=tokenizer.eos_token_id,
+        )
+    
+    response = tokenizer.decode(
+        outputs[0][inputs["input_ids"].shape[1]:],
+        skip_special_tokens=True
+    )
+    return response.strip()
+
+# ==================== TEST ====================
+pertanyaan = "halo, kamu bisa bantu aku gak?"
+
+print("\n" + "="*60)
+print(f"📝 Pertanyaan: {pertanyaan}")
+print("="*60)
+print("🤖 Jawaban dari Orbit-3-Nano:")
+print(chat(pertanyaan))
+print("="*60)
 ```
 
 Format Chat
@@ -166,9 +205,9 @@ Reasoning Kemampuan penalaran terbatas untuk tugas kompleks
 
 Model ini BUKAN untuk:
 
-· Keputusan medis, hukum, atau keuangan
-· Aplikasi produksi tanpa pengawasan
-· Tugas yang butuh akurasi tinggi
+- Keputusan medis, hukum, atau keuangan
+- Aplikasi produksi tanpa pengawasan
+- Tugas yang butuh akurasi tinggi
 
 ---
 
@@ -178,10 +217,10 @@ Model ini mengikuti LFM Open License v1.0, sama seperti base model dari Liquid A
 
 Ketentuan penting:
 
-· Bebas digunakan untuk penelitian dan pengembangan
-· Bebas dimodifikasi dan didistribusikan
-· Penggunaan komersial gratis hanya untuk entitas dengan pendapatan tahunan di bawah $10 juta USD
-· Jika pendapatan melebihi ambang batas, diperlukan lisensi komersial terpisah dari Liquid AI
+- Bebas digunakan untuk penelitian dan pengembangan
+- Bebas dimodifikasi dan didistribusikan
+- Penggunaan komersial gratis hanya untuk entitas dengan pendapatan tahunan di bawah $10 juta USD
+- Jika pendapatan melebihi ambang batas, diperlukan lisensi komersial terpisah dari Liquid AI
 
 Lihat file LICENSE untuk detail lengkap.
 
@@ -191,9 +230,9 @@ Atribusi
 
 Model ini dikembangkan oleh OpenPathAI sebagai turunan dari:
 
-· Base Model: LiquidAI/LFM2.5-2.6B
-· Dataset: OpenPathAI/alpaca-gpt4-indonesian-cleaned
-· Dataset Asli: FreedomIntelligence/alpaca-gpt4-indonesian
+- Base Model: LiquidAI/LFM2.5-2.6B
+- Dataset: OpenPathAI/alpaca-gpt4-indonesian-cleaned, biznetgio/oasst2-indonesia
+- Dataset Asli: FreedomIntelligence/alpaca-gpt4-indonesian
 
 Kami menghargai karya Liquid AI dan FreedomIntelligence yang telah memungkinkan model ini dikembangkan.
 
@@ -216,10 +255,10 @@ Sitasi
 
 Kontak
 
-Saluran Detail
-Organisasi OpenPathAI
-Hugging Face OpenPathAI
-Base Model LiquidAI/LFM2.5-2.6B
+- Saluran Detail
+- Organisasi OpenPathAI
+- Hugging Face OpenPathAI
+- Base Model LiquidAI/LFM2.5-2.6B
 
 ---