Update app.py

app.py

@@ -17,19 +17,17 @@ model = AutoModelForCausalLM.from_pretrained(
 
 @spaces.GPU
 def prediksi_terjemahan(message, history):
-    # 1. Menentukan instruksi dasar penerjemah
     percakapan = [
         {"role": "system", "content": "Kamu adalah asisten AI penerjemah yang ahli. Tugasmu adalah menerjemahkan teks dari Bahasa Indonesia ke Bahasa Biak secara akurat, alami, ringkas, dan langsung tanpa pengulangan kata."}
     ]
     
-    # 2. Solusi Unpack Error: Membaca riwayat pesan dengan aman menggunakan format kamus Gradio terbaru
+    # Memproses history percakapan dengan format kamus Gradio terbaru
     for pesan_lama in history:
         percakapan.append({
             "role": pesan_lama.get("role", "user"),
             "content": str(pesan_lama.get("content", ""))
         })
     
-    # 3. Menambahkan prompt input kalimat baru dari pengguna
     prompt_penerjemahan = f"Terjemahkan kalimat berikut ke dalam Bahasa Biak: {message}"
     percakapan.append({"role": "user", "content": prompt_penerjemahan})
     
@@ -47,7 +45,57 @@ def prediksi_terjemahan(message, history):
             max_new_tokens=128,
             temperature=0.1,
             top_p=0.85,
-            repetition_penalty=1.2,  # Mengunci token agar model tidak looping kalimat
+            repetition_penalty=1.2,
+            do_sample=True,
+            eos_token_id=tokenizer.eos_token_id,
+  import gradio as gr
+import torch
+import spaces
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+model_name = "Pyefuri/Qwen2.5-3B-Bahasa-Biak-Final"
+
+print("Memuat tokenizer...")
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+
+print("Memuat model Bahasa Biak...")
+model = AutoModelForCausalLM.from_pretrained(
+    model_name,
+    dtype=torch.float16,
+    device_map="auto"
+)
+
+@spaces.GPU
+def prediksi_terjemahan(message, history):
+    percakapan = [
+        {"role": "system", "content": "Kamu adalah asisten AI penerjemah yang ahli. Tugasmu adalah menerjemahkan teks dari Bahasa Indonesia ke Bahasa Biak secara akurat, alami, ringkas, dan langsung tanpa pengulangan kata."}
+    ]
+    
+    # Memproses history percakapan dengan format kamus Gradio terbaru
+    for pesan_lama in history:
+        percakapan.append({
+            "role": pesan_lama.get("role", "user"),
+            "content": str(pesan_lama.get("content", ""))
+        })
+    
+    prompt_penerjemahan = f"Terjemahkan kalimat berikut ke dalam Bahasa Biak: {message}"
+    percakapan.append({"role": "user", "content": prompt_penerjemahan})
+    
+    input_text = tokenizer.apply_chat_template(
+        percakapan,
+        tokenize=False,
+        add_generation_prompt=True
+    )
+    
+    inputs = tokenizer([input_text], return_tensors="pt").to(model.device)
+    
+    with torch.no_grad():
+        generated_ids = model.generate(
+            **inputs,
+            max_new_tokens=128,
+            temperature=0.1,
+            top_p=0.85,
+            repetition_penalty=1.2,
             do_sample=True,
             eos_token_id=tokenizer.eos_token_id,
             pad_token_id=tokenizer.pad_token_id if tokenizer.pad_token_id is not None else tokenizer.eos_token_id
@@ -59,13 +107,36 @@ def prediksi_terjemahan(message, history):
     
     respons = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
     
-    # 4. Solusi TypeError: Mengambil indeks ke-0 agar mengeluarkan teks murni string, bukan list Python
+    # PERBAIKAN INTI: Mengambil indeks ke-0 secara langsung agar murni teks string
+    if respons and len(respons) > 0:
+        return respons[0].strip()
+    
+    return "Maaf, terjadi kesalahan saat memproses terjemahan."
+
+demo = gr.ChatInterface(
+    fn=prediksi_terjemahan,
+    type="messages",
+    title="🤖  AI Bahasa Indonesia-Biak",
+    description="Silakan masukkan kalimat dalam Bahasa Indonesia untuk diterjemahkan ke dalam Bahasa Biak."
+)
+
+if __name__ == "__main__":
+    demo.launch()
+          pad_token_id=tokenizer.pad_token_id if tokenizer.pad_token_id is not None else tokenizer.eos_token_id
+        )
+    
+    generated_ids = [
+        output_ids[len(input_ids):] for input_ids, output_ids in zip(inputs.input_ids, generated_ids)
+    ]
+    
+    respons = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
+    
+    # PERBAIKAN INTI: Mengambil indeks ke-0 secara langsung agar murni teks string
     if respons and len(respons) > 0:
-        return str(respons[0]).strip()
+        return respons[0].strip()
     
     return "Maaf, terjadi kesalahan saat memproses terjemahan."
 
-# 5. Membangun antarmuka chat dengan parameter 'messages' untuk Gradio versi baru
 demo = gr.ChatInterface(
     fn=prediksi_terjemahan,
     type="messages",