edits

app.py

@@ -17,7 +17,7 @@ import difflib
 # ===============================
 # 2️⃣ إعداد المتغيرات
 # ===============================
-MODEL_NAME = "Qwen/Qwen2.5-0.5B-Instruct"
+MODEL_NAME = "Qwen/Qwen2.5-1.5B-Instruct"   # موديل أكبر وأكثر دقة
 FLASK_PORT = 7860
 
 SAVE_DIR = "/tmp/lora_model"
@@ -31,26 +31,25 @@ DATASET_FILE = os.path.join(DATA_DIR, "dataset.json")
 # 3️⃣ تحديد الجهاز
 # ===============================
 device = "cuda" if torch.cuda.is_available() else "cpu"
-print("🔹 Using device:", device)
+print("🔹 الجهاز المستخدم:", device)
 
 # ===============================
 # 4️⃣ تحميل الموديل الأساسي
 # ===============================
-print("🔄 Loading base model...")
+print("🔄 جاري تحميل الموديل الأساسي...")
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
 
 try:
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_NAME,
-        device_map="auto" if device=="cuda" else {"": "cpu"},
-        torch_dtype=torch.float16 if device=="cuda" else torch.float32,
-        load_in_8bit=(device=="cuda"),
+        device_map="auto" if device == "cuda" else {"": "cpu"},
+        torch_dtype=torch.float16 if device == "cuda" else torch.float32,
         trust_remote_code=True
     )
     model.to(device)
-    print("✅ Base model loaded!")
+    print("✅ تم تحميل الموديل الأساسي بنجاح.")
 except Exception as e:
-    print("⚠️ Failed to load base model:", e)
+    print("⚠️ فشل تحميل الموديل:", e)
     raise e
 
 # ===============================
@@ -58,34 +57,33 @@ except Exception as e:
 # ===============================
 lora_config = LoraConfig(
     task_type=TaskType.CAUSAL_LM,
-    r=2,
-    lora_alpha=8,
-    lora_dropout=0.05,
+    r=4,
+    lora_alpha=16,
+    lora_dropout=0.1,
     target_modules=["q_proj", "v_proj"]
 )
 model = get_peft_model(model, lora_config)
 model.to(device)
-print("✅ LoRA model ready on device:", device)
+print("✅ تم تفعيل LoRA على الموديل.")
 
 # ===============================
-# 6️⃣ Auto load LoRA weights
+# 6️⃣ تحميل أوزان LoRA إذا وجدت
 # ===============================
 if os.path.exists(SAVE_DIR):
     try:
         base_model = AutoModelForCausalLM.from_pretrained(
             MODEL_NAME,
-            device_map="auto" if device=="cuda" else {"": "cpu"},
-            torch_dtype=torch.float16 if device=="cuda" else torch.float32,
-            load_in_8bit=(device=="cuda"),
+            device_map="auto" if device == "cuda" else {"": "cpu"},
+            torch_dtype=torch.float16 if device == "cuda" else torch.float32,
             trust_remote_code=True
         )
         model = PeftModel.from_pretrained(base_model, SAVE_DIR)
         model.to(device)
-        print("✅ LoRA weights auto-loaded from disk!")
+        print("✅ تم تحميل أوزان LoRA المحفوظة.")
     except Exception as e:
-        print("⚠️ Failed to auto-load LoRA weights:", e)
+        print("⚠️ لم يتم تحميل أوزان LoRA:", e)
 else:
-    print("ℹ️ No saved LoRA weights found, running with base model.")
+    print("ℹ️ لا يوجد أوزان محفوظة. سيتم استخدام الموديل الأساسي فقط.")
 
 # ===============================
 # 7️⃣ إعداد Flask API
@@ -96,15 +94,15 @@ CORS(app)
 trainer = None
 current_dataset = None
 
-# Fake DB
+# قاعدة بيانات تجريبية للمستخدمين
 users_db = {
-    "1": {"name": "Ahmed Elsayed", "role": "Student"},
-    "2": {"name": "Mona Ali", "role": "Lawyer"},
-    "3": {"name": "Omar Hassan", "role": "Client"}
+    "1": {"name": "أحمد السيد", "role": "طالب"},
+    "2": {"name": "منى علي", "role": "محامية"},
+    "3": {"name": "عمر حسن", "role": "عميل"}
 }
 
 # ===============================
-# 7a️⃣ توليد نصوص
+# 7a️⃣ توليد النصوص
 # ===============================
 @app.route("/generate", methods=["POST"])
 def generate():
@@ -119,15 +117,13 @@ def generate():
         user_name = user_info["name"] if user_info else "مستخدم"
 
         if not prompt:
-            return jsonify({"messages": [{"role": "assistant", "content": "⚠️ الرجاء ارسال سؤال أو استفسار صحيح."}]}), 400
+            return jsonify({"messages": [{"role": "assistant", "content": "⚠️ من فضلك أرسل سؤال أو استفسار صحيح."}]}), 400
 
-        # =====================
-        # حالة: لا يوجد داتا تدريبية
-        # =====================
+        # في حالة عدم وجود بيانات تدريبية
         if current_dataset is None:
             base_prompt = (
-                f"أنت مساعد قانوني ذكي اسمه زين 👨‍⚖️.\n"
-                f"مهمة زين: الإجابة على الأسئلة القانونية بأسلوب واضح ومبسط "
+                f"أنت مساعد قانوني اسمه ��ين.\n"
+                f"مهمتك: الرد على الأسئلة القانونية بلغة عربية واضحة وبسيطة "
                 f"مع الحفاظ على الدقة القانونية.\n\n"
                 f"السؤال:\n{prompt}\n\nالإجابة:"
             )
@@ -138,8 +134,8 @@ def generate():
 
             outputs = model.generate(
                 **inputs,
-                max_new_tokens=200,
-                temperature=0.7,
+                max_new_tokens=300,
+                temperature=0.6,
                 top_p=0.9,
                 do_sample=True,
                 pad_token_id=tokenizer.eos_token_id,
@@ -150,15 +146,13 @@ def generate():
 
             return jsonify({
                 "messages": [
-                    {"role": "assistant", "content": f"أهلاً {user_name} 👋"},
+                    {"role": "assistant", "content": f"مرحباً {user_name}"},
                     {"role": "assistant", "content": reply}
                 ],
                 "meta": {"mode": "base"}
             })
 
-        # =====================
-        # حالة: يوجد داتا تدريبية
-        # =====================
+        # في حالة وجود بيانات تدريبية
         candidates = []
         for item in current_dataset:
             text = item.get("text", "")
@@ -181,14 +175,14 @@ def generate():
                     elif role.startswith("assistant") or role.startswith("ai") or role.startswith("system"):
                         a_lines.append(content.strip())
             if u_lines or a_lines:
-                context_parts.append("User: " + " ".join(u_lines) + "\nAssistant: " + " ".join(a_lines))
+                context_parts.append("المستخدم: " + " ".join(u_lines) + "\nالمساعد: " + " ".join(a_lines))
 
         context_text = "\n\n---\n\n".join(context_parts)
 
         instruction = (
-            "التعليمات: استعن بالأمثلة التدريبية كمرجع أساسي، "
-            "لكن أجب بأسلوبك الخاص وبكلمات مختلفة. "
-            "حافظ على صحة المعلومة القانونية ولا تنسخ النصوص كما هي."
+            "التعليمات: استخدم الأمثلة التدريبية كمصدر مرجعي، "
+            "لكن أجب بصياغة جديدة وبأسلوبك الخاص. "
+            "حافظ على صحة المعلومات القانونية وتجنب النسخ الحرفي."
         )
 
         if context_text and focus_level > 0.0:
@@ -201,14 +195,14 @@ def generate():
         else:
             final_prompt = f"{instruction}\n\nالسؤال:\n{prompt}\n\nالإجابة:"
 
-        # ==== توليد
+        # توليد النص
         inputs = tokenizer(final_prompt, return_tensors="pt", truncation=True, max_length=1024)
         inputs = {k: v.to(model.device) for k, v in inputs.items()}
         input_len = inputs["input_ids"].shape[-1]
 
         outputs = model.generate(
             **inputs,
-            max_new_tokens=200,
+            max_new_tokens=300,
             temperature=0.6,
             top_p=0.9,
             do_sample=True,
@@ -220,7 +214,7 @@ def generate():
 
         return jsonify({
             "messages": [
-                {"role": "assistant", "content": f"أهلاً {user_name} 👋"},
+                {"role": "assistant", "content": f"مرحباً {user_name}"},
                 {"role": "assistant", "content": reply}
             ],
             "meta": {
@@ -231,10 +225,10 @@ def generate():
         })
 
     except Exception as e:
-        return jsonify({"messages": [{"role": "assistant", "content": f"❌ خطأ: {str(e)}"}]})
+        return jsonify({"messages": [{"role": "assistant", "content": f"خطأ: {str(e)}"}]})
 
 # ===============================
-# 7b️⃣ تحميل الداتا
+# 7b️⃣ تحميل البيانات
 # ===============================
 def load_dataset():
     global current_dataset
@@ -255,7 +249,7 @@ def load_dataset():
                 elif "text" in item:
                     formatted.append({"text": item["text"]})
             current_dataset = Dataset.from_list(formatted)
-            print(f"✅ Loaded {len(formatted)} records from dataset.json")
+            print(f"✅ تم تحميل {len(formatted)} سجل من قاعدة البيانات.")
         else:
             current_dataset = None
     else:
@@ -264,7 +258,7 @@ def load_dataset():
 load_dataset()
 
 # ===============================
-# 7c️⃣ تدريب LoRA (Async)
+# 7c️⃣ تدريب الموديل (LoRA)
 # ===============================
 @app.route("/train", methods=["POST"])
 def train():
@@ -281,7 +275,7 @@ def train():
             elif isinstance(body, dict) and "data" in body:
                 data = body["data"]
             else:
-                return jsonify({"error": "JSON format not recognized"}), 400
+                return jsonify({"error": "صيغة JSON غير صحيحة"}), 400
 
             epochs = int(body.get("epochs", 1)) if isinstance(body, dict) else 1
             batch_size = int(body.get("batch_size", 1)) if isinstance(body, dict) else 1
@@ -292,7 +286,7 @@ def train():
                 epochs = int(request.form.get("epochs", 1))
                 batch_size = int(request.form.get("batch_size", 1))
             else:
-                return jsonify({"error": "No file uploaded or JSON provided"}), 400
+                return jsonify({"error": "لم يتم رفع ملف أو إرسال JSON"}), 400
 
         old_data = []
         if os.path.exists(DATASET_FILE):
@@ -347,15 +341,15 @@ def train():
         trainer = Trainer(model=model, args=training_args, train_dataset=tokenized_dataset)
 
         def run_training():
-            print("🔄 Training started...")
+            print("🔄 بدأ التدريب...")
             trainer.train()
             trainer.save_model(SAVE_DIR)
-            print("✅ Training completed & model saved!")
+            print("✅ انتهى التدريب وتم حفظ الموديل.")
 
         threading.Thread(target=run_training, daemon=True).start()
 
         return jsonify({
-            "status": "training started",
+            "status": "بدأ التدريب",
             "epochs": epochs,
             "batch_size": batch_size,
             "records": len(unique_data)
@@ -365,13 +359,13 @@ def train():
         return jsonify({"error": str(e)})
 
 # ===============================
-# 8️⃣ تشغيل Flask
+# 8️⃣ نقطة البداية
 # ===============================
 @app.route("/", methods=["GET"])
 def home():
     return jsonify({
-        "status": "ok",
-        "message": "Graduation Project API is running 🚀",
+        "status": "جاهز",
+        "message": "واجهة برمجة التخرج تعمل الآن",
         "endpoints": ["/generate", "/train"]
     })