Update embeddingonnx.py

embeddingonnx.py

@@ -2,36 +2,36 @@ import onnxruntime as ort
 import re
 import numpy as np
 from transformers import AutoTokenizer
+from functools import lru_cache
+import threading
 
 # ==============================
-# إعداد النموذج والتوكنيزر
+# إعداد النموذج والتوكنيزر - محسّن
 # ==============================
 MODEL_PATH = "lib/intfloat_multilingual-e5-small_merged_int8.onnx"
 TOKENIZER_PATH = "./lib/"
 
-# جلسة ONNX سريعة (تحسينات مهمة)
+# تحسين جلسة ONNX
+session_options = ort.SessionOptions()
+session_options.graph_optimization_level = ort.GraphOptimizationLevel.ORT_ENABLE_ALL
+session_options.optimized_model_filepath = "optimized_model.onnx"
+
 session = ort.InferenceSession(
     MODEL_PATH,
     providers=['CPUExecutionProvider'],
-    sess_options=ort.SessionOptions()
+    sess_options=session_options
 )
 
-# تعطيل التحقق من المخرجات (يوفر وقت)
-session.disable_fallback()
-
-# تقليل عدد الـ threads = أسرع على الأجهزة الضعيفة
-session.set_providers(['CPUExecutionProvider'], 
-                      provider_options=[{"intra_op_num_threads": 1}])
-
-# تحميل التوكنيزر
-tokenizer = AutoTokenizer.from_pretrained(TOKENIZER_PATH, local_files_only=True)
-
+# تحميل التوكنيزر مع التخزين المؤقت
+tokenizer = AutoTokenizer.from_pretrained(TOKENIZER_PATH, local_files_only=True, use_fast=True)
 
 # ==============================
-# دوال مساعدة
+# دوال مساعدة - محسّنة
 # ==============================
+@lru_cache(maxsize=1024)
 def normalize_arabic(text: str) -> str:
-    text = re.sub(r'[ًٌٍَُِّْـ]', '', text)
+    """تطبيع النص العربي مع تخزين مؤقت"""
+    text = re.sub(r'[ًٌٍَُِّْـ]', '', text)
     text = re.sub(r'[إأآ]', 'ا', text)
     text = re.sub(r'ى', 'ي', text)
     text = re.sub(r'ؤ', 'و', text)
@@ -41,76 +41,37 @@ def normalize_arabic(text: str) -> str:
     text = re.sub(r'\s+', ' ', text)
     return text.strip()
 
-
-def split_sentences(text: str):
-    return [
-        s.strip() for s in
-        re.split(r'[.\n:؛؟!]', text)
-        if len(s.strip()) > 0
-    ]
-
-
-# ==============================
-# النسخة المحسنة جداً لتحويل النص إلى Embedding
-# ==============================
-def text_to_embedding(text: str, normalize: bool = True) -> np.ndarray:
-    if not text.strip():
-        return None
-
-    if normalize:
-        text = normalize_arabic(text)
-
-    sentences = split_sentences(text)
-    if not sentences:
-        return None
-
-    # ⚡ تجميع كل الجمل في batch واحد → أسرع ×6
-    batch_inputs = tokenizer(
-        ["passage: " + s for s in sentences],
-        return_tensors="np",
-        truncation=True,
-        padding=True,
-        max_length=256
-    )
-
-    # تشغيل النموذج دفعة واحدة
-    ort_outs = session.run(None, dict(batch_inputs))
-    vectors = ort_outs[1]     # (num_sentences, 384)
-
-    # تطبيع كل متجه دفعة واحدة (أسرع)
-    norms = np.linalg.norm(vectors, axis=1, keepdims=True) + 1e-10
-    vectors = vectors / norms
-
-    # متوسط embeddings
-    embedding = vectors.mean(axis=0)
-
-    # تطبيع نهائي
-    embedding = embedding / (np.linalg.norm(embedding) + 1e-10)
-
-    return embedding.astype(np.float32)
-
-
 # ==============================
-# نموذج البحث optimized
+# دالة Embedding المحسّنة
 # ==============================
 def query_to_embedding(query: str, normalize: bool = True) -> np.ndarray:
-    print(f"search : {query}")
-    if not query.strip():
+    """تحويل الاستعلام إلى embedding بكفاءة عالية"""
+    if not query or not query.strip():
         return None
-
+    
+    query = query.strip()
+    
     if normalize:
         query = normalize_arabic(query)
-
+    
+    # استخدام التوكنيز مع المعلمات المثلى
     inputs = tokenizer(
         "query: " + query,
         return_tensors="np",
         truncation=True,
         padding=True,
-        max_length=256
+        max_length=256,
+        return_attention_mask=True,
+        return_token_type_ids=False
     )
-
+    
+    # تشغيل النموذج
     ort_outs = session.run(None, dict(inputs))
     vector = ort_outs[1][0]
-
-    vector = vector / (np.linalg.norm(vector) + 1e-10)
-    return vector.astype(np.float32)
+    
+    # تطبيع المتجه بكفاءة
+    norm = np.linalg.norm(vector)
+    if norm > 0:
+        vector = vector / norm
+    
+    return vector.astype(np.float32)