Spaces:
Sleeping
Sleeping
Update server.py
Browse files
server.py
CHANGED
|
@@ -23,7 +23,7 @@ JSON_SOURCE = "database.json"
|
|
| 23 |
logging.basicConfig(level=logging.INFO)
|
| 24 |
logger = logging.getLogger(__name__)
|
| 25 |
|
| 26 |
-
app = FastAPI(title="Hebrew Smart Home Technician", version="8.
|
| 27 |
|
| 28 |
app.add_middleware(
|
| 29 |
CORSMiddleware,
|
|
@@ -38,7 +38,6 @@ tokenizer = None
|
|
| 38 |
device = "cpu"
|
| 39 |
|
| 40 |
# --- מילון מונחים לחיפוש והבנה ---
|
| 41 |
-
# עוזר לשרת למצוא את המידע הנכון גם אם המשתמש משתמש בסלנג או מונחים כלליים
|
| 42 |
SEARCH_MAP = {
|
| 43 |
"בקר": ["ESP32", "U2", "Controller"],
|
| 44 |
"מסך": ["Nextion", "LCD1", "HMI", "Display"],
|
|
@@ -79,7 +78,6 @@ def expand_query(query: str) -> List[str]:
|
|
| 79 |
words = re.sub(r'[^\w\s]', '', query).split()
|
| 80 |
search_terms = set(words)
|
| 81 |
for w in words:
|
| 82 |
-
# הסרת ה' הידיעה לשיפור חיפוש
|
| 83 |
root = w[1:] if len(w) > 3 and w.startswith('ה') else w
|
| 84 |
search_terms.add(root)
|
| 85 |
for key, values in SEARCH_MAP.items():
|
|
@@ -103,7 +101,6 @@ def query_knowledge_base(query: str) -> str:
|
|
| 103 |
for row_id, content, topic in rows:
|
| 104 |
if row_id not in seen_ids:
|
| 105 |
score = 1
|
| 106 |
-
# תעדוף גבוה לשרטוטים אם נשאל על חיבורים/תקלות
|
| 107 |
if "Schematic" in content and any(x in query for x in ["שרטוט", "חיבור", "לא עובד", "תקלה", "פין"]):
|
| 108 |
score += 50
|
| 109 |
elif term.lower() in topic.lower():
|
|
@@ -132,7 +129,7 @@ class Message(BaseModel):
|
|
| 132 |
class ChatCompletionRequest(BaseModel):
|
| 133 |
messages: List[Message]
|
| 134 |
max_tokens: Optional[int] = 512
|
| 135 |
-
temperature: Optional[float] = 0.
|
| 136 |
stream: Optional[bool] = False
|
| 137 |
|
| 138 |
@app.on_event("startup")
|
|
@@ -172,20 +169,20 @@ async def chat_completions(request: ChatCompletionRequest):
|
|
| 172 |
save_message("user", last_user_msg.content)
|
| 173 |
context = query_knowledge_base(last_user_msg.content)
|
| 174 |
|
| 175 |
-
# --- הנחיית מערכת
|
| 176 |
if context:
|
| 177 |
sys_msg = (
|
| 178 |
-
"אתה טכנ
|
| 179 |
-
"הנחיות
|
| 180 |
-
"1.
|
| 181 |
-
"2. ה
|
| 182 |
-
"3.
|
| 183 |
-
"4. פתרון תקלות: אם
|
| 184 |
-
"5. ה
|
| 185 |
-
f"\nמידע טכני
|
| 186 |
)
|
| 187 |
else:
|
| 188 |
-
sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית. אם אינך יודע, אמור זאת בנימוס."
|
| 189 |
|
| 190 |
if request.messages[0].role == "system":
|
| 191 |
request.messages[0].content = sys_msg
|
|
@@ -200,11 +197,11 @@ async def chat_completions(request: ChatCompletionRequest):
|
|
| 200 |
gen_kwargs = dict(
|
| 201 |
inputs=prompt_ids,
|
| 202 |
max_new_tokens=request.max_tokens,
|
| 203 |
-
temperature=0.
|
| 204 |
top_p=0.9,
|
| 205 |
do_sample=True,
|
| 206 |
pad_token_id=tokenizer.eos_token_id,
|
| 207 |
-
repetition_penalty=1.
|
| 208 |
)
|
| 209 |
|
| 210 |
if request.stream:
|
|
|
|
| 23 |
logging.basicConfig(level=logging.INFO)
|
| 24 |
logger = logging.getLogger(__name__)
|
| 25 |
|
| 26 |
+
app = FastAPI(title="Hebrew Smart Home Technician", version="8.1.0")
|
| 27 |
|
| 28 |
app.add_middleware(
|
| 29 |
CORSMiddleware,
|
|
|
|
| 38 |
device = "cpu"
|
| 39 |
|
| 40 |
# --- מילון מונחים לחיפוש והבנה ---
|
|
|
|
| 41 |
SEARCH_MAP = {
|
| 42 |
"בקר": ["ESP32", "U2", "Controller"],
|
| 43 |
"מסך": ["Nextion", "LCD1", "HMI", "Display"],
|
|
|
|
| 78 |
words = re.sub(r'[^\w\s]', '', query).split()
|
| 79 |
search_terms = set(words)
|
| 80 |
for w in words:
|
|
|
|
| 81 |
root = w[1:] if len(w) > 3 and w.startswith('ה') else w
|
| 82 |
search_terms.add(root)
|
| 83 |
for key, values in SEARCH_MAP.items():
|
|
|
|
| 101 |
for row_id, content, topic in rows:
|
| 102 |
if row_id not in seen_ids:
|
| 103 |
score = 1
|
|
|
|
| 104 |
if "Schematic" in content and any(x in query for x in ["שרטוט", "חיבור", "לא עובד", "תקלה", "פין"]):
|
| 105 |
score += 50
|
| 106 |
elif term.lower() in topic.lower():
|
|
|
|
| 129 |
class ChatCompletionRequest(BaseModel):
|
| 130 |
messages: List[Message]
|
| 131 |
max_tokens: Optional[int] = 512
|
| 132 |
+
temperature: Optional[float] = 0.3 # טמפרטורה מעט גבוהה יותר לזרימה טובה
|
| 133 |
stream: Optional[bool] = False
|
| 134 |
|
| 135 |
@app.on_event("startup")
|
|
|
|
| 169 |
save_message("user", last_user_msg.content)
|
| 170 |
context = query_knowledge_base(last_user_msg.content)
|
| 171 |
|
| 172 |
+
# --- הנחיית מערכת משופרת (החונך המקצועי) ---
|
| 173 |
if context:
|
| 174 |
sys_msg = (
|
| 175 |
+
"תפקידך: אתה המדריך הטכני והחונך של פרויקט 'בית חכם תלם'.\n"
|
| 176 |
+
"הנחיות דיבור:\n"
|
| 177 |
+
"1. ענה אך ורק בעברית ברורה, פשוטה ותקנית. הימנע מתרגום מילולי מאנגלית (למשל: אל תגיד 'מנצל', תגיד 'משתמש ב...').\n"
|
| 178 |
+
"2. הסבר, אל תקריא: כששואלים על חיבורים, אל תפלוט את הרשימה הטכנית. קבץ את המידע והסבר אותו. דוגמה: 'המסך מחובר לבקר בקווי התקשורת RX ו-TX ובקווי המתח'.\n"
|
| 179 |
+
"3. זיהוי רכיבים: זכור ש-U2 הוא בקר ה-ESP32, ו-LCD1 הוא מסך ה-Nextion.\n"
|
| 180 |
+
"4. פתרון תקלות: אם תלמיד מדווח על תקלה (למשל 'המסך לא עובד'), נתח את החיבורים במידע המצורף. תציע לבדוק שהכבלים מחוברים היטב לפינים הרלוונטיים (למשל 5V ו-GND).\n"
|
| 181 |
+
"5. היה סבלני ומקצועי, כמו מורה במגמת חשמל.\n"
|
| 182 |
+
f"\nמידע טכני (שרטוט ורכיבים):\n{context}"
|
| 183 |
)
|
| 184 |
else:
|
| 185 |
+
sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית. אם אינך יודע את התשובה, אמור זאת בנימוס."
|
| 186 |
|
| 187 |
if request.messages[0].role == "system":
|
| 188 |
request.messages[0].content = sys_msg
|
|
|
|
| 197 |
gen_kwargs = dict(
|
| 198 |
inputs=prompt_ids,
|
| 199 |
max_new_tokens=request.max_tokens,
|
| 200 |
+
temperature=0.3, # איזון עדין בין יצירתיות (לשפה טבעית) לבין דיוק
|
| 201 |
top_p=0.9,
|
| 202 |
do_sample=True,
|
| 203 |
pad_token_id=tokenizer.eos_token_id,
|
| 204 |
+
repetition_penalty=1.1 # ענישה קלה מאוד רק כדי למנוע לופים, לא לשבור מילים
|
| 205 |
)
|
| 206 |
|
| 207 |
if request.stream:
|