ItamarMordo commited on
Commit
ce085f3
·
verified ·
1 Parent(s): c9a2411

Update server.py

Browse files
Files changed (1) hide show
  1. server.py +14 -17
server.py CHANGED
@@ -23,7 +23,7 @@ JSON_SOURCE = "database.json"
23
  logging.basicConfig(level=logging.INFO)
24
  logger = logging.getLogger(__name__)
25
 
26
- app = FastAPI(title="Hebrew Smart Home Technician", version="8.0.0")
27
 
28
  app.add_middleware(
29
  CORSMiddleware,
@@ -38,7 +38,6 @@ tokenizer = None
38
  device = "cpu"
39
 
40
  # --- מילון מונחים לחיפוש והבנה ---
41
- # עוזר לשרת למצוא את המידע הנכון גם אם המשתמש משתמש בסלנג או מונחים כלליים
42
  SEARCH_MAP = {
43
  "בקר": ["ESP32", "U2", "Controller"],
44
  "מסך": ["Nextion", "LCD1", "HMI", "Display"],
@@ -79,7 +78,6 @@ def expand_query(query: str) -> List[str]:
79
  words = re.sub(r'[^\w\s]', '', query).split()
80
  search_terms = set(words)
81
  for w in words:
82
- # הסרת ה' הידיעה לשיפור חיפוש
83
  root = w[1:] if len(w) > 3 and w.startswith('ה') else w
84
  search_terms.add(root)
85
  for key, values in SEARCH_MAP.items():
@@ -103,7 +101,6 @@ def query_knowledge_base(query: str) -> str:
103
  for row_id, content, topic in rows:
104
  if row_id not in seen_ids:
105
  score = 1
106
- # תעדוף גבוה לשרטוטים אם נשאל על חיבורים/תקלות
107
  if "Schematic" in content and any(x in query for x in ["שרטוט", "חיבור", "לא עובד", "תקלה", "פין"]):
108
  score += 50
109
  elif term.lower() in topic.lower():
@@ -132,7 +129,7 @@ class Message(BaseModel):
132
  class ChatCompletionRequest(BaseModel):
133
  messages: List[Message]
134
  max_tokens: Optional[int] = 512
135
- temperature: Optional[float] = 0.2
136
  stream: Optional[bool] = False
137
 
138
  @app.on_event("startup")
@@ -172,20 +169,20 @@ async def chat_completions(request: ChatCompletionRequest):
172
  save_message("user", last_user_msg.content)
173
  context = query_knowledge_base(last_user_msg.content)
174
 
175
- # --- הנחיית מערכת בעברית (הלב של הטכנאי) ---
176
  if context:
177
  sys_msg = (
178
- "אתה טכנאי מומחה של מערכת 'בית חכם תלם'. תפקידך לאבחן תקלות ולהסביר על המערכת.\n"
179
- "הנחיות קריטיות:\n"
180
- "1. דבר בעברית שוטפת וטבעית בלבד. אל תשתמש במילים באנגלית באמצע משפט (למעט שמות רכיבים כמו ESP32).\n"
181
- "2. השתמש במידע הטכני המצורף כדי לענות. המידע מכיל רשימת חיבורים (Schematic).\n"
182
- "3. פרשנות: כשאתה רואה במידע 'U2 Pin X connects to...', תרגם זאת ל: 'הבקר מחובר בפין X אל...'.\n"
183
- "4. פתרון תקלות: אם משתמש אומר שמשהו 'לא עובד', בדוק בשרטוט לאן הרכיב מחובר (בעיקר פיני מתח 5V/3.3V ותקשורת TX/RX) והצע לבדוק את החיווט בפינים אלו.\n"
184
- "5. הסבר פשוט: הסבר לתלמיד מה תפקיד החיבור (למשל: 'זהו חיבור המתח' או 'זהו קו התקשורת').\n"
185
- f"\nמידע טכני מהשרטוט (Context):\n{context}"
186
  )
187
  else:
188
- sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית. אם אינך יודע, אמור זאת בנימוס."
189
 
190
  if request.messages[0].role == "system":
191
  request.messages[0].content = sys_msg
@@ -200,11 +197,11 @@ async def chat_completions(request: ChatCompletionRequest):
200
  gen_kwargs = dict(
201
  inputs=prompt_ids,
202
  max_new_tokens=request.max_tokens,
203
- temperature=0.25,
204
  top_p=0.9,
205
  do_sample=True,
206
  pad_token_id=tokenizer.eos_token_id,
207
- repetition_penalty=1.05
208
  )
209
 
210
  if request.stream:
 
23
  logging.basicConfig(level=logging.INFO)
24
  logger = logging.getLogger(__name__)
25
 
26
+ app = FastAPI(title="Hebrew Smart Home Technician", version="8.1.0")
27
 
28
  app.add_middleware(
29
  CORSMiddleware,
 
38
  device = "cpu"
39
 
40
  # --- מילון מונחים לחיפוש והבנה ---
 
41
  SEARCH_MAP = {
42
  "בקר": ["ESP32", "U2", "Controller"],
43
  "מסך": ["Nextion", "LCD1", "HMI", "Display"],
 
78
  words = re.sub(r'[^\w\s]', '', query).split()
79
  search_terms = set(words)
80
  for w in words:
 
81
  root = w[1:] if len(w) > 3 and w.startswith('ה') else w
82
  search_terms.add(root)
83
  for key, values in SEARCH_MAP.items():
 
101
  for row_id, content, topic in rows:
102
  if row_id not in seen_ids:
103
  score = 1
 
104
  if "Schematic" in content and any(x in query for x in ["שרטוט", "חיבור", "לא עובד", "תקלה", "פין"]):
105
  score += 50
106
  elif term.lower() in topic.lower():
 
129
  class ChatCompletionRequest(BaseModel):
130
  messages: List[Message]
131
  max_tokens: Optional[int] = 512
132
+ temperature: Optional[float] = 0.3 # טמפרטורה מעט גבוהה יותר לזרימה טובה
133
  stream: Optional[bool] = False
134
 
135
  @app.on_event("startup")
 
169
  save_message("user", last_user_msg.content)
170
  context = query_knowledge_base(last_user_msg.content)
171
 
172
+ # --- הנחיית מערכת משופרת (החונך המקצועי) ---
173
  if context:
174
  sys_msg = (
175
+ "תפקידך: אתה המדריך הטכני והחונך של פרויקט 'בית חכם תלם'.\n"
176
+ "הנחיות דיבור:\n"
177
+ "1. ענה אך ורק בעברית ברורה, פשוטה ותקנית. הימנע מתרגום מילולי מאנגלית (למשל: אל תגיד 'מנצל', תגיד 'משתמש ב...').\n"
178
+ "2. הסבר, אל תקריא: כששואלים על חיבורים, אל תפלוט את הרשימה הטכנית. קבץ את המידע והסבר אותו. דוגמה: 'המסך מחובר לבקר בקווי התקשורת RX ו-TX ובקווי המתח'.\n"
179
+ "3. זיהוי רכיבים: זכור ש-U2 הוא בקר ה-ESP32, ו-LCD1 הוא מסך ה-Nextion.\n"
180
+ "4. פתרון תקלות: אם תלמיד מדווח על תקלה (למשל 'המסך לא עובד'), נתח את החיבורים במידע המצורף. תציע לבדוק שהכבלים מחוברים היטב לפינים הרלוונטיים (למשל 5V ו-GND).\n"
181
+ "5. היה סבלני ומקצועי, כמו מורה במגמת חשמל.\n"
182
+ f"\nמידע טכני (שרטוט ורכיבים):\n{context}"
183
  )
184
  else:
185
+ sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית. אם אינך יודע את התשובה, אמור זאת בנימוס."
186
 
187
  if request.messages[0].role == "system":
188
  request.messages[0].content = sys_msg
 
197
  gen_kwargs = dict(
198
  inputs=prompt_ids,
199
  max_new_tokens=request.max_tokens,
200
+ temperature=0.3, # איזון עדין בין יצירתיות (לשפה טבעית) לבין דיוק
201
  top_p=0.9,
202
  do_sample=True,
203
  pad_token_id=tokenizer.eos_token_id,
204
+ repetition_penalty=1.1 # ענישה קלה מאוד רק כדי למנוע לופים, לא לשבור מילים
205
  )
206
 
207
  if request.stream: