ItamarMordo commited on
Commit
c78558b
·
verified ·
1 Parent(s): 4f91665

Update server.py

Browse files
Files changed (1) hide show
  1. server.py +14 -14
server.py CHANGED
@@ -23,7 +23,7 @@ JSON_SOURCE = "database.json"
23
  logging.basicConfig(level=logging.INFO)
24
  logger = logging.getLogger(__name__)
25
 
26
- app = FastAPI(title="Hebrew Smart Home Technician", version="9.5.0")
27
 
28
  app.add_middleware(
29
  CORSMiddleware,
@@ -147,7 +147,7 @@ class Message(BaseModel):
147
  class ChatCompletionRequest(BaseModel):
148
  messages: List[Message]
149
  max_tokens: Optional[int] = 512
150
- temperature: Optional[float] = 0.2
151
  stream: Optional[bool] = False
152
 
153
  @app.on_event("startup")
@@ -187,19 +187,19 @@ async def chat_completions(request: ChatCompletionRequest):
187
  save_message("user", last_user_msg.content)
188
  context = query_knowledge_base(last_user_msg.content)
189
 
190
- # --- הנחיה מתקנת (Corrective System Prompt) ---
191
  if context:
192
  sys_msg = (
193
- "אתה מהנדס בכיר המסביר לתלמידים על פרויקט 'בית חכם תלם'.\n"
194
- "הנחיות קריטיות:\n"
195
- "1. דבר אך ורק בעברית טבעית ותקנית. אל תשתמש במילים באנגלית באמצע משפט (כמו 'crucial' או 'pins').\n"
196
- "2. אל תעתיק את רשימת החיבורים כמו שהיא! קרא את המידע, הבן אותו, וסכם אותו במשפט הסבר.\n"
197
- "3. דוגמה: אם כתוב 'LCD1 Pin RX connects to U4', כתוב: 'המסך מחובר לבקר בקווי התקשורת (RX/TX) דרך ממיר רמות'.\n"
198
- "4. אם שואלים על רכיב ספציפי, ציין לאן הוא מחובר ואת מספרי הפינים החשובים.\n"
199
- f"\nמידע טכני (מקור בלבד):\n{context}"
200
  )
201
  else:
202
- sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית בלבד. אם אין לך מידע, אמור זאת בנימוס."
203
 
204
  if request.messages[0].role == "system":
205
  request.messages[0].content = sys_msg
@@ -214,11 +214,11 @@ async def chat_completions(request: ChatCompletionRequest):
214
  gen_kwargs = dict(
215
  inputs=prompt_ids,
216
  max_new_tokens=request.max_tokens,
217
- temperature=0.2, # נמוך כדי להיצמד להנחיות
218
- top_p=0.9,
219
  do_sample=True,
220
  pad_token_id=tokenizer.eos_token_id,
221
- repetition_penalty=1.1 # חובה כדי למנוע לופים
222
  )
223
 
224
  if request.stream:
 
23
  logging.basicConfig(level=logging.INFO)
24
  logger = logging.getLogger(__name__)
25
 
26
+ app = FastAPI(title="Hebrew Smart Home Technician", version="9.6.0")
27
 
28
  app.add_middleware(
29
  CORSMiddleware,
 
147
  class ChatCompletionRequest(BaseModel):
148
  messages: List[Message]
149
  max_tokens: Optional[int] = 512
150
+ temperature: Optional[float] = 0.15 # טמפרטורה נמוכה מאוד לדיוק מקסימלי
151
  stream: Optional[bool] = False
152
 
153
  @app.on_event("startup")
 
187
  save_message("user", last_user_msg.content)
188
  context = query_knowledge_base(last_user_msg.content)
189
 
190
+ # --- הנחיה קשיחה לדיוק ---
191
  if context:
192
  sys_msg = (
193
+ "אתה טכנאי שמסביר על חיבורים בלוח חשמל.\n"
194
+ "הנחיות חובה:\n"
195
+ "1. התבסס **אך ורק** על הטקסט למטה. אל תוסיף שום ידע משלך על מסכים או מחשבים.\n"
196
+ "2. אם הטקסט מכיל רשימת חיבורים, תרגם אותה לעברית פשוטה. למשל: 'פין RX במסך מחובר לפין 7 ברכיב U4'.\n"
197
+ "3. אל תכתוב פסקאות ארוכות. כתוב רשימה קצרה ומדויקת של החיבורים הרלוונטיים.\n"
198
+ "4. אל תשתמש במילים כמו 'crucial', 'gesture control' או 'buttons'.\n"
199
+ f"\nמידע טכני מהשרטוט:\n{context}"
200
  )
201
  else:
202
+ sys_msg = "אתה עוזר חכם לפרויקט תלם. ענה בעברית בלבד. אם אין לך מידע, אמור זאת."
203
 
204
  if request.messages[0].role == "system":
205
  request.messages[0].content = sys_msg
 
214
  gen_kwargs = dict(
215
  inputs=prompt_ids,
216
  max_new_tokens=request.max_tokens,
217
+ temperature=0.15, # נמוך מאוד = תשובות רובוטיות ומדויקות
218
+ top_p=0.85, # סינון חזק של מילים לא סבירות
219
  do_sample=True,
220
  pad_token_id=tokenizer.eos_token_id,
221
+ repetition_penalty=1.1
222
  )
223
 
224
  if request.stream: