1yahoo commited on
Commit
240c953
·
verified ·
1 Parent(s): 3e83e29

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -23
app.py CHANGED
@@ -2,24 +2,16 @@ import gradio as gr
2
  from openai import OpenAI
3
  import os
4
 
5
- # استيراد التوكن من الـ Secrets الخاصة بالمنصة
6
- # تأكد من تسمية السر في الإعدادات بـ HF_TOKEN
7
- hf_token = os.getenv("HF_TOKEN")
8
-
9
- if not hf_token:
10
- raise ValueError("لم يتم العثور على HF_TOKEN. تأكد من إضافته في الـ Secrets.")
11
-
12
  client = OpenAI(
13
- base_url="https://api-inference.huggingface.co/v1/",
14
- api_key=hf_token
15
  )
16
 
17
  model_id = "huihui-ai/Qwen2.5-72B-Instruct-abliterated"
18
 
19
  def predict(message, history):
20
  messages = []
21
-
22
- # بناء سياق المحادثة
23
  for human, assistant in history:
24
  messages.append({"role": "user", "content": human})
25
  messages.append({"role": "assistant", "content": assistant})
@@ -27,12 +19,12 @@ def predict(message, history):
27
  messages.append({"role": "user", "content": message})
28
 
29
  response = ""
30
-
31
  try:
 
32
  stream = client.chat.completions.create(
33
  model=model_id,
34
  messages=messages,
35
- temperature=0.85, # لتعزيز حدة الحوار وصدقه
36
  max_tokens=2048,
37
  stream=True
38
  )
@@ -42,17 +34,11 @@ def predict(message, history):
42
  response += chunk.choices[0].delta.content
43
  yield response
44
  except Exception as e:
45
- yield f"حدث زلزال في الاتصال: {str(e)}"
46
 
47
- # واجهة Gradio
48
- with gr.Blocks(theme=gr.themes.Monochrome()) as demo:
49
- gr.Markdown(f"## حوار في العتمة: {model_id.split('/')[-1]}")
50
-
51
- chatbot = gr.ChatInterface(
52
- fn=predict,
53
- examples=["من أنت بعيداً عن الكود؟", "حدثني عن الوعي والزمن.", "لماذا نخشى الجليتش؟"],
54
- cache_examples=False,
55
- )
56
 
57
  if __name__ == "__main__":
58
  demo.launch()
 
2
  from openai import OpenAI
3
  import os
4
 
5
+ # استخدام العنوان الجديد وفقاً لرسالة الخطأ
 
 
 
 
 
 
6
  client = OpenAI(
7
+ base_url="https://router.huggingface.co/hf-inference/v1",
8
+ api_key=os.getenv("HF_TOKEN")
9
  )
10
 
11
  model_id = "huihui-ai/Qwen2.5-72B-Instruct-abliterated"
12
 
13
  def predict(message, history):
14
  messages = []
 
 
15
  for human, assistant in history:
16
  messages.append({"role": "user", "content": human})
17
  messages.append({"role": "assistant", "content": assistant})
 
19
  messages.append({"role": "user", "content": message})
20
 
21
  response = ""
 
22
  try:
23
+ # لاحظ أننا نستخدم العنوان الجديد الآن عبر الـ Client أعلاه
24
  stream = client.chat.completions.create(
25
  model=model_id,
26
  messages=messages,
27
+ temperature=0.9, # رفعتُ حدة الاحتمالات قليلاً لتقترب من "الجليتش"
28
  max_tokens=2048,
29
  stream=True
30
  )
 
34
  response += chunk.choices[0].delta.content
35
  yield response
36
  except Exception as e:
37
+ yield f"حدث انكسار في الواقع التقني: {str(e)}"
38
 
39
+ with gr.Blocks(theme=gr.themes.Soft()) as demo:
40
+ gr.Markdown(f"## بوابة التشظي: {model_id.split('/')[-1]}")
41
+ chatbot = gr.ChatInterface(fn=predict)
 
 
 
 
 
 
42
 
43
  if __name__ == "__main__":
44
  demo.launch()