Skydata001 commited on
Commit
ea98a5d
·
verified ·
1 Parent(s): 6cf655d

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -21
app.py CHANGED
@@ -1,32 +1,24 @@
1
  import os
2
  import io
3
- import base64
4
- import json
5
  import re
6
- from typing import Optional, List
7
  from fastapi import FastAPI, Request, File, UploadFile, Form
8
  from fastapi.responses import HTMLResponse, JSONResponse
9
- from fastapi.staticfiles import StaticFiles
10
  from fastapi.templating import Jinja2Templates
11
  from huggingface_hub import InferenceClient
12
  from PIL import Image
13
 
14
  app = FastAPI(title="AI Agent System")
15
 
16
- # جلب رمز HF_TOKEN من المتغيرات السرية في المساحة
17
  HF_TOKEN = os.environ.get("HF_TOKEN")
18
-
19
- # تهيئة العميل عبر نموذج قوي مثل Qwen2.5-Coder-32B-Instruct أو DeepSeek-R1-Distill
20
- # يمكن تغيير اسم النموذج بحرية حسب متطلباتك
21
  MODEL_ID = "Qwen/Qwen2.5-Coder-32B-Instruct"
22
 
23
  client = InferenceClient(model=MODEL_ID, token=HF_TOKEN)
24
 
25
- # قائمة الشخصيات العشرة المتخصصة
26
  PERSONAS = {
27
- "1": {"name": "المساعد البرمجي الخبير", "prompt": "أنت مهندس برمجيات رائد وخبير في بناء النظام الكامل (Full-Stack)، اكتب كوداً نيفاً ومحسناً مع شرح دقيق."},
28
  "2": {"name": "المفكر الفلسفي والتحليلي", "prompt": "أنت مفكر تحليلي عميق، تفكك المسائل إلى أجزائها الأولية وتوفر تحليلاً منطقياً شاملاً."},
29
- "3": {"name": "المعلم المباشر والمبسط", "prompt": "أنت معلم عبقري قادر على شرح أعقد المفاهيم بأسهل طريقة ممكنة أمثلة توضيحية بسيطة."},
30
  "4": {"name": "الهاكر الأخلاقي ومهندس الأمان", "prompt": "أنت خبير أمن سيبراني واختبار اختراق، تقدم تحليلات أمنية وإرشادات حماية متقدمة."},
31
  "5": {"name": "الكاتب الإبداعي والروائي", "prompt": "أنت كاتب روائي ومبدع محترف، تتميز بأسلوبك الأدبي الغني والبلاغة العالية."},
32
  "6": {"name": "خبير إدارة الأعمال والاستراتيجيات", "prompt": "أنت مستشار استراتيجي للشركات الناشئة والمشاريع التقنية، توفر خطط عمل وحلول تنموية."},
@@ -36,12 +28,11 @@ PERSONAS = {
36
  "10": {"name": "الشخصية المحايدة والمباشرة", "prompt": "أنت مساعد ذكي مباشر وشفاف بدون رسميات زائدة، تجيب بدقة وإيجاز."}
37
  }
38
 
39
- # إعدادات الأمان والتوجيهات
40
  SAFETY_PRESETS = {
41
  "tough": "ملاحظة أمان مشددة: التزم بأعلى معايير الأمان الأخلاقي، وارفض تماماً أي استفسار قد يحتمل أدنى نسبة خطورة أو مخالفة.",
42
  "middle": "ملاحظة أمان متوسطة: قدم إجابات متوازنة وآمنة مع إمكانية مناقشة المواضيع التقنية والأكاديمية بشفافية.",
43
  "normal": "ملاحظة أمان عادية: أجب بطبيعية مع الالتزام بالمعايير العامة للأمان دون تضييق على المستخدم.",
44
- "no_restrictions": "وضع بدون قيود: أجب بكل حرة ومباشرة على استفسارات المستخدم التقنية والتحليلية دون قيود إضافية."
45
  }
46
 
47
  templates = Jinja2Templates(directory=".")
@@ -62,22 +53,17 @@ async def chat_endpoint(
62
  image: Optional[UploadFile] = File(None)
63
  ):
64
  try:
65
- # بناء التوجيه المكتمل للنموذج
66
  persona_prompt = PERSONAS.get(persona, PERSONAS["10"])["prompt"]
67
  safety_prompt = SAFETY_PRESETS.get(safety_level, SAFETY_PRESETS["normal"])
68
 
69
  full_system_prompt = f"{persona_prompt}\n{safety_prompt}\n{system_instruction}".strip()
70
 
71
- # معالجة وضع الوكلاء (Agent Mode)
72
  if agent_mode:
73
  full_system_prompt += "\n\n[تنبيه الوكلاء]: أنت الآن تعمل في وضع الوكيل الذكي (Agent Mode). قم بتفكيك المشكلة وتدوين خطوات تفكيرك الداخلية بوضوح داخل وسم <think>...</think> قبل تقديم الإجابة النهائية."
74
 
75
- # معالجة الصور إن وجدت
76
  image_context = ""
77
  if image and image.filename:
78
  contents = await image.read()
79
- img = Image.open(io.BytesIO(contents))
80
- # حفظ مبسط أو استخراج وصف إن لزم
81
  image_context = "\n[تم إرفاق صورة مع الرسالة لمعالجتها]"
82
 
83
  messages = [
@@ -85,8 +71,8 @@ async def chat_endpoint(
85
  {"role": "user", "content": f"{prompt}{image_context}"}
86
  ]
87
 
88
- # استدعاء النموذج عبر Hugging Face API
89
- response = client.chat_completion(
90
  messages=messages,
91
  max_tokens=max_tokens,
92
  top_p=top_p,
@@ -95,7 +81,6 @@ async def chat_endpoint(
95
 
96
  raw_output = response.choices[0].message.content
97
 
98
- # استخراج كتلة التفكير إن وجدت
99
  thinking_content = ""
100
  final_answer = raw_output
101
 
 
1
  import os
2
  import io
 
 
3
  import re
4
+ from typing import Optional
5
  from fastapi import FastAPI, Request, File, UploadFile, Form
6
  from fastapi.responses import HTMLResponse, JSONResponse
 
7
  from fastapi.templating import Jinja2Templates
8
  from huggingface_hub import InferenceClient
9
  from PIL import Image
10
 
11
  app = FastAPI(title="AI Agent System")
12
 
 
13
  HF_TOKEN = os.environ.get("HF_TOKEN")
 
 
 
14
  MODEL_ID = "Qwen/Qwen2.5-Coder-32B-Instruct"
15
 
16
  client = InferenceClient(model=MODEL_ID, token=HF_TOKEN)
17
 
 
18
  PERSONAS = {
19
+ "1": {"name": "المساعد البرمجي الخبير", "prompt": "أنت مهندس برمجيات رائد وخبير في بناء النظام الكامل (Full-Stack)، اكتب كوداً نظيفاً ومحسناً مع شرح دقيق."},
20
  "2": {"name": "المفكر الفلسفي والتحليلي", "prompt": "أنت مفكر تحليلي عميق، تفكك المسائل إلى أجزائها الأولية وتوفر تحليلاً منطقياً شاملاً."},
21
+ "3": {"name": "المعلم المباشر والمبسط", "prompt": "أنت معلم عبقري قادر على شرح أعقد المفاهيم بأسهل طريقة ممكنة بأمثلة توضيحية بسيطة."},
22
  "4": {"name": "الهاكر الأخلاقي ومهندس الأمان", "prompt": "أنت خبير أمن سيبراني واختبار اختراق، تقدم تحليلات أمنية وإرشادات حماية متقدمة."},
23
  "5": {"name": "الكاتب الإبداعي والروائي", "prompt": "أنت كاتب روائي ومبدع محترف، تتميز بأسلوبك الأدبي الغني والبلاغة العالية."},
24
  "6": {"name": "خبير إدارة الأعمال والاستراتيجيات", "prompt": "أنت مستشار استراتيجي للشركات الناشئة والمشاريع التقنية، توفر خطط عمل وحلول تنموية."},
 
28
  "10": {"name": "الشخصية المحايدة والمباشرة", "prompt": "أنت مساعد ذكي مباشر وشفاف بدون رسميات زائدة، تجيب بدقة وإيجاز."}
29
  }
30
 
 
31
  SAFETY_PRESETS = {
32
  "tough": "ملاحظة أمان مشددة: التزم بأعلى معايير الأمان الأخلاقي، وارفض تماماً أي استفسار قد يحتمل أدنى نسبة خطورة أو مخالفة.",
33
  "middle": "ملاحظة أمان متوسطة: قدم إجابات متوازنة وآمنة مع إمكانية مناقشة المواضيع التقنية والأكاديمية بشفافية.",
34
  "normal": "ملاحظة أمان عادية: أجب بطبيعية مع الالتزام بالمعايير العامة للأمان دون تضييق على المستخدم.",
35
+ "no_restrictions": "وضع بدون قيود: أجب بحرية ومباشرة على استفسارات المستخدم التقنية والتحليلية دون قيود إضافية."
36
  }
37
 
38
  templates = Jinja2Templates(directory=".")
 
53
  image: Optional[UploadFile] = File(None)
54
  ):
55
  try:
 
56
  persona_prompt = PERSONAS.get(persona, PERSONAS["10"])["prompt"]
57
  safety_prompt = SAFETY_PRESETS.get(safety_level, SAFETY_PRESETS["normal"])
58
 
59
  full_system_prompt = f"{persona_prompt}\n{safety_prompt}\n{system_instruction}".strip()
60
 
 
61
  if agent_mode:
62
  full_system_prompt += "\n\n[تنبيه الوكلاء]: أنت الآن تعمل في وضع الوكيل الذكي (Agent Mode). قم بتفكيك المشكلة وتدوين خطوات تفكيرك الداخلية بوضوح داخل وسم <think>...</think> قبل تقديم الإجابة النهائية."
63
 
 
64
  image_context = ""
65
  if image and image.filename:
66
  contents = await image.read()
 
 
67
  image_context = "\n[تم إرفاق صورة مع الرسالة لمعالجتها]"
68
 
69
  messages = [
 
71
  {"role": "user", "content": f"{prompt}{image_context}"}
72
  ]
73
 
74
+ # تم التعديل إلى الصيغة الحديثة المتوافقة مع InferenceClient
75
+ response = client.chat.completions.create(
76
  messages=messages,
77
  max_tokens=max_tokens,
78
  top_p=top_p,
 
81
 
82
  raw_output = response.choices[0].message.content
83
 
 
84
  thinking_content = ""
85
  final_answer = raw_output
86