Update app.py

app.py

@@ -1,20 +1,36 @@
-import uvicorn
+import gradio as gr
 from fastapi import FastAPI
 from pydantic import BaseModel
 from transformers import pipeline
 
+# 1. Hugging Face'in otomatik tanıyacağı ana FastAPI objemiz
 app = FastAPI()
 
-# Model başarıyla iniyor, burada sorun yok
-pipe = pipeline("text-generation", model="Qwen/Qwen2.5-0.5B-Instruct", device="cpu")
+# 2. Modeli başlangıçta YÜKLEMİYORUZ (SSR Timeout yemesin diye)
+pipe = None
 
 class GenerateRequest(BaseModel):
     prompt: str
 
+# 3. Kendi API endpoint'imiz
 @app.post("/api/generate")
 def generate(request: GenerateRequest):
+    global pipe
+    # İlk POST isteği geldiğinde modeli belleğe alıyoruz
+    if pipe is None:
+        print("Model ilk istek için yükleniyor...")
+        pipe = pipeline("text-generation", model="Qwen/Qwen2.5-0.5B-Instruct", device="cpu")
+        
     output = pipe(request.prompt, max_new_tokens=256, do_sample=True, temperature=0.7)
     return {"response": output[0]['generated_text']}
 
-# Programın kapanmasını engelleyip 7860 portunda API isteklerini dinlemeye başlıyoruz
-uvicorn.run(app, host="0.0.0.0", port=7860)
+# 4. Hugging Face sistemini kandırmak için göstermelik (dummy) bir arayüz
+def dummy_ui(text):
+    return "UI devre dışı. İstekleri /api/generate adresine POST atın."
+
+demo = gr.Interface(fn=dummy_ui, inputs="text", outputs="text")
+
+# 5. Gradio arayüzünü FastAPI içine monte ediyoruz (HF sistemi bunu görünce rahatlayacak)
+app = gr.mount_gradio_app(app, demo, path="/")
+
+# DİKKAT: uvicorn.run() YAZMIYORUZ! Ayağa kaldırma işini HF'ye bırakıyoruz.