OBLIHN_API / README.md
aertsimon90's picture
Update README.md
f2513f9 verified
|
Raw History Blame Contribute Delete
1.98 kB

A newer version of the Gradio SDK is available: 6.30.0

Upgrade
metadata
title: OBLIHN AI Backend
emoji: 🛡️
colorFrom: blue
colorTo: purple
sdk: gradio
sdk_version: 5.16.0
python_version: '3.10'
app_file: app.py
pinned: false

🛡️ OBLIHN AI — Lehnsherr Union Secure Backend

Bu Space, Lehnsherr Union (OBLIHN AI) ekosistemi için özel olarak tasarlanmış, yüksek performanslı ve güvenli bir Saf Metin Tamamlama ve Sohbet API (Completion & Chat API) altyapısıdır.

Görsel arayüz güvenlik amacıyla kapatılmıştır. Bu uç nokta yalnızca yetkilendirilmiş LSU Client yazılımları tarafından erişilebilir.


🔒 Güvenlik & Kimlik Doğrulama (Authentication)

Sisteme gelen tüm istekler SHA-512 tabanlı lsu_accesstoken doğrulamasından geçer. Yetkisiz erişimler ve dışarıdan gelen bilinmeyen istekler doğrudan reddedilir.

  • Protokol: HTTPS (SSL Şifreli İletişim)
  • Doğrulama Yöntemi: Client tarafından gönderilen lsu_accesstoken değeri sunucu tarafında SHA-512 algoritması ile hash'lenerek doğrulanır.

🚀 Desteklenen Modeller

Cold-start (başlangıç gecikmesi) süresini sıfıra indirmek için tüm modeller uygulama başlarken belleğe (VRAM) önyükleme yapar:

  1. Qwen/Qwen3.8-27B
  2. Qwen/Qwen3.5-9B
  3. deepseek-ai/DeepSeek-R1-Distill-Qwen-7B

💻 Client Entegrasyon Örneği (gradio_client)

Uç noktaya bağlanmak ve akış (streaming) almak için aşağıdaki Python client yapısı kullanılır:

from gradio_client import Client

client = Client("aertsimon90/OBLIHN_API") # Veya kendi Space adresiniz

job = client.submit(
    "Qwen/Qwen3.8-27B",          # Model adı
    "lsu_secret_key_or_token",   # LSU Access Token (Gizli Anahtar)
    [{"role": "user", "content": "Merhaba!"}], # Messages Payload
    0.7,                         # Temperature
    1024,                        # Max Tokens
    0.85,                        # Top-P
    api_name="/predict"
)

for chunk in job:
    print(chunk, end="")```