# SGLang

[SGLang](https://docs.sglang.ai) هو محرك استدلال منخفض الكمون وعالي الإنتاجية لنماذج اللغة الكبيرة (LLMs). كما يتضمن لغة واجهة أمامية لبناء سير عمل الوكلاء.

اضبط `model_impl="transformers"` لتحميل واجهة برمجة نماذج Transformers.

```py
import sglang as sgl

llm = sgl.Engine("meta-llama/Llama-3.2-1B-Instruct", model_impl="transformers")
print(llm.generate(["The capital of France is"], {"max_new_tokens": 20})[0])
```

مرّر `--model-impl transformers` إلى أمر `sglang.launch_server` للخدمة عبر الإنترنت.

```bash
python3 -m sglang.launch_server \
  --model-path meta-llama/Llama-3.2-1B-Instruct \
  --model-impl transformers \
  --host 0.0.0.0 \
  --port 30000
```

## تكامل Transformers

إعداد `model_impl="transformers"` يُخبر SGLang بتخطي مطابقة النموذج الأصلية لديه واستخدام نموذج Transformers مباشرة.

1. [PreTrainedConfig.from_pretrained()](/docs/transformers/main/ar/main_classes/configuration#transformers.PreTrainedConfig.from_pretrained) loads the model's `config.json` from the Hub or your Hugging Face cache.
2. تحلّ [AutoModel.from_config()](/docs/transformers/main/ar/model_doc/auto#transformers.AutoModel.from_config) فئة النموذج بناءً على ملف الإعداد.
3. أثناء التحميل، يُضبط `_attn_implementation` على `"sglang"`. وهذا يوجّه استدعاءات الانتباه عبر نواة RadixAttention في SGLang.
4. يستبدل صف التوازي الخطي في SGLang طبقات الخطي لدعم توازي الموترات.
5. تعمل دالة [load_weights](https://github.com/sgl-project/sglang/blob/main/python/sglang/srt/models/transformers.py#L277) على تعبئة النموذج بالأوزان من ملفات safetensors.

يستفيد النموذج من جميع تحسينات SGLang مع استخدام بنية نموذج Transformers.

> [!WARNING]
> يتطلب النماذج المتوافقة `_supports_attention_backend=True` حتى يتمكن SGLang من التحكم في تنفيذ الانتباه. راجع دليل [بناء واجهة خلفية متوافقة للنموذج للاستدلال](./transformers_as_backend#model-implementation) للتفاصيل.

## الموارد

- تحتوي [وثائق SGLang](https://docs.sglang.ai/supported_models/transformers_fallback.html) على مزيد من أمثلة الاستخدام ونصائح حول استخدام Transformers كخلفية.
- يوضح منشور المدونة [تكامل خلفية Transformers في SGLang](https://huggingface.co/blog/transformers-backend-sglang) ما الذي يُمكّنه هذا التكامل.