Transformers documentation
متغيرات البيئة
متغيرات البيئة
تقبل المتغيرات المنطقية 1 أو on أو yes أو true بأي حالة أحرف. أي قيمة أخرى، بما في ذلك القيمة غير المحددة، تُعتبر خاطئة.
تُقرأ معظم هذه المتغيرات مرة واحدة عند استيراد Transformers. اضبطها في shell الخاص بك قبل تشغيل Python، أو باستخدام os.environ قبل الاستيراد. لا يؤثر تغييرها بعد ذلك على أي شيء.
TRANSFORMERS_VERBOSITY=info python run.py
يتم تكوين التخزين المؤقت والوصول إلى Hub عبر متغيرات HF_* التي يملكها huggingface_hub، مثل HF_HOME وHF_HUB_OFFLINE. راجع التثبيت للحصول على سير عمل عدم الاتصال.
التسجيل
يسجّل Transformers على مستوى warning. يوثّق Logging واجهة Python البرمجية المكافئة، بما في ذلك logging.set_verbosity().
| متغير | القيم | الوصف |
|---|---|---|
TRANSFORMERS_VERBOSITY | detail, debug, info, warning, error, critical | مستوى سجل المكتبة. يطابق detail مستوى debug ويضيف اسم الملف ورقم السطر إلى كل رسالة. تُصدر قيمة غير معروفة تحذيراً ثم تعود إلى warning. |
TRANSFORMERS_NO_ADVISORY_WARNINGS | boolean | تُخفي تحذيرات الاستشارة، وهي تلميحات الممارسات الفضلى التي لا تشير إلى وجود مشكلة. |
تحميل النموذج
تُحمَّل شُعب نقطة الحفظ بالتوازي افتراضيًا.
| متغير | القيم | الوصف |
|---|---|---|
HF_DEACTIVATE_ASYNC_LOAD | boolean | يحمّل الشظايا على الخيط الرئيسي بدلاً من مجموعة خيوط. يكون هذا أبطأ، لكن ذروة الذاكرة أسهل في التحليل. التحميل متسلسل بالفعل عند استخدام device_map لتفريغ البيانات إلى القرص أو عند التكميم أثناء التشغيل، لذا لا يؤثر هذا الخيار إلا على عمليات التحميل المتوازية الأخرى. |
DISABLE_SAFETENSORS_CONVERSION | boolean | يمنع Transformers من طلب نسخة safetensors من مستودع يحتوي فقط على أوزان .bin من PyTorch من روبوت التحويل في Hub. يُنصح بإعداده في CI، حيث يضيف هذا الطلب زمن استجابة إضافي وتقلبات في الشبكة. |
الأنوية والخوادم الخلفية
تُحمَّل النوى المُحسَّنة من Hub عند تثبيت kernels ودعم العتاد لها. عطّلها لعزل فرق عددي أو انهيار.
| متغير | القيم | الوصف |
|---|---|---|
USE_HUB_KERNELS | منطقي، مفعّل افتراضيًا | اضبطه على قيمة خاطئة للعودة إلى التطبيقات المرجعية. |
TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR | 1 | يفرض استخدام بديل Triton بدلاً من DeepGEMM لطبقات الخطي FP8 في تكميم FP8 الدقيق. |
TRANSFORMERS_DISABLE_TORCH_CHECK | 1 | يتخطى فحص الحد الأدنى لإصدار PyTorch عند الاستيراد. |
TRANSFORMERS_SDPA_FORCE_GQA | 1 | يفرض على PyTorch SDPA استخدام enable_gqa=True للانتباه الاستعلامي المجمّع. وإلا، يختار Transformers بين تعيين enable_gqa=True وتكرار رؤوس المفتاح/القيمة. |
Update on GitHub
TRANSFORMERS_DISABLE_TORCH_CHECKيزيل حارس الأمان بدلاً من تغيير السلوك. عند استخدام إصدار غير مدعوم من PyTorch، ستظهر أخطاء استيراد أو نتائج خاطئة بصمت بدلاً من رسالة واضحة.