Transformers

يعمل Transformers كإطار لتعريف النماذج في نماذج التعلم الآلي المتقدمة في مجالات النص، ورؤية الحاسوب، والصوت، والفيديو، والنماذج متعددة الوسائط، لكل من الاستدلال والتدريب.

يُوحّد هذا التعريف النموذجي بحيث يتفق عليه عبر النظام البيئي بأكمله. يُعدّ transformers المحور الرئيسي عبر الأطر: فإذا كان تعريف النموذج مدعومًا، فسيكون متوافقًا مع الغالبية العظمى من أطر التدريب (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning, …)، ومحركات الاستدلال (vLLM, SGLang, TGI, …)، ومكتبات النمذجة المجاورة (llama.cpp, mlx, …) التي تستفيد من تعريف النموذج من transformers.

نعد بمساعدة ودعم نماذج جديدة متطورة، ونجعل استخدامها في متناول الجميع من خلال جعل تعريف النموذج بسيطًا وقابلًا للتخصيص وفعالًا.

تتوفر أكثر من مليون نقطة تفتيش لنماذج Transformers على Hugging Face Hub يمكنك استخدامها.

استكشف Hub اليوم للعثور على نموذج واستخدام Transformers لمساعدتك على البدء على الفور.

استكشف الجدول الزمني للنماذج لاكتشاف أحدث معماريات النماذج النصية والبصرية والصوتية والمتعددة الوسائط في Transformers.

الميزات

يوفر Transformers كل ما تحتاجه للاستدلال أو التدريب باستخدام نماذج مسبقة التدريب من الطراز الأحدث. وتشمل بعض الميزات الرئيسية:

• Pipeline: فئة استدلال بسيطة ومحسّنة للعديد من مهام تعلّم الآلة مثل توليد النص، وتجزئة الصور، والتعرف التلقائي على الكلام، والإجابة على أسئلة المستندات، وغيرها.
• Trainer: مُدرّب شامل يدعم ميزات مثل الدقة المختلطة وtorch.compile وFlashAttention للتدريب والتدريب الموزع لنماذج PyTorch.
• generate: توليد نصوص سريع باستخدام نماذج اللغة الكبيرة (LLMs) ونماذج اللغة والرؤية (VLMs)، مع دعم البث المباشر واستراتيجيات فك الترميز المتعددة.

التصميم

اقرأ فلسفتنا لمعرفة المزيد عن مبادئ تصميم Transformers.

صُمم Transformers للمطورين ومهندسي ومهندسي أبحاث تعلم الآلة. ومبادئ تصميمه الرئيسية هي:

1. سريع وسهل الاستخدام: كل نموذج مُنفَّذ من ثلاث فئات رئيسية فقط (الإعدادات، النموذج، والمعالج المسبق) ويمكن استخدامه بسرعة للاستدلال أو التدريب باستخدام Pipeline أو Trainer.
2. النماذج المُسبقة التدريب: قلّل بصمتك الكربونية وتكلفة الحساب والوقت من خلال استخدام نموذج مُسبق التدريب بدلاً من تدريب نموذج جديد بالكامل. يتم إعادة إنتاج كل نموذج مُسبق تدريب بأقرب ما يمكن إلى النموذج الأصلي، ويقدّم أداءً متقدماً على مستوى الحالة الفنية.

تعلّم

إذا كنت جديدًا على Transformers أو ترغب في معرفة المزيد حول نماذج transformer، فننصحك بالبدء مع دورة LLM. تغطي هذه الدورة الشاملة كل شيء، بدءًا من أساسيات عمل نماذج transformer وصولًا إلى التطبيقات العملية عبر مهام متنوعة. ستتعلم سير العمل الكامل، من إنشاء مجموعات بيانات عالية الجودة إلى ضبط نماذج اللغة الكبيرة على نحو دقيق وتنفيذ قدرات الاستدلال. تتضمن الدورة تمارين نظرية وعملية لبناء معرفة أساسية راسخة بنماذج transformer أثناء تعلمك.