diffusers/main/ar/optimization/overview.md

نظرة عامة

استدلال الانتشار مكلف من الناحية الحسابية، وغالبًا ما تقوم بتشغيل DiffusionPipeline أكثر من مرة قبل أن ترضى عن النتيجة. توفر هذه الصفحة نظرة عامة على تقنيات تحسين Diffusers الرئيسية، وما تفعله، ومتى يجب استخدامها.

مسار البداية

عندما يتسع النموذج على وحدة معالجة رسومية واحدة، ابدأ بهذا التحميل الأساسي. اضبط dtype وضع خط الأنابيب على مُسرِّع. لا تلجأ إلى نقل النموذج إلى وحدة المعالجة المركزية إلا عندما تكون الذاكرة شحيحة. كما يمكنك تسريع الاستدلال بعدد أقل من الخطوات أو باستخدام مُجدول أسرع.

عند إهمال dtype، يقوم Diffusers بتحميل المكونات في float32. مرّر dtype=torch.bfloat16 (أو torch.float16 إذا لم يكن bfloat16 مدعوماً)، ثم ضع خط الأنابيب على مُسرّع باستخدام pipeline.to("cuda").

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    dtype=torch.bfloat16,
)
pipeline.to("cuda")  # or "mps", "xpu"

prompt = """
cinematic film still of a cat sipping a margarita in a pool in Palm Springs, California
highly detailed, high budget hollywood movie, cinemascope, moody, epic, gorgeous, film grain
"""
pipeline(prompt).images[0]

إذا لم يتسع خط المعالجة، أو كانت الذاكرة محدودة، فاستدعِ enable_model_cpu_offload() بدلاً من إبقاء كل شيء على وحدة معالجة الرسوميات. يضع هذا النموذج النشط على وحدة معالجة الرسوميات ويُبقي المكونات الأخرى على وحدة المعالجة المركزية.

تخطَّه عندما يتسع النموذج. فالتفريغ يكون أبطأ عندما لا تكون بحاجة إليه.

لمزيد من خيارات التفريغ، راجع تقليل استخدام الذاكرة.

pipeline = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    dtype=torch.bfloat16,
)
pipeline.enable_model_cpu_offload()

تقليل زمن الاستجابة باستخدام عدد أقل من num_inference_steps أو باستخدام جدولة أسرع مثل DPMSolverMultistepScheduler. عادةً ما يؤدي ذلك إلى تسريع عملية التوليد، لكنه قد يُقلل من جودة الصورة مقارنةً بجدولة أبطأ وأعلى جودة. راجع تقنيات التحسين أدناه لمزيد من تقنيات زيادة السرعة.

import time
from diffusers import DPMSolverMultistepScheduler

pipeline.scheduler = DPMSolverMultistepScheduler.from_config(pipeline.scheduler.config)

start_time = time.perf_counter()
image = pipeline(prompt, num_inference_steps=25).images[0]
end_time = time.perf_counter()

print(f"Image generation took {end_time - start_time:.3f} seconds")

تقنيات التحسين

عندما لا تكون المسار الابتدائي كافية، استخدم هذه التقنيات. إذا كانت الاستدلال بطيئة جداً، ابدأ بـtorch.compile، أو التخزين المؤقت، أو واجهات الخلفية للانتباه. إذا كنت تعاني من نفاد الذاكرة، ابدأ بإزاحة الأحمال أو التكميم.

استدلال أسرع:

• torch.compile — تجميع UNet أو transformer أو VAE إلى نوى مُحسَّنة.
• التجميع الإقليمي — قم بتجميع الكتل المتكررة لتقليل زمن بدء التشغيل البارد لـ torch.compile وإعادة استخدام المخرجات المُجمَّعة.
• التخزين المؤقت — إعادة استخدام القيم الوسيطة عبر خطوات إزالة الضوضاء عندما ترغب في مزيد من السرعة وتستطيع تخصيص ذاكرة أكبر.
• واجهات الانتباه الخلفية — استبدل تنفيذات الانتباه في Diffusers عبر واجهة موحّدة عندما يكون الانتباه هو عنق الزجاجة.
• النوى — حمّل نوى الحوسبة المُحسَّنة من Hub (نوى الانتباه وعمليات CUDA المخصصة مثل RMSNorm أو RoPE) عندما تحتاج إلى تسريع محدد للعتاد يتجاوز ما توفره PyTorch القياسية.

ذاكرة أقل:

• إخلاء الأحمال — نقل النماذج أو الطبقات غير النشطة إلى وحدة المعالجة المركزية (CPU) باستخدام إخلاء الأحمال على مستوى وحدة المعالجة المركزية أو النموذج أو المجموعة.
• التكميم — تحميل أوزان أصغر لتقليل الذاكرة (كما تُسرّع بعض الخلفيات الاستدلال أيضاً). GGUF هو نقطة انطلاق شائعة.
• تقطيع VAE و تقسيم VAE — فكّ ترميز دفعات كبيرة أو صور عالية الدقة على شكل قطع لتقليل ذروة الذاكرة.

كلاهما:

• الكمّية والتجميع والإزاحة — اجمع بين الكمّية وtorch.compile والإزاحة عندما لا تكفي تقنية واحدة.