diffusers/main/ar/api/attnprocessor.md

معالج الانتباه

معالج الانتباه هو فئة لتطبيق أنواع مختلفة من آليات الانتباه.

AttnProcessor[[diffusers.models.attention_processor.AttnProcessor]]

diffusers.models.attention_processor.AttnProcessor[[diffusers.models.attention_processor.AttnProcessor]]

diffusers.models.attention_processor.AttnProcessor()

المصدر

المعالج الافتراضي لتنفيذ العمليات الحسابية المتعلقة بالانتباه.

diffusers.models.attention_processor.AttnProcessor2_0[[diffusers.models.attention_processor.AttnProcessor2_0]]

diffusers.models.attention_processor.AttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0).

diffusers.models.attention_processor.AttnAddedKVProcessor[[diffusers.models.attention_processor.AttnAddedKVProcessor]]

diffusers.models.attention_processor.AttnAddedKVProcessor()

المصدر

المعالج لتنفيذ عمليات الحساب المتعلقة بالانتباه مع مصفوفات مفتاح وقيمة قابلة للتعلم إضافية لمشفّر النص.

diffusers.models.attention_processor.AttnAddedKVProcessor2_0[[diffusers.models.attention_processor.AttnAddedKVProcessor2_0]]

diffusers.models.attention_processor.AttnAddedKVProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضياً إذا كنت تستخدم PyTorch 2.0)، مع مصفوفات مفتاح وقيمة قابلة للتعلم إضافية لمشفّر النص.

diffusers.models.attention_processor.AttnProcessorNPU[[diffusers.models.attention_processor.AttnProcessorNPU]]

diffusers.models.attention_processor.AttnProcessorNPU()

المصدر

معالج لتنفيذ الانتباه البرقي (flash attention) باستخدام torch_npu. يدعم torch_npu أنواع البيانات fp16 وbf16 فقط. إذا تم استخدام fp32، فسيتم استخدام F.scaled_dot_product_attention للتحسب، لكن تأثير التسريع على NPU لن يكون كبيراً.

diffusers.models.attention_processor.FusedAttnProcessor2_0[[diffusers.models.attention_processor.FusedAttnProcessor2_0]]

diffusers.models.attention_processor.FusedAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). يستخدم طبقات إسقاط مدمجة. بالنسبة لوحدات الانتباه الذاتي، يتم دمج جميع مصفوفات الإسقاط (أي الاستعلام، المفتاح، القيمة). أما بالنسبة لوحدات الانتباه المتقاطع، فتتم دمج مصفوفات إسقاط المفتاح والقيمة.

> هذه الواجهة البرمجية (API) تجريبية 🧪 في الوقت الحالي وقد تتغير في المستقبل.

Allegro[[diffusers.models.attention_processor.AllegroAttnProcessor2_0]]

diffusers.models.attention_processor.AllegroAttnProcessor2_0[[diffusers.models.attention_processor.AllegroAttnProcessor2_0]]

diffusers.models.attention_processor.AllegroAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج Allegro. إنه يطبّق طبقة تطبيع وتضمين دوّاري على متجه الاستعلام ومتجه المفتاح.

AuraFlow[[diffusers.models.attention_processor.AuraFlowAttnProcessor2_0]]

diffusers.models.attention_processor.AuraFlowAttnProcessor2_0[[diffusers.models.attention_processor.AuraFlowAttnProcessor2_0]]

diffusers.models.attention_processor.AuraFlowAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة Aura Flow.

diffusers.models.attention_processor.FusedAuraFlowAttnProcessor2_0[[diffusers.models.attention_processor.FusedAuraFlowAttnProcessor2_0]]

diffusers.models.attention_processor.FusedAuraFlowAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة Aura Flow مع الإسقاطات المدمجة.

CogVideoX[[diffusers.models.attention_processor.CogVideoXAttnProcessor2_0]]

diffusers.models.attention_processor.CogVideoXAttnProcessor2_0[[diffusers.models.attention_processor.CogVideoXAttnProcessor2_0]]

diffusers.models.attention_processor.CogVideoXAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب (scaled dot-product attention) لنموذج CogVideoX. يطبّق تضمينًا دوّاريًا (rotary embedding) على متجهات الاستعلام والمفتاح، لكنه لا يتضمن تطبيعًا مكانيًا.

diffusers.models.attention_processor.FusedCogVideoXAttnProcessor2_0[[diffusers.models.attention_processor.FusedCogVideoXAttnProcessor2_0]]

diffusers.models.attention_processor.FusedCogVideoXAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب (scaled dot-product attention) لنموذج CogVideoX. يطبّق تضمينًا دوّاريًا (rotary embedding) على متجهات الاستعلام والمفتاح، لكنه لا يتضمن تطبيعًا مكانيًا.

DreamLite[[diffusers.models.unets.unet_dreamlite.DreamLiteAttnProcessor2_0]]

diffusers.models.unets.unet_dreamlite.DreamLiteAttnProcessor2_0[[diffusers.models.unets.unet_dreamlite.DreamLiteAttnProcessor2_0]]

diffusers.models.unets.unet_dreamlite.DreamLiteAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه المتدرج بناتج نقطي مع دعم الانتباه الاستعلامي المجمّع (GQA / MQA).

يُطابق AttnProcessor2_0 باستثناء أن فرع إعادة تشكيل المفتاح/القيمة يتعامل بشكل صحيح مع attn.kv_heads != attn.heads من خلال إعادة تشكيل K/V إلى kv_heads ثم تكرارها باستخدام repeat_interleave حتى attn.heads. هذا مطلوب بواسطة DreamLite UNet، الذي يجمع بين GQA وqk_norm — وهي مجموعة لا يتعامل معها AttnProcessor2_0 الافتراضي. يتم تفويض SDPA إلى dispatch_attention_fn بحيث يمكن استخدام أي من واجهات الانتباه في diffusers (SDPA الأصلي في PyTorch، FlashAttention، إلخ).

Custom Diffusion[[diffusers.models.attention_processor.CustomDiffusionAttnProcessor]]

diffusers.models.attention_processor.CustomDiffusionAttnProcessor[[diffusers.models.attention_processor.CustomDiffusionAttnProcessor]]

diffusers.models.attention_processor.CustomDiffusionAttnProcessor(train_kv: bool = True, train_q_out: bool = True, hidden_size: int | None = None, cross_attention_dim: int | None = None, out_bias: bool = True, dropout: float = 0.0)

المصدر

المعاملات:

train_kv (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات المفتاح والقيمة المقابلة لميزات النص بشكل جديد.

train_q_out (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات استعلام جديدة تتوافق مع ميزات الصورة الكامنة.

hidden_size (int، اختياري، القيمة الافتراضية None) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int، اختياري، القيمة الافتراضية None) : عدد القنوات في encoder_hidden_states.

out_bias (bool، القيمة الافتراضية True) : ما إذا كان سيتم تضمين معامل الانحياز في train_q_out.

dropout (float، اختياري، القيمة الافتراضية 0.0) : احتمال الإسقاط (dropout) المستخدم.

معالج لتنفيذ الانتباه لطريقة التخصيص المخصص.

diffusers.models.attention_processor.CustomDiffusionAttnProcessor2_0[[diffusers.models.attention_processor.CustomDiffusionAttnProcessor2_0]]

diffusers.models.attention_processor.CustomDiffusionAttnProcessor2_0(train_kv: bool = True, train_q_out: bool = True, hidden_size: int | None = None, cross_attention_dim: int | None = None, out_bias: bool = True, dropout: float = 0.0)

المصدر

المعاملات:

train_kv (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات المفتاح والقيمة المقابلة لميزات النص بشكل جديد.

train_q_out (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات استعلام جديدة تتوافق مع ميزات الصورة الكامنة.

hidden_size (int، اختياري، القيمة الافتراضية None) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int، اختياري، القيمة الافتراضية None) : عدد القنوات في encoder_hidden_states.

out_bias (bool، القيمة الافتراضية True) : ما إذا كان سيتم تضمين معامل الانحياز في train_q_out.

dropout (float، اختياري، القيمة الافتراضية 0.0) : احتمال الإسقاط (dropout) المستخدم.

معالج لتنفيذ الانتباه (Attention) لطريقة Custom Diffusion باستخدام الانتباه النقطي المتدرج الموفر للذاكرة في PyTorch 2.0.

diffusers.models.attention_processor.CustomDiffusionXFormersAttnProcessor[[diffusers.models.attention_processor.CustomDiffusionXFormersAttnProcessor]]

diffusers.models.attention_processor.CustomDiffusionXFormersAttnProcessor(train_kv: bool = True, train_q_out: bool = False, hidden_size: int | None = None, cross_attention_dim: int | None = None, out_bias: bool = True, dropout: float = 0.0, attention_op: Callable | None = None)

المصدر

المعاملات:

train_kv (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات المفتاح والقيمة المقابلة لميزات النص بشكل جديد.

train_q_out (bool، القيمة الافتراضية True) : ما إذا كان سيتم تدريب مصفوفات استعلام جديدة تتوافق مع ميزات الصورة الكامنة.

hidden_size (int، اختياري، القيمة الافتراضية None) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int، اختياري، القيمة الافتراضية None) : عدد القنوات في encoder_hidden_states.

out_bias (bool، القيمة الافتراضية True) : ما إذا كان سيتم تضمين معامل الانحياز في train_q_out.

dropout (float، اختياري، القيمة الافتراضية 0.0) : احتمال الإسقاط (dropout) المستخدم.

attention_op (Callable، اختياري، القيمة الافتراضية None) : المُشغِّل الأساسي الذي يُستخدم كمُشغِّل الانتباه. يُوصى بإعداده على None، والسماح لـ xFormers باختيار أفضل مُشغِّل.

المعالج لتنفيذ الانتباه الموفّر للذاكرة باستخدام xFormers لطريقة Custom Diffusion.

Flux[[diffusers.models.attention_processor.FluxAttnProcessor2_0]]

diffusers.models.attention_processor.FluxAttnProcessor2_0[[diffusers.models.attention_processor.FluxAttnProcessor2_0]]

diffusers.models.attention_processor.FluxAttnProcessor2_0(*args, **kwargs)

المصدر

diffusers.models.attention_processor.FusedFluxAttnProcessor2_0[[diffusers.models.attention_processor.FusedFluxAttnProcessor2_0]]

diffusers.models.attention_processor.FusedFluxAttnProcessor2_0(*args, **kwargs)

المصدر

diffusers.models.attention_processor.FluxSingleAttnProcessor2_0[[diffusers.models.attention_processor.FluxSingleAttnProcessor2_0]]

diffusers.models.attention_processor.FluxSingleAttnProcessor2_0(*args, **kwargs)

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0).

Hunyuan[[diffusers.models.attention_processor.HunyuanAttnProcessor2_0]]

diffusers.models.attention_processor.HunyuanAttnProcessor2_0[[diffusers.models.attention_processor.HunyuanAttnProcessor2_0]]

diffusers.models.attention_processor.HunyuanAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج HunyuanDiT. إنه يطبّق طبقة تطبيع s وتضمين دوّاري على متجه الاستعلام ومتجه المفتاح.

diffusers.models.attention_processor.FusedHunyuanAttnProcessor2_0[[diffusers.models.attention_processor.FusedHunyuanAttnProcessor2_0]]

diffusers.models.attention_processor.FusedHunyuanAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0) مع طبقات إسقاط مدمجة. يُستخدم هذا في نموذج HunyuanDiT. إنه يطبّق طبقة تطبيع s وتضمين دوّاري على متجه الاستعلام ومتجه المفتاح.

diffusers.models.attention_processor.PAGHunyuanAttnProcessor2_0[[diffusers.models.attention_processor.PAGHunyuanAttnProcessor2_0]]

diffusers.models.attention_processor.PAGHunyuanAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضياً إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج HunyuanDiT. يطبّق طبقة تطبيع وتضمين دوّاري على متجهات الاستعلام والمفتاح. يستخدم هذا المتغير من المعالج Pertubed Attention Guidance.

diffusers.models.attention_processor.PAGCFGHunyuanAttnProcessor2_0[[diffusers.models.attention_processor.PAGCFGHunyuanAttnProcessor2_0]]

diffusers.models.attention_processor.PAGCFGHunyuanAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضياً إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج HunyuanDiT. يطبّق طبقة تطبيع وتضمين دوّاري على متجهات الاستعلام والمفتاح. يستخدم هذا المتغير من المعالج Pertubed Attention Guidance.

IdentitySelfAttnProcessor2_0[[diffusers.models.attention_processor.PAGIdentitySelfAttnProcessor2_0]]

diffusers.models.attention_processor.PAGIdentitySelfAttnProcessor2_0[[diffusers.models.attention_processor.PAGIdentitySelfAttnProcessor2_0]]

diffusers.models.attention_processor.PAGIdentitySelfAttnProcessor2_0()

المصدر

معالج لتنفيذ PAG باستخدام الانتباه المضبوط بنقطة الضرب (مفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). مرجع PAG: https://huggingface.co/papers/2403.17377

diffusers.models.attention_processor.PAGCFGIdentitySelfAttnProcessor2_0[[diffusers.models.attention_processor.PAGCFGIdentitySelfAttnProcessor2_0]]

diffusers.models.attention_processor.PAGCFGIdentitySelfAttnProcessor2_0()

المصدر

معالج لتنفيذ PAG باستخدام الانتباه المضبوط بنقطة الضرب (مفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). مرجع PAG: https://huggingface.co/papers/2403.17377

IP-Adapter[[diffusers.models.attention_processor.IPAdapterAttnProcessor]]

diffusers.models.attention_processor.IPAdapterAttnProcessor[[diffusers.models.attention_processor.IPAdapterAttnProcessor]]

diffusers.models.attention_processor.IPAdapterAttnProcessor(hidden_size, cross_attention_dim = None, num_tokens = (4,), scale = 1.0)

المصدر

المعاملات:

hidden_size (int) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int) : عدد القنوات في encoder_hidden_states.

num_tokens (int أو tuple[int] أو list[int]، الافتراضي (4,)) : طول سياق ميزات الصورة.

scale (float أو قائمةfloat، القيمة الافتراضية 1.0) : معامل وزن موجه الصورة.

معالج الانتباه لعدة محولات IP-Adapter.

diffusers.models.attention_processor.IPAdapterAttnProcessor2_0[[diffusers.models.attention_processor.IPAdapterAttnProcessor2_0]]

diffusers.models.attention_processor.IPAdapterAttnProcessor2_0(hidden_size, cross_attention_dim = None, num_tokens = (4,), scale = 1.0)

المصدر

المعاملات:

hidden_size (int) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int) : عدد القنوات في encoder_hidden_states.

num_tokens (int أو tuple[int] أو list[int]، الافتراضي (4,)) : طول سياق ميزات الصورة.

scale (float أو list[float]، القيمة الافتراضية 1.0) : معامل وزن موجه الصورة.

معالج الانتباه لـ IP-Adapter في PyTorch 2.0.

diffusers.models.attention_processor.SD3IPAdapterJointAttnProcessor2_0[[diffusers.models.attention_processor.SD3IPAdapterJointAttnProcessor2_0]]

diffusers.models.attention_processor.SD3IPAdapterJointAttnProcessor2_0(hidden_size: int, ip_hidden_states_dim: int, head_dim: int, timesteps_emb_dim: int = 1280, scale: float = 0.5)

المصدر

المعاملات:

hidden_size (int) : عدد القنوات المخفية.

ip_hidden_states_dim (int) : بُعد ميزات الصورة.

head_dim (int) : عدد قنوات الرأس.

timesteps_emb_dim (int، القيمة الافتراضية 1280) : عدد قنوات الإدخال لتضمين خطوة الزمن.

scale (float، القيمة الافتراضية 0.5) : مقياس IP-Adapter.

معالج الانتباه الخاص بـ IP-Adapter، يُستخدم عادةً في معالجة إسقاطات الانتباه الذاتي المشابهة لـ SD3، مع معلومات إضافية مبنية على الصور وتضمينات خطوات الزمن.

JointAttnProcessor2_0[[diffusers.models.attention_processor.JointAttnProcessor2_0]]

diffusers.models.attention_processor.JointAttnProcessor2_0[[diffusers.models.attention_processor.JointAttnProcessor2_0]]

diffusers.models.attention_processor.JointAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة إسقاطات الانتباه الذاتي المشابهة لـ SD3.

diffusers.models.attention_processor.PAGJointAttnProcessor2_0[[diffusers.models.attention_processor.PAGJointAttnProcessor2_0]]

diffusers.models.attention_processor.PAGJointAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة إسقاطات الانتباه الذاتي المشابهة لـ SD3.

diffusers.models.attention_processor.PAGCFGJointAttnProcessor2_0[[diffusers.models.attention_processor.PAGCFGJointAttnProcessor2_0]]

diffusers.models.attention_processor.PAGCFGJointAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة إسقاطات الانتباه الذاتي المشابهة لـ SD3.

diffusers.models.attention_processor.FusedJointAttnProcessor2_0[[diffusers.models.attention_processor.FusedJointAttnProcessor2_0]]

diffusers.models.attention_processor.FusedJointAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم عادةً في معالجة إسقاطات الانتباه الذاتي المشابهة لـ SD3.

LoRA[[diffusers.models.attention_processor.LoRAAttnProcessor]]

diffusers.models.attention_processor.LoRAAttnProcessor[[diffusers.models.attention_processor.LoRAAttnProcessor]]

diffusers.models.attention_processor.LoRAAttnProcessor()

المصدر

معالج لتنفيذ الانتباه باستخدام LoRA.

diffusers.models.attention_processor.LoRAAttnProcessor2_0[[diffusers.models.attention_processor.LoRAAttnProcessor2_0]]

diffusers.models.attention_processor.LoRAAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه مع LoRA (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0).

diffusers.models.attention_processor.LoRAAttnAddedKVProcessor[[diffusers.models.attention_processor.LoRAAttnAddedKVProcessor]]

diffusers.models.attention_processor.LoRAAttnAddedKVProcessor()

المصدر

المعالج لتنفيذ الانتباه مع LoRA مصحوبًا بمصفوفات مفاتيح وقيم قابلة للتعلم إضافية لمشفّر النص.

diffusers.models.attention_processor.LoRAXFormersAttnProcessor[[diffusers.models.attention_processor.LoRAXFormersAttnProcessor]]

diffusers.models.attention_processor.LoRAXFormersAttnProcessor()

المصدر

معالج لتنفيذ الانتباه باستخدام LoRA مع xFormers.

Lumina-T2X[[diffusers.models.attention_processor.LuminaAttnProcessor2_0]]

diffusers.models.attention_processor.LuminaAttnProcessor2_0[[diffusers.models.attention_processor.LuminaAttnProcessor2_0]]

diffusers.models.attention_processor.LuminaAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج LuminaNextDiT. إنه يطبّق طبقة تطبيع s وتضمين دوّاري على متجه الاستعلام ومتجه المفتاح.

Mochi[[diffusers.models.attention_processor.MochiAttnProcessor2_0]]

diffusers.models.attention_processor.MochiAttnProcessor2_0[[diffusers.models.attention_processor.MochiAttnProcessor2_0]]

diffusers.models.attention_processor.MochiAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم في Mochi.

diffusers.models.attention_processor.MochiVaeAttnProcessor2_0[[diffusers.models.attention_processor.MochiVaeAttnProcessor2_0]]

diffusers.models.attention_processor.MochiVaeAttnProcessor2_0()

المصدر

معالج الانتباه المستخدم في Mochi VAE.

Sana[[diffusers.models.attention_processor.SanaLinearAttnProcessor2_0]]

diffusers.models.attention_processor.SanaLinearAttnProcessor2_0[[diffusers.models.attention_processor.SanaLinearAttnProcessor2_0]]

diffusers.models.attention_processor.SanaLinearAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه الخطي بنقطة منتج مُقَيَّس.

diffusers.models.attention_processor.SanaMultiscaleAttnProcessor2_0[[diffusers.models.attention_processor.SanaMultiscaleAttnProcessor2_0]]

diffusers.models.attention_processor.SanaMultiscaleAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه التربيعي متعدد المقاييس.

diffusers.models.attention_processor.PAGCFGSanaLinearAttnProcessor2_0[[diffusers.models.attention_processor.PAGCFGSanaLinearAttnProcessor2_0]]

diffusers.models.attention_processor.PAGCFGSanaLinearAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه الخطي بنقطة منتج مُقَيَّس.

diffusers.models.attention_processor.PAGIdentitySanaLinearAttnProcessor2_0[[diffusers.models.attention_processor.PAGIdentitySanaLinearAttnProcessor2_0]]

diffusers.models.attention_processor.PAGIdentitySanaLinearAttnProcessor2_0()

المصدر

معالج لتنفيذ الانتباه الخطي بنقطة منتج مُقَيَّس.

Stable Audio[[diffusers.models.attention_processor.StableAudioAttnProcessor2_0]]

diffusers.models.attention_processor.StableAudioAttnProcessor2_0[[diffusers.models.attention_processor.StableAudioAttnProcessor2_0]]

diffusers.models.attention_processor.StableAudioAttnProcessor2_0()

المصدر

المعالج لتنفيذ الانتباه المتدرج بنقطة الضرب (مُفعّل افتراضيًا إذا كنت تستخدم PyTorch 2.0). يُستخدم هذا في نموذج Stable Audio. إنه يطبّق التضمين الدوّاري على متجه الاستعلام ومتجه المفتاح، ويسمح بـ MHA أو GQA أو MQA.

SlicedAttnProcessor[[diffusers.models.attention_processor.SlicedAttnProcessor]]

diffusers.models.attention_processor.SlicedAttnProcessor[[diffusers.models.attention_processor.SlicedAttnProcessor]]

diffusers.models.attention_processor.SlicedAttnProcessor(slice_size: int)

المصدر

المعاملات:

slice_size (int, اختياري) : عدد الخطوات لحساب الانتباه. يستخدم عددًا من الشرائح يساوي attention_head_dim // slice_size، ويجب أن يكون attention_head_dim مضاعفًا لـ slice_size.

معالج لتنفيذ الانتباه المقطّع.

diffusers.models.attention_processor.SlicedAttnAddedKVProcessor[[diffusers.models.attention_processor.SlicedAttnAddedKVProcessor]]

diffusers.models.attention_processor.SlicedAttnAddedKVProcessor(slice_size)

المصدر

المعاملات:

slice_size (int, اختياري) : عدد الخطوات لحساب الانتباه. يستخدم عددًا من الشرائح يساوي attention_head_dim // slice_size، ويجب أن يكون attention_head_dim مضاعفًا لـ slice_size.

معالج لتنفيذ الانتباه المقطعي مع مصفوفات مفتاح وقيمة قابلة للتعلم إضافية لمشفّر النص.

XFormersAttnProcessor[[diffusers.models.attention_processor.XFormersAttnProcessor]]

diffusers.models.attention_processor.XFormersAttnProcessor[[diffusers.models.attention_processor.XFormersAttnProcessor]]

diffusers.models.attention_processor.XFormersAttnProcessor(attention_op: Callable | None = None)

المصدر

المعاملات:

attention_op (Callable، اختياري، القيمة الافتراضية None) : المُشغِّل الأساسي الذي يُستخدم كمُشغِّل الانتباه. يُوصى بإعداده على None، والسماح لـ xFormers باختيار أفضل مُشغِّل.

معالج لتنفيذ الانتباه الموفّر للذاكرة باستخدام xFormers.

diffusers.models.attention_processor.XFormersAttnAddedKVProcessor[[diffusers.models.attention_processor.XFormersAttnAddedKVProcessor]]

diffusers.models.attention_processor.XFormersAttnAddedKVProcessor(attention_op: Callable | None = None)

المصدر

المعاملات:

attention_op (Callable، اختياري، القيمة الافتراضية None) : المُشغِّل الأساسي الذي يُستخدم كمُشغِّل الانتباه. يُوصى بإعداده على None، والسماح لـ xFormers باختيار أفضل مُشغِّل.

معالج لتنفيذ الانتباه الموفّر للذاكرة باستخدام xFormers.

XLAFlashAttnProcessor2_0[[diffusers.models.attention_processor.XLAFlashAttnProcessor2_0]]

diffusers.models.attention_processor.XLAFlashAttnProcessor2_0[[diffusers.models.attention_processor.XLAFlashAttnProcessor2_0]]

diffusers.models.attention_processor.XLAFlashAttnProcessor2_0(partition_spec: tuple[str | None, ...] | None = None)

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب مع نواة فلاش انتباه بالاس عند استخدام torch_xla.

XFormersJointAttnProcessor[[diffusers.models.attention_processor.XFormersJointAttnProcessor]]

diffusers.models.attention_processor.XFormersJointAttnProcessor[[diffusers.models.attention_processor.XFormersJointAttnProcessor]]

diffusers.models.attention_processor.XFormersJointAttnProcessor(attention_op: Callable | None = None)

المصدر

المعاملات:

attention_op (Callable، اختياري، القيمة الافتراضية None) : المُشغِّل الأساسي الذي يُستخدم كمُشغِّل الانتباه. يُوصى بإعداده على None، والسماح لـ xFormers باختيار أفضل مُشغِّل.

معالج لتنفيذ الانتباه الموفّر للذاكرة باستخدام xFormers.

IPAdapterXFormersAttnProcessor[[diffusers.models.attention_processor.IPAdapterXFormersAttnProcessor]]

diffusers.models.attention_processor.IPAdapterXFormersAttnProcessor[[diffusers.models.attention_processor.IPAdapterXFormersAttnProcessor]]

diffusers.models.attention_processor.IPAdapterXFormersAttnProcessor(hidden_size, cross_attention_dim = None, num_tokens = (4,), scale = 1.0, attention_op: Callable | None = None)

المصدر

المعاملات:

hidden_size (int) : حجم الطبقة المخفية لطبقة الانتباه.

cross_attention_dim (int) : عدد القنوات في encoder_hidden_states.

num_tokens (int أو tuple[int] أو list[int]، الافتراضي (4,)) : طول سياق ميزات الصورة.

scale (float أو list[float]، القيمة الافتراضية 1.0) : معامل وزن موجه الصورة.

attention_op (Callable، اختياري، القيمة الافتراضية None) : المُشغِّل الأساسي الذي يُستخدم كمُشغِّل الانتباه. يُوصى بإعداده على None، والسماح لـ xFormers باختيار أفضل مُشغِّل.

معالج الانتباه لـ IP-Adapter باستخدام xFormers.

FluxIPAdapterJointAttnProcessor2_0[[diffusers.models.attention_processor.FluxIPAdapterJointAttnProcessor2_0]]

diffusers.models.attention_processor.FluxIPAdapterJointAttnProcessor2_0[[diffusers.models.attention_processor.FluxIPAdapterJointAttnProcessor2_0]]

diffusers.models.attention_processor.FluxIPAdapterJointAttnProcessor2_0(*args, **kwargs)

المصدر

XLAFluxFlashAttnProcessor2_0[[diffusers.models.attention_processor.XLAFluxFlashAttnProcessor2_0]]

diffusers.models.attention_processor.XLAFluxFlashAttnProcessor2_0[[diffusers.models.attention_processor.XLAFluxFlashAttnProcessor2_0]]

diffusers.models.attention_processor.XLAFluxFlashAttnProcessor2_0(*args, **kwargs)

المصدر

معالج لتنفيذ الانتباه المتدرج بنقطة الضرب مع نواة فلاش انتباه بالاس عند استخدام torch_xla.