Buckets:
AceStepTransformer1DModel
محوّل انتشار أحادي البُعد لتوليد الموسيقى من ACE-Step 1.5. يعمل النموذج على الكامنات الستيريو ذات التردد 25 هرتز التي ينتجها AutoencoderOobleck باستخدام مطابقة التدفق، وقد تم تدريبه على هيكل أساسي مشتق من Qwen3 (انتباه الاستعلامات المجمعة، تضمين موضع دوّار، RMSNorm، تكييف خطوة الزمن عبر AdaLN-Zero) بالإضافة إلى انتباه متقاطع مع شروط النص / الكلمات / طبقة الصوت التي يبنيها AceStepConditionEncoder.
AceStepTransformer1DModel[[diffusers.AceStepTransformer1DModel]]
diffusers.AceStepTransformer1DModel[[diffusers.AceStepTransformer1DModel]]
diffusers.AceStepTransformer1DModel(hidden_size: int = 2048, intermediate_size: int = 6144, num_hidden_layers: int = 24, num_attention_heads: int = 16, num_key_value_heads: int = 8, head_dim: int = 128, in_channels: int = 192, audio_acoustic_hidden_dim: int = 64, patch_size: int = 2, rope_theta: float = 1000000.0, attention_bias: bool = False, attention_dropout: float = 0.0, rms_norm_eps: float = 1e-06, sliding_window: int = 128, layer_types: typing.Optional[typing.List[str]] = None, encoder_hidden_size: typing.Optional[int] = None, is_turbo: bool = False, model_version: typing.Optional[str] = None)
نموذج Diffusion Transformer لتوليد الموسيقى في ACE-Step 1.5.
يولّد كامنات صوتية مشروطة بالنص والكلمات والأصوات. يستخدم تضمين رقعة أحادي البعد (Conv1d بخطوة patch_size) يليه مجموعة من AceStepTransformerBlocks مع تناوب بين الانتباه النافذي المنزلق والانتباه الكامل على فرع الانتباه الذاتي. يستهلك الانتباه المتقاطع encoder_hidden_states المعبّأ الذي تنتجه AceStepConditionEncoder.
forward[[diffusers.AceStepTransformer1DModel.forward]]
forward(hidden_states: Tensor, timestep: Tensor, timestep_r: Tensor, encoder_hidden_states: Tensor, context_latents: Tensor, attention_kwargs: typing.Optional[dict] = None, return_dict: bool = True)
المعاملات:
hidden_states (torch.Tensor من الشكل (batch_size, seq_len, channels)) : مدخل كامن ضوضائي لعملية الانتشار.
timestep (torch.Tensor من الشكل (batch_size,)) : خطوة الانتشار الحالية t.
timestep_r (torch.Tensor من الشكل (batch_size,)) : خطوة الزمن المرجعية r (تُضبط تساوي t للاستدلال القياسي).
encoder_hidden_states (torch.Tensor من الشكل (batch_size, encoder_seq_len, hidden_size)) : تمثيلات التكييف من مُشفِّر الشرط (النص + الكلمات + طبقة الصوت).
context_latents (torch.Tensor من الشكل (batch_size, seq_len, context_dim)) : كامنات السياق (الكامنات المصدرية المدمجة مع أقنعة المقاطع) — تُغذّى إلى طبقة patchify conv إلى جانب hidden_states.
attention_kwargs (dict، اختياري) : قاموس kwargs يُمرَّر إلى AttentionProcessor. يُستخدم لتمرير مقياس LoRA عبر {"scale": float}.
return_dict (bool، القيمة الافتراضية True) : ما إذا كان يجب إرجاع Transformer2DModelOutput أو مجرد tuple.
يعيد: Transformer2DModelOutput أو tuple
حقل السرعة المتوقع.
طريقة AceStepTransformer1DModel الأمامية.
Xet Storage Details
- Size:
- 4.26 kB
- Xet hash:
- 55eebc83439112b6a2058f89d738aa2767e18bfa906a626a22fb267206c76667
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.