Buckets:

hf-doc-build/doc / diffusers /main /tr /api /models /ace_step_transformer.md
mishig's picture
|
download
raw
3.69 kB

AceStepTransformer1DModel

ACE-Step 1.5 kaynaklı müzik üretimi için 1B Diffusion Transformer. Model, AutoencoderOobleck tarafından üretilen 25 Hz stereo latentler üzerinde flow matching kullanarak çalışır ve Qwen3 türevli bir omurga (grouped-query attention, rotary position embedding, RMSNorm, AdaLN-Zero timestep conditioning) ile AceStepConditionEncoder tarafından oluşturulan metin / söz / timbre koşullarına yönelik cross-attention ile eğitilir.

AceStepTransformer1DModel[[diffusers.AceStepTransformer1DModel]]

diffusers.AceStepTransformer1DModel[[diffusers.AceStepTransformer1DModel]]

diffusers.AceStepTransformer1DModel(hidden_size: int = 2048, intermediate_size: int = 6144, num_hidden_layers: int = 24, num_attention_heads: int = 16, num_key_value_heads: int = 8, head_dim: int = 128, in_channels: int = 192, audio_acoustic_hidden_dim: int = 64, patch_size: int = 2, rope_theta: float = 1000000.0, attention_bias: bool = False, attention_dropout: float = 0.0, rms_norm_eps: float = 1e-06, sliding_window: int = 128, layer_types: typing.Optional[typing.List[str]] = None, encoder_hidden_size: typing.Optional[int] = None, is_turbo: bool = False, model_version: typing.Optional[str] = None)

Kaynak

ACE-Step 1.5 müzik üretimi için Diffusion Transformer.

Metin, sözler ve tınıya koşullu ses latentleri üretir. 1D yama gömme (patch_size adımına sahip Conv1d) ardından kendine dikkat (self-attention) dalında sırayla kayan pencere / tam dikkat (full attention) kullanan AceStepTransformerBlock yığını kullanır. Çapraz dikkat (cross-attention), AceStepConditionEncoder tarafından üretilen paketlenmiş encoder_hidden_states'i tüketir.

forward[[diffusers.AceStepTransformer1DModel.forward]]

forward(hidden_states: Tensor, timestep: Tensor, timestep_r: Tensor, encoder_hidden_states: Tensor, context_latents: Tensor, attention_kwargs: typing.Optional[dict] = None, return_dict: bool = True)

Kaynak

Parametreler:

hidden_states (torch.Tensor, şekli (batch_size, seq_len, channels)) : Difüzyon süreci için gürültülü latent giriş.

timestep (torch.Tensor, şekli (batch_size,)) : Mevcut difüzyon zaman adımı t.

timestep_r (torch.Tensor, şekli (batch_size,)) : Referans zaman adımı r (standart çıkarım için t ile eşit olarak ayarlanır).

encoder_hidden_states (torch.Tensor, şekli (batch_size, encoder_seq_len, hidden_size)) : Koşul kodlayıcısından (metin + sözler + ton) gelen koşullama gömme değerleri.

context_latents (torch.Tensor, şekli (batch_size, seq_len, context_dim)) : Bağlam gizli değişkenleri (chunk maskeleriyle birleştirilmiş kaynak gizli değişkenler) — hidden_states ile birlikte patchify conv'e verilir.

attention_kwargs (dict, isteğe bağlı) : AttentionProcessor'a iletilen bir kwargs sözlüğü. {"scale": float} yoluyla LoRA ölçeğini geçmek için kullanılır.

return_dict (bool, varsayılan True) : Transformer2DModelOutput mu yoksa düz bir tuple mı döndürüleceğini belirtir.

Dönüş: Transformer2DModelOutput veya tuple

Tahmin edilen hız alanı.

AceStepTransformer1DModel ileri yöntemi.

Xet Storage Details

Size:
3.69 kB
·
Xet hash:
80aba8e637e2b0666a1ed47d4ac7c472b9c0866fd207fda9787d633002b083ff

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.