Diffusers documentation

LatteTransformer3DModel

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

LatteTransformer3DModel

Latte'den 3B veriler için bir Diffusion Transformer modeli.

LatteTransformer3DModel

sınıf diffusers.LatteTransformer3DModel

< >

( num_attention_heads: int = 16attention_head_dim: int = 88in_channels: int | None = Noneout_channels: int | None = Nonenum_layers: int = 1dropout: float = 0.0cross_attention_dim: int | None = Noneattention_bias: bool = Falsesample_size: int = 64patch_size: int | None = Noneactivation_fn: str = 'geglu'num_embeds_ada_norm: int | None = Nonenorm_type: str = 'layer_norm'norm_elementwise_affine: bool = Truenorm_eps: float = 1e-05caption_channels: int = Nonevideo_length: int = 16 )

forward

< >

( hidden_states: Tensortimestep: typing.Optional[torch.LongTensor] = Noneencoder_hidden_states: typing.Optional[torch.Tensor] = Noneencoder_attention_mask: typing.Optional[torch.Tensor] = Noneenable_temporal_attentions: bool = Truereturn_dict: bool = True )

Parametreler

  • hidden_states (torch.Tensor, şekli (batch size, channel, num_frame, height, width)) — Girdi hidden_states.
  • timestep ( torch.LongTensor, isteğe bağlı) — Gürültü azaltma adımını belirtmek için kullanılır. AdaLayerNorm içinde gömme olarak uygulanacak isteğe bağlı timestep.
  • encoder_hidden_states ( torch.FloatTensor of shape (batch size, sequence len, embed dims), opsiyonel) — Çapraz dikkat katmanı için koşullu gömme değerleri. Verilmezse, çapraz dikkat varsayılan olarak kendine dikkat (self-attention) olarak çalışır.
  • encoder_attention_mask ( torch.Tensor, isteğe bağlı) — encoder_hidden_states üzerine uygulanan çapraz dikkat maskesi. encoder_hidden_states. İki format desteklenir:
    • Mask (batcheight, sequence_length) True = koru, False = at.
    • Yapı (batcheight, 1, sequence_length) 0 = koru, -10000 = at.

    ndim == 2 ise: bir maske olarak yorumlanır, ardından yukarıdaki biçimle tutarlı bir önyargıya dönüştürülür. Bu önyargı çapraz dikkat puanlarına eklenir.

  • enable_temporal_attentions — (bool, isteğe bağlı, varsayılan True): Zamanlı dikkatlerin etkinleştirilip etkinleştirilmeyeceğini belirtir.
  • return_dict (bool, isteğe bağlı, varsayılan True) — Düz bir tuple yerine ~models.unet_2d_condition.UNet2DConditionOutput döndürülüp döndürülmemesi.

LatteTransformer3DModel ileri (forward) yöntemi.

Update on GitHub