Diffusers documentation
LatteTransformer3DModel
LatteTransformer3DModel
Latte'den 3B veriler için bir Diffusion Transformer modeli.
LatteTransformer3DModel
sınıf diffusers.LatteTransformer3DModel
< source >( num_attention_heads: int = 16attention_head_dim: int = 88in_channels: int | None = Noneout_channels: int | None = Nonenum_layers: int = 1dropout: float = 0.0cross_attention_dim: int | None = Noneattention_bias: bool = Falsesample_size: int = 64patch_size: int | None = Noneactivation_fn: str = 'geglu'num_embeds_ada_norm: int | None = Nonenorm_type: str = 'layer_norm'norm_elementwise_affine: bool = Truenorm_eps: float = 1e-05caption_channels: int = Nonevideo_length: int = 16 )
forward
< source >( hidden_states: Tensortimestep: typing.Optional[torch.LongTensor] = Noneencoder_hidden_states: typing.Optional[torch.Tensor] = Noneencoder_attention_mask: typing.Optional[torch.Tensor] = Noneenable_temporal_attentions: bool = Truereturn_dict: bool = True )
Parametreler
- hidden_states (
torch.Tensor, şekli(batch size, channel, num_frame, height, width)) — Girdihidden_states. - timestep (
torch.LongTensor, isteğe bağlı) — Gürültü azaltma adımını belirtmek için kullanılır.AdaLayerNormiçinde gömme olarak uygulanacak isteğe bağlı timestep. - encoder_hidden_states (
torch.FloatTensorof shape(batch size, sequence len, embed dims), opsiyonel) — Çapraz dikkat katmanı için koşullu gömme değerleri. Verilmezse, çapraz dikkat varsayılan olarak kendine dikkat (self-attention) olarak çalışır. - encoder_attention_mask (
torch.Tensor, isteğe bağlı) — encoder_hidden_states üzerine uygulanan çapraz dikkat maskesi.encoder_hidden_states. İki format desteklenir:- Mask
(batcheight, sequence_length)True = koru, False = at. - Yapı
(batcheight, 1, sequence_length)0 = koru, -10000 = at.
ndim == 2ise: bir maske olarak yorumlanır, ardından yukarıdaki biçimle tutarlı bir önyargıya dönüştürülür. Bu önyargı çapraz dikkat puanlarına eklenir. - Mask
- enable_temporal_attentions —
(
bool, isteğe bağlı, varsayılanTrue): Zamanlı dikkatlerin etkinleştirilip etkinleştirilmeyeceğini belirtir. - return_dict (
bool, isteğe bağlı, varsayılanTrue) — Düz bir tuple yerine~models.unet_2d_condition.UNet2DConditionOutputdöndürülüp döndürülmemesi.
LatteTransformer3DModel ileri (forward) yöntemi.