diffusers/main/vi/api/models/latte_transformer3d.md

LatteTransformer3DModel

Một mô hình Diffusion Transformer cho dữ liệu 3D từ Latte.

LatteTransformer3DModel[[diffusers.LatteTransformer3DModel]]

diffusers.LatteTransformer3DModel[[diffusers.LatteTransformer3DModel]]

diffusers.LatteTransformer3DModel(num_attention_heads: int = 16, attention_head_dim: int = 88, in_channels: int | None = None, out_channels: int | None = None, num_layers: int = 1, dropout: float = 0.0, cross_attention_dim: int | None = None, attention_bias: bool = False, sample_size: int = 64, patch_size: int | None = None, activation_fn: str = 'geglu', num_embeds_ada_norm: int | None = None, norm_type: str = 'layer_norm', norm_elementwise_affine: bool = True, norm_eps: float = 1e-05, caption_channels: int = None, video_length: int = 16)

Nguồn

forward[[diffusers.LatteTransformer3DModel.forward]]

forward(hidden_states: Tensor, timestep: typing.Optional[torch.LongTensor] = None, encoder_hidden_states: typing.Optional[torch.Tensor] = None, encoder_attention_mask: typing.Optional[torch.Tensor] = None, enable_temporal_attentions: bool = True, return_dict: bool = True)

Nguồn

Tham số:

hidden_states (torch.Tensor có hình dạng (batch size, channel, num_frame, height, width)) : hidden_states đầu vào.

timestep ( torch.LongTensor, tùy chọn) : Dùng để chỉ bước khử nhiễu. Timestep tùy chọn được áp dụng dưới dạng embedding trong AdaLayerNorm.

encoder_hidden_states ( torch.FloatTensor có shape (batch size, sequence len, embed dims), optional) : Các embedding điều kiện cho lớp cross attention. Nếu không được cung cấp, cross-attention sẽ mặc định là self-attention.

encoder_attention_mask ( torch.Tensor, tùy chọn) : Mặt nạ cross-attention được áp dụng cho encoder_hidden_states. Hỗ trợ hai định dạng: * Mặt nạ (batcheight, sequence_length) True = giữ lại, False = loại bỏ. * Bias (batcheight, 1, sequence_length) 0 = giữ lại, -10000 = loại bỏ. Nếu ndim == 2: sẽ được hiểu là một mặt nạ, sau đó được chuyển đổi thành một bias nhất quán với định dạng ở trên. Bias này sẽ được cộng vào điểm cross-attention.

enable_temporal_attentions : (bool, tùy chọn, mặc định là True): Có bật chú ý thời gian (temporal attentions) hay không.

return_dict (bool, tùy chọn, mặc định là True) : Có nên trả về một ~models.unet_2d_condition.UNet2DConditionOutput thay vì một tuple thông thường hay không.

Trả về:

Nếu return_dict là True, một ~models.transformer_2d.Transformer2DModelOutput sẽ được trả về, ngược lại một tuple trong đó phần tử đầu tiên là tensor mẫu.

Phương thức forward của LatteTransformer3DModel.