diffusers/main/fr/api/models/ltx_video_transformer3d.md

LTXVideoTransformer3DModel

Un modèle Diffusion Transformer pour des données 3D de LTX a été introduit par Lightricks.

Le modèle peut être chargé à l'aide du fragment de code suivant.

from diffusers import LTXVideoTransformer3DModel

transformer = LTXVideoTransformer3DModel.from_pretrained("Lightricks/LTX-Video", subfolder="transformer", dtype=torch.bfloat16).to("cuda")  # or "mps", "xpu", "cpu"

LTXVideoTransformer3DModel[[diffusers.LTXVideoTransformer3DModel]]

diffusers.LTXVideoTransformer3DModel[[diffusers.LTXVideoTransformer3DModel]]

diffusers.LTXVideoTransformer3DModel(in_channels: int = 128, out_channels: int = 128, patch_size: int = 1, patch_size_t: int = 1, num_attention_heads: int = 32, attention_head_dim: int = 64, cross_attention_dim: int = 2048, num_layers: int = 28, activation_fn: str = 'gelu-approximate', qk_norm: str = 'rms_norm_across_heads', norm_elementwise_affine: bool = False, norm_eps: float = 1e-06, caption_channels: int = 4096, attention_bias: bool = True, attention_out_bias: bool = True)

Source

Paramètres :

in_channels (int, par défaut 128) : Le nombre de canaux dans l'entrée.

out_channels (int, par défaut 128) : Le nombre de canaux dans la sortie.

patch_size (int, par défaut 1) : La taille des patches spatiaux à utiliser dans la couche d'encodage de patches.

patch_size_t (int, par défaut 1) : La taille des patches temporels à utiliser dans la couche d'encodage de patches.

num_attention_heads (int, par défaut 32) : Le nombre de têtes à utiliser pour l'attention multi-têtes.

attention_head_dim (int, par défaut 64) : Le nombre de canaux dans chaque tête.

cross_attention_dim (int, par défaut 2048 ) : Le nombre de canaux pour les têtes d'attention croisée.

num_layers (int, par défaut 28) : Le nombre de blocs Transformer à utiliser.

activation_fn (str, par défaut "gelu-approximate") : Fonction d'activation à utiliser dans le réseau de neurones à propagation avant.

qk_norm (str, par défaut "rms_norm_across_heads") : La couche de normalisation à utiliser.

Un modèle Transformer pour des données de type vidéo utilisé dans LTX.

forward[[diffusers.LTXVideoTransformer3DModel.forward]]

forward(hidden_states: Tensor, encoder_hidden_states: Tensor, timestep: LongTensor, encoder_attention_mask: Tensor, num_frames: int | None = None, height: int | None = None, width: int | None = None, rope_interpolation_scale: typing.Union[tuple[float, float, float], torch.Tensor, NoneType] = None, video_coords: typing.Optional[torch.Tensor] = None, attention_kwargs: dict[str, typing.Any] | None = None, return_dict: bool = True)

Source

Paramètres :

hidden_states (torch.Tensor de forme (batch_size, sequence_length, in_channels)) : hidden_states en entrée.

encoder_hidden_states (torch.Tensor de forme (batch_size, sequence_len, embed_dims)) : Embeddings conditionnels (embeddings calculés à partir des conditions d'entrée telles que les prompts) à utiliser.

timestep (torch.LongTensor) : Utilisé pour indiquer l'étape de débruitage.

encoder_attention_mask (torch.Tensor) : Masque appliqué à encoder_hidden_states lors de l'attention.

num_frames (int, facultatif) : Nombre de frames de la vidéo utilisées pour calculer les embeddings positionnels rotatifs.

height (int, facultatif) : Hauteur du latent utilisé pour calculer les embeddings positionnels rotatifs.

width (int, facultatif) : Largeur du latent utilisé pour calculer les embeddings positionnels rotatifs.

rope_interpolation_scale (tuple de float ou torch.Tensor, facultatif) : Échelle d'interpolation utilisée par les embeddings positionnels rotatifs.

video_coords (torch.Tensor, facultatif) : Coordonnées vidéo précalculées utilisées par les embeddings positionnels rotatifs.

attention_kwargs (dict, facultatif) : Un dictionnaire de kwargs qui, s'il est spécifié, est transmis à l'AttentionProcessor tel que défini sous self.processor dans diffusers.models.attention_processor.

return_dict (bool, facultatif, par défaut True) : Indique s'il faut retourner un ~models.transformer_2d.Transformer2DModelOutput plutôt qu'un simple tuple.

Retourne : torch.Tensor

Le tenseur de sortie débruité de forme (batch_size, sequence_length, out_channels).

La méthode forward du LTXVideoTransformer3DModel.

Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

diffusers.models.modeling_outputs.Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

diffusers.models.modeling_outputs.Transformer2DModelOutput(sample: torch.Tensor)

Source

Paramètres :

sample (torch.Tensor de forme (batch_size, num_channels, height, width) ou (batch size, num_vector_embeds - 1, num_latent_pixels) si Transformer2DModel est discret) : Les états cachés en sortie, conditionnés par l'entrée encoder_hidden_states. Si discret, renvoie les distributions de probabilité pour les pixels latents non bruités.

La sortie de Transformer2DModel.