# EasyAnimateTransformer3DModel

Um modelo Diffusion Transformer para dados 3D do [EasyAnimate](https://github.com/aigc-apps/EasyAnimate) foi introduzido pela Alibaba PAI.

O modelo pode ser carregado com o seguinte trecho de código.

```python
from diffusers import EasyAnimateTransformer3DModel

transformer = EasyAnimateTransformer3DModel.from_pretrained("alibaba-pai/EasyAnimateV5.1-12b-zh", subfolder="transformer", dtype=torch.float16).to("cuda")  # or "mps", "xpu", "cpu"
```

## EasyAnimateTransformer3DModel[[diffusers.EasyAnimateTransformer3DModel]]

#### diffusers.EasyAnimateTransformer3DModel[[diffusers.EasyAnimateTransformer3DModel]]

```python
diffusers.EasyAnimateTransformer3DModel(num_attention_heads: int = 48, attention_head_dim: int = 64, in_channels: int | None = None, out_channels: int | None = None, patch_size: int | None = None, sample_width: int = 90, sample_height: int = 60, activation_fn: str = 'gelu-approximate', timestep_activation_fn: str = 'silu', freq_shift: int = 0, num_layers: int = 48, mmdit_layers: int = 48, dropout: float = 0.0, time_embed_dim: int = 512, add_norm_text_encoder: bool = False, text_embed_dim: int = 3584, text_embed_dim_t5: int = None, norm_eps: float = 1e-05, norm_elementwise_affine: bool = True, flip_sin_to_cos: bool = True, time_position_encoding_type: str = '3d_rope', after_norm = False, resize_inpaint_mask_directly: bool = True, enable_text_attention_mask: bool = True, add_noise_in_inpaint_model: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/transformer_easyanimate.py#L316)

**Parâmetros:**

num_attention_heads (`int`, padrão `48`) : O número de cabeças a serem usadas para a atenção multi-cabeça.

attention_head_dim (`int`, padrão `64`) : O número de canais em cada head.

in_channels (`int`, padrão `16`) : O número de canais na entrada.

out_channels (`int`, *opcional*, padrão `16`) : O número de canais na saída.

patch_size (`int`, padrão `2`) : O tamanho dos patches a serem usados na camada de incorporação de patches.

sample_width (`int`, padrão `90`) : A largura dos latentes de entrada.

sample_height (`int`, padrão `60`) : A altura dos latentes de entrada.

activation_fn (`str`, padrão `"gelu-approximate"`) : Função de ativação a ser usada no feed-forward.

timestep_activation_fn (`str`, padrão `"silu"`) : Função de ativação a ser usada ao gerar os embeddings de timestep.

num_layers (`int`, padrão `30`) : O número de blocos de Transformer a serem usados.

mmdit_layers (`int`, padrão `1000`) : O número de blocos Multi Modal Transformer a serem usados.

dropout (`float`, padrão `0.0`) : A probabilidade de dropout a ser utilizada.

time_embed_dim (`int`, padrão `512`) : Dimensão de saída dos embeddings de timestep.

text_embed_dim (`int`, padrão `4096`) : Dimensão de entrada dos embeddings de texto do codificador de texto.

norm_eps (`float`, padrão `1e-5`) : O valor de epsilon a ser usado nas camadas de normalização.

norm_elementwise_affine (`bool`, padrão `True`) : Se deve usar afinidade elementar em camadas de normalização.

flip_sin_to_cos (`bool`, padrão `True`) : Se deve inverter o sin para cos no embedding de tempo.

time_position_encoding_type (`str`, padrão `3d_rope`) : Tipo de codificação de posição temporal.

after_norm (`bool`, padrão `False`) : Sinalizador para aplicar normalização depois.

resize_inpaint_mask_directly (`bool`, padrão `True`) : Sinalizador para redimensionar diretamente a máscara de inpaint.

enable_text_attention_mask (`bool`, padrão `True`) : Sinalizador para habilitar a máscara de atenção de texto.

add_noise_in_inpaint_model (`bool`, padrão `False`) : Sinalizador para adicionar ruído no modelo de inpaint.

Um modelo Transformer para dados semelhantes a vídeo no [EasyAnimate](https://github.com/aigc-apps/EasyAnimate).

#### forward[[diffusers.EasyAnimateTransformer3DModel.forward]]

```python
forward(hidden_states: Tensor, timestep: Tensor, timestep_cond: typing.Optional[torch.Tensor] = None, encoder_hidden_states: typing.Optional[torch.Tensor] = None, encoder_hidden_states_t5: typing.Optional[torch.Tensor] = None, inpaint_latents: typing.Optional[torch.Tensor] = None, control_latents: typing.Optional[torch.Tensor] = None, return_dict: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/transformer_easyanimate.py#L461)

**Parâmetros:**

hidden_states (`torch.Tensor` de forma `(batch_size, channels, num_frames, height, width)`) : `hidden_states` de entrada.

timestep (`torch.LongTensor`) : Usado para indicar o passo de desruidamento.

timestep_cond (`torch.Tensor`, *opcional*) : Embebimentos condicionais para o passo de tempo. Se fornecidos, os embebimentos serão somados às amostras passadas pela camada `self.time_embedding` para obter os embebimentos finais do passo de tempo.

encoder_hidden_states (`torch.Tensor`, *opcional*) : Embeddings condicionais (embeddings calculados a partir das condições de entrada, como prompts) a serem usados.

encoder_hidden_states_t5 (`torch.Tensor`, *opcional*) : Embebicionamentos condicionais adicionais calculados a partir de um codificador de texto T5.

inpaint_latents (`torch.Tensor`, *opcional*) : Latentes concatenados a `hidden_states` para as variantes de inpainting do modelo.

control_latents (`torch.Tensor`, *opcional*) : Latentes concatenados a `hidden_states` para as variantes de controle do modelo.

return_dict (`bool`, *opcional*, padrão `True`) : Indica se deve retornar um `~models.transformer_2d.Transformer2DModelOutput` em vez de uma tupla simples.

**Retorna:**

Se `return_dict` for True, um `~models.transformer_2d.Transformer2DModelOutput` é retornado; caso contrário, uma `tuple` onde o primeiro elemento é o tensor da amostra.

O método forward do [EasyAnimateTransformer3DModel](/docs/diffusers/main/pt/api/models/easyanimate_transformer3d#diffusers.EasyAnimateTransformer3DModel).

## Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

#### diffusers.models.modeling_outputs.Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

```python
diffusers.models.modeling_outputs.Transformer2DModelOutput(sample: torch.Tensor)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/modeling_outputs.py#L21)

**Parâmetros:**

sample (`torch.Tensor` de forma `(batch_size, num_channels, height, width)` ou `(batch size, num_vector_embeds - 1, num_latent_pixels)` se [Transformer2DModel](/docs/diffusers/main/pt/api/models/transformer2d#diffusers.Transformer2DModel) for discreto) : A saída dos estados ocultos condicionada à entrada `encoder_hidden_states`. Se discreto, retorna distribuições de probabilidade para os pixels latentes sem ruído.

A saída de [Transformer2DModel](/docs/diffusers/main/pt/api/models/transformer2d#diffusers.Transformer2DModel).