diffusers/main/pt/api/models/longcat_image_transformer2d.md

LongCatImageTransformer2DModel

O modelo pode ser carregado com o seguinte trecho de código.

from diffusers import LongCatImageTransformer2DModel

transformer = LongCatImageTransformer2DModel.from_pretrained("meituan-longcat/LongCat-Image ", subfolder="transformer", dtype=torch.bfloat16)

LongCatImageTransformer2DModel[[diffusers.LongCatImageTransformer2DModel]]

diffusers.LongCatImageTransformer2DModel[[diffusers.LongCatImageTransformer2DModel]]

diffusers.LongCatImageTransformer2DModel(patch_size: int = 1, in_channels: int = 64, num_layers: int = 19, num_single_layers: int = 38, attention_head_dim: int = 128, num_attention_heads: int = 24, joint_attention_dim: int = 3584, pooled_projection_dim: int = 3584, axes_dims_rope: list[int] = [16, 56, 56])

Fonte

O modelo Transformer introduzido no Longcat-Image.

forward[[diffusers.LongCatImageTransformer2DModel.forward]]

forward(hidden_states: Tensor, encoder_hidden_states: Tensor = None, timestep: LongTensor = None, img_ids: Tensor = None, txt_ids: Tensor = None, guidance: Tensor = None, return_dict: bool = True)

Fonte

Parâmetros:

hidden_states (torch.FloatTensor de forma (batch size, channel, height, width)) : hidden_states de entrada.

encoder_hidden_states (torch.FloatTensor de forma (batch size, sequence_len, embed_dims)) : Embeddings condicionais (embeddings calculados a partir das condições de entrada, como prompts) a serem usados.

timestep ( torch.LongTensor) : Usado para indicar o passo de remoção de ruído.

img_ids (torch.Tensor) : ids de posição de imagem usados para calcular os embeddings posicionais rotativos.

txt_ids (torch.Tensor) : ids de posição de texto usados para calcular os embeddings posicionais rotativos.

guidance (torch.Tensor, opcional) : Embedding de escala de orientação usado para variantes destiladas por orientação do modelo.

return_dict (bool, opcional, padrão True) : Indica se deve retornar um ~models.transformer_2d.Transformer2DModelOutput em vez de uma tupla simples.

Retorna:

Se return_dict for True, um ~models.transformer_2d.Transformer2DModelOutput é retornado; caso contrário, uma tuple onde o primeiro elemento é o tensor da amostra.

O método forward.