diffusers/main/pt/api/models/stable_audio_transformer.md

StableAudioDiTModel

Um modelo Transformer para formas de onda de áudio do Stable Audio Open.

StableAudioDiTModel[[diffusers.StableAudioDiTModel]]

diffusers.StableAudioDiTModel[[diffusers.StableAudioDiTModel]]

diffusers.StableAudioDiTModel(sample_size: int = 1024, in_channels: int = 64, num_layers: int = 24, attention_head_dim: int = 64, num_attention_heads: int = 24, num_key_value_attention_heads: int = 12, out_channels: int = 64, cross_attention_dim: int = 768, time_proj_dim: int = 256, global_states_input_dim: int = 1536, cross_attention_input_dim: int = 768)

Fonte

Parâmetros:

sample_size ( int, opcional, padrão 1024) : O tamanho da amostra de entrada.

in_channels (int, opcional, padrão 64) : O número de canais na entrada.

num_layers (int, opcional, padrão 24) : O número de blocos de Transformer a serem usados.

attention_head_dim (int, opcional, padrão 64) : O número de canais em cada head.

num_attention_heads (int, opcional, padrão 24) : O número de cabeças a serem usadas para os estados de consulta.

num_key_value_attention_heads (int, opcional, padrão 12) : O número de cabeças a serem usadas para os estados de chave e valor.

out_channels (int, padrão 64) : Número de canais de saída.

cross_attention_dim ( int, opcional, padrão 768) : Dimensão da projeção de atenção cruzada.

time_proj_dim ( int, opcional, padrão 256) : Dimensão da projeção interna do timestep.

global_states_input_dim ( int, opcional, padrão 1536) : Dimensão de entrada da projeção dos estados ocultos globais.

cross_attention_input_dim ( int, opcional, padrão é 768) : Dimensão de entrada da projeção de atenção cruzada

O modelo Diffusion Transformer introduzido no Stable Audio.

Referência: https://github.com/Stability-AI/stable-audio-tools

forward[[diffusers.StableAudioDiTModel.forward]]

forward(hidden_states: FloatTensor, timestep: LongTensor = None, encoder_hidden_states: FloatTensor = None, global_hidden_states: FloatTensor = None, rotary_embedding: FloatTensor = None, return_dict: bool = True, attention_mask: typing.Optional[torch.LongTensor] = None, encoder_attention_mask: typing.Optional[torch.LongTensor] = None)

Fonte

Parâmetros:

hidden_states (torch.FloatTensor de forma (batch size, in_channels, sequence_len)) : Entrada hidden_states.

timestep ( torch.LongTensor) : Usado para indicar o passo de remoção de ruído.

encoder_hidden_states (torch.FloatTensor de forma (batch size, encoder_sequence_len, cross_attention_input_dim)) : Embeddings condicionais (embeddings calculados a partir das condições de entrada, como prompts) a serem usados.

global_hidden_states (torch.FloatTensor de forma (batch size, global_sequence_len, global_states_input_dim)) : Embutidos globais que serão adicionados antes dos estados ocultos.

rotary_embedding (torch.Tensor) : Os embeddings rotacionais a serem aplicados nos tensores de consulta e chave durante o cálculo da atenção.

return_dict (bool, opcional, padrão True) : Indica se deve retornar um ~models.transformer_2d.Transformer2DModelOutput em vez de uma tupla simples.

attention_mask (torch.Tensor de forma (batch_size, sequence_len), opcional) : Máscara para evitar a execução de atenção nos índices de tokens de preenchimento, formada pela concatenação das máscaras de atenção dos dois codificadores de texto. Valores de máscara selecionados em [0, 1]: - 1 para tokens que não estão mascarados, - 0 para tokens que estão mascarados.

encoder_attention_mask (torch.Tensor de forma (batch_size, sequence_len), opcional) : Máscara para evitar a execução de atenção nos índices de atenção cruzada dos tokens de preenchimento, formada pela concatenação das máscaras de atenção dos dois codificadores de texto. Valores da máscara selecionados em [0, 1]: - 1 para tokens que não estão mascarados, - 0 para tokens que estão mascarados.

Retorna:

Se return_dict for True, um ~models.transformer_2d.Transformer2DModelOutput é retornado; caso contrário, uma tuple onde o primeiro elemento é o tensor da amostra.

O método forward do StableAudioDiTModel.

set_default_attn_processor[[diffusers.StableAudioDiTModel.set_default_attn_processor]]

set_default_attn_processor()

Fonte

Desativa os processadores de atenção personalizados e define a implementação padrão de atenção.