diffusers/main/pt/api/activations.md

Funções de ativação

Funções de ativação personalizadas para suportar vários modelos no 🤗 Diffusers.

GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)

Fonte

Parâmetros:

dim_in (int) : O número de canais na entrada.

dim_out (int) : O número de canais na saída.

approximate (str, opcional, padrão "none") : Se "tanh", usa a aproximação tanh.

bias (bool, padrão True) : Se deve usar um viés na camada linear.

Função de ativação GELU com suporte à aproximação tanh usando approximate="tanh".

GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)

Fonte

Parâmetros:

dim_in (int) : O número de canais na entrada.

dim_out (int) : O número de canais na saída.

bias (bool, padrão True) : Se deve usar um viés na camada linear.

Uma variante da função de ativação da unidade linear com portão.

ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)

Fonte

Parâmetros:

dim_in (int) : O número de canais na entrada.

dim_out (int) : O número de canais na saída.

bias (bool, padrão True) : Se deve usar um viés na camada linear.

A forma aproximada da Gaussian Error Linear Unit (GELU). Para mais detalhes, consulte a seção 2 deste artigo.

SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)

Fonte

Parâmetros:

dim_in (int) : O número de canais na entrada.

dim_out (int) : O número de canais na saída.

bias (bool, padrão True) : Se deve usar um viés na camada linear.

Uma variante da função de ativação gated linear unit. É semelhante ao GEGLU, mas usa SiLU / Swish em vez de GeLU.

FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU()

Fonte

Função de ativação SiLU com entrada convertida para torch.float32.

LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')

Fonte