Buckets:

hf-doc-build/doc / diffusers /main /pt /api /normalization.md
mishig's picture
|
download
raw
11 kB

Camadas de normalização

Camadas de normalização personalizadas para suportar vários modelos no 🤗 Diffusers.

AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm(embedding_dim: int, num_embeddings: int | None = None, output_dim: int | None = None, norm_elementwise_affine: bool = False, norm_eps: float = 1e-05, chunk_dim: int = 0)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int, opcional) : O tamanho do dicionário de embeddings.

output_dim (int, opcional) --

norm_elementwise_affine (bool, padrão `False) --

norm_eps (bool, padrão é False) --

chunk_dim (int, padrão 0) --

Camada de normalização modificada para incorporar embeddings de timestep.

AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero(embedding_dim: int, num_embeddings: int | None = None, norm_type = 'layer_norm', bias = True)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int) : O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle(embedding_dim: int, use_additional_conditions: bool = False)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

use_additional_conditions (bool) : Se deve usar condições adicionais para normalização ou não.

Camada de normalização adaptativa: normalização de camada única adaptativa (adaLN-single).

Conforme proposto em PixArt-Alpha (veja: https://huggingface.co/papers/2310.00426; Seção 2.3).

AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm(embedding_dim: int, out_dim: int, num_groups: int, act_fn: str | None = None, eps: float = 1e-05)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int) : O tamanho do dicionário de embeddings.

num_groups (int) : O número de grupos para separar os canais.

act_fn (str, opcional, padrão None) : A função de ativação a ser utilizada.

eps (float, opcional, padrão 1e-5) : O valor de epsilon a ser usado para estabilidade numérica.

Camada GroupNorm modificada para incorporar embeddings de timestep.

AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm')

Fonte

Parâmetros:

embedding_dim (int) : Dimensão de incorporação a ser usada durante a projeção.

conditioning_embedding_dim (int) : Dimensão da condição de entrada.

elementwise_affine (bool, defaults to True) : Boolean flag to denote if affine transformation should be applied.

eps (float, padrão 1e-5) : Fator de epsilon.

bias (bias, padrão True) : Sinalizador booleano para indicar se o bias deve ser usado.

norm_type (str, padrão "layer_norm") : Camada de normalização a ser usada. Valores suportados: "layer_norm", "rms_norm".

Camada de normalização adaptativa com uma camada de normalização (layer_norm ou rms_norm).

RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm(dim, eps: float, elementwise_affine: bool = True, bias: bool = False)

Fonte

Parâmetros:

dim (int) : Número de dimensões a usar para weights. Efetivo apenas quando elementwise_affine é True.

eps (float) : Valor pequeno a ser usado ao calcular o recíproco da raiz quadrada.

elementwise_affine (bool, defaults to True) : Boolean flag to denote if affine transformation should be applied.

bias (bool, padrão é False) : Se também treinar o parâmetro bias.

RMS Norm, conforme introduzido em https://huggingface.co/papers/1910.07467 por Zhang et al.

GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm(dim)

Fonte

Parâmetros:

dim (int) : Número de dimensões a serem usadas para gamma e beta.

Normalização global de resposta, conforme introduzido no ConvNeXt-v2 (https://huggingface.co/papers/2301.00808).

LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm', out_dim: int | None = None)

Fonte

SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX(embedding_dim: int, norm_type: str = 'layer_norm', bias: bool = True)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int) : O tamanho do dicionário de embeddings.

Camada de normalização adaptativa de normalização de camada zero (AdaLN-Zero).

AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle(embedding_dim: int, norm_type = 'layer_norm', bias = True)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int) : O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero(embedding_dim: int, norm_eps: float, norm_elementwise_affine: bool)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

Camada de normalização normalização RMS adaptativa zero.

LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm(p: int = 2, dim: int = -1, eps: float = 1e-12)

Fonte

CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage(embedding_dim: int, dim: int)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

num_embeddings (int) : O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero(conditioning_dim: int, embedding_dim: int, elementwise_affine: bool = True, eps: float = 1e-05, bias: bool = True)

Fonte

MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero(embedding_dim: int, hidden_dim: int, eps: float = 1e-05, elementwise_affine: bool = False)

Fonte

Parâmetros:

embedding_dim (int) : O tamanho de cada vetor de incorporação.

Adaptive RMS Norm usado no Mochi.

MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm(dim, eps: float, elementwise_affine: bool = True)

Fonte

Xet Storage Details

Size:
11 kB
·
Xet hash:
4ae59da6ea52f845e4ffd8b4be5f582a99cd1550ce3b4c6fb5ea4579d34fa1d1

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.