diffusers/v0.43.0/zh/api/normalization.md

归一化层

用于支持 🤗 Diffusers 中各种模型的自定义归一化层。

AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm(embedding_dim: int, num_embeddings: int | None = None, output_dim: int | None = None, norm_elementwise_affine: bool = False, norm_eps: float = 1e-05, chunk_dim: int = 0)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int, 可选) : 嵌入字典的大小。

output_dim (int，可选) --

norm_elementwise_affine (bool，默认为 `False) --

norm_eps (bool，默认为 False) --

chunk_dim (int，默认为 0) --

修改了 Norm 层以纳入时间步嵌入。

AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero(embedding_dim: int, num_embeddings: int | None = None, norm_type = 'layer_norm', bias = True)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int) : 嵌入字典的大小。

Norm 层自适应层归一化零（adaLN-Zero）。

AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle(embedding_dim: int, use_additional_conditions: bool = False)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

use_additional_conditions (bool) : 是否使用额外的条件进行归一化。

归一化层 自适应层归一化单（adaLN-single）。

如 PixArt-Alpha 中所提出（参见：https://huggingface.co/papers/2310.00426；第 2.3 节）。

AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm(embedding_dim: int, out_dim: int, num_groups: int, act_fn: str | None = None, eps: float = 1e-05)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int) : 嵌入字典的大小。

num_groups (int) : 将通道分组为多少个组。

act_fn (str，可选，默认为 None)：要使用的激活函数。

eps (float，可选，默认为 1e-5)：用于数值稳定性的 epsilon 值。

修改后的 GroupNorm 层，用于整合时间步嵌入。

AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm')

源代码

参数：

embedding_dim (int) : 投影过程中使用的嵌入维度。

conditioning_embedding_dim (int) : 输入条件的维度。

elementwise_affine (bool，默认为 True)：布尔标志，用于指示是否应应用仿射变换。

eps (float，默认值为 1e-5)：Epsilon 因子。

bias (bias，默认为 True)：布尔标志，用于指示是否使用偏置。

norm_type (str，默认为 "layer_norm")：要使用的归一化层。支持的取值："layer_norm"、"rms_norm"。

带有归一化层（layer_norm 或 rms_norm）的自适应归一化层。

RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm(dim, eps: float, elementwise_affine: bool = True, bias: bool = False)

源代码

参数：

dim (int) : 用于 weights 的维度数量。仅在 elementwise_affine 为 True 时生效。

eps (float) : 在计算平方根的倒数时使用的较小值。

elementwise_affine (bool，默认为 True)：布尔标志，用于指示是否应应用仿射变换。

bias (bool，默认为 False)：是否同时训练 bias 参数。

Zhang 等人于 https://huggingface.co/papers/1910.07467 中提出的 RMS Norm

GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm(dim)

源代码

参数：

dim (int) : 用于 gamma 和 beta 的维度数量。

在 ConvNeXt-v2 (https://huggingface.co/papers/2301.00808) 中引入的全局响应归一化。

LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm', out_dim: int | None = None)

源代码

SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX(embedding_dim: int, norm_type: str = 'layer_norm', bias: bool = True)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int) : 嵌入字典的大小。

归一化层自适应层归一化零（AdaLN-Zero）。

AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle(embedding_dim: int, norm_type = 'layer_norm', bias = True)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int) : 嵌入字典的大小。

Norm 层自适应层归一化零（adaLN-Zero）。

LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero(embedding_dim: int, norm_eps: float, norm_elementwise_affine: bool)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

Norm 层自适应 RMS 归一化零。

LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm(p: int = 2, dim: int = -1, eps: float = 1e-12)

源代码

CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage(embedding_dim: int, dim: int)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

num_embeddings (int) : 嵌入字典的大小。

Norm 层自适应层归一化零（adaLN-Zero）。

CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero(conditioning_dim: int, embedding_dim: int, elementwise_affine: bool = True, eps: float = 1e-05, bias: bool = True)

源代码

MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero(embedding_dim: int, hidden_dim: int, eps: float = 1e-05, elementwise_affine: bool = False)

源代码

参数：

embedding_dim (int) : 每个嵌入向量的维度。

Mochi 中使用的自适应 RMS Norm。

MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm(dim, eps: float, elementwise_affine: bool = True)

源代码