Buckets:

hf-doc-build/doc / diffusers /v0.43.0 /ja /api /normalization.md
mishig's picture
|
download
raw
11.2 kB

正規化レイヤー

🤗 Diffusers でさまざまなモデルをサポートするためのカスタマイズされた正規化レイヤー。

AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm[[diffusers.models.normalization.AdaLayerNorm]]

diffusers.models.normalization.AdaLayerNorm(embedding_dim: int, num_embeddings: int | None = None, output_dim: int | None = None, norm_elementwise_affine: bool = False, norm_eps: float = 1e-05, chunk_dim: int = 0)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int, 任意) : 埋め込み辞書のサイズ。

output_dim (int、任意) --

norm_elementwise_affine (bool、デフォルトは `False) --

norm_eps (bool、デフォルトは False) --

chunk_dim (int、デフォルトは0) --

タイムステップ埋め込みを組み込むよう修正されたNorm層。

AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero[[diffusers.models.normalization.AdaLayerNormZero]]

diffusers.models.normalization.AdaLayerNormZero(embedding_dim: int, num_embeddings: int | None = None, norm_type = 'layer_norm', bias = True)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int) : 埋め込み辞書のサイズ。

Norm層の適応型レイヤーノーマゼロ(adaLN-Zero)。

AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle[[diffusers.models.normalization.AdaLayerNormSingle]]

diffusers.models.normalization.AdaLayerNormSingle(embedding_dim: int, use_additional_conditions: bool = False)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

use_additional_conditions (bool) : 正規化に追加条件を使用するかどうか。

Norm層 adaptive layer norm single (adaLN-single)。

PixArt-Alpha(参照: https://huggingface.co/papers/2310.00426; セクション 2.3)で提案された方法です。

AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm[[diffusers.models.normalization.AdaGroupNorm]]

diffusers.models.normalization.AdaGroupNorm(embedding_dim: int, out_dim: int, num_groups: int, act_fn: str | None = None, eps: float = 1e-05)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int) : 埋め込み辞書のサイズ。

num_groups (int) : チャンネルを分割するグループの数。

act_fn (str、任意、デフォルトはNone) : 使用する活性化関数。

eps (float、任意、デフォルトは1e-5) : 数値の安定性を確保するために使用するepsilon値です。

タイムステップ埋め込みを組み込むよう修正された GroupNorm レイヤー。

AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous[[diffusers.models.normalization.AdaLayerNormContinuous]]

diffusers.models.normalization.AdaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm')

ソース

パラメータ:

embedding_dim (int) : 投影時に使用する埋め込み次元。

conditioning_embedding_dim (int) : 入力条件の次元数。

elementwise_affine (bool、デフォルトはTrue) : 仿射変換を適用するかどうかを示すブールフラグ。

eps (float、デフォルト値は 1e-5) : Epsilon 係数。

bias (bias、デフォルトはTrue) : バイアスを使用するかどうかを示すブール値フラグ。

norm_type (str、デフォルトは"layer_norm") : 使用する正規化レイヤー。サポートされる値: "layer_norm", "rms_norm"。

norm レイヤー(layer_norm または rms_norm)を備えた適応型正規化レイヤー。

RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm[[diffusers.models.normalization.RMSNorm]]

diffusers.models.normalization.RMSNorm(dim, eps: float, elementwise_affine: bool = True, bias: bool = False)

ソース

パラメータ:

dim (int) : weightsに使用する次元数。elementwise_affineがTrueの場合にのみ有効です。

eps (float) : 平方根の逆数を計算する際に使用する小さな値。

elementwise_affine (bool、デフォルトはTrue) : 仿射変換を適用するかどうかを示すブールフラグ。

bias (bool、デフォルトは False) : bias パラメータも学習する場合に True にします。

Zhang らによって https://huggingface.co/papers/1910.07467 で導入された RMS Norm

GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm[[diffusers.models.normalization.GlobalResponseNorm]]

diffusers.models.normalization.GlobalResponseNorm(dim)

ソース

パラメータ:

dim (int) : gamma と beta に使用する次元数。

ConvNeXt-v2 (https://huggingface.co/papers/2301.00808) で導入されたグローバル応答正規化。

LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous[[diffusers.models.normalization.LuminaLayerNormContinuous]]

diffusers.models.normalization.LuminaLayerNormContinuous(embedding_dim: int, conditioning_embedding_dim: int, elementwise_affine = True, eps = 1e-05, bias = True, norm_type = 'layer_norm', out_dim: int | None = None)

ソース

SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX[[diffusers.models.normalization.SD35AdaLayerNormZeroX]]

diffusers.models.normalization.SD35AdaLayerNormZeroX(embedding_dim: int, norm_type: str = 'layer_norm', bias: bool = True)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int) : 埋め込み辞書のサイズ。

Norm層のadaptive layer norm zero (AdaLN-Zero)。

AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle[[diffusers.models.normalization.AdaLayerNormZeroSingle]]

diffusers.models.normalization.AdaLayerNormZeroSingle(embedding_dim: int, norm_type = 'layer_norm', bias = True)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int) : 埋め込み辞書のサイズ。

Norm層の適応型レイヤーノーマゼロ(adaLN-Zero)。

LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero[[diffusers.models.normalization.LuminaRMSNormZero]]

diffusers.models.normalization.LuminaRMSNormZero(embedding_dim: int, norm_eps: float, norm_elementwise_affine: bool)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

Norm層の適応型RMS正規化ゼロ。

LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm[[diffusers.models.normalization.LpNorm]]

diffusers.models.normalization.LpNorm(p: int = 2, dim: int = -1, eps: float = 1e-12)

ソース

CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage[[diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage]]

diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage(embedding_dim: int, dim: int)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

num_embeddings (int) : 埋め込み辞書のサイズ。

Norm層の適応型レイヤーノーマゼロ(adaLN-Zero)。

CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero[[diffusers.models.normalization.CogVideoXLayerNormZero]]

diffusers.models.normalization.CogVideoXLayerNormZero(conditioning_dim: int, embedding_dim: int, elementwise_affine: bool = True, eps: float = 1e-05, bias: bool = True)

ソース

MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero[[diffusers.models.transformers.transformer_mochi.MochiRMSNormZero]]

diffusers.models.transformers.transformer_mochi.MochiRMSNormZero(embedding_dim: int, hidden_dim: int, eps: float = 1e-05, elementwise_affine: bool = False)

ソース

パラメータ:

embedding_dim (int) : 各埋め込みベクトルのサイズ。

Mochiで使用されるAdaptive RMS Norm。

MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm[[diffusers.models.normalization.MochiRMSNorm]]

diffusers.models.normalization.MochiRMSNorm(dim, eps: float, elementwise_affine: bool = True)

ソース

Xet Storage Details

Size:
11.2 kB
·
Xet hash:
b2340237431cb14e74df0cc7828cf565eb85904982e8924b06c0c2f3cf526694

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.