Normalizasyon katmanları

🤗 Diffusers'ta çeşitli modelleri desteklemek için özelleştirilmiş normalizasyon katmanları.

AdaLayerNorm

sınıf diffusers.models.normalization.AdaLayerNorm

( embedding_dim: intnum_embeddings: int | None = Noneoutput_dim: int | None = Nonenorm_elementwise_affine: bool = Falsenorm_eps: float = 1e-05chunk_dim: int = 0 )

Parametreler

embedding_dim (int) — Her gömme vektörünün boyutu.
num_embeddings (int, isteğe bağlı) — Gömme sözlüğünün boyutu.
output_dim (int, isteğe bağlı) —
norm_elementwise_affine (bool, varsayılan `False) —
norm_eps (bool, varsayılan False) —
chunk_dim (int, varsayılan 0) —

Adım (timestep) gömmelemelerini (embeddings) içerecek şekilde değiştirilen Norm katmanı.

AdaLayerNormZero

sınıf diffusers.models.normalization.AdaLayerNormZero

< source >

( embedding_dim: intnum_embeddings: int | None = Nonenorm_type = 'layer_norm'bias = True )

Parametreler

embedding_dim (int) — Her gömme vektörünün boyutu.
num_embeddings (int) — Gömme sözlüğünün boyutu.

Norm katmanı adaptif katman normu sıfır (adaLN-Zero).

AdaLayerNormSingle

sınıf diffusers.models.normalization.AdaLayerNormSingle

< source >

( embedding_dim: intuse_additional_conditions: bool = False )

Parametreler

embedding_dim (int) — Her gömme vektörünün boyutu.
use_additional_conditions (bool) — Normalizasyon için ek koşulların kullanılıp kullanılmayacağı.

Norm katmanı adaptif katman normu tekli (adaLN-single).

PixArt-Alpha'da önerildiği gibi (bkz: https://huggingface.co/papers/2310.00426; Bölüm 2.3).

AdaGroupNorm

sınıf diffusers.models.normalization.AdaGroupNorm

< source >

( embedding_dim: intout_dim: intnum_groups: intact_fn: str | None = Noneeps: float = 1e-05 )

Parametreler

embedding_dim (int) — Her gömme vektörünün boyutu.
num_embeddings (int) — Gömme sözlüğünün boyutu.
num_groups (int) — Kanalların ayrılacağı grup sayısı.
act_fn (str, isteğe bağlı, varsayılan None) — Kullanılacak aktivasyon fonksiyonu.
eps (float, isteğe bağlı, varsayılan 1e-5) — Sayısal kararlılık için kullanılacak epsilon değeri.

Adım (timestep) gömmelemelerini (embeddings) içerecek şekilde değiştirilen GroupNorm katmanı.

AdaLayerNormContinuous

sınıf diffusers.models.normalization.AdaLayerNormContinuous

< source >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm' )

Parametreler

embedding_dim (int) — Projeksiyon sırasında kullanılacak gömme boyutu.
conditioning_embedding_dim (int) — Girdi koşulunun boyutu.
elementwise_affine (bool, varsayılan True) — Afin dönüşümün uygulanıp uygulanmayacağını belirtmek için mantıksal bayrak.
eps (float, varsayılan 1e-5) — Epsilon çarpanı.
bias (bias, varsayılan True) — bias'in kullanılıp kullanılmayacağını belirtmek için bir Boolean bayrağı.
norm_type (str, varsayılan "layer_norm") — Kullanılacak normalizasyon katmanı. Desteklenen değerler: “layer_norm”, “rms_norm”.

Bir norm katmanı (layer_norm veya rms_norm) içeren uyumlu normalizasyon katmanı.

RMSNorm

sınıf diffusers.models.normalization.RMSNorm

< source >

( dimeps: floatelementwise_affine: bool = Truebias: bool = False )

Parametreler

dim (int) — weights için kullanılacak boyut sayısı. Yalnızca elementwise_affine True olduğunda etkilidir.
eps (float) — Karekökün tersini hesaplanırken kullanılacak küçük değer.
elementwise_affine (bool, varsayılan True) — Afin dönüşümün uygulanıp uygulanmayacağını belirtmek için mantıksal bayrak.
bias (bool, varsayılan False) — bias parametresinin de eğitileceğini belirtir.

Zhang ve ark. tarafından https://huggingface.co/papers/1910.07467 makalesinde tanıtılan RMS Norm

GlobalResponseNorm

sınıf diffusers.models.normalization.GlobalResponseNorm

< source >

( dim )

Parametreler

dim (int) — gamma ve beta için kullanılacak boyut sayısı.

ConvNeXt-v2'de (https://huggingface.co/papers/2301.00808) tanıtılan küresel yanıt normalizasyonu.

LuminaLayerNormContinuous

sınıf diffusers.models.normalization.LuminaLayerNormContinuous

< source >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm'out_dim: int | None = None )