Buckets:

hf-doc-build/doc / diffusers /v0.43.0 /ja /api /activations.md
mishig's picture
|
download
raw
3.93 kB

活性化関数

🤗 Diffusersでさまざまなモデルをサポートするためのカスタマイズされた活性化関数。

GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)

ソース

パラメータ:

dim_in (int) : 入力におけるチャネル数。

dim_out (int) : 出力のチャネル数。

approximate (str、任意、デフォルトは"none") : "tanh"の場合、tanh近似を使用します。

bias (bool、デフォルトは True) : 線形層にバイアスを使用するかどうか。

approximate="tanh" による tanh 近似をサポートする GELU 活性化関数。

GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)

ソース

パラメータ:

dim_in (int) : 入力におけるチャネル数。

dim_out (int) : 出力のチャネル数。

bias (bool、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ゲート付き線形ユニット活性化関数のバリアント。

ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)

ソース

パラメータ:

dim_in (int) : 入力におけるチャネル数。

dim_out (int) : 出力のチャネル数。

bias (bool、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ガウス誤差線形ユニット(GELU)の近似形です。詳細については、この論文のセクション2を参照してください。

SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)

ソース

パラメータ:

dim_in (int) : 入力におけるチャネル数。

dim_out (int) : 出力のチャネル数。

bias (bool、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ゲート付き線形ユニット活性化関数のバリアントです。GEGLUに似ていますが、GeLUの代わりにSiLU / Swishを使用します。

FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU()

ソース

入力をtorch.float32にキャストしたSiLU活性化関数。

LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')

ソース

Xet Storage Details

Size:
3.93 kB
·
Xet hash:
e8eee41bbf9acf495492d316f866c8b1f47ed90585b4b2b6ad8e42ea50537968

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.