Buckets:

hf-doc-build/doc / diffusers /main /ko /api /activations.md
mishig's picture
|
download
raw
3.64 kB

활성화 함수

🤗 Diffusers에서 다양한 모델을 지원하기 위한 사용자 정의 활성화 함수.

GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)

소스

매개변수:

dim_in (int) : 입력의 채널 수.

dim_out (int) : 출력의 채널 수.

approximate (str, 선택 사항, 기본값 "none") : "tanh"인 경우 tanh 근사를 사용합니다.

bias (bool, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

approximate="tanh"로 tanh 근사 지원을 하는 GELU 활성화 함수.

GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)

소스

매개변수:

dim_in (int) : 입력의 채널 수.

dim_out (int) : 출력의 채널 수.

bias (bool, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

게이트드 리니어 유닛 활성화 함수의 변형입니다.

ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)

소스

매개변수:

dim_in (int) : 입력의 채널 수.

dim_out (int) : 출력의 채널 수.

bias (bool, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

가우시안 에러 리니어 유닛(GELU)의 근사 형태. 자세한 내용은 이 논문의 2절을 참고하세요.

SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)

소스

매개변수:

dim_in (int) : 입력의 채널 수.

dim_out (int) : 출력의 채널 수.

bias (bool, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

게이트드 리니어 유닛 활성화 함수의 변형입니다. GEGLU와 유사하지만 GeLU 대신 SiLU / Swish를 사용합니다.

FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

diffusers.models.activations.FP32SiLU()

소스

입력이 torch.float32로 업캐스트된 SiLU 활성화 함수.

LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')

소스

Xet Storage Details

Size:
3.64 kB
·
Xet hash:
cf53e685cb9e4d21352a813b91cbc56da9e53068a9263e1aa5ae4b7bdd345675

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.