# 활성화 함수

🤗 Diffusers에서 다양한 모델을 지원하기 위한 사용자 정의 활성화 함수.

## GELU[[diffusers.models.activations.GELU]]

#### diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

```python
diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L65)

**매개변수:**

dim_in (`int`) : 입력의 채널 수.

dim_out (`int`) : 출력의 채널 수.

approximate (`str`, *선택 사항*, 기본값 `"none"`) : `"tanh"`인 경우 tanh 근사를 사용합니다.

bias (`bool`, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

`approximate="tanh"`로 tanh 근사 지원을 하는 GELU 활성화 함수.

## GEGLU[[diffusers.models.activations.GEGLU]]

#### diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

```python
diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L93)

**매개변수:**

dim_in (`int`) : 입력의 채널 수.

dim_out (`int`) : 출력의 채널 수.

bias (`bool`, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

게이트드 리니어 유닛 활성화 함수의 [변형](https://huggingface.co/papers/2002.05202)입니다.

## ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

#### diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

```python
diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L149)

**매개변수:**

dim_in (`int`) : 입력의 채널 수.

dim_out (`int`) : 출력의 채널 수.

bias (`bool`, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

가우시안 에러 리니어 유닛(GELU)의 근사 형태. 자세한 내용은 이 [논문](https://huggingface.co/papers/1606.08415)의 2절을 참고하세요.

## SwiGLU[[diffusers.models.activations.SwiGLU]]

#### diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

```python
diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L126)

**매개변수:**

dim_in (`int`) : 입력의 채널 수.

dim_out (`int`) : 출력의 채널 수.

bias (`bool`, 기본값 True) : 선형 레이어에 bias를 사용할지 여부.

게이트드 리니어 유닛 활성화 함수의 [변형](https://huggingface.co/papers/2002.05202)입니다. `GEGLU`와 유사하지만 GeLU 대신 SiLU / Swish를 사용합니다.

## FP32SiLU[[diffusers.models.activations.FP32SiLU]]

#### diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

```python
diffusers.models.activations.FP32SiLU()
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L53)

입력이 torch.float32로 업캐스트된 SiLU 활성화 함수.

## LinearActivation[[diffusers.models.activations.LinearActivation]]

#### diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

```python
diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')
```

[소스](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L169)