# Fonctions d'activation

Fonctions d'activation personnalisées pour prendre en charge divers modèles dans 🤗 Diffusers.

## GELU[[diffusers.models.activations.GELU]]

#### diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

```python
diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L65)

**Paramètres :**

dim_in (`int`) : Le nombre de canaux dans l'entrée.

dim_out (`int`) : Le nombre de canaux dans la sortie.

approximate (`str`, *facultatif*, valeur par défaut `"none"`) : Si `"tanh"`, utilise l'approximation tanh.

bias (`bool`, par défaut True) : Indique s'il faut utiliser un biais dans la couche linéaire.

Fonction d'activation GELU avec prise en charge de l'approximation tanh via `approximate="tanh"`.

## GEGLU[[diffusers.models.activations.GEGLU]]

#### diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

```python
diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L90)

**Paramètres :**

dim_in (`int`) : Le nombre de canaux dans l'entrée.

dim_out (`int`) : Le nombre de canaux dans la sortie.

bias (`bool`, par défaut True) : Indique s'il faut utiliser un biais dans la couche linéaire.

Une [variante](https://huggingface.co/papers/2002.05202) de la fonction d'activation gated linear unit.

## ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

#### diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

```python
diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L143)

**Paramètres :**

dim_in (`int`) : Le nombre de canaux dans l'entrée.

dim_out (`int`) : Le nombre de canaux dans la sortie.

bias (`bool`, par défaut True) : Indique s'il faut utiliser un biais dans la couche linéaire.

La forme approximative de la fonction d'activation Gaussian Error Linear Unit (GELU). Pour plus de détails, consultez la section 2 de cet [article](https://huggingface.co/papers/1606.08415).

## SwiGLU[[diffusers.models.activations.SwiGLU]]

#### diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

```python
diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L120)

**Paramètres :**

dim_in (`int`) : Le nombre de canaux dans l'entrée.

dim_out (`int`) : Le nombre de canaux dans la sortie.

bias (`bool`, par défaut True) : Indique s'il faut utiliser un biais dans la couche linéaire.

Une [variante](https://huggingface.co/papers/2002.05202) de la fonction d'activation gated linear unit. Elle est similaire à `GEGLU` mais utilise SiLU / Swish au lieu de GeLU.

## FP32SiLU[[diffusers.models.activations.FP32SiLU]]

#### diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

```python
diffusers.models.activations.FP32SiLU()
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L53)

Fonction d'activation SiLU avec l'entrée convertie en torch.float32.

## LinearActivation[[diffusers.models.activations.LinearActivation]]

#### diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

```python
diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')
```

[Source](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L163)