# HunyuanDiT2DModel

[Hunyuan-DiT](https://github.com/Tencent/HunyuanDiT)の2次元データ向けのDiffusion Transformerモデルです。

## HunyuanDiT2DModel[[diffusers.HunyuanDiT2DModel]]

#### diffusers.HunyuanDiT2DModel[[diffusers.HunyuanDiT2DModel]]

```python
diffusers.HunyuanDiT2DModel(num_attention_heads: int = 16, attention_head_dim: int = 88, in_channels: int | None = None, patch_size: int | None = None, activation_fn: str = 'gelu-approximate', sample_size = 32, hidden_size = 1152, num_layers: int = 28, mlp_ratio: float = 4.0, learn_sigma: bool = True, cross_attention_dim: int = 1024, norm_type: str = 'layer_norm', cross_attention_dim_t5: int = 2048, pooled_projection_dim: int = 1024, text_len: int = 77, text_len_t5: int = 256, use_style_cond_and_image_meta_size: bool = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L201)

**パラメータ:**

num_attention_heads (`int`, *optional*, デフォルトは 16) : マルチヘッドアテンションで使用するヘッド数。

attention_head_dim (`int`、*任意*、デフォルトは 88) : 各ヘッドのチャネル数。

in_channels (`int`, *任意*) : 入力と出力のチャネル数（入力が**連続**の場合に指定します）。

patch_size (`int`, *optional*) : 入力に使用するパッチのサイズ。

activation_fn (`str`、*任意*、デフォルトは`"geglu"`) : feed-forward で使用する活性化関数。

sample_size (`int`、*optional*) : 潜在画像の幅です。これは位置埋め込みの数を学習するために使用されるため、トレーニング中は固定されます。

dropout (`float`、*任意*、デフォルトは 0.0) : 使用する dropout の確率。

cross_attention_dim (`int`, *任意*) : クリップテキスト埋め込みの次元数。

hidden_size (`int`, *optional*) : 条件埋め込み層の隠れ層のサイズ。

num_layers (`int`、*optional*、デフォルトは 1) : 使用する Transformer ブロックの層数。

mlp_ratio (`float`、*任意*、デフォルトは 4.0) : 隠れ層のサイズと入力サイズの比率です。

learn_sigma (`bool`、*任意*、デフォルトは`True`) : 分散を予測するかどうか。

cross_attention_dim_t5 (`int`, *任意*) : t5 テキスト埋め込みの次元数。

pooled_projection_dim (`int`, *任意*) : プールされた投影のサイズ。

text_len (`int`, *任意*) : クリップテキスト埋め込みの長さ。

text_len_t5 (`int`, *任意*) : T5 テキスト埋め込みの長さ。

use_style_cond_and_image_meta_size (`bool`,  *任意*) : スタイル条件と画像メタサイズを使用するかどうか。バージョン <=1.1 では True、バージョン >= 1.2 では False

HunYuanDiT: Transformerバックボーンを持つ拡散モデル。

diffusers のサンプラー StableDiffusionPipeline と互換性を持たせるために、ModelMixin と ConfigMixin を継承します。

#### enable_forward_chunking[[diffusers.HunyuanDiT2DModel.enable_forward_chunking]]

```python
enable_forward_chunking(chunk_size: int | None = None, dim: int = 0)
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L476)

**パラメータ:**

chunk_size (`int`, *optional*) : フィードフォワード層のチャンクサイズ。指定しない場合、`dim`次元の各テンソルに対してフィードフォワード層を個別に実行します。

dim (`int`、*optional*、デフォルトは`0`) : フィードフォワード計算をチャンク分割する次元です。dim=0（バッチ）またはdim=1（シーケンス長）のいずれかを選択します。

[フィードフォワードチャンク分割](https://huggingface.co/blog/reformer#2-chunked-feed-forward-layers)を使用するようにアテンションプロセッサを設定します。

#### forward[[diffusers.HunyuanDiT2DModel.forward]]

```python
forward(hidden_states, timestep, encoder_hidden_states = None, text_embedding_mask = None, encoder_hidden_states_t5 = None, text_embedding_mask_t5 = None, image_meta_size = None, style = None, image_rotary_emb = None, controlnet_block_samples = None, return_dict = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L357)

**パラメータ:**

hidden_states (`torch.Tensor`、形状 `(batch size, dim, height, width)`) : 入力テンソル。

timestep ( `torch.LongTensor`, *任意*) : デノイジングステップを示すために使用します。

encoder_hidden_states ( `torch.Tensor`、形状 `(batch size, sequence len, embed dims)`、*任意*) : クロスアテンション層用の条件付きエンベディングです。これは `BertModel` の出力です。

text_embedding_mask : torch.Tensor `(batch, key_tokens)` の形状を持つアテンションマスクが `encoder_hidden_states` に適用されます。これは `BertModel` の出力です。

encoder_hidden_states_t5 ( `torch.Tensor`、形状 `(batch size, sequence len, embed dims)`、*任意*) : クロスアテンション層用の条件付き埋め込み。これは T5 Text Encoder の出力です。

text_embedding_mask_t5 : torch.Tensor `(batch, key_tokens)` の形状を持つアテンションマスクが `encoder_hidden_states` に適用されます。これは T5 Text Encoder の出力です。

image_meta_size (torch.Tensor) : 画像サイズを示す条件埋め込み

style : torch.Tensor: スタイルを示す条件埋め込み

image_rotary_emb (`torch.Tensor`) : 注意機構の計算時にクエリとキーのテンソルに適用する画像ロータリー埋め込み。

controlnet_block_samples (`list` of `torch.Tensor`, *optional*) : 指定された場合、transformer ブロックの残差に追加されるテンソルのリスト。

return_dict : bool 辞書を返すかどうか。

**戻り値:**

`return_dict` が True の場合、`~models.transformer_2d.Transformer2DModelOutput` が返され、それ以外の場合は、最初の要素がサンプルテンソルである `tuple` が返されます。

[HunyuanDiT2DModel](/docs/diffusers/main/ja/api/models/hunyuan_transformer2d#diffusers.HunyuanDiT2DModel) の forward メソッド。

#### fuse_qkv_projections[[diffusers.HunyuanDiT2DModel.fuse_qkv_projections]]

```python
fuse_qkv_projections()
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L320)

融合されたQKV投影を有効にします。自己注意（self-attention）モジュールでは、すべての投影行列（つまり、クエリ、キー、バリュー）が融合されます。相互注意（cross-attention）モジュールでは、キーとバリューの投影行列が融合されます。

> [!WARNING] > このAPIは🧪実験的です。

#### set_default_attn_processor[[diffusers.HunyuanDiT2DModel.set_default_attn_processor]]

```python
set_default_attn_processor()
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L351)

カスタムアテンションプロセッサを無効にし、デフォルトのアテンション実装を設定します。

#### unfuse_qkv_projections[[diffusers.HunyuanDiT2DModel.unfuse_qkv_projections]]

```python
unfuse_qkv_projections()
```

[ソース](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/transformers/hunyuan_transformer_2d.py#L342)

有効化されている場合、融合された QKV 投影を無効にします。

> [!WARNING] > このAPIは🧪実験的です。

