Buckets:

hf-doc-build/doc / diffusers /main /ja /api /models /chroma_transformer.md
mishig's picture
|
download
raw
4.94 kB

ChromaTransformer2DModel

Chromaの修正版flux Transformerモデル

ChromaTransformer2DModel[[diffusers.ChromaTransformer2DModel]]

diffusers.ChromaTransformer2DModel[[diffusers.ChromaTransformer2DModel]]

diffusers.ChromaTransformer2DModel(patch_size: int = 1, in_channels: int = 64, out_channels: int | None = None, num_layers: int = 19, num_single_layers: int = 38, attention_head_dim: int = 128, num_attention_heads: int = 24, joint_attention_dim: int = 4096, axes_dims_rope: tuple[int, ...] = (16, 56, 56), approximator_num_channels: int = 64, approximator_hidden_dim: int = 5120, approximator_layers: int = 5)

ソース

パラメータ:

patch_size (int、デフォルトは1) : 入力データを小さなパッチに変換するためのパッチサイズ。

in_channels (int、デフォルトは64) : 入力におけるチャネル数。

out_channels (int、任意、デフォルトは None) : 出力のチャネル数です。指定しない場合、デフォルトで in_channels になります。

num_layers (int、デフォルトは19) : 使用するデュアルストリームDiTブロックの層数。

num_single_layers (int、デフォルトは38) : 使用する単一ストリームDiTブロックの層数。

attention_head_dim (int、デフォルトは128) : 各アテンションヘッドに使用する次元数。

num_attention_heads (int、デフォルトは24) : 使用するアテンションヘッドの数。

joint_attention_dim (int、デフォルトは4096) : 結合アテンションに使用する次元数(encoder_hidden_statesの埋め込み/チャネル次元)。

axes_dims_rope (tuple[int]、デフォルトは(16, 56, 56)) : 回転位置埋め込みに使用する次元数。

Fluxで導入されたTransformerモデルを、Chroma用に修正したものです。

リファレンス: https://huggingface.co/lodestones/Chroma1-HD

forward[[diffusers.ChromaTransformer2DModel.forward]]

forward(hidden_states: Tensor, encoder_hidden_states: Tensor = None, timestep: LongTensor = None, img_ids: Tensor = None, txt_ids: Tensor = None, attention_mask: Tensor = None, joint_attention_kwargs: dict[str, typing.Any] | None = None, controlnet_block_samples = None, controlnet_single_block_samples = None, return_dict: bool = True, controlnet_blocks_repeat: bool = False)

ソース

パラメータ:

hidden_states (torch.Tensor、形状 (batch_size, image_sequence_length, in_channels)) : 入力 hidden_states。

encoder_hidden_states (torch.Tensor、shape (batch_size, text_sequence_length, joint_attention_dim)) : 使用する条件埋め込み(プロンプトなどの入力条件から計算される埋め込み)。

timestep ( torch.LongTensor) : デノイジングステップを示すために使用されます。

img_ids (torch.Tensor) : 回転位置埋め込みを計算するために使用される画像の位置 ID。

txt_ids (torch.Tensor) : 回転位置埋め込みを計算するために使用されるテキストの位置 ID。

attention_mask (torch.Tensor, 任意) : 注意機構においてencoder_hidden_statesに適用されるマスク。

controlnet_block_samples (list of torch.Tensor, optional) : 指定された場合、transformer ブロックの残差に追加されるテンソルのリスト。

controlnet_single_block_samples (list of torch.Tensor, optional) : 指定された場合、単一の Transformer ブロックの残差に追加されるテンソルのリスト。

controlnet_blocks_repeat (bool, 任意, デフォルトは False) : controlnet ブロックのサンプルをすべての transformer ブロックにわたって繰り返すかどうかを指定します。

joint_attention_kwargs (dict, 任意) : 指定された場合、diffusers.models.attention_processor の self.processor で定義されている AttentionProcessor に渡される kwargs の辞書です。

return_dict (bool、任意、デフォルトはTrue) : プレーンなタプルではなく~models.transformer_2d.Transformer2DModelOutputを返すかどうか。

戻り値:

return_dict が True の場合、~models.transformer_2d.Transformer2DModelOutput が返され、それ以外の場合は、最初の要素がサンプルテンソルである tuple が返されます。

FluxTransformer2DModelのforwardメソッド。

Xet Storage Details

Size:
4.94 kB
·
Xet hash:
804defae28627d70563ca2bf2fa4ca62fedbb2f521e8eae32758c595dfaf5fd4

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.