Buckets:
ChromaTransformer2DModel
Chromaの修正版flux Transformerモデル
ChromaTransformer2DModel[[diffusers.ChromaTransformer2DModel]]
diffusers.ChromaTransformer2DModel[[diffusers.ChromaTransformer2DModel]]
diffusers.ChromaTransformer2DModel(patch_size: int = 1, in_channels: int = 64, out_channels: int | None = None, num_layers: int = 19, num_single_layers: int = 38, attention_head_dim: int = 128, num_attention_heads: int = 24, joint_attention_dim: int = 4096, axes_dims_rope: tuple[int, ...] = (16, 56, 56), approximator_num_channels: int = 64, approximator_hidden_dim: int = 5120, approximator_layers: int = 5)
パラメータ:
patch_size (int、デフォルトは1) : 入力データを小さなパッチに変換するためのパッチサイズ。
in_channels (int、デフォルトは64) : 入力におけるチャネル数。
out_channels (int、任意、デフォルトは None) : 出力のチャネル数です。指定しない場合、デフォルトで in_channels になります。
num_layers (int、デフォルトは19) : 使用するデュアルストリームDiTブロックの層数。
num_single_layers (int、デフォルトは38) : 使用する単一ストリームDiTブロックの層数。
attention_head_dim (int、デフォルトは128) : 各アテンションヘッドに使用する次元数。
num_attention_heads (int、デフォルトは24) : 使用するアテンションヘッドの数。
joint_attention_dim (int、デフォルトは4096) : 結合アテンションに使用する次元数(encoder_hidden_statesの埋め込み/チャネル次元)。
axes_dims_rope (tuple[int]、デフォルトは(16, 56, 56)) : 回転位置埋め込みに使用する次元数。
Fluxで導入されたTransformerモデルを、Chroma用に修正したものです。
リファレンス: https://huggingface.co/lodestones/Chroma1-HD
forward[[diffusers.ChromaTransformer2DModel.forward]]
forward(hidden_states: Tensor, encoder_hidden_states: Tensor = None, timestep: LongTensor = None, img_ids: Tensor = None, txt_ids: Tensor = None, attention_mask: Tensor = None, joint_attention_kwargs: dict[str, typing.Any] | None = None, controlnet_block_samples = None, controlnet_single_block_samples = None, return_dict: bool = True, controlnet_blocks_repeat: bool = False)
パラメータ:
hidden_states (torch.Tensor、形状 (batch_size, image_sequence_length, in_channels)) : 入力 hidden_states。
encoder_hidden_states (torch.Tensor、shape (batch_size, text_sequence_length, joint_attention_dim)) : 使用する条件埋め込み(プロンプトなどの入力条件から計算される埋め込み)。
timestep ( torch.LongTensor) : デノイジングステップを示すために使用されます。
img_ids (torch.Tensor) : 回転位置埋め込みを計算するために使用される画像の位置 ID。
txt_ids (torch.Tensor) : 回転位置埋め込みを計算するために使用されるテキストの位置 ID。
attention_mask (torch.Tensor, 任意) : 注意機構においてencoder_hidden_statesに適用されるマスク。
controlnet_block_samples (list of torch.Tensor, optional) : 指定された場合、transformer ブロックの残差に追加されるテンソルのリスト。
controlnet_single_block_samples (list of torch.Tensor, optional) : 指定された場合、単一の Transformer ブロックの残差に追加されるテンソルのリスト。
controlnet_blocks_repeat (bool, 任意, デフォルトは False) : controlnet ブロックのサンプルをすべての transformer ブロックにわたって繰り返すかどうかを指定します。
joint_attention_kwargs (dict, 任意) : 指定された場合、diffusers.models.attention_processor の self.processor で定義されている AttentionProcessor に渡される kwargs の辞書です。
return_dict (bool、任意、デフォルトはTrue) : プレーンなタプルではなく~models.transformer_2d.Transformer2DModelOutputを返すかどうか。
戻り値:
return_dict が True の場合、~models.transformer_2d.Transformer2DModelOutput が返され、それ以外の場合は、最初の要素がサンプルテンソルである tuple が返されます。
FluxTransformer2DModelのforwardメソッド。
Xet Storage Details
- Size:
- 4.94 kB
- Xet hash:
- 804defae28627d70563ca2bf2fa4ca62fedbb2f521e8eae32758c595dfaf5fd4
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.