diffusers/main/vi/api/models/ovisimage_transformer2d.md

OvisImageTransformer2DModel

Mô hình có thể được tải bằng đoạn mã sau.

from diffusers import OvisImageTransformer2DModel

transformer = OvisImageTransformer2DModel.from_pretrained("AIDC-AI/Ovis-Image-7B", subfolder="transformer", dtype=torch.bfloat16)

OvisImageTransformer2DModel[[diffusers.OvisImageTransformer2DModel]]

diffusers.OvisImageTransformer2DModel[[diffusers.OvisImageTransformer2DModel]]

diffusers.OvisImageTransformer2DModel(patch_size: int = 1, in_channels: int = 64, out_channels: int | None = 64, num_layers: int = 6, num_single_layers: int = 27, attention_head_dim: int = 128, num_attention_heads: int = 24, joint_attention_dim: int = 2048, axes_dims_rope: tuple[int, int, int] = (16, 56, 56))

Nguồn

Tham số:

patch_size (int, mặc định là 1) : Kích thước patch để chuyển dữ liệu đầu vào thành các patch nhỏ.

in_channels (int, mặc định là 64) : Số lượng kênh trong đầu vào.

out_channels (int, tuỳ chọn, mặc định là None) : Số lượng kênh trong đầu ra. Nếu không được chỉ định, giá trị mặc định sẽ là in_channels.

num_layers (int, mặc định là 6) : Số lượng lớp của các khối DiT dual stream cần sử dụng.

num_single_layers (int, mặc định là 27) : Số lượng lớp của các khối DiT single stream cần sử dụng.

attention_head_dim (int, mặc định là 128) : Số chiều được sử dụng cho mỗi đầu chú ý.

num_attention_heads (int, mặc định là 24) : Số lượng đầu chú ý (attention heads) cần sử dụng.

joint_attention_dim (int, mặc định là 2048) : Số chiều được sử dụng cho chú ý liên hợp (chiều nhúng/kênh của encoder_hidden_states).

axes_dims_rope (tuple[int], mặc định là (16, 56, 56)) : Các kích thước cần sử dụng cho các nhúng vị trí quay (rotary positional embeddings).

Mô hình Transformer được giới thiệu trong Ovis-Image.

Tham khảo: https://github.com/AIDC-AI/Ovis-Image

forward[[diffusers.OvisImageTransformer2DModel.forward]]

forward(hidden_states: Tensor, encoder_hidden_states: Tensor = None, timestep: LongTensor = None, img_ids: Tensor = None, txt_ids: Tensor = None, joint_attention_kwargs: dict[str, typing.Any] | None = None, return_dict: bool = True)

Nguồn

Tham số:

hidden_states (torch.Tensor có hình dạng (batch_size, image_sequence_length, in_channels)) : hidden_states đầu vào.

encoder_hidden_states (torch.Tensor có shape (batch_size, text_sequence_length, joint_attention_dim)) : Các embeddings điều kiện (các embeddings được tính từ các điều kiện đầu vào như prompts) cần sử dụng.

timestep (torch.LongTensor) : Dùng để chỉ bước khử nhiễu.

img_ids : (torch.Tensor): Các id vị trí cho các token hình ảnh.

txt_ids (torch.Tensor) : Các id vị trí cho các token văn bản.

joint_attention_kwargs (dict, tùy chọn) : Một từ điển kwargs mà nếu được chỉ định sẽ được truyền đến AttentionProcessor như đã định nghĩa dưới self.processor trong diffusers.models.attention_processor.

return_dict (bool, tùy chọn, mặc định là True) : Có nên trả về một ~models.transformer_2d.Transformer2DModelOutput thay vì một tuple thông thường hay không.

Trả về:

Nếu return_dict là True, một ~models.transformer_2d.Transformer2DModelOutput sẽ được trả về, ngược lại một tuple trong đó phần tử đầu tiên là tensor mẫu.

Phương thức forward của OvisImageTransformer2DModel.